Vì sao các nhà khoa học đầu ngành ký vào đơn yêu cầu kìm hãm tốc độ phát triển của AI

Hành động tìm lời giải cho Bài toán Đồng thuận đồng nghĩa với việc con người tìm ra phương cách tránh tình trạng tuyệt chủng bởi AI.

Ấy là năm 2018, tại Diễn đàn Kinh tế Thế giới tổ chức tại Thụy Sĩ, Sundar Pichai - CEO đương nhiệm của Google nói: "AI có lẽ là điều quan trọng nhất mà nhân loại từng phát triển. Tôi cho rằng nó còn [có ảnh hưởng] sâu sắc hơn điện hay lửa". Nhận định của ông lập tức đối mặt với những cái nhướn mày hoài nghi, nhưng ở thời điểm phát ngôn đủ tuổi tốt nghiệp mẫu giáo, chúng ta thấy ngày một nhiều cá nhân gật gù đồng tình với CEO Google.

Lúc này, trí tuệ nhân tạo (AI) đã đang làm mờ rào cản ngôn ngữ trên Internet; giáo viên các cấp lo sợ học sinh, sinh viên sử dụng AI để viết luận một cách thuyết phục; những bức tranh do AI tạo ra đã và đang khiến giới phê bình nghệ thuật bối rối; AI tự có thể lập trình ở cấp độ cơ bản khiến cộng đồng choáng váng; bài toán luận ra cấu trúc 3D của protein - vốn bất khả thi với bộ óc người - nay đã có thể được giải bằng AI. Tạp chí Science danh tiếng đã gọi AI là Đột phá của năm 2021.

Nhưng trong diễn biến mới nhất, một nhóm các chuyên gia nhiều ngành đã chung tay ký vào một lá thư mở do Viện Tương Lai của Cuộc sống (Future of Life Institute) soạn thảo, qua đó đồng tình với những nguy cơ tiềm ẩn mà AI có thể tạo ra cho xã hội và lên tiếng yêu cầu giảm tốc độ phát triển trí tuệ nhân tạo. Đã hơn 1.100 người ký vào bức thư, trong đó có những cái tên nổi tiếng như Elon Musk - đồng sáng lập OpenAI (đơn vị đã tạo ra ChatGPT) và Steve Wozniak - đồng sáng lập Apple.

Bên cạnh đó, một số nhân vật cốt cán trong ngành trí tuệ nhân tạo cũng đồng tình với quan điểm nêu trong bức thư. Có thể kể tới những cái tên như Yoshua Bengio, người tiên phong trong phương pháp deep learning; Victoria Krakovna, một nhà nghiên cứu tại DeepMind của Google; Stuart Russell, nhà khoa học máy tính công tác tại Trung tâm AI Tương thích với Con người tại Đại học Berkeley.

Những cái tên kể trên đều là những nhân vật hiểu rõ AI là gì và họ đều nêu một cảnh báo chung, rằng xã hội chưa sẵn sàng chào đón một hệ thống trí tuệ nhân tạo tiên tiến, mục tiêu mà mọi công ty công nghệ hàng đầu đều đang theo đuổi.

Trong lĩnh vực nghiên cứu trí tuệ nhân tạo, các nhà khoa học luôn nỗ lực điều hướng AI sao cho mục đích của nó nhất quán với mục tiêu của mình - là mục tiêu của nhà nghiên cứu nói chung và của nhân loại nói riêng. Khi không cùng chí hướng, AI có thể xem nhẹ sự tồn tại của con người khi so với mục tiêu nó muốn đạt được.

AI có thể không chủ đích hủy diệt loài người, nhưng nó vẫn có thể làm vậy thông qua một vấn đề hóc búa tồn tại trong ngành nghiên cứu trí tuệ nhân tạo. Vấn đề này có tên gọi "alignment problem", hay có thể tạm dịch là "bài toán đồng thuận".

Đó là nội dung của bài toán đồng thuận. Mặc dù tình huống nghe có vẻ xa vời thực tế, nhưng trong quá trình nghiên cứu, các chuyên gia AI đã nhiều lần chứng kiến hệ thống cố gắng thực hiện hành động trái với mong muốn của lập trình viên.

Ví dụ, máy tính cố tình gian lận trong trò chơi để đạt được điểm số cao, chứ không thực hiện các thao tác chơi đúng luật. Các nhà khoa học không thể biết rõ máy tính nghĩ gì và có thể tự mình đưa ra quyết định gì, và họ cũng chưa thể lập trình một cách tối ưu: code vẫn chứa lỗ hổng để AI lợi dụng.

Trong báo cáo của Ủy ban An ninh Quốc gia về Trí tuệ Nhân tạo Hoa Kỳ (NSCAI), các nhà nghiên cứu làm rõ hơn về khả năng phát triển vượt tầm kiểm soát của AI. Ở thời điểm hiện tại, khoản đầu tư vào nghiên cứu AI có thể đem lại lợi nhuận lớn và các công ty công nghệ hàng đầu đều đang chạy theo xu hướng, nên khả năng cao trong tương lai gần, chúng ta sẽ chứng kiến những hệ thống AI có thể thay đổi cuộc sống của con người theo những cách không ai ngờ tới.

Báo cáo của NSCAI cố gắng dự đoán quy mô AI trong tương lai, những khó khăn nó khơi ra và những việc có thể làm để đảm bảo AI đi đúng hướng, ít nhất là tại Mỹ.

Trong thập kỷ vừa qua, khả năng thực hiện tác vụ của AI đã được cải thiện rõ rệt. Chúng dịch thuật, chơi những tựa game chiến thuật phức tạp (như cờ vây và cờ vua), trả lời những câu hỏi khó trong y học và sinh học (như dự đoán cách gập của protein) và tạo ra hình ảnh bắt mắt.

Những hệ thống AI cũng là thế lực đứng sau kết quả tìm kiếm Google của bạn, hay những nội dung người dùng thấy trên các mạng xã hội. Chúng có thể viết nhạc hay viết những đoạn văn có tính thuyết phục. Khả năng phát hiện vật thể bay của chúng ngày một chính xác hơn.

Tất cả những ví dụ trên đều mô tả "AI hẹp", là những hệ thống máy tính được thiết kế để giải quyết những vấn đề cụ thể, chứ không thể so sánh với bộ não người - cỗ máy tính sinh ra để tìm cách giải quyết mọi vấn đề.

Nhưng khi trí tuệ nhân tạo có thể học, khả năng bao quát của AI hẹp đã rộng hơn trước. Thay vì đặt ra vấn đề cho AI giải quyết, nay các nhà khoa học đã có thể để AI tự tìm hiểu vấn đề. Khi bắt đầu giải quyết hiệu quả được những tác vụ hẹp, chúng bắt đầu bộc lộ khả năng giải quyết những vấn đề chung.

Ví dụ, những phiên bản GPT cũ, vốn vẫn có khả năng sinh chữ, chỉ biết dự đoán chữ nào sẽ xuất hiện sau chữ nào để tạo thành câu. Ngày nay, đó đã có thể xác định liệu câu hỏi có nhạy cảm hay không, đồng thời hiểu ngữ cảnh tới một mức nhất định để trả lời câu hỏi (như xác định vật thể nào lớn hơn trong thế giới thực, hay liệt kê trình tự giải quyết vấn đề một cách logic).

Báo cáo khẳng định tầm quan trọng của AI, với một cách tích cực các nhà nghiên cứu khẳng định trí tuệ nhân tạo sẽ thay đổi thế giới. "Công nghệ AI là công cụ mạnh mẽ nhất xuất hiện trong nhiều thế hệ trở lại đây mà có thể mở rộng kiến thức, tăng giá trị kinh tế và làm giàu trải nghiệm con người", báo cáo ghi rõ, tuy nhiên có nói thêm về những hiểm họa tiềm tàng.

"Kết hợp với khả năng tính toán mạnh mẽ của AI, những đột phá trong ngành công nghệ sinh học có thể đem lại những giải pháp đột phá mới cho những bài toán khó giải nhất của con người, bao gồm sức khỏe, sản xuất thực phẩm hay duy trì [sự ổn định] của môi trường. Nhưng cũng giống những công nghệ mạnh mẽ khác, ứng dụng trong công nghệ sinh học có thể có mặt tối. Đại dịch COVID-19 nhắc thế giới nhớ về mức độ nguy hiểm của một mầm bệnh có khả năng lây lan cao. AI có thể góp phần tạo ra một mầm bệnh đặc biệt chết chóc hay tấn công những cá nhân có đặc điểm gen riêng - tạo ra một thứ vũ khí có khả năng công phá tối thượng", báo cáo viết.

Nỗ lực "chạy đua AI" có thể thúc đẩy các nhà khoa học vượt giới hạn, hay tạo ra những hệ thống mà không rõ mức độ an toàn của chúng. Điều đó cũng đồng nghĩa với việc bài toán đồng thuận bị bỏ quên. 

Bộ não, "phát minh" vĩ đại nhất của tiến hóa, chính là lý do khiến con người thống trị Trái Đất. Đó là lý do vì sao từ thập niên 40, các nhà khoa học đã nỗ lực chế tạo một hệ thống máy tính hoạt động tương tự cách bộ não suy nghĩ.

Dòng suy nghĩ hình thành do tín hiệu điện truyền giữa các neuron, và các nhà nghiên cứu dựa vào cơ chế này để tạo nên một bộ não máy. Năm 1958, nhà tâm lý học Frank Rosenblatt chứng minh tính khả thi của một cỗ máy như vậy: ông dựng thành công một mô hình đơn giản của một bộ não, và huấn luyện nó cách nhận ra mẫu hình cho trước. 

Rosenblatt đã đi quá xa trước thời đại. Máy tính đương thời chưa đủ mạnh và dữ liệu chưa đủ nhiều để một bộ não máy thành hình. Tuy nhiên, nghiên cứu mang tính cách mạng của Rosenblatt vẫn khiến người trong ngành gọi nhà tâm lý học là một trong những người cha sinh ra học sâu - deep learning.

Năm 2010, khi máy tính mạnh hơn thời Rosenblatt tới cả nghìn tỷ lần và dữ liệu huấn luyện máy nhiều vô kể, các nhà khoa học tiến hành xây dựng những phiên bản đầu tiên của một cỗ máy biết nghĩ. Suốt hơn một thập kỷ vừa qua, các chuyên gia và các tổ chức tiếp tục đổ tài nguyên - cả tiền bạc và dữ liệu - vào các mạng thần kinh nhân tạo dạng này, khiến chúng ngày một hoàn thiện hơn.

Chưa tổ chức nào tìm thấy điểm cuối của hành trình, nơi AI đạt mức độ hoàn hảo. Càng có nhiều dữ liệu và được học càng lâu, AI càng hoàn thiện. Không còn đơn giản là chúng có thể làm gì, ta đang đứng trước câu hỏi chúng đang đi đến đâu.

Trong phương cách huấn luyện AI cũ, các nhà nghiên cứu thảo ra luật lệ và quy trình phân tích dữ liệu một cách kỹ càng, đồng thời đánh giá dữ liệu như cách họ vẫn làm với những phần mềm máy tính thông dụng. Nhưng với học sâu, việc cải thiện hệ thống KHÔNG yêu cầu người thực hiện hiểu rõ mình đang làm gì. Sẽ có những thay đổi nhỏ khiến hiệu năng của AI được cải thiện, nhưng người kỹ sư phần mềm thiết kế nên hệ thống vẫn không hiểu lý do tại sao. 

Khi hệ thống tiếp tục lớn mạnh, những bản vá được viết ra bởi những kỹ sư không thấu hiểu hệ thống sẽ càng làm AI trở nên nguy hiểm. Mục đích của con người - trong trường hợp này rất có thể là những tập đoàn lớn đang tìm cách làm hài lòng cổ đông và người dùng - tiếp tục khác xa mục đích của AI. Một lần nữa, bài toán đồng thuận quay lại ám ảnh chúng ta, và khi tồn tại một khi hệ thống thông minh hơn chúng ta sở hữu một hay nhiều mục đích mà chúng ta không hiểu, thì Homo sapien đứng trước nguy cơ tuyệt chủng giống như loài Neanderthal của hàng chục ngàn năm về trước.

Trong báo cáo khoa học trứ danh do Alan Turing soạn thảo, cũng chính là nghiên cứu làm nền móng cho "phép thử Turing" nổi tiếng (vốn dùng để xác định liệu một hệ thống máy tính có thực sự "thông minh"), nhà Toán học, nhà khoa học máy tính, nhà logic học, nhà triết học người Anh đã viết như sau:

Vậy việc máy móc ngày một thông minh hơn con người là tốt hay xấu? Chúng ta chưa thể có câu trả lời, nhưng ta vẫn có thể khẳng định máy móc sẽ ngày một thông minh hơn trong tương lai.

Trước khi từ trần, Stephen Hawking thảo cuốn sách cuối cùng có tên "Những đáp án ngắn gọn cho những câu hỏi lớn - Brief Answers To The Big Questions", giải đáp một số thắc mắc cho người ở lại. Lời cảnh báo lớn nhất mà Hawking để lại liên quan tới sự trỗi dậy của trí tuệ nhân tạo: hoặc nó sẽ là thứ tốt đẹp nhất từng diễn ra với nhân loại, hoặc nó sẽ trở thành thứ tồi tệ nhất. Và nếu bất cẩn với AI, có lẽ máy tính biết nghĩ sẽ là phát minh cuối cùng của loài người.

AI có tiềm năng tạo nên đột phá ở vô số lĩnh vực, tuy nhiên công nghệ này vẫn đang trong thời kỳ thai nghén, và các chuyên gia đều tỏ vẻ lo ngại về thời điểm trí tuệ của AI sẽ bỏ xa con người. Hay như cách diễn đạt của Stephen Hawking:

Con người đã phải mất hàng ngàn năm để tiến hóa được tới cao độ của ngày nay, nhưng AI chỉ mất vài thập kỷ để khiến con người lo sợ bị tuyệt chủng. Đa số những người quan tâm đặt câu hỏi AI sẽ tốt hay xấu, nhưng Hawking cho rằng nguy cơ tới từ AI sẽ nằm ở việc AI thực hiện tốt các tác vụ mình được giao. Về cơ bản, AI sẽ gạt bỏ mọi trở ngại để đạt được mục tiêu, ngay cả khi "trở ngại" đó là con người.

Trong cuốn sách Brief Answers To The Big Questions, Hawking viết: "Có lẽ bạn không phải một kẻ căm ghét loài kiến cố tình đạp tổ kiến một cách ác ý, nhưng nếu bạn đang chịu trách nhiệm cho một dự án thủy điện sạch và thấy trong khu vực chứa nước có tổ kiến, thì rõ là lũ kiến phải chịu thiệt rồi. Hãy đừng đặt nhân loại vào vị trí những con kiến đó".

Tạm kết

Lo sợ trước những gì AI có thể làm, các nhà chuyên gia đang kêu gọi ngành nghiên cứu trí tuệ nhân tạo bước chậm lại. Trong khi đó, các nhà lập pháp vẫn chưa có cơ sở vững chắc để ban hành những bộ luật trực tiếp can thiệp vào tiến trình phát triển hay quản lý các hệ thống AI.

Hầu hết các vấn đề đều có hai mặt, và trí tuệ nhân tạo không phải ngoại lệ. Bên cạnh nỗi lo AI sẽ khiến con người "lỗi thời", chúng ta mong đợi AI sẽ mang lại những đột phá hướng nhân loại tới một tương lai tươi sáng hơn. 

Bằng sức mạnh tính toán vượt trội, AI có thể giúp con người tìm ra những thứ thuốc chữa bách bệnh, nhưng thiết kế giúp tối ưu hóa mọi lĩnh vực, những phương pháp giải các bài toán khó như nghèo đói, dịch bệnh hay biến đổi khí hậu. Trong khi sức nghĩ của não bộ con người chỉ có giới hạn, sức nghĩ của AI chỉ bị giới hạn bởi lượng dữ liệu sẵn có và thời gian suy nghĩ. Hai đại lượng này ngày một lớn, khả năng và cả tiềm năng giải quyết vấn đề của AI sẽ càng cao.

Thật khó để nhìn thấu tương lai, luận xem AI sẽ hãm hại hay giúp đỡ con người. Cả nhân loại đang nín thở chờ đợi, xem AI có thể sẽ tạo ra những đột phá gì. Và có vẻ ngành nghiên cứu AI cũng không có ý định bước chậm lại đâu: thứ duy nhất đánh bại được "chậm mà chắc" chính là "nhanh mà chắc".

Nếu tự tin về khả năng chắc của mình, ngành nghiên cứu trí tuệ nhân tạo sẽ nhanh chóng mang đến một tương lai tươi sáng. Nếu không, thì hồi sau sẽ rõ.

Tham khảo Vox, IBM, MIT, OpenAI, QuantaMag