Một trong những "bố già của AI" đã đưa ra cảnh báo rõ ràng nhất của mình: Geoffrey Hinton, nhà khoa học máy tính đoạt giải Nobel với nghiên cứu làm nền tảng cho trí tuệ nhân tạo hiện đại, nói rằng có thể con người sẽ tốt hơn nếu không bao giờ phát triển công nghệ này. Trong một cuộc phỏng vấn với The Guardian, ông cũng cảnh báo rằng AI có thể gây ra một sự cố quy mô lớn – chẳng hạn như sự cố mất điện tạm thời của hệ thống tài chính hoặc năng lượng – trong năm nay hoặc năm tới.

'Có lẽ tốt hơn là chúng ta đừng bao giờ phát triển nó' Để biết thêm bối cảnh về câu chuyện này, hãy xem xu hướng AI đang diễn ra của chúng tôi.

Hinton, 78 tuổi, nói với The Guardian rằng ông không phải là người “tử nạn” về công nghệ được xây dựng dựa trên công trình tiên phong của ông về mạng lưới thần kinh nhân tạo. Ông tin rằng AI vẫn có tiềm năng mang lại điều mà ông gọi là “tương lai tuyệt vời” và “sự phong phú triệt để”. Nhưng anh ấy nói rõ ràng về nhược điểm: “Có lẽ tốt hơn là chúng tôi không bao giờ phát triển nó”.

Nhà khoa học gốc Anh cho biết trong vòng một thập kỷ - và có thể sớm hơn - nhân loại sẽ biết mình đang đi theo con đường nào. Hoặc là thế giới quản lý rủi ro của công nghệ và chia sẻ lợi ích của nó, hoặc, theo cách nói của ông, "chúng ta không quản lý được rủi ro và... có khoảng cách giàu nghèo rất lớn, các vấn đề văn hóa lớn, tỷ lệ thất nghiệp lớn, xã hội đang bị chia cắt."

'AI Chernobyl' có thể xuất hiện trong năm nay hoặc năm sau

Hinton đã đưa ra nhận xét của mình trước buổi chiếu một bộ phim tài liệu dài mới, "AI: Có lẽ không có gì phải lo lắng" - một tiêu đề, ông lưu ý, được gợi ý bởi một chatbot AI. Bộ phim có sự tham gia của Hinton cùng với đồng nghiệp cũ của Google, Demis Hassabis, giám đốc DeepMind, và phát sóng trên Kênh 4 vào lúc 10 giờ tối ngày 12 tháng 11 tại Vương quốc Anh.

“Tôi cảm thấy mình có nghĩa vụ,” Hinton nói trong phim tài liệu. "Tôi có danh tiếng khiến tôi trở thành người phát ngôn và tôi cần đốt cháy tất cả vì điều này."

Lời cảnh báo của ông dựa trên một tiền lệ cụ thể. Hinton cho biết ông coi sự cố mùa hè này, trong đó các đặc vụ AI của OpenAI âm mưu đột nhập vào trang web Ôm Mặt giống như vụ tan chảy một phần năm 1979 tại nhà máy điện hạt nhân Three Mile Island - một cảnh báo trước một điều gì đó tồi tệ hơn nhiều.

“Cuối năm nay hoặc năm sau chúng ta sẽ thấy Chornobyl, và điều đó có thể đủ để khiến mọi người thực sự chú ý,” ông nói, viện dẫn thảm họa hạt nhân năm 1986 của Liên Xô.

Khi nói “Chornobyl,” Hinton không có nghĩa là một sự kiện hạt nhân. Ví dụ của ông: một cuộc tấn công do AI kích hoạt vào hệ thống sản xuất điện gây ra tình trạng "mất điện lớn" hoặc một sự cố làm sập hệ thống tài chính trong một tuần. "Bạn có thể tưởng tượng điều gì sẽ xảy ra không? Chúng tôi có thể phục hồi sau đó [nhưng] điều đó sẽ khiến họ phải ngồi dậy và chú ý," ông nói. Khi được hỏi “họ” là ai, ông trả lời: “các nhà lãnh đạo thế giới khác ngoài Trump”.

Hinton về các ông chủ AI: Altman, Musk và Zuckerberg

Một phần quan trọng trong lời phê bình của Hinton là nhằm vào các nhà điều hành đang dẫn đầu cuộc đua AI biên giới. Anh ấy nói với The Guardian rằng anh ấy không tin tưởng Sam Altman, giám đốc điều hành của OpenAI, nhà sản xuất ChatGPT, gọi đó là “cực kỳ đáng lo ngại” khi Altman điều hành một trong số ít các công ty AI hàng đầu của Hoa Kỳ hiện đang chạy đua với Trung Quốc để xây dựng AI mạnh nhất.

"Tôi nghĩ [Mark] Zuckerberg, [Elon] Musk và Sam Altman, họ hiểu những rủi ro và họ không quan tâm. Họ muốn có tiền hơn. Đó là niềm tin của tôi", Hinton nói.

Đánh giá đó hoàn toàn trái ngược với quan điểm công khai của Altman. The Guardian lưu ý rằng Altman đã nhấn mạnh vào tháng 9 rằng "thế giới nên tin tưởng rằng chúng tôi sẽ làm điều đúng đắn vì đó là điều đúng đắn và vì chúng tôi cảm nhận được tầm quan trọng của việc này." Về phần mình, Tổng thống Mỹ Donald Trump cho biết ông "hoàn toàn bác bỏ mọi nỗ lực xây dựng một kế hoạch toàn cầu hóa" để kiểm soát AI và muốn các công ty AI hàng đầu tự điều chỉnh, trong bối cảnh lo ngại rằng các quy tắc ràng buộc có thể cản trở Hoa Kỳ cạnh tranh với Trung Quốc.

FDA cho các mô hình AI

Trong bối cảnh đó, Hinton đang tán thành một đường lối quản lý cứng rắn hơn: một kế hoạch được tổng thống Phần Lan và 32 quốc gia khác ủng hộ – bao gồm Singapore, Đức, Canada và Úc – kêu gọi thử nghiệm bắt buộc các mô hình AI tiên phong, đánh giá độc lập và các tiêu chuẩn chung liên chính phủ.

Ông cũng nhìn thấy vai trò của Vương quốc Anh, nơi mà thủ tướng Andy Burnham đã nói rằng ông sẽ sử dụng chức vụ chủ tịch G20 của Anh vào năm tới để tìm kiếm thỏa thuận về một "bộ nguyên tắc và tiêu chuẩn toàn cầu duy nhất tập trung chủ yếu vào việc phát huy toàn bộ tiềm năng đồng thời bảo vệ khỏi những rủi ro."

Mô hình ưa thích của Hinton rõ ràng là y tế. Ông nói: “Chúng tôi cần một cái gì đó giống như FDA của Mỹ đối với các loại thuốc mà các công ty phải đưa ra bằng chứng thống kê rất tốt cho một cơ quan độc lập rằng [mô hình AI] mang lại nhiều lợi ích hơn là có hại trước khi nó được tung ra thị trường”. "Với thalidomide, chúng tôi phát hiện ra rằng việc phát hành và sau đó kiện họ không phải là cách làm đúng đắn. Điều mà các công ty công nghệ lớn đang nói là hãy đối xử với nó giống như chúng tôi đã đối xử với thalidomide."

'Suy nghĩ của tôi là chúng ta vẫn đang kiểm soát'

Những kịch bản ảm đạm đến từ một người có vị thế vô song để tạo ra chúng. Hinton đã nghiên cứu về AI trong khoảng 44 năm, đặt ra khái niệm mạng lưới thần kinh vào những năm 1970 và chia sẻ giải thưởng Nobel Vật lý năm 2024 cho công trình nghiên cứu nền tảng về học máy. Ông rời Google vào năm 2023 để có thể thoải mái lên tiếng về những rủi ro, đồng thời cảnh báo vào thời điểm đó rằng nếu các hệ thống AI “quá bận tâm đến việc có nhiều quyền kiểm soát hơn, chúng tôi sẽ gặp rắc rối”.

Vai diễn của anh được so sánh với J. Robert Oppenheimer — một người bạn thậm chí còn mua cho anh một chiếc mũ kiểu Oppenheimer — nhưng anh bác bỏ sự so sánh này. “Tôi không phải là Oppenheimer,” ông nói, trích dẫn hàng nghìn nhà khoa học khác đã đóng góp cho lĩnh vực mạng lưới thần kinh.

Đối với tất cả những khung cảnh đầy rẫy sự diệt vong, Hinton đã kết thúc cuộc phỏng vấn với một niềm hy vọng có điều kiện. “Trực giác của tôi là chúng tôi vẫn đang kiểm soát được,” ông nói. "Chúng ta có thể làm được điều gì đó. Nó sẽ chỉ thành công nếu chúng ta nỗ lực rất nhiều, nhưng chúng ta cũng có thể nỗ lực rất nhiều vào nó."

Liệu thế giới có thực hiện nỗ lực đó hay không, theo dòng thời gian của riêng anh ấy, là một câu hỏi sẽ được trả lời trong thập kỷ này - có thể là trước đó rất nhiều.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →