Hơn 20 nhà nghiên cứu – trong số đó có người đoạt giải Nobel Geoffrey Hinton, người tiên phong về AI Yoshua Bengio, người đồng sáng lập Anthropic Jack Clark và nhà khoa học trưởng của OpenAI Jakub Pachocki – đã cảnh báo các chính phủ chuẩn bị cho một “sự bùng nổ trí tuệ” AI mà họ cho rằng có thể là sự phát triển công nghệ có hậu quả lớn nhất trong lịch sử, The Guardian đưa tin hôm thứ Hai.
Bài báo có tiêu đề “Điều gì sẽ xảy ra nếu việc tự động hóa hoạt động R&D AI gây ra sự bùng nổ trí thông minh” kêu gọi các chính trị gia hành động trước khi có những tiến bộ vượt bậc trong công nghệ. Các tác giả của nó mô tả kịch bản này là "sự tăng tốc đáng kể của tiến trình AI do AI điều khiển, nén những tiến bộ mà nếu không sẽ mất nhiều năm chỉ còn vài tháng hoặc ít hơn". Đối với độc giả theo dõi tin tức nghiên cứu AI mới nhất, báo cáo ít gây chú ý vì cảnh báo hơn là về người đã ký: số liệu từ khắp các học viện và các phòng thí nghiệm biên giới đối thủ, cùng nhau chứng minh rằng nghiên cứu tự động là kịch bản mà các nhà hoạch định chính sách ít chuẩn bị nhất.
Sự bùng nổ trí thông minh có ý nghĩa như thế nào
Mối quan tâm chính của các tác giả là triển vọng các hệ thống AI tự cải thiện mà không cần sự can thiệp của con người - một quá trình được gọi là tự cải thiện đệ quy, được gọi rộng rãi trong bài báo là nghiên cứu và phát triển AI tự động.
Bài viết lập luận rằng một khi các hệ thống AI đạt đến khả năng ở cấp độ chuyên gia trong lĩnh vực R&D AI, một nhà phát triển duy nhất có thể điều hành một lực lượng lao động tương đương với “hàng triệu” nhà nghiên cứu hàng đầu của con người. Theo quan điểm của các tác giả, tự động hóa R&D AI là nguyên nhân rất có thể gây ra sự bùng nổ trí thông minh, bởi vì các hệ thống AI đã góp phần cải thiện công nghệ của chính họ - và các hệ thống cải tiến mà chúng giúp tạo ra có thể được triển khai nhanh chóng sau khi được xây dựng.
Theo The Guardian, “Sự bùng nổ trí thông minh có thể là sự phát triển công nghệ có hậu quả lớn nhất trong lịch sử loài người, nén nhiều năm tiến bộ thành vài tháng hoặc ít hơn, đe dọa sự kiểm soát của con người đối với các hệ thống AI và làm xói mòn nghiêm trọng việc kiểm tra quyền lực trong và giữa các quốc gia, công ty và các chi nhánh của chính phủ”.
Tại sao tác giả nói rằng cửa sổ đang đóng
Tính cấp bách của báo cáo dựa trên tuyên bố về dòng thời gian: Các hệ thống AI có vẻ trục trặc ngày nay có thể tự động hóa hoàn toàn các dự án R&D hiện đang cần đến đội ngũ con người nhiều tháng vào năm 2028.
Các tác giả viết: “Tăng năng suất từ tự động hóa R&D AI vẫn chưa đạt đến ngưỡng cần thiết để kích hoạt sự bùng nổ trí thông minh, nhưng lợi ích từ các hệ thống mới hơn có thể sẽ đạt đến ngưỡng đó”. "Một khi sự bùng nổ trí thông minh bắt đầu, cánh cửa hành động có thể đóng lại."
Bài báo cho biết thêm rằng “bằng chứng sơ bộ cho thấy rằng có thể xảy ra vụ nổ trí thông minh dựa trên phần mềm”, điều này có thể dẫn đến “sự phát triển cực kỳ nhanh chóng của các hệ thống AI có khả năng cao hoặc siêu phàm”.
Những rủi ro họ cảnh báo
Trong khi sự bùng nổ trí thông minh có thể tạo ra những đột phá y tế và những bước nhảy vọt nhanh chóng về công nghệ, các tác giả đã nêu ra ba mối nguy hiểm chính:
- Các mối đe dọa tiềm ẩn. Các hệ thống mạnh mẽ có thể tạo điều kiện cho các mối đe dọa sinh học và mạng phát triển nhanh hơn các biện pháp cần thiết để chống lại chúng.
- Mất quyền kiểm soát. Khi con người ít tham gia vào hoạt động R&D AI, họ có thể mất cơ hội chỉ đạo và hạn chế các hệ thống mà họ xây dựng.
- Sự bất ổn về mặt chiến lược. Các quốc gia có thể sử dụng sự bùng nổ tình báo để biến lợi thế dẫn đầu khiêm tốn — chẳng hạn như trong không gian mạng — thành lợi thế mang tính quyết định của quốc gia.
Báo cáo thẳng thắn rằng những tác động này là "không chắc chắn". Một bước đột phá về công nghệ có thể mất thời gian để triển khai các chuỗi cung ứng nhất định cho các vật liệu chuyên dụng hoặc các yêu cầu pháp lý, đồng thời hệ thống AI cũng có thể đẩy nhanh tốc độ giảm thiểu rủi ro.
Chính phủ nên làm gì
Các tác giả cho biết việc chuẩn bị cho sự bùng nổ tình báo "nên là ưu tiên cấp bách, kể cả ở cấp lãnh đạo chính phủ cao nhất" và đưa ra một loạt chính sách ứng cử viên:
- Yêu cầu báo cáo tiến độ minh bạch về R&D liên quan đến AI, bao gồm cả việc đưa các kiểm toán viên độc lập vào trong các công ty AI
- Giới hạn tốc độ cải thiện hệ thống AI trong một khoảng thời gian nhất định
- Làm việc với các trung tâm dữ liệu để cho phép tạm dừng một số dự án R&D AI nhất định
- Đảm bảo các hệ thống R&D AI tự động được cách ly hoàn toàn và không thể thoát khỏi sự kiểm soát của con người
- Tạo "kế hoạch ứng phó khẩn cấp" cho nhiều tình huống mà vụ nổ tình báo có thể tạo ra
Các đề xuất mở rộng các ý tưởng đã được áp dụng thông qua chính sách AI của phương Tây – báo cáo sự cố bắt buộc, đánh giá của bên thứ ba và quản trị điện toán – nhưng áp dụng chúng cho một điểm cuối cụ thể: tự động hóa nghiên cứu.
Tại sao lại có những tác giả này và tại sao lại là bây giờ
Những người ký tên cho tờ giấy có trọng lượng bất thường. Hinton và Bengio là hai trong số những "bố già" của AI hiện đại, được công nhận vì có công trình nền tảng về mạng lưới thần kinh; cả hai đều đã trở thành những tiếng nói nổi bật cảnh báo về công nghệ mà họ đã góp phần tạo ra. Clark đồng sáng lập Anthropic và Pachocki là nhà khoa học trưởng tại OpenAI.
Cảnh báo của họ đưa ra trong bối cảnh ngành đang có chuyển động có thể đo lường được theo hướng đó. Anthropic cho biết AI hiện sản xuất 80% mã riêng của mình, trong khi OpenAI sử dụng các tác nhân AI tự trị trong các lĩnh vực như đào tạo các mô hình mới, theo The Guardian. Cả hai phòng thí nghiệm cũng đã đồng ý để các nhà đánh giá độc lập đánh giá mô hình của họ sau khi cảnh báo rằng sự phát triển AI đang đạt đến mức quan trọng về mặt an toàn.
Liệu các chính phủ có hành động theo tốc độ mà tác giả mong muốn hay không lại là một câu hỏi khác. Nhưng lập luận cốt lõi của bài báo - rằng thời điểm chế tạo phanh là trước khi ô tô cần đến chúng - hiện đã được những người gần gũi nhất với cỗ máy tán thành.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
