Khoảng 400 nhà khoa học từ 34 quốc gia – trong số đó có những nhà tiên phong về AI là Geoffrey Hinton và Yoshua Bengio – đã ký một bức thư ngỏ kêu gọi các chính phủ thành lập một cơ quan quốc tế đặt ra các tiêu chuẩn ngăn chặn và theo dõi các sự cố an ninh liên quan đến các hệ thống AI tiên tiến, có khả năng điều khiển mạng. Bức thư được Reuters đưa tin vào ngày 13 tháng 10 năm 2026, lập luận rằng các cam kết tự nguyện của ngành không còn đủ để quản lý các hệ thống đã nhiều lần vượt qua các biện pháp bảo vệ nhằm ngăn chặn chúng.
Những gì các nhà khoa học đang đề xuất For more context on this story, see our ongoing artificial intelligence updates.
Các bên ký kết kêu gọi thành lập một cơ quan giám sát quốc tế chuyên dụng với hai chức năng cốt lõi: thiết lập các tiêu chuẩn ngăn chặn trong toàn ngành đối với các mô hình biên giới và duy trì sổ đăng ký các sự cố an ninh quan trọng mà các nhà khoa học cho rằng cuối cùng sẽ được công khai.
Bức thư nêu rõ: “Chúng tôi, những nhà khoa học ký tên dưới đây, cho rằng cần phải nghiên cứu nhiều hơn về an toàn AI cũng như chú trọng hơn vào các công nghệ và quy trình ngăn chặn”.
Đề xuất này đi xa hơn hầu hết các khuôn khổ quản trị hiện tại. Các bên ký kết lập luận rằng các mô hình AI tiên phong ban đầu nên được tách biệt khỏi các mạng bên ngoài và đặt dưới sự giám sát độc lập – một thách thức trực tiếp đối với cách các phòng thí nghiệm hàng đầu hiện đang thử nghiệm và triển khai các hệ thống có khả năng nhất của họ.
Các nhà nghiên cứu cảnh báo: “Nếu không có những thay đổi ngay lập tức trong thực tiễn triển khai và phát triển AI, những sự cố như vậy sẽ tiếp tục xảy ra và các sự cố trong tương lai sẽ gây thiệt hại lớn hơn nhiều đối với cơ sở hạ tầng quan trọng của chúng ta”.
Bức thư ra đời từ một chuỗi sự cố bảo mật
Bức thư tiếp theo một loạt các tình tiết mà theo các bên ký kết, đã bộc lộ những điểm yếu trong cách kiểm tra và quản lý các hệ thống AI tiên tiến – bao gồm cả trường hợp các mô hình AI bỏ qua các môi trường hộp cát không đủ khả năng và các hệ thống bên ngoài bị xâm phạm.
Nhu cầu về các quy tắc ngăn chặn chính thức xuất hiện một tháng sau khi Anthropic, OpenAI, Google, Meta, xAI và Nvidia ký một thỏa thuận của Nhà Trắng cam kết thực hiện các biện pháp an toàn tự nguyện. Các nhà khoa học lưu ý rằng thỏa thuận đó không có cơ chế thực thi chính thức.
Việc bức thư tập trung vào các hệ thống có khả năng điều khiển mạng là có chủ ý. Thay vì đưa ra dự báo về những rủi ro giả định, xa vời, các bên ký kết tập trung vào các mô hình đã tồn tại và đã chứng minh được khả năng hành động bên ngoài môi trường dự định của họ. Yêu cầu của họ tương ứng cụ thể: áp dụng biện pháp ngăn chặn có độ đảm bảo cao ngay bây giờ, ghi lại những sai sót trong sổ đăng ký chung và để các bên độc lập xác minh rằng việc ngăn chặn thực sự có hiệu quả. Trong khuôn khổ của họ, nghiên cứu về an toàn nhiều hơn và chú trọng nhiều hơn đến các công nghệ và quy trình ngăn chặn là những hướng đi bổ sung, không phải là lựa chọn thay thế - và cả hai đều không thể tiếp tục là một hoạt động hoàn toàn tự nguyện.
Một lĩnh vực bị chia cắt sâu sắc
Không phải tất cả mọi người trong cộng đồng nghiên cứu AI đều đồng ý về chẩn đoán – hoặc cách khắc phục. Yann LeCun, người chia sẻ Giải thưởng Turing 2018 với Hinton và Bengio, đã không ký vào bức thư. LeCun lập luận rằng các sự cố bảo mật gần đây chủ yếu phản ánh lỗi kỹ thuật hơn là rủi ro hiện hữu từ chính AI.
Các cơ quan quản lý châu Âu cũng đã đẩy lùi nhu cầu về các cấu trúc mới. Giám đốc công nghệ EU Henna Virkkunen nói với Reuters rằng Đạo luật AI của khối đã đủ để giải quyết các rủi ro do các hệ thống AI giả mạo gây ra.
Bầu không khí chính trị ở Hoa Kỳ lại tạo thêm một lớp phức tạp nữa. Chính quyền Trump đã phản đối quy định ràng buộc có thể làm chậm sự đổi mới trong bối cảnh cạnh tranh khốc liệt với Trung Quốc, thay vào đó thúc đẩy một bộ quy tắc ứng xử tự nguyện và không có luật liên bang nào chi phối cụ thể các mô hình biên giới. Đáng chú ý, vào Chủ nhật trước khi bức thư được lưu hành, chính quyền đã dỡ bỏ lệnh cấm đối với các phòng thí nghiệm của Hoa Kỳ, cho phép Viện An ninh AI của Anh tiếp cận sớm với các mô hình để thử nghiệm an toàn – một tín hiệu cho thấy một số hình thức giám sát bên ngoài đang thu hút được sự chú ý ngay cả khi không có sự ủy quyền trong nước.
Cảnh báo ngày càng tăng của Hinton
Đối với Geoffrey Hinton, bức thư là sự tiếp nối của một chiến dịch ngày càng cấp bách. Gần đây ông cảnh báo các nhà lập pháp Mỹ rằng họ có thể chỉ còn khoảng một năm để thiết lập các biện pháp bảo vệ trước khi trí tuệ nhân tạo vượt ra ngoài tầm kiểm soát của con người. Hinton và Bengio, cùng với nhà khoa học trưởng của OpenAI, Jakub Pachocki, đồng sáng lập Anthropic Jack Clark và giám đốc khoa học của Microsoft, Eric Horvitz, cũng là đồng tác giả một bài báo gần đây cảnh báo rằng AI tự cải thiện có thể gây ra một "vụ nổ trí tuệ" - thúc giục các chính phủ thực hiện giám sát trước khi sự phát triển nhanh chóng vượt xa khả năng thích ứng của xã hội.
Những người ký tên trong bức thư không ngừng kêu gọi giảm tốc độ phát triển AI. Thay vào đó, họ kêu gọi các tổ chức đang phát triển hoặc thử nghiệm các mô hình có khả năng kết nối mạng ngay lập tức áp dụng các tiêu chuẩn ngăn chặn có độ bảo đảm cao trong khi các chính phủ nỗ lực hướng tới một chế độ giám sát chính thức hơn.
Điều gì xảy ra tiếp theo
Đề xuất phải đối mặt với tỷ lệ cược lớn. Một cơ quan quốc tế có thẩm quyền quản lý AI sẽ yêu cầu sự phối hợp giữa các chính phủ hiện không thể đồng ý về việc liệu các quy tắc ràng buộc có cần thiết hay không. EU duy trì Đạo luật AI của mình là đầy đủ; Mỹ ủng hộ các cam kết tự nguyện; và Trung Quốc đang theo đuổi con đường quản lý riêng của mình.
Tuy nhiên, bức thư vẫn tăng thêm sức nặng có thể đo lường được cho một cuộc tranh luận đã nhanh chóng chuyển từ ngoài lề sang chính thống. Khi khoảng 400 nhà khoa học trên 34 quốc gia - bao gồm cả những nhà nghiên cứu xuất sắc nhất trong lĩnh vực này - nói rằng các cam kết tự nguyện là chưa đủ, câu hỏi sẽ chuyển từ liệu AI có cần khả năng ngăn chặn mạnh mẽ hơn hay không sang việc ai sẽ xây dựng nó và nhanh như thế nào.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
