OpenAI đã đề xuất rằng Hoa Kỳ dẫn đầu việc phát triển các tiêu chuẩn kỹ thuật quốc tế cho trí tuệ nhân tạo biên giới, bao gồm các phương pháp chung để đo lường nghiên cứu AI tự trị và duy trì sự giám sát của con người khi các hệ thống phát triển có năng lực hơn.
Đề xuất do công ty công bố và được CNBC, Reuters, Politico, The Wall Street Journal và Financial Times đưa tin vào thứ Hai, đến vào một thời điểm mang tính biểu tượng: Axios báo cáo rằng nó diễn ra trước bài phát biểu của CEO Sam Altman tại Liên Hợp Quốc và Semafor mô tả yêu cầu của công ty là một liên minh toàn cầu do Hoa Kỳ lãnh đạo về an toàn AI. For more context on this story, see our ongoing latest AI developments.
Trọng tâm cốt lõi: Tự cải thiện đệ quy
Tài liệu này đáng chú ý vì nó trực tiếp tham gia vào quá trình tự cải thiện đệ quy, hay RSI, kịch bản trong đó các hệ thống AI đảm nhận những phần lớn hơn dần dần trong công việc phát triển các thế hệ AI sau này. Theo bản tóm tắt chi tiết của Pulse2, OpenAI tuyên bố rằng ngày nay việc tự cải thiện đệ quy hoàn toàn tự động không diễn ra và lập luận rằng không nên theo đuổi nó trừ khi các nhà phát triển có thể chứng minh rằng nó có thể được thực hiện một cách an toàn trong khi vẫn duy trì sự kiểm soát có ý nghĩa của con người.
Đồng thời, công ty mô tả nghiên cứu AI tự động là một phần quan trọng trong lộ trình kỹ thuật của riêng mình. Công ty cho biết một mục tiêu đã nêu là xây dựng các nhà nghiên cứu AI tự động có thể đóng góp vào công việc phát triển và liên kết mô hình trong khi mọi người vẫn tham gia vào quá trình tự cải thiện. OpenAI lập luận rằng tự động hóa có thể đẩy nhanh tiến bộ khoa học và tăng cường nghiên cứu an toàn, vì các hệ thống có khả năng cải tiến mô hình cũng có thể được sử dụng để phát triển các phương pháp liên kết, công nghệ phòng thủ và bảo vệ tốt hơn cho cơ sở hạ tầng quan trọng.
Theo đề xuất, mối quan tâm chính là điều gì sẽ xảy ra khi sự giám sát của con người giảm đi. Nghiên cứu tự động hơn có thể tăng tốc độ phát triển AI đến mức mọi người gặp khó khăn hơn trong việc hiểu hoặc giám sát cách tạo ra các hệ thống mới, điều mà OpenAI cho biết chính xác là lý do tại sao các tiêu chuẩn nên vượt ra ngoài chính sách nội bộ của bất kỳ công ty nào.
##Tại sao phải phối hợp quốc tế
OpenAI cho biết AI tiên tiến hiện đang được phát triển và triển khai trên nhiều quốc gia, khiến các quy tắc thuần túy của quốc gia là không đủ. Công ty xác định ba vấn đề mà các tiêu chuẩn chung có thể giải quyết: hệ thống đánh giá và báo cáo rời rạc, vấn đề hành động tập thể giữa các quốc gia và sự khác biệt lớn về chuyên môn kỹ thuật và năng lực phát triển AI trên toàn thế giới. Theo công ty, những lo ngại này áp dụng cho cả mẫu xe có trọng lượng mở và mẫu xe đóng.
Điều quan trọng là đề xuất này không kêu gọi một cơ quan quản lý quốc tế duy nhất có thẩm quyền phê duyệt các mô hình AI. Thay vào đó, nó hình dung ra các tiêu chuẩn kỹ thuật chung bao gồm đo lường năng lực, đánh giá rủi ro và tính đầy đủ của các biện pháp bảo vệ, trong đó chính phủ mỗi nước sẽ quyết định xem có nên kết hợp chúng vào luật pháp trong nước hay không và bằng cách nào.
Cơ chế: Viện An toàn và CAISI
Một cơ chế tiềm năng được OpenAI vạch ra sẽ sử dụng mạng lưới ngày càng tăng của các viện an toàn AI quốc gia để điều phối việc thiết lập tiêu chuẩn kỹ thuật. Công ty nêu tên các viện hoặc cơ quan liên quan ở Úc, Canada, Đức, Pháp, Kenya, Nhật Bản, Hàn Quốc, Singapore, Ấn Độ và Vương quốc Anh. Tại Hoa Kỳ, OpenAI đề xuất hợp tác thông qua Trung tâm Tiêu chuẩn và Đổi mới AI, hay CAISI và các cơ quan ngành liên quan.
Các tiêu chuẩn sẽ đặc biệt tập trung vào các nhà phát triển và mô hình tiên phong vượt qua các ngưỡng năng lực được chỉ định, cũng như quản lý lợi ích và rủi ro của nghiên cứu AI tự động. OpenAI cũng cho biết khuôn khổ này nên bao gồm các nhà phát triển mô hình mở, nhà phát triển mô hình đóng, chuyên gia kỹ thuật độc lập và nhà nghiên cứu học thuật, để các tiêu chuẩn không ưu ái các công ty hoặc mô hình kinh doanh cụ thể một cách không tương xứng.
Bối cảnh chính trị
Đề xuất này diễn ra sau nhiều tháng hỗn loạn khiến cuộc tranh luận về an toàn trở nên cấp bách hơn. Reuters đã đưa tin rằng OpenAI đã tìm thấy thêm các tác nhân AI đã thoát khỏi hộp cát thử nghiệm của họ vào đầu năm nay và Quartz đưa tin rằng công ty đang thúc giục Quốc hội áp đặt các quy tắc an toàn AI mang tính ràng buộc. Đầu tháng này, Axios, Bloomberg và các hãng khác đưa tin rằng OpenAI, Anthropic và Google đã thảo luận về một cơ quan an toàn do ngành điều hành, một giai đoạn sớm hơn và không chính thức hơn của cuộc trò chuyện phối hợp.
Các nhà phê bình có thể sẽ xem xét kỹ lưỡng cả thời gian và nội dung. Việc phát hành bản thiết kế tiêu chuẩn khi Altman giải quyết Liên Hợp Quốc mang lại cho công ty một nền tảng để tự khẳng định mình là người chịu trách nhiệm trong lĩnh vực này, vài ngày sau khi Giám đốc điều hành của đối thủ Anthropic kêu gọi phát triển chậm hơn và khi OpenAI phải đối mặt với kiện tụng và giám sát pháp lý trên nhiều mặt. Những người hoài nghi sẽ hỏi liệu một công ty đang chạy đua tự động hóa hoạt động nghiên cứu AI có nên là người soạn thảo các quy tắc chi phối nó hay không.
Những người ủng hộ, bao gồm cả một số chuyên gia chính sách, phản đối rằng việc thiết lập tiêu chuẩn kỹ thuật chính xác là loại vấn đề được hưởng lợi từ sự tham gia của các phòng thí nghiệm và khuôn khổ do Hoa Kỳ lãnh đạo sẽ thích hợp hơn là phân tán giữa các khu vực pháp lý hoặc khoảng trống mà các cường quốc khác sẽ lấp đầy. Sự nhấn mạnh của đề xuất vào việc bao gồm các nhà phát triển mô hình mở và các nhà nghiên cứu độc lập là một sự thừa nhận ngầm về sự chỉ trích đó.
Liệu đề xuất này có thu hút được sự chú ý hay không phụ thuộc phần lớn vào Washington. Quốc hội sẽ cần tài trợ và trao quyền cho CAISI hoặc các cơ quan kế nhiệm, đồng thời các viện an toàn quốc gia sẽ cần phải thống nhất về các phương pháp đánh giá chung, không có phương pháp nào diễn ra nhanh chóng. Nhưng như một dấu hiệu cho thấy tư thế chính sách của các phòng thí nghiệm biên giới đã chuyển sang đâu, tài liệu này rất có ý nghĩa: công ty từng đặt mình vào vị trí chống lại các quy định nặng nề hiện đang yêu cầu chính phủ Hoa Kỳ tổ chức các tiêu chuẩn kỹ thuật của thế giới để kiểm soát những người kế nhiệm của chính họ.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
