OpenAI đã xác nhận rằng họ, Anthropic và Google DeepMind đã tổ chức các cuộc đàm phán về phối hợp an toàn AI trong vài tuần và cho biết họ ủng hộ luật buộc các phòng thí nghiệm biên giới phải mở cửa cho các tổ chức xác minh độc lập.
Chris Lehane, giám đốc các vấn đề toàn cầu của OpenAI, đã tiết lộ điều này tại một cuộc họp vào thứ Ba, theo TechCrunch. Reuters và Bloomberg, trích dẫn những nhận xét tương tự, đã báo cáo rằng OpenAI đang hợp tác với Anthropic và Google về vấn đề an toàn AI. Việc xác nhận đã biến nhiều tuần gợi ý - bao gồm một cuộc phỏng vấn với Fortune, trong đó Sam Altman thừa nhận các cuộc thảo luận riêng tư với các nhà lãnh đạo AI khác - thành một sự thừa nhận rõ ràng rằng ba phòng thí nghiệm hàng đầu thế giới đang phối hợp về tốc độ di chuyển và cách kiểm tra mô hình của họ.
Đối với độc giả đang theo dõi cuộc đấu súng chính trị rộng lớn hơn xung quanh sự chậm lại của AI, phạm vi đưa tin về cập nhật trí tuệ nhân tạo trong tuần này bao gồm từ việc người đồng sáng lập Anthropic Jack Clark tán thành lệnh tiêu diệt bắt buộc cho đến việc Tổng thống Trump gọi những lo ngại về an toàn là một trò lừa bịp trong cuộc gọi trên sân khấu với Jensen Huang của Nvidia.
Một tuần xác nhận đang được thực hiện
Các cuộc đàm phán diễn ra sau một bài luận được xuất bản hôm thứ Bảy bởi Giám đốc điều hành Anthropic Dario Amodei kêu gọi ngành công nghiệp hợp tác cùng nhau để làm chậm tốc độ phát triển AI biên giới nhằm tránh những rủi ro thảm khốc. Bức thư đã thu hút sự ủng hộ từ khắp ngành, với Altman, Demis Hassabis và Elon Musk của Google đều tán thành lời kêu gọi hành động và Altman nói rằng OpenAI sẽ tham gia nỗ lực này.
The Information sau đó đưa tin rằng ba công ty này đang làm việc để tạo ra một cơ quan tiêu chuẩn cho ngành AI. Hassabis đã có thành tích về ý tưởng này: vào tháng 7, ông đã kêu gọi Hoa Kỳ thành lập một cơ quan tiêu chuẩn mới để hoạt động như một cơ quan giám sát AI, với khả năng sàng lọc các mô hình tiên tiến nhất thế giới và điều phối việc giảm tốc độ toàn ngành nếu nguy hiểm gia tăng.
Những gì nhận xét của Lehane thêm vào là sự xác nhận chính thức. Cho đến nay, người phát ngôn của các phòng thí nghiệm phần lớn đã ra hiệu cho cuộc đối thoại không chính thức; Giám đốc các vấn đề toàn cầu của OpenAI hiện đã ghi nhận sự phối hợp.
Cái bóng chống độc quyền
Bất kỳ thỏa thuận nào giữa các đối thủ cạnh tranh trực tiếp về việc làm chậm sự phát triển đều đặt ra những câu hỏi chống độc quyền rõ ràng và các phòng thí nghiệm đều biết điều đó. Bản thân Altman cũng lưu ý rằng những cuộc đàm phán như vậy có thể khiến các công ty có nguy cơ vi phạm luật chống độc quyền nếu phát hiện ra sự phối hợp nhằm ngăn chặn cạnh tranh. Bài luận của Amodei đề xuất một sự miễn trừ trong phạm vi hẹp của chính phủ cho phép phối hợp an toàn mà không kích hoạt luật cạnh tranh - một dấu hiệu cho thấy vấn đề này đang được xem xét nghiêm túc như thế nào trong nội bộ các công ty.
Các nhà phê bình đã nhanh chóng chỉ ra sự căng thẳng cốt lõi của thỏa thuận: ba công ty chiếm thị phần lớn nhất trong lĩnh vực AI biên giới cùng nhau quyết định phân bổ tiến độ theo khẩu phần, đối với những người hoài nghi, giống như hành vi của cartel với lớp bọc an toàn. Những người ủng hộ phản bác rằng rủi ro thảm khốc chính xác là loại vấn đề mà các đối thủ cạnh tranh không thể đơn phương giải quyết, vì bất kỳ phòng thí nghiệm nào chậm lại một mình sẽ đơn giản nhường lại ranh giới cho đối thủ.
OpenAI chấp nhận kiểm tra của bên thứ ba
Tin tức chính sách cụ thể nhất trong nhận xét của Lehane liên quan đến luật pháp. Ông cho biết OpenAI ủng hộ một điều khoản trong Đạo luật FRONTIER yêu cầu các phòng thí nghiệm hàng đầu cho phép “các tổ chức xác minh độc lập” vào công ty của họ để đảm bảo các mô hình được phát triển một cách an toàn. Politico báo cáo rằng OpenAI đang ủng hộ kế hoạch Hạ viện lưỡng đảng được xây dựng dựa trên các đánh giá an toàn của bên thứ ba.
Vị trí đó là điều không thể tưởng tượng được đối với lĩnh vực này hai năm trước, khi các cam kết tự nguyện và đội đỏ nội bộ là tiêu chuẩn của ngành. Giờ đây, nó điều chỉnh OpenAI với tư thế ưu tiên kiểm toán mà Anthropic đã thúc đẩy từ lâu và nó tạo ra điểm nhất trí hiếm hoi giữa các phòng thí nghiệm và phe tranh luận chính sách đã kéo dài cả năm yêu cầu giám sát có thể thực thi được.
Nó cũng tạo ra một cuộc xung đột với Nhà Trắng. Tổng thống Trump đã bác bỏ những lo ngại về an toàn như một trò lừa bịp và lập luận rằng bất kỳ sự chậm lại nào cũng sẽ mang lại lợi thế cho Trung Quốc trong cuộc đua AI. Cố vấn AI của ông, David Sacks, một nhà đầu tư lâu năm có cổ phần cá nhân trong toàn ngành, đã gọi những lo ngại về rủi ro hiện hữu đã bị thổi phồng quá mức. Ở Anh, các bộ trưởng vẫn công khai chia rẽ về cùng một câu hỏi, trong đó một phe kêu gọi chính phủ chú ý đến những cảnh báo của chuyên gia trong khi Bộ trưởng Kinh doanh Reynolds bác bỏ cuộc thảo luận về việc tắt công tắc cho các hệ thống tiên tiến.
Cuộc chiến chính sách không có lập trường trung lập
Những tuần tới sẽ kiểm tra xem liệu sự phối hợp của các phòng thí nghiệm có tồn tại được khi tiếp xúc với các cơ quan cạnh tranh và cơ quan quản lý còn hoài nghi hay không. Một cơ quan tiêu chuẩn được xây dựng bởi ba công ty kiểm soát biên giới sẽ phải đối mặt với yêu cầu bao gồm các giám đốc độc lập, công bố các tiêu chí của mình và đệ trình để chính phủ xem xét - nếu không sẽ bị coi là một cartel tư nhân trá hình.
Đối với Đạo luật FRONTIER, sự chứng thực của OpenAI mang lại cho các nhà tài trợ dự luật một sự ủng hộ hàng đầu nhưng cũng là một hướng tấn công mới dành cho những người phản đối, những người cho rằng các phòng thí nghiệm lớn nhất chỉ đơn giản là nắm bắt quy định trong lĩnh vực này, viết ra các quy tắc mà chỉ họ mới có đủ khả năng tuân theo. Các phòng thí nghiệm nhỏ hơn và cộng đồng trọng lượng mở, vốn không có ghế trong các cuộc đàm phán, đang theo dõi chặt chẽ: bất kỳ chế độ xác minh nào xuất hiện sẽ xác định chi phí tuân thủ cho tất cả mọi người ở phía sau biên giới.
Điều không còn phải tranh cãi nữa là bản thân sự phối hợp. Ba công ty xác định tính tiên tiến của AI hiện đang thảo luận cởi mở về tốc độ chạy - và mời chính phủ giúp đỡ trọng tài.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
