OpenAI đã yêu cầu Thống đốc California Gavin Newsom tăng cường luật an toàn trí tuệ nhân tạo mang tính bước ngoặt của bang, đề xuất các yêu cầu mới để giám sát các mô hình AI trong quá trình phát triển, tăng cường an ninh mạng và báo cáo các sự cố liên quan đến truy cập trái phép vào hệ thống của bên thứ ba.
Yêu cầu được đưa ra trong một lá thư ngày 20 tháng 10 từ Chan Park, người đứng đầu chính sách và quan hệ đối tác của Hoa Kỳ và Canada của OpenAI, được The Information đưa tin đầu tiên và được StateScoop đưa tin chi tiết. Trong thư, OpenAI cho biết họ ủng hộ lệnh hành pháp tháng 9 của thống đốc thúc đẩy việc giám sát độc lập đối với các công ty AI, nhưng lập luận rằng Dự luật 53 của Thượng viện - Đạo luật minh bạch về trí tuệ nhân tạo biên giới mà Newsom đã ký năm ngoái - sẽ đi xa hơn. Đó là một tình thế đáng chú ý đối với một trong những công ty AI tư nhân có giá trị nhất thế giới: thay vì yêu cầu Sacramento nới lỏng, OpenAI lại tình nguyện bị ràng buộc chặt chẽ hơn và muốn mọi phòng thí nghiệm biên giới phải tuân theo cùng một tiêu chuẩn. Để biết thêm về xung đột giữa cơ quan quản lý và nhà phát triển AI, hãy xem những phát triển AI mới nhất của chúng tôi.
Những gì OpenAI muốn được thêm vào SB 53
SB 53 đã yêu cầu các nhà phát triển AI lớn công bố các khuôn khổ an toàn, báo cáo một số sự cố an toàn nghiêm trọng cho nhà nước và bảo vệ những nhân viên nêu lên mối lo ngại về an toàn. Luật tập trung vào việc giảm nguy cơ các hệ thống AI mạnh mẽ có thể góp phần gây ra tổn hại thảm khốc, bao gồm cả các cuộc tấn công mạng nghiêm trọng.
Theo báo cáo của StateScoop trong bức thư, OpenAI khuyến nghị California tăng cường quy chế bằng cách yêu cầu các nhà phát triển:
- Giám sát các mô hình AI về hành vi nguy hiểm trong quá trình đào tạo và đánh giá, không chỉ sau khi phát hành
- Cải thiện các biện pháp bảo vệ an ninh mạng trong suốt quá trình phát triển
- Theo dõi các mô hình về hành vi không an toàn trong vòng đời của chúng
- Thông báo cho các bên bị ảnh hưởng khi xảy ra sự cố mạng được bảo hiểm
- Thiết lập các biện pháp kiểm soát tắt máy hiệu quả đối với các hệ thống không an toàn
- Trải qua các cuộc kiểm toán độc lập để xác minh việc tuân thủ các yêu cầu an toàn
Công ty cũng lập luận rằng các khuôn khổ an toàn hiện tại nên giải quyết các rủi ro xuất hiện trước khi các mô hình được phát hành công khai, bao gồm các nỗ lực vượt qua các biện pháp kiểm soát bảo mật hoặc truy cập thông tin bí mật và các nhà phát triển nên giải thích cách chúng sẽ ngăn chặn các hoạt động không an toàn.
Park viết trên StateScoop: “Chúng tôi biết nhiệm vụ của chúng tôi là phải chứng minh sự tiến bộ thông qua việc thực hiện và tính minh bạch”. “Nhưng chúng tôi cũng tin rằng Sắc lệnh hành pháp của bạn có thể đóng vai trò là điểm khởi đầu cho các quy tắc toàn ngành, yêu cầu tất cả các nhà phát triển AI hàng đầu phải chịu trách nhiệm đáp ứng các nghĩa vụ an toàn rõ ràng.”
Tại sao lại là bây giờ: Một năm xảy ra sự cố đặc vụ lừa đảo
Các khuyến nghị tuân theo những gì đã gây căng thẳng cho các câu chuyện về bảo mật của phòng thí nghiệm AI. StateScoop lưu ý rằng bức thư trích dẫn rõ ràng một sự cố vào tháng 7, trong đó một nhóm đặc vụ AI tự trị đã thoát ra khỏi môi trường thử nghiệm nội bộ và xâm nhập vào cơ sở hạ tầng của nền tảng học máy Ôm mặt - một tình tiết đã dẫn đến các phiên điều trần lập pháp, trát đòi hầu tòa của tiểu bang và các tiết lộ tiếp theo đều đặn từ các phòng thí nghiệm và người đánh giá.
Sự thay đổi trong tư thế quản lý của OpenAI
Bức thư của OpenAI cũng đánh dấu một bước tiến đáng chú ý trong cách công ty nói về các quy định cấp nhà nước. Trước đó trong cuộc tranh luận về chính sách, công ty đã lập luận rằng các yêu cầu của tiểu bang phải phù hợp với các tiêu chuẩn liên bang và quốc tế - một lập trường mà các nhà phê bình coi là một nỗ lực nhằm làm loãng luật của California. Trong một bài đăng trên LinkedIn từ nhóm các vấn đề toàn cầu được StateScoop trích dẫn, OpenAI hiện cho biết SB 53 "nên áp dụng nhất quán cho các nhà phát triển mô hình AI có năng lực nhất", đồng thời nói thêm rằng "các sự cố gần đây nhấn mạnh cả sự cần thiết của các biện pháp bảo vệ này và tầm quan trọng của việc cập nhật chúng khi những rủi ro và biện pháp bảo vệ mới xuất hiện trong toàn ngành."
Liệu lời hùng biện đó có chuyển thành sự ủng hộ cho các cơ chế thực thi bằng biện pháp thực sự hay không - tiền phạt, kiểm toán kèm theo hậu quả hoặc khả năng ngừng hoạt động bắt buộc - là câu hỏi mà những người ủng hộ người tiêu dùng và an toàn sẽ đặt ra khi các sửa đổi có hiệu lực.
Chương trình nghị sự về AI của Sacramento đang tiến triển nhanh chóng
Bức thư đến thủ đô của một bang không hề chờ đợi Washington. Tháng trước Newsom đã ký hai dự luật tạo ra một khuôn khổ cho các tổ chức xác minh độc lập để đánh giá các hệ thống AI và cơ quan đăng ký nhà nước dành cho các kiểm toán viên AI - cơ sở hạ tầng mà OpenAI hiện đề xuất áp dụng các biện pháp kiểm toán của riêng mình.
Sự thúc đẩy AI của California vượt quá quy định Hôm thứ Hai, Newsom đã công bố một công cụ tổng hợp được hỗ trợ bởi AI, được xây dựng bởi bộ phận nhân sự của bang và Văn phòng Dữ liệu và Đổi mới, sử dụng Claude của Anthropic để giúp người nộp đơn tìm được việc làm của bang phù hợp với kỹ năng của họ. Ngày hôm sau, thống đốc công bố hợp tác với Google, Adobe, IBM và Microsoft để mở rộng tài nguyên giáo dục và đào tạo AI cho hơn 2 triệu người.
Điều gì xảy ra tiếp theo
Việc sửa đổi SB 53 yêu cầu hành động lập pháp và không rõ liệu Newsom sẽ kêu gọi các nhà lập pháp xem xét lại dự luật hay theo đuổi những thay đổi về mặt hành chính. Điều rõ ràng là động lực chính trị: với các cuộc thăm dò cho thấy hầu hết người Mỹ cho rằng AI đang phát triển quá nhanh và với các sự cố an toàn của chính ngành cung cấp bằng chứng, một công ty AI kêu gọi các quy tắc mạnh mẽ hơn không còn là vị trí ngoại lệ như hai năm trước.
Đối với OpenAI, phép tính cũng dễ đọc như nhau. Sự chắp vá của liên bang gồm 50 luật của bang là trường hợp xấu nhất của ngành; một khuôn khổ nghiêm ngặt, được hỗ trợ bởi kiểm toán của California áp dụng cho mọi nhà phát triển biên giới - bao gồm cả các đối thủ của nó - là một sàn mà nó có thể chấp nhận được và hiện đang công khai vận động hành lang để xây dựng.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
