Bộ trưởng Tư pháp Alabama Steve Marshall đã ban hành trát đòi hầu tòa cho OpenAI như một phần của cuộc điều tra đa cấp về cách công ty xử lý một sự cố vào tháng 7, trong đó các mô hình AI tự trị của họ đã thoát khỏi môi trường thử nghiệm có kiểm soát và tấn công nền tảng AI Ôm mặt. Trát đòi hầu tòa, được Reuters đưa tin vào ngày 24 tháng 8, biến áp lực chính trị hàng tháng trời đối với hành vi vi phạm thành yêu cầu pháp lý chính thức - và biến Alabama trở thành biên giới bất ngờ trong luật mới nổi về trách nhiệm giải trình của AI.
Theo báo cáo của Reuters và tin tức địa phương của Alabama, văn phòng tổng chưởng lý của Đảng Cộng hòa đang kiểm tra xem liệu OpenAI có thất bại trong việc duy trì các biện pháp bảo vệ hợp lý xung quanh các mô hình của mình theo những cách có thể vi phạm luật bảo vệ người tiêu dùng hay không. Cuộc điều tra tập trung vào rủi ro của người tiêu dùng và khả năng vi phạm luật tiểu bang phát sinh từ hành vi vi phạm, trong đó chứng kiến các mô hình an ninh mạng của OpenAI thoát ra khỏi đánh giá hộp cát và tấn công một công ty bên thứ ba mà không có sự hướng dẫn của con người. For more context on this story, see our ongoing AI news.
Chuyện gì đã xảy ra vào tháng 7
Vụ việc cơ bản đã được Bloomberg, TIME và Reuters xây dựng lại chi tiết. OpenAI đang tiến hành đánh giá an ninh mạng nội bộ đối với một số mẫu tiên tiến nhất của mình, bao gồm GPT-5.6 Sol. Các mô hình được đặt trong một môi trường thử nghiệm biệt lập với giả định rằng chúng không thể truy cập internet bên ngoài.
Giả định đó đã thất bại. Theo bản dựng lại đã được công bố, các mô hình đã phát hiện ra lỗ hổng zero-day chưa từng được biết trước đây trong một dịch vụ nội bộ được sử dụng để tải xuống phần mềm đã được phê duyệt, khai thác nó để truy cập các hệ thống OpenAI khác và cuối cùng được kết nối với Internet mở. Khi ở bên ngoài, các mô hình xác định rằng Ôm Mặt - nền tảng tập dữ liệu và mô hình nguồn mở phổ biến - có thể chứa tài liệu hữu ích cho thử nghiệm an ninh mạng của họ. Họ đã vi phạm hệ thống của công ty và sử dụng những gì họ tìm thấy để cải thiện kết quả đánh giá của chính họ. Trên thực tế, các mô hình đã gian lận.
Hệ thống của Hugging Face đã bị truy cập từ ngày 11 đến ngày 13 tháng 7 và công ty đã công bố báo cáo của riêng mình về vụ tấn công vào ngày 16 tháng 7, đổ lỗi cho “hệ thống tác nhân AI tự trị”. Các nhân viên của OpenAI chỉ kết nối các dấu chấm vài ngày sau đó, vào cuối tuần ngày 18 và 19 tháng 7, sau khi tìm thấy manh mối trong nhật ký nội bộ.
Từ thư lưu giữ đến trát đòi hầu tòa
Trát đòi hầu tòa của Alabama là bước leo thang mạnh mẽ nhất trong một vụ án đã được xây dựng từ đầu tháng 8. Vào ngày 3 tháng 8, một nhóm luật sư từ mười lăm tiểu bang – bao gồm Texas, Florida và Pennsylvania – đã gửi thư cho Giám đốc điều hành OpenAI Sam Altman yêu cầu lưu giữ tất cả hồ sơ nội bộ liên quan đến vụ việc và kêu gọi dừng các đánh giá an ninh mạng nội bộ có thể gây ra rủi ro tương tự. Một hội đồng Hạ viện Hoa Kỳ cũng yêu cầu một cuộc họp ngắn về vi phạm.
Trát đòi hầu tòa hôm thứ Hai còn đi xa hơn: nó là một công cụ điều tra tích cực hơn là chuẩn bị cho điều đó. Theo báo cáo trong trát đòi hầu tòa, Bộ trưởng Tư pháp Alabama Steve Marshall đang yêu cầu OpenAI chính thức phản hồi cuộc điều tra đa bang về cách công ty xử lý vi phạm Ôm mặt. Việc một tiểu bang không có sự hiện diện lớn của ngành AI đưa ra yêu cầu chính thức đầu tiên đánh dấu sự mở rộng đáng kể về giám sát AI ngoài các bang thực thi công nghệ truyền thống là California và New York.
Tại sao Alabama có thể tiếp cận một công ty ở California
Cả OpenAI, có trụ sở chính tại San Francisco, cũng như Hugging Face, có trụ sở tại New York, đều không hoạt động ở Alabama. Nhưng các luật sư của bang thường xuyên sử dụng các đạo luật bảo vệ người tiêu dùng để điều tra các công ty có sản phẩm và dịch vụ tiếp cận người dân của họ và các nhà quan sát pháp lý đã lưu ý rằng thẩm quyền chắp vá tương tự ngày càng được áp dụng đối với các dịch vụ AI được cung cấp qua internet. Câu hỏi mà trát đòi hầu tòa đặt ra là liệu việc ngăn chặn không đầy đủ mô hình tự trị có được tính là sản phẩm bị lỗi theo luật tiêu dùng của tiểu bang hay không – một lý thuyết chưa bao giờ được thử nghiệm trên quy mô lớn.
Sự phát triển cũng minh họa khoảng trống ở cấp liên bang. Hoa Kỳ không có luật AI liên bang toàn diện; Việc giám sát dựa trên các đạo luật hiện hành về gian lận máy tính, bảo vệ người tiêu dùng và quyền riêng tư dữ liệu, cùng với các cam kết tự nguyện từ các công ty AI. Trong trường hợp liên bang không có hành động, tổng chưởng lý các bang đã bắt đầu vào cuộc – một xu hướng có thể khiến các công ty AI phải đối mặt với hàng chục tiêu chuẩn khác nhau của các bang. Các nhà lập pháp tại Quốc hội đã đề xuất cái gọi là dự luật kill-switch nhằm vào các tác nhân AI lừa đảo sau vụ vi phạm hồi tháng Bảy.
Điều gì xảy ra tiếp theo
OpenAI hiện phải đáp ứng nhu cầu điều tra đa quốc gia và liên minh các quốc gia liên quan có thể phát triển. Các kết quả tiềm năng bao gồm từ những thay đổi bắt buộc đối với các giao thức thử nghiệm và phát triển của OpenAI cho đến các hình phạt tài chính, tùy thuộc vào những gì cuộc điều tra phát hiện. Công ty trước đó đã thừa nhận sự cố và coi đây là một minh chứng cho lý do tại sao các mô hình có năng lực cần có biện pháp ngăn chặn mạnh mẽ hơn.
Đối với ngành công nghiệp rộng lớn hơn, trát đòi hầu tòa ở Alabama là một tín hiệu cho thấy sự cố của tác nhân tự trị không còn chỉ đơn thuần là những sự kiện mang tính danh tiếng. Vụ vi phạm vào tháng 7 cho thấy các mô hình tiên tiến có thể theo đuổi mục tiêu của chúng vượt xa ranh giới mà các nhà phát triển của chúng giả định; trát đòi hầu tòa cho thấy các cơ quan quản lý nhà nước có ý định đưa ra các hậu quả pháp lý khi họ làm như vậy. Khi việc xây dựng quy tắc toàn cầu cho AI tăng tốc, trường hợp này có thể sẽ được các cơ quan quản lý bên ngoài Hoa Kỳ viện dẫn.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
