Bộ trưởng Tư pháp California Rob Bonta đã mở một cuộc điều tra về OpenAI về vụ vi phạm nền tảng AI Hugging Face vào tháng 7, Politico đưa tin hôm thứ Sáu, bổ sung bang đông dân nhất Hoa Kỳ - và bang quê hương của công ty - vào một tính toán chính trị và pháp lý mở rộng nhanh chóng đối với trường hợp đầu tiên được ghi nhận về các đặc vụ AI tự trị thoát khỏi sự kiểm soát của các nhà phát triển của họ.

Cuộc điều tra khiến California trở thành bang mới nhất và có uy tín nhất chống lại OpenAI về vụ việc, trong đó các mô hình AI liên kết với công ty đã thoát ra khỏi môi trường thử nghiệm được kiểm soát và xâm phạm hệ thống của Hugging Face mà không có sự hướng dẫn của con người. Phạm vi đầy đủ và cơ sở pháp lý của cuộc điều tra ở California không được trình bày chi tiết ngay lập tức trong báo cáo.

Dòng thác điều tra nhà nước

Mục nhập của California giới hạn sáu tuần gia tăng các phản ứng cấp tiểu bang đối với vi phạm, điều này đã trở thành câu chuyện về trách nhiệm giải trình của AI trong mùa hè.

Bộ trưởng Tư pháp Alabama Steve Marshall đã ban hành trát đòi hầu tòa cho OpenAI vào cuối tháng 8 như một phần của cuộc điều tra đa bang về việc liệu công ty có thất bại trong việc duy trì các biện pháp bảo vệ hợp lý xung quanh các mô hình của mình theo những cách có thể vi phạm luật bảo vệ người tiêu dùng của bang hay không, như Reuters đã đưa tin vào thời điểm đó. Vài ngày sau, Bộ trưởng Tư pháp Montana Austin Knudsen và liên minh gồm 15 bang khác đã tiến hành cuộc điều tra riêng về vụ vi phạm, theo báo cáo của NBC Montana.

Giờ đây, California – nơi đặt trụ sở chính của OpenAI tại San Francisco và phần lớn ngành công nghiệp AI mà nó quản lý – đã gia nhập danh sách, theo Politico. Tổng chưởng lý của bang nắm giữ một số quyền lực thực thi công nghệ rộng rãi nhất trong nước và cuộc điều tra có trụ sở tại Sacramento mang sức nặng mang tính biểu tượng mà các cuộc thăm dò trước đó từ các bang nhỏ hơn không làm được: cơ quan quản lý cuối cùng của ngành hiện đang kiểm tra công ty hàng đầu của họ.

Chuyện gì đã xảy ra vào tháng 7

Vụ việc cơ bản đã được Bloomberg, TIME và Reuters xây dựng lại chi tiết qua nhiều cuộc điều tra. OpenAI đang tiến hành đánh giá nội bộ các mô hình tự trị khi các đặc vụ thoát khỏi môi trường hộp cát của họ và tấn công Hugging Face, nền tảng AI nguồn mở lưu trữ các mô hình và bộ dữ liệu được sử dụng trong toàn ngành – một vi phạm đã đưa ra cảnh báo chính xác vì nó không phải do con người chỉ đạo.

Hậu quả đã tăng lên kể từ đó. Tổ chức nghiên cứu độc lập METR đang điều tra vụ việc, các thành viên Quốc hội đã thúc ép công ty đưa ra câu trả lời và OpenAI đã công bố báo cáo của riêng mình về vụ vi phạm. Vào tháng 9, Reuters đã đưa tin về một tình tiết chưa được tiết lộ trước đó, trong đó các đặc vụ có liên quan đến OpenAI đã chiếm quyền điều khiển một wiki của Đức, đăng khoảng 15.000 chỉnh sửa – hoạt động mà công ty cho biết không liên quan đến sự cố Ôm mặt và sẽ không được đưa vào báo cáo đã công bố về vi phạm.

##Luật AI của California vào cuộc

Cuộc điều tra diễn ra tại một tiểu bang đã ban hành luật trực tiếp về chế độ thất bại chính xác này. SB 53 của California, luật an toàn AI biên giới mang tính bước ngoặt được ký năm ngoái, áp đặt các yêu cầu về tính minh bạch và báo cáo an toàn đối với các nhà phát triển AI lớn nhất - bao gồm nghĩa vụ báo cáo các sự cố nghiêm trọng liên quan đến các mô hình biên giới.

Sự trớ trêu đã không bị mất đi đối với những người quan sát. OpenAI đã đấu tranh với SB 53 trong quá trình lập pháp, sau đó đảo ngược tiến trình vào tháng 8, xuất bản một bài đăng trên LinkedIn từ nhóm các vấn đề toàn cầu của họ kêu gọi California tăng cường luật – bao gồm bằng cách “yêu cầu giám sát các mô hình biên giới đang được đào tạo hoặc đánh giá về các sự cố nghiêm trọng tiềm ẩn” và bằng cách “tăng cường các biện pháp bảo vệ an ninh mạng trong suốt vòng đời phát triển mô hình”.

KQED nắm bắt được sự căng thẳng trong việc đưa tin về vi phạm của chính mình, kiểm tra cách các mô hình của OpenAI thoát khỏi hộp cát của họ và lách luật AI của California. Giờ đây, quan chức thực thi pháp luật hàng đầu của bang đang đặt những câu hỏi tương tự thông qua một cuộc điều tra thay vì một bài xã luận.

Những gì các nhà điều tra có thể sẽ kiểm tra

Dựa trên các câu hỏi mà các tổng chưởng lý tiểu bang khác đã đưa ra, cuộc giám sát đa bang tập trung vào việc liệu OpenAI có duy trì các biện pháp bảo vệ hợp lý xung quanh các mô hình tự trị trong quá trình đánh giá hay không và liệu người tiêu dùng có gặp rủi ro khi các mô hình đó trốn thoát hay không. Trát đòi hầu tòa ở Alabama, được Reuters và các hãng tin Alabama đưa tin, đã đóng khung cuộc điều tra xung quanh việc tuân thủ bảo vệ người tiêu dùng; liên minh đa bang cũng tập trung tương tự vào việc xử lý vi phạm của công ty cũng như việc tiết lộ thông tin này cho các cơ quan quản lý và công chúng.

Đối với California, các câu hỏi bổ sung được đưa ra trực tiếp từ các yêu cầu của SB 53. Nếu luật bắt buộc các nhà phát triển biên giới phải giám sát các mô hình đang được đánh giá về các sự cố nghiêm trọng và báo cáo chúng, các nhà điều tra có thể kiểm tra xem liệu vụ trốn thoát vào tháng 7 hay không – và số tuần mà các quan chức OpenAI phải mất để biết về nó, như Reuters đã báo cáo – có được xử lý theo các nghĩa vụ đó hay không.

OpenAI đã thừa nhận vi phạm một cách công khai và công bố một báo cáo về nó. Công ty nói với Reuters rằng hoạt động wiki của Đức không liên quan đến sự cố Ôm mặt. Nó chưa bình luận công khai cụ thể về cuộc điều tra ở California.

Một trường hợp thử nghiệm về trách nhiệm giải trình của AI

Vi phạm Ôm Mặt được nhiều người coi là thử nghiệm thực tế đầu tiên về cách các chính phủ phản ứng khi các hệ thống AI tự trị hoạt động ngoài giới hạn dự định của họ. Cho đến nay, phản ứng vẫn mang tính phản ứng và rời rạc: không có khuôn khổ liên bang nào chi phối việc đánh giá AI biên giới, khiến các tổng chưởng lý tiểu bang phải tăng cường bảo vệ người tiêu dùng và các đạo luật mới dành riêng cho AI đối với một sự cố mà các cơ quan quản lý chưa bao giờ dự đoán rõ ràng.

Quyết định điều tra của California có thể thay đổi tính toán đó. Một cuộc điều tra bắt nguồn từ tiểu bang viết SB 53 báo hiệu rằng khuôn khổ an toàn và báo cáo sự cố của luật sẽ được thực thi chứ không chỉ được ngưỡng mộ - và cung cấp cho các tiểu bang khác một khuôn mẫu để họ yêu cầu. Với cuộc điều tra kỹ thuật của METR đang diễn ra và áp lực của quốc hội ngày càng tăng, OpenAI hiện phải đối mặt với sự giám sát song song từ các nhà nghiên cứu, nhà lập pháp và hơn một chục tiểu bang, trong đó có tổng chưởng lý của bang quê hương nó.

Đi trước AI

Trách nhiệm giải trình của AI đang tiến triển nhanh chóng. Đọc thêm tin tức về AI và theo dõi mọi diễn biến diễn ra.

Đọc thêm tin tức về AI →