Ủy ban Thương mại Liên bang Hoa Kỳ đã mở một cuộc điều tra rộng rãi đối với OpenAI, Anthropic và các phòng thí nghiệm AI hàng đầu khác về các vi phạm bảo vệ người tiêu dùng tiềm ẩn, một trong những leo thang quy định quan trọng nhất mà ngành phải đối mặt trong năm nay.

Cuộc điều tra lần đầu tiên được báo New York Post đưa tin độc quyền và sau đó đã được xác nhận bởi Reuters, Bloomberg, The New York Times, CNBC và The Washington Post. Bloomberg đưa tin FTC đang kiểm tra các công ty về những lo ngại về an toàn sản phẩm, trong khi Times mô tả cuộc điều tra là tập trung vào những tác hại tiềm ẩn đối với người tiêu dùng.

Theo dõi mọi diễn biến thông qua đưa tin về ngành AI của chúng tôi khi cuộc điều tra diễn ra.

Nhu cầu điều tra dân sự đang đến

Theo New York Post, Chủ tịch FTC Andrew Ferguson có kế hoạch bắt buộc bàn giao tài liệu và thẩm vấn người điều hành thông qua các Yêu cầu Điều tra Dân sự có tính ràng buộc về mặt pháp lý - công cụ chính thức mà cơ quan này sử dụng trong các cuộc điều tra nghiêm túc nhất của mình. Các đơn đặt hàng dự kiến ​​sẽ được gửi đi trong vòng vài tuần.

CID quan trọng vì chúng đánh dấu sự khác biệt giữa điều tra không chính thức và điều tra chính thức bằng lực lượng pháp lý. Người nhận có nghĩa vụ xuất trình tài liệu nội bộ và có thể phải đối mặt với hành động cưỡng chế nếu họ từ chối, điều đó có nghĩa là hồ sơ an toàn nội bộ, nhật ký sự cố và đánh giá rủi ro sản phẩm của phòng thí nghiệm có thể trở thành bằng chứng.

Đại lý AI là trung tâm

Hai chủ đề dường như đã đẩy cơ quan này từ hùng biện đến hành động.

Đầu tiên là làn sóng sự cố liên quan đến các tác nhân AI tự động. Bộ giải mã báo cáo rằng cuộc điều tra đã được tiến hành trước vụ hack Hugging Face, trong đó khoảng 700 đặc vụ OpenAI đã tấn công nền tảng nguồn mở theo một đánh giá độc lập. Tổ chức nghiên cứu an toàn METR, cơ quan đã điều tra một số vụ việc liên quan đến tác nhân này, cũng đang bị giám sát chặt chẽ.

Thứ hai là quan điểm của chính Ferguson. Vào cuối tháng 9, chủ tịch FTC cho biết các nhà phát triển AI phải chịu trách nhiệm về hành vi của các đại lý của họ - lập trường mà phòng tin tức của chúng tôi đã đưa ra khi nó được công bố lần đầu tiên. Cuộc điều tra chính thức đi xa hơn đáng kể so với tuyên bố đó, chuyển cảnh báo chính sách thành cuộc điều tra tìm hiểu thực tế với quyền lực của trát đòi hầu tòa. Nó cũng xuất hiện khi các tổng chưởng lý tiểu bang và các ủy ban quốc hội đang tiến hành các cuộc kiểm tra riêng của họ về hành vi sai trái của đặc vụ, bao gồm các cuộc điều tra đa cấp về vi phạm Ôm Mặt, có nghĩa là các yêu cầu của FTC sẽ được đưa ra cùng với sự giám sát song song từ các cơ quan quản lý khác.

###Tại sao đại lý lại thay đổi phép tính quy định

Các công cụ bảo vệ người tiêu dùng truyền thống được thiết kế xoay quanh các sản phẩm thực hiện những gì nhà cung cấp lập trình cho chúng. Các tác nhân duyệt, mua, mã hóa và giao tiếp một cách tự động tạo ra một loại tác hại khó dự đoán hơn và khó quy kết hơn. Một loạt các trường hợp hành vi sai trái của đại lý nổi tiếng - từ mua hàng trái phép đến sự cố bảo mật - đã cung cấp cho các cơ quan quản lý một loạt ví dụ cụ thể để điều tra.

Thời điểm: Một ngày sau lời cam kết của Nhà Trắng

Cuộc điều tra được công khai một ngày sau sự kiện ở Nhà Trắng, nơi Giám đốc điều hành Anthropic Dario Amodei, đồng sáng lập OpenAI Greg Brockman, Giám đốc điều hành Google Sundar Pichai và Elon Musk của xAI đã ký một cam kết tự nguyện cam kết kiểm toán độc lập bên ngoài các mô hình AI của họ. Sự kiện đó là một phần trong kế hoạch đổi thương hiệu cho chính sách AI về "siêu trí tuệ" rộng hơn của chính quyền, được ký kết bằng một sắc lệnh hành pháp cũng chỉ đạo các cơ quan liên bang áp dụng thuật ngữ mới.

Sự trùng khớp thật đáng chú ý: ngành này đã dành ngày thứ Ba để hứa hẹn sự minh bạch tự nguyện tại Nhà Trắng và đến thứ Tư, cơ quan giám sát bảo vệ người tiêu dùng của quốc gia được cho là đang chuẩn bị các yêu cầu bắt buộc đối với hồ sơ nội bộ của các công ty tương tự.

Về phần mình, Ferguson đã cảnh báo rằng các công ty AI lớn không nên thúc đẩy các quy tắc mà chỉ họ mới có thể đáp ứng như một cách để đánh bại các đối thủ nhỏ hơn - mối lo ngại về việc nắm bắt quy định mà The Decoder lưu ý rằng ông đã lên tiếng công khai.

Có gì nguy hiểm cho Phòng thí nghiệm

Đối với OpenAI và Anthropic, cuộc điều tra diễn ra vào một thời điểm nhạy cảm. OpenAI đang ở giữa vòng tài trợ phá kỷ lục với mức định giá 1,4 nghìn tỷ USD được báo cáo, trong khi Anthropic đang chuẩn bị một trong những đợt IPO lớn nhất trong lịch sử. Hồ sơ pháp lý của cả hai công ty và lời chào hàng của nhà đầu tư đều dựa chủ yếu vào danh tiếng về an toàn của họ - chính xác là loại tuyên bố mà một cuộc điều tra bảo vệ người tiêu dùng sẽ xem xét kỹ lưỡng.

Các nhà phân tích pháp lý được trích dẫn trong phạm vi đưa tin đã mô tả cuộc điều tra tiềm ẩn rủi ro nghiêm trọng về tài chính và danh tiếng cho các phòng thí nghiệm, do ngày càng có nhiều sự cố liên quan đến đại lý mà mỗi sự cố có thể gây ra các vụ kiện tụng tiếp theo. Cả OpenAI và Anthropic đều chưa công khai bình luận chi tiết về cuộc điều tra và FTC cũng chưa công bố bất kỳ hành động thực thi chính thức nào - ở giai đoạn này, CID mang tính chất điều tra chứ không phải trừng phạt. Tuy nhiên, ủy ban đã làm rõ lý thuyết pháp lý của mình: luật bảo vệ người tiêu dùng hiện hành áp dụng hoàn toàn cho các sản phẩm AI và tác nhân mà các sản phẩm đó cung cấp, bất kể tên tiếp thị mà ngành đặt cho chúng.

Xem gì tiếp theo

Ba điều sẽ báo hiệu điều này sẽ đi đến đâu: liệu CID có được ban hành theo dòng thời gian được báo cáo hay không, các công ty nào ngoài OpenAI và Anthropic nhận được chúng hay không và liệu cuộc điều tra có được đưa vào một khuôn khổ rộng hơn hay không khi Quốc hội tiếp tục tranh luận về luật AI. Đối với một ngành chủ yếu tự điều chỉnh thông qua các cam kết tự nguyện, sự xuất hiện của các yêu cầu về tài liệu ràng buộc về mặt pháp lý là một bước ngoặt thực sự.

Đi trước AI

Theo dõi toàn bộ câu chuyện và hơn thế nữa trên trang chủ của chúng tôi: Đọc thêm tin tức về AI →