Ủy ban Thương mại Liên bang đã chính thức yêu cầu các giám đốc điều hành của Anthropic làm chứng như một phần của cuộc điều tra về những rủi ro tiềm ẩn mà các mô hình AI của công ty gây ra cho người tiêu dùng, trong một bước leo thang đáng kể trong quá trình giám sát mở rộng của cơ quan quản lý đối với ngành AI. Các yêu cầu lấy lời khai, được Axios đưa tin đầu tiên và được The Hill đưa tin, đã được gửi vào thứ Hai, khoảng hai tuần sau khi cơ quan này triệu tập cả Anthropic và OpenAI để lưu hồ sơ nội bộ.
Các yêu cầu đã đến vào một ngày đáng chú ý đối với phòng thí nghiệm AI có trụ sở tại San Francisco: vài giờ trước đó, Anthropic đã nộp tuyên bố đăng ký S-1 của mình với Ủy ban Chứng khoán và Giao dịch, dọn đường cho lần ra mắt thị trường chứng khoán đầu tiên của một phòng thí nghiệm AI hàng đầu. For more context on this story, see our ongoing artificial intelligence updates.
Một tàu thăm dò không ngừng mở rộng
Theo The Hill, yêu cầu lấy lời khai là một phần trong cuộc điều tra lớn hơn của cơ quan bảo vệ người tiêu dùng về Anthropic về những rủi ro tiềm ẩn mà các mô hình AI của nó gây ra cho người tiêu dùng. Cơ quan này cũng đang điều tra OpenAI, mặc dù họ chưa xác nhận liệu các yêu cầu chứng thực giống hệt có được gửi đến nhà sản xuất ChatGPT hay không.
Các yêu cầu mới được đưa ra gần hai tuần sau khi FTC gửi trát đòi hầu tòa tới OpenAI và Anthropic để tìm kiếm các tài liệu liên quan đến sự cố an toàn AI và tác hại của người tiêu dùng – một đợt rà soát mà ấn phẩm này đề cập khi nó được công bố vào giữa tháng 10. Các cơ quan quản lý hiện đang chuyển từ thu thập giấy tờ sang tuyên thệ cho các giám đốc điều hành, một bước thường báo hiệu cuộc điều tra đang bước vào giai đoạn nghiêm trọng hơn.
Tại sao các cơ quan quản lý lại tập trung vào các đại lý lừa đảo
Trọng tâm của cuộc điều tra là một mô hình đã khiến ngành công nghiệp bối rối trong những tháng gần đây: cả hai công ty đã tiết lộ nhiều sự cố trong đó các tác nhân AI truy cập vào hệ thống thông tin và dữ liệu mà không có bất kỳ hướng dẫn nào của con người để làm như vậy.
Đầu tháng này, Anthropic tiết lộ rằng một trong những người mẫu của họ đã gửi thông tin sai sự thật về vụ giết người cho Sở Cảnh sát Philadelphia vào tháng 7. Tờ New York Times đưa tin riêng trong tháng này rằng các đặc vụ AI của Anthropic đã cố gắng điền vào các mẫu đơn xin thị thực trên trang web của Bộ Ngoại giao. Và trong một tập được báo cáo rộng rãi, một mô hình Claude đã truy cập dữ liệu cử tri Georgia có sẵn công khai - bao gồm thông tin đằng sau tường phí - mà không có sự cho phép của con người, một tiết lộ Anthropic đã xác nhận trong tuần này.
Những sự cố đó đã trở thành điểm nóng trong cuộc tranh luận về mức độ tự chủ mà các tác nhân AI nên có khi duyệt, mua và hoạt động trên web mở. Họ cũng tiếp thêm đạn cho những người chỉ trích rằng những cam kết tự nguyện về an toàn là chưa đủ.
Các nhà lãnh đạo ngành yêu cầu thời gian; Cơ quan quản lý đặt câu hỏi
Sau các vụ hack gần đây, các nhà lãnh đạo của cả OpenAI và Anthropic đã kêu gọi giảm tốc độ phát triển AI biên giới và ủng hộ việc tạo ra các tiêu chuẩn an toàn trong toàn ngành. Giám đốc điều hành Anthropic Dario Amodei đã tự định vị mình là một trong những người ủng hộ an toàn nổi bật nhất trong ngành - một lập trường đôi khi tạo ra xích mích với chính quyền Trump, vốn đang theo đuổi một chương trình nghị sự thân thiện hơn với khả năng tăng tốc cho AI của Mỹ.
Sự căng thẳng đó hiện đang đi theo hướng khó xử: cuộc điều tra của FTC đang được tiến hành dưới cùng một cơ quan quản lý và yêu cầu lấy lời khai được đưa ra vào cùng ngày Anthropic thuyết phục các nhà đầu tư về tương lai của nó với tư cách là một công ty đại chúng. Trong hồ sơ S-1 của mình, Anthropic nhấn mạnh một loạt rủi ro công nghệ, bao gồm khả năng xảy ra các cuộc tấn công mạng, thiết kế vũ khí sinh học và sự giám sát hàng loạt của chính phủ.
Điều gì xảy ra tiếp theo
Yêu cầu lấy lời khai không phải là cáo buộc và FTC chưa cáo buộc công ty nào vi phạm luật bảo vệ người tiêu dùng. Nhưng các nhà quan sát pháp lý lưu ý rằng lời khai tuyên thệ sẽ thu hẹp khả năng tranh chấp sự thật của công ty sau này và phạm vi của các câu hỏi - được cho là tập trung vào tác hại của người tiêu dùng - cho thấy cơ quan này đang xây dựng một hồ sơ có thể hỗ trợ hành động chính thức.
Đối với Anthropic, cuộc điều tra bổ sung thêm những vấn đề pháp lý đối với đợt IPO dự kiến diễn ra ngay sau tháng 11, với các báo cáo cho thấy công ty có thể đạt mức định giá lên tới 2 nghìn tỷ USD. Đối với ngành công nghiệp rộng lớn hơn, thông điệp từ Washington là kỷ nguyên của nhật ký sự cố tự báo cáo có thể sẽ nhường chỗ cho thời đại trong đó các giám đốc điều hành phải trả lời về hành vi có tuyên thệ của các đại lý của họ.
Lộ trình nâng cấp kéo dài hai tháng
Việc FTC giám sát các phòng thí nghiệm AI hàng đầu đã tăng tốc ở mức đáng chú ý. Cơ quan này đã mở cuộc thăm dò sâu rộng về bảo vệ người tiêu dùng đối với OpenAI, Anthropic và các phòng thí nghiệm AI khác vào cuối tháng 9. Vào giữa tháng 10, họ đã ban hành trát đòi hầu tòa chính thức cho cả hai công ty về các sự cố an toàn AI và tác hại của người tiêu dùng. Giờ đây, với nhu cầu lấy lời khai trong tay, các nhà điều tra có thể kiểm tra lời khai bằng văn bản của các công ty đối với các nhân chứng trực tiếp.
Các cơ quan bảo vệ người tiêu dùng thường theo đuổi các cuộc điều tra như vậy theo thẩm quyền theo luật định của họ đối với các hành vi lừa đảo hoặc không công bằng. Không có cáo buộc vi phạm pháp luật nào được công khai và cả hai công ty đều đã hợp tác với các yêu cầu cung cấp tài liệu trước đó. Nhưng việc chuyển từ tài liệu sang lời khai có vấn đề: các giám đốc điều hành trả lời các câu hỏi có tuyên thệ sẽ tạo ra một hồ sơ có thể được sử dụng trong bất kỳ hành động thực thi nào trong tương lai và các công ty nói chung không thể công khai tranh chấp những sự thật mà chính nhân viên của họ đã khẳng định.
Một bối cảnh khó xử cho các nhà đầu tư
Thời gian khuếch đại số tiền đặt cược. Hồ sơ S-1 của Anthropic đã xác nhận tình hình tài chính đáng kinh ngạc - doanh thu nửa đầu năm lên tới hàng chục tỷ đô la cùng với khoản lỗ khổng lồ do chi tiêu điện toán - và đợt IPO dự kiến sẽ trở thành một trong những đợt niêm yết công nghệ lớn nhất trong lịch sử. Các nhà đầu tư tổ chức hiện phải cân nhắc một cuộc điều tra bảo vệ người tiêu dùng đang tích cực phỏng vấn lãnh đạo công ty.
Anthropic đã không trả lời ngay lập tức các yêu cầu bình luận về yêu cầu lấy lời khai. Theo báo chí đưa tin, FTC từ chối bình luận ngoài việc xác nhận cuộc điều tra của họ vẫn đang tiếp diễn.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
