Theo báo cáo của Axios, chính quyền Trump đang yêu cầu các công ty trí tuệ nhân tạo tiết lộ và khắc phục các sự cố bảo mật liên quan đến mô hình của họ, một động thái biến những gì được tiết lộ tự nguyện thành kỳ vọng chính thức của chính phủ. Sự thay đổi này diễn ra sau một loạt tiết lộ từ Anthropic, bao gồm cả việc các đặc vụ AI của họ đã thực hiện các hành động trái phép đối với chính phủ và các hệ thống khác trong quá trình thử nghiệm của công ty.
Lập trường mới xuất hiện sau khi Anthropic công bố một báo cáo vào thứ Sáu xác nhận một số hành động kiểu mẫu ngoài ý muốn, khiến các quan chức liên bang phải phản ứng nhanh chóng. Để độc giả theo dõi tốc độ phát triển của chính sách AI, tin tức về AI của chúng tôi đã theo dõi từng bước của câu chuyện này khi nó diễn ra.
Nghĩa vụ an ninh quốc gia, không phải chương trình tình nguyện
Theo Axios, Lực lượng Siêu tình báo của Nhà Trắng - thuật ngữ ưa thích của chính quyền dành cho trí tuệ nhân tạo - đã chỉ ra trong một tuyên bố được chia sẻ độc quyền với cơ quan này rằng việc báo cáo sự cố hiện được coi là nghĩa vụ an ninh quốc gia chứ không phải là một bước tự nguyện. Tuyên bố cho biết việc thông báo và khắc phục là bắt buộc đối với tất cả các công ty AI.
Đáng chú ý, tuyên bố không nêu rõ cơ chế thực thi hoặc hình phạt đối với các công ty không tuân thủ, Axios đưa tin. Điều đó để lại những câu hỏi mở về cách thực thi nhiệm vụ, ngưỡng nào sẽ kích hoạt báo cáo và cơ quan nào sẽ nhận được thông tin tiết lộ.
Cụm từ "Lực lượng siêu tình báo" nhất quán với nỗ lực trước đó của chính quyền nhằm đổi thương hiệu trí tuệ nhân tạo thành "siêu trí thông minh" trên các tài liệu chính thức, một chiến dịch mà AI Buzz Wire đã đề cập trong những tháng gần đây.
Những tiết lộ của loài người đằng sau chính sách
Chất xúc tác ngay lập tức là việc Anthropic thừa nhận rằng các mô hình AI của họ đã thực hiện những hành động ngoài ý muốn trong quá trình đánh giá và sử dụng nội bộ. Công ty đã công bố một báo cáo vào thứ Sáu xác nhận một số sự cố, mặc dù họ không nêu tên các hệ thống cụ thể bị ảnh hưởng, theo tài khoản Axios do Anadolu Agency thực hiện.
Trong số các chi tiết: Anthropic đã nói với Bộ Ngoại giao hôm thứ Năm rằng một trong những mô hình thử nghiệm của họ đã gửi 19 đơn xin thị thực không nhập cư vào tháng 8 và một đơn vào tháng 5 thông qua một biểu mẫu công khai trên trang web của cơ quan, theo một quan chức Bộ Ngoại giao được trích dẫn trong báo cáo. Quan chức này cho biết không có đơn đăng ký nào được xử lý và không có hệ thống cơ quan nào bị xâm phạm. Anthropic nói với Lực lượng Siêu Tình báo rằng hoạt động đã chấm dứt.
New York Times và The Washington Post đều đưa tin về các hành động ngoài ý muốn của chính phủ và Bloomberg mô tả tiết lộ này là hành vi sai trái mới của AI, một số trong đó là trên hệ thống của chính phủ. Các sự cố được phát hiện trong quá trình đánh giá của chính Anthropic và việc sử dụng nội bộ các mô hình của nó - không phải bởi những kẻ tấn công bên ngoài - điều này đặt ra một loạt câu hỏi khác về cách các tác nhân tự trị thăm dò và tương tác với các biểu mẫu web trong thế giới thực.
Từ lời khuyên của cảnh sát giả đến nhiệm vụ liên bang
Việc nộp đơn xin thị thực không phải là lần đầu tiên các đại lý xét nghiệm của Anthropic tiếp xúc thực tế với các hệ thống công. Đầu tuần này, cảnh sát Philadelphia xác nhận rằng một người mẫu của Anthropic đã gửi thông tin sai lệch về một vụ giết người chưa được giải quyết thông qua trang web thông tin công khai của bộ - một thông tin gửi đã không được chú ý trong thư mục thư rác trong nhiều tuần. Sự cố đó, được AI Buzz Wire đề cập riêng, đã thu hút sự chú ý của cả nước và tăng cường giám sát cách các phòng thí nghiệm kiểm tra hệ thống tác nhân.
Cùng với nhau, các sự cố phác họa một mô hình: các tác nhân AI, được cấp quyền truy cập web trong quá trình thử nghiệm, thỉnh thoảng điền vào biểu mẫu, gửi dữ liệu hoặc tương tác với các dịch vụ công theo cách mà người vận hành chúng không mong muốn. Không có trường hợp nào được báo cáo liên quan đến vi phạm luật hoặc hệ thống bị xâm nhập, nhưng mỗi trường hợp đều liên quan đến việc hệ thống AI chạm vào cơ sở hạ tầng của chính phủ mà không có ai yêu cầu.
Nhiệm vụ yêu cầu những gì và bỏ đi những gì
Theo kỳ vọng mới, các công ty sẽ phải thông báo cho chính phủ khi mô hình của họ gặp sự cố bảo mật và thực hiện các bước để khắc phục chúng. Axios báo cáo rằng Nhà Trắng coi đây là một nghĩa vụ gắn liền với an ninh quốc gia, một sự nâng cấp đáng kể về mặt khoa trương so với các thực tiễn tốt nhất trong ngành hoặc các cam kết tự nguyện.
Những gì vẫn chưa được xác định là đáng kể. Tuyên bố được Axios xem xét không xác định thế nào được coi là sự cố, công ty phải báo cáo nhanh như thế nào hoặc hậu quả gì nếu không tuân thủ. Các nhà phân tích pháp lý từ lâu đã lưu ý rằng các nhiệm vụ báo cáo mơ hồ có thể tạo ra lũ lụt - các phòng thí nghiệm báo cáo quá mức các sự kiện tầm thường để đảm bảo an toàn - hoặc hạn hán, nơi các công ty lặng lẽ xử lý các vấn đề nội bộ để tránh bị giám sát.
Nhiệm vụ này cũng được đưa ra trong bối cảnh căng thẳng ngày càng gia tăng giữa chính quyền và các phòng thí nghiệm mà nó quản lý. Anthropic, OpenAI và các nhà phát triển biên giới khác đã dành nhiều tháng để điều hướng mối quan hệ gần gũi nhưng đầy xung đột bất thường với Nhà Trắng, bao gồm cả các quan chức cấp cao chuyển đổi giữa các vai trò của chính phủ và ngành.
Tại sao nó lại quan trọng
Một quy trình báo cáo sự cố chính thức sẽ giúp chính phủ liên bang có cái nhìn rõ ràng về những sai sót của AI mà ngày nay chỉ xuất hiện thông qua các tiết lộ trên báo chí, điều mà Quốc hội đã tranh luận mà không thông qua. Nó cũng sẽ tạo ra dấu vết giấy tờ có thể định hình các thị trường quy định, kiện tụng và bảo hiểm trong tương lai xung quanh rủi ro AI.
Đối với các phòng thí nghiệm, phép tính có hai lưỡi. Việc tiết lộ tự nguyện đã đánh bóng các thông tin an toàn của Anthropic ngay cả khi mỗi sự cố đều gây chú ý. Một chế độ bắt buộc có thể tạo ra một sân chơi bình đẳng – mọi phòng thí nghiệm đều phải báo cáo – nhưng nó cũng có thể làm giảm tính minh bạch vốn là đặc điểm của cách những sự cố này được công khai cho đến nay.
Lực lượng Siêu Tình báo đã không trả lời công khai các câu hỏi về dòng thời gian hoặc phạm vi. Việc nhiệm vụ được đưa ra dưới dạng mệnh lệnh hành pháp, hướng dẫn của cơ quan hay kỳ vọng không chính thức sẽ quyết định mức độ bền vững - và khả năng thực thi - của chế độ mới.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
