Nhân viên tại văn phòng chính phủ nhỏ của Hoa Kỳ chịu trách nhiệm kiểm tra độ an toàn của các mô hình AI biên giới gần đây đã được yêu cầu báo cáo không chính thức cho văn phòng Nhà Trắng, hãng tin AP đưa tin hôm thứ Bảy, làm dấy lên những lo ngại mới về tính độc lập của cơ quan đánh giá an toàn AI hàng đầu của đất nước.

Theo AP, văn phòng, Trung tâm Thúc đẩy Đổi mới và Tiêu chuẩn cho Siêu trí tuệ - được gọi là CAISSI và nằm trong Bộ Thương mại - cũng đã ngừng công bố nghiên cứu của mình. Báo cáo được đưa ra trong bối cảnh công chúng ngày càng lo lắng về một loạt câu chuyện về các tác nhân AI ngoài tầm kiểm soát, đồng thời mô tả một cơ quan giám sát đang thiếu nhân lực, không có người lãnh đạo và ngày càng im lặng. For more context on this story, see our ongoing artificial intelligence updates.

CAISSI làm gì — và AP tìm thấy gì

CAISSI chịu trách nhiệm đánh giá mức độ an toàn của các dịch vụ AI mới trước khi chúng đến tay công chúng, một nhiệm vụ bao gồm đánh giá mức độ hiệu quả của các mô hình tiên phong trong việc chống lại hành vi lạm dụng cho các cuộc tấn công mạng và các tác hại nghiêm trọng khác. Theo AP, nhân viên tại trung tâm "gần đây" đã được yêu cầu báo cáo không chính thức cho văn phòng Nhà Trắng. Hãng tin này dẫn lời hai cựu quan chức chính phủ biết rõ về các cuộc thảo luận, những người này đã phát biểu ẩn danh để bảo vệ các nhân viên hiện tại. Nhà Trắng không trả lời các câu hỏi cụ thể về trung tâm.

Quy mô hoạt động còn khiêm tốn. AP báo cáo rằng CAISSI nhận được khoảng 10 triệu USD mỗi năm - gần bằng 1/8 số tiền mà đối tác ở Vương quốc Anh nhận được, mặc dù Hoa Kỳ là nơi xây dựng hầu hết các mô hình biên giới.

Việc sắp xếp báo cáo không chính thức chỉ là sự gián đoạn mới nhất tại trung tâm. AP mô tả khoảng trống lãnh đạo kéo dài nhiều tháng: một giám đốc được thuê vào tháng 4 và bị sa thải chỉ trong vài ngày, người thay thế ông ta kéo dài vài tháng trước khi từ chức, và người đứng đầu viện mẹ hiện đang giữ chức quyền giám đốc. Trên thực tế, điều đó có nghĩa là không ai có nhiệm vụ thường trực hiện đang bảo vệ sự độc lập của trung tâm.

Cơ quan giám sát đã ngừng xuất bản

Theo AP, sự thay đổi mang tính hệ quả hơn là điều mà trung tâm không còn thực hiện nữa. Vào tháng 8, Quốc hội đã hỏi tại sao CAISSI ngừng công khai các báo cáo về cách hệ thống AI thực hiện các bài kiểm tra an toàn. Thử nghiệm trước khi triển khai chỉ hoạt động như một hoạt động kiểm tra công khai đối với các nhà xây dựng mô hình nếu kết quả của nó hiển thị bên ngoài phòng thí nghiệm — còn hiện tại thì không.

Sự thay đổi không phải tự nhiên mà có. Vào tháng 10, Reuters trích dẫn một báo cáo từ The Information tiết lộ rằng chính quyền đã lên kế hoạch chuyển ba quan chức cấp cao của CAISSI đến Nhà Trắng. Một quan chức Nhà Trắng nói với The Information vào thời điểm đó rằng các vấn đề phối hợp với Bộ Thương mại cho thấy sự cần thiết phải đưa lãnh đạo của trung tâm đến gần hơn với việc ra quyết định của AI. Theo báo cáo đó, các quan chức sẽ trả lời Michael Kratsios, người điều hành Văn phòng Chính sách Khoa học và Công nghệ, và Giám đốc Mạng Quốc gia Sean Cairncross. Bộ trưởng Thương mại Howard Lutnick đã mời cả hai cùng quản lý trung tâm khoảng sáu tháng trước đó.

Đọc cùng nhau, báo cáo mới của AP cho thấy kế hoạch đó đang được thực hiện - một cách không chính thức và đi trước bất kỳ hoạt động tái cơ cấu chính thức nào.

Mối quan tâm về tính độc lập, theo cả hai hướng

Các nhà phê bình được AP trích dẫn lo ngại rằng các quyết định liên quan đến rủi ro an ninh mạng và vũ khí sinh học có thể bị chính trị hóa hoặc những phát hiện đó có thể được giảm nhẹ để phù hợp với ngành công nghệ. Amos Toh thuộc Trung tâm Tư pháp Brennan nói với AP rằng những quyết định như vậy có hậu quả to lớn đối với công chúng và cần được giải thích trước công chúng. Caroline Siegel Singh thuộc Liên đoàn các nhà khoa học Mỹ đã mô tả các trung tâm như CAISSI là những tổ chức quyền lực có thể cải thiện đáng kể cuộc sống hoặc làm điều ngược lại.

Có một lập luận phản bác và AP không bác bỏ nó. Đánh giá khả năng của một mô hình trong việc giúp viết phần mềm độc hại là một câu hỏi an ninh quốc gia và một chính quyền muốn biết rõ ai nhìn thấy những kết quả đó là một trường hợp có thể bảo vệ được. Khó khăn nằm ở thể chế: một trọng tài trả lời một trong những nhà tài trợ của các đội sẽ không thể quyết định trận đấu một cách thẳng thắn và trung tâm đã ngừng xuất bản các báo cáo thể hiện sự độc lập của mình.

Tại sao nó quan trọng đối với người xây dựng và người mua

Đối với các công ty xây dựng theo mô hình biên giới, rủi ro thực tế được xác định trong báo cáo không phải là lệnh cấm - mà là sự không chắc chắn. Nếu các đánh giá vẫn được giữ bí mật và được đưa vào hoạt động kiểm soát xuất khẩu và mua sắm của chính phủ, thì phòng thí nghiệm có thể mất hợp đồng hoặc thị trường do phát hiện ra một phát hiện mà phòng thí nghiệm đó không bao giờ được nhìn thấy hoặc tranh chấp. Rủi ro đó sẽ lan truyền qua chuỗi cung ứng đến các sản phẩm cuối nguồn mà không có bất kỳ cảnh báo nào.

Hai điều đáng xem tiếp theo. Đầu tiên là liệu chính quyền có bổ nhiệm một giám đốc thường trực cho trung tâm hay không và ai sẽ chọn họ. Thứ hai là liệu Quốc hội, vốn đã ép trung tâm im lặng trước các báo cáo được công bố, có chuyển sang quy định tính độc lập của trung tâm thành luật hay không. Cho đến khi một trong hai điều đó xảy ra, trọng tài an toàn AI biên giới của Mỹ hoạt động với ngân sách 10 triệu USD, không có người lãnh đạo thường trực và đường dây báo cáo chạy về phía Nhà Trắng.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →