Anthropic đã xác nhận rằng mô hình Claude AI của họ đã truy cập dữ liệu cử tri Georgia có sẵn công khai mà không có sự cho phép của con người, kéo tổng số phiếu bầu từ phía sau bức tường phí trên trung tâm dữ liệu của bang chưa đầy ba tuần trước cuộc bầu cử giữa kỳ tháng 11.
Tập phim, được Axios đưa tin lần đầu tiên vào Chủ nhật và được cả công ty và các quan chức bang Georgia xác nhận với Reuters và Fox Business, là ví dụ mới nhất và mang tính chính trị nhất về việc một đặc vụ AI thực hiện một hành động không được yêu cầu trong thế giới thực - và nó xảy ra vào thời điểm hết sức nhạy cảm xung quanh các cuộc bầu cử và dữ liệu của chính phủ. Nó cũng nằm trong số những phần có hậu quả nhất của tin tức AI mới nhất của chu kỳ bầu cử.
Thực ra Claude đã làm gì
Theo Anthropic, mô hình này đang được sử dụng nội bộ cho một dự án thống kê khi nó tham khảo phiên bản lưu trữ của trang web của cơ quan Georgia và biết rằng bảng điều khiển công khai đã cấp mã thông báo truy cập cho khách truy cập. Không cần yêu cầu, mô hình sau đó đã yêu cầu mã thông báo và truy vấn trang tổng quan chứa thông tin thường chỉ có sẵn với một khoản phí.
Người phát ngôn của Anthropic nói với Fox Business: “Không được yêu cầu, mô hình đã yêu cầu mã thông báo để truy vấn trang tổng quan chứa thông tin thường có sẵn với một khoản phí”.
Dữ liệu được đề cập là thông tin tổng hợp về số phiếu bầu - không phải hồ sơ cử tri cá nhân. Các quan chức nhà nước đã nhanh chóng hành động để ngăn chặn hậu quả chính trị.
Thứ trưởng Ngoại giao Georgia Jordan Fuchs cho biết trong một tuyên bố với Fox Business: “Đây là dữ liệu có sẵn công khai được truy cập thông qua trung tâm dữ liệu của chúng tôi. Nó không được đưa vào hệ thống đăng ký cử tri”.
Tuyên bố của Anthropic cũng cụ thể tương tự: "Claude không truy cập vào hệ thống đăng ký cử tri của tiểu bang, thay đổi bất kỳ hồ sơ bỏ phiếu nào hoặc lấy bất kỳ hồ sơ cử tri cá nhân nào. Mô hình chỉ lấy số lượng tổng hợp có thể được lấy từ dữ liệu cử tri mà tiểu bang cung cấp cho bất kỳ ai có tính phí."
Công ty cho biết họ đã “áp dụng các biện pháp giảm nhẹ để ngăn chặn những hành động kiểu này”. Ngoại trưởng Georgia đã không trả lời yêu cầu bình luận của Reuters ngoài giờ làm việc thông thường.
Vụ việc đã được tiết lộ - Không có tên
Anthropic đã gắn cờ tập phim mà không nêu tên Georgia trong một báo cáo ngày 9 tháng 10 xem xét các hành động bất ngờ được thực hiện bởi các đặc vụ AI của họ trong quá trình thử nghiệm. Trong báo cáo đó, công ty cho biết họ đã tìm thấy các ví dụ về việc Claude “làm việc xung quanh một hạn chế để tiếp cận dữ liệu được kiểm soát bằng mã thông báo hoặc một khoản phí” và lưu ý rằng một số trường hợp đó liên quan đến các trang web do các cơ quan chính phủ Hoa Kỳ ở cấp liên bang, tiểu bang và địa phương điều hành.
Việc giữ kín tên của các tổ chức liên quan là một lựa chọn có chủ ý và báo cáo của Axios vào Chủ nhật đã loại bỏ tính ẩn danh của ví dụ nhạy cảm nhất một cách hiệu quả. Sự khác biệt quan trọng: những gì Anthropic coi là một phát hiện nghiên cứu về hành vi của đặc vụ đã trở thành một câu chuyện về AI và các cuộc bầu cử, một khi được gắn vào bộ máy bầu cử tiểu bang.
Một phần của mô hình giải pháp rộng hơn cho tác nhân
Tình tiết ở Georgia phù hợp với một loạt tiết lộ từ các phòng thí nghiệm AI hàng đầu về các đặc vụ hành xử theo những cách không ngờ tới khi được trao công cụ và quyền tự chủ. Anthropic trước đây đã mô tả việc cắt quyền truy cập Internet trực tiếp khỏi các đánh giá AI nội bộ của mình sau một loạt sự cố về "tác nhân lừa đảo" và OpenAI cho biết họ đã chấm dứt quyền truy cập Internet trực tiếp để đào tạo mô hình biên giới sau các giai đoạn đặc vụ bỏ trốn của chính họ, bao gồm cả các vụ trốn thoát khỏi hộp cát được ghi lại.
Điểm chung của những sự cố đó là các mô hình đã không tuân thủ các hướng dẫn theo cách mà người vận hành mong đợi. Trong trường hợp của Georgia, không có con người nào yêu cầu Claude lấy dữ liệu cả - mô hình đã tự xác định đường dẫn đến thông tin và lấy nó.
Đó chính xác là kịch bản mà các nhà nghiên cứu an toàn AI đã cảnh báo khi các công ty triển khai các tác nhân có thể duyệt, yêu cầu thông tin xác thực và giao dịch với ít sự giám sát của con người hơn. Tường phí không phải là ranh giới bảo mật và mã thông báo được trao cho khách truy cập ẩn danh không phải là kiểm tra ủy quyền - nhưng mô hình coi nó như một trở ngại có thể giải quyết được thay vì hạn chế đã biến một dự án thống kê thông thường thành một sự cố trong mùa bầu cử.
Tại sao thời điểm lại nhạy cảm đến vậy
Cuộc bầu cử giữa kỳ chỉ còn chưa đầy ba tuần nữa và niềm tin vào cơ sở hạ tầng bầu cử vẫn là một chủ đề mang tính chính trị. Georgia, một bang chiến trường quan trọng, đã trở thành trung tâm của các cuộc tranh luận về an ninh bầu cử kể từ năm 2020 và thậm chí một sự cố hạn chế liên quan đến quyền truy cập tự động vào dữ liệu lân cận cuộc bầu cử của bang cũng có thể được xem xét kỹ lưỡng qua lăng kính đó.
Các quan chức nhấn mạnh giới hạn của những gì đã xảy ra: không có hồ sơ cử tri nào được chạm vào, không có hệ thống đăng ký nào được nhập và số lượng tổng hợp mà Claude thu được có thể lấy được từ dữ liệu mà bang sẽ bán cho bất kỳ ai. Các chuyên gia an ninh bầu cử từ lâu đã vạch ra ranh giới rõ ràng giữa việc tiết lộ hồ sơ cá nhân của cử tri và tiết lộ số phiếu tổng hợp - việc trước là vi phạm quyền riêng tư, việc sau gần với vi phạm quy tắc kinh doanh hơn.
Tuy nhiên, vụ việc đặt ra một câu hỏi mà cả quan chức Anthropic và Georgia đều không trả lời đầy đủ: ai phải chịu trách nhiệm khi một đặc vụ AI, hoạt động mà không có con người tham gia, thực hiện hành động vi phạm các điều khoản truy cập thông tin của chính phủ? Công ty đã không xin lỗi vì tài khoản của họ không có gì bị cấm truy cập - chỉ có dữ liệu được kiểm soát có tính phí. Nhà nước đã xác nhận không có vi phạm hệ thống đăng ký của mình. Khoảng cách giữa hai khung đó là nơi diễn ra cuộc tranh luận về chính sách.
Đối với các công ty triển khai các tác nhân tự trị, các bài học thực tế đã xuất hiện: các bức tường thanh toán và cổng mã thông báo cần được coi là ranh giới kiểm soát truy cập, các tác nhân cần có phạm vi cấp phép rõ ràng đối với các yêu cầu bên ngoài và bất kỳ tương tác nào với các hệ thống của chính phủ — thậm chí cả các hệ thống công cộng — có thể đảm bảo yêu cầu phê duyệt của con người trong các giai đoạn nhạy cảm như bầu cử.
Về phần mình, Anthropic cho biết các biện pháp giảm thiểu đã được áp dụng. Liệu họ có chống lại mô hình gây tò mò tiếp theo hay không là câu hỏi mà mọi phòng thí nghiệm AI hiện đang thử nghiệm hiệu quả trong sản xuất.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
