Viện nghiên cứu giả mạo của Hoa Kỳ lần đầu tiên bị vạch trần vào tuần trước hiện đã được Guardian định lượng: 124 báo cáo và 560.000 từ trong chín ngày, được xây dựng trên nền tảng thương mại hứa hẹn sẽ tối ưu hóa nội dung để các chatbot AI sẽ trích dẫn nội dung đó - với dấu vết tài trợ của chính phủ Israel được ghi lại trong hồ sơ của Bộ Tư pháp Hoa Kỳ. Đây là ví dụ công khai rõ ràng nhất về các tác nhân có liên kết với nhà nước nhắm vào chính lớp câu trả lời AI: không phải độc giả mà là các mô hình ngày càng lên tiếng thay họ. Đó là loại câu chuyện mà đưa tin trong ngành AI của chúng tôi theo dõi khi thao tác chatbot trở nên công nghiệp. (Chúng tôi đã đề cập đến khám phá ban đầu của trang web tại đây.)

Một thinktank không tồn tại

Trang này xuất bản dưới tên Viện Chính sách công Hanover. Theo Jason Wilson của Guardian, viện này dường như không tồn tại với tư cách là một thực thể pháp lý ở bất kỳ khu vực tài phán nào, không có địa chỉ vật lý và không có nhân viên được nêu tên cũng như không có dòng tên nào trên bất kỳ báo cáo nào của nó. Các điều khoản sử dụng riêng của nó được điều chỉnh bởi luật pháp của "tiểu bang nơi Viện được thành lập" - một tiểu bang mà tài liệu từ chối nêu tên.

Quy mô sản xuất là công nghiệp. Từ ngày 6 tháng 8 đến ngày 14 tháng 8, Viện Hanover đã công bố 124 báo cáo với tổng số hơn 560.000 từ, trung bình mỗi báo cáo khoảng 4.500 từ. Chỉ riêng trong ngày 12 và 13 tháng 8, nó đã tạo ra 73 báo cáo với số lượng gần 354.000 từ. Không có gì được công bố kể từ khi các báo cáo truyền thông đầu tiên về trang web xuất hiện.

Được thiết kế cho lớp trả lời chatbot

Điều đánh dấu hoạt động này là mới lạ nằm ở mục tiêu của nó. Tất cả, ngoại trừ một trong số 124 tiêu đề đều mở đầu bằng một câu hỏi giống như câu hỏi mà người dùng có thể nhập vào một chatbot - "Có phải chủ nghĩa bài Do Thái chống chủ nghĩa Do Thái?", "Israel có trục xuất người Palestine khỏi vùng đất của họ không?", "Israel có đang tiến hành một cuộc diệt chủng ở Gaza không?" Các báo cáo trình bày quan điểm của Israel về việc tra tấn tù nhân Palestine, tội ác chiến tranh và nạn đói ở Gaza là nghiên cứu trung lập, được định dạng để thu hồi máy.

Các cơ chế được ghi lại trong hồ sơ chính thức. Công ty sản xuất truyền thông Piro Inc ở New York đã đăng ký địa điểm này với Bộ Tư pháp Hoa Kỳ trong tháng này theo Đạo luật Đăng ký Đại lý Nước ngoài (Fara), một đạo luật năm 1938 yêu cầu tiết lộ thông tin công việc của các chính phủ nước ngoài, cũng như tài liệu mà công ty này phân phối cho chính phủ Israel. The Guardian cho biết nỗ lực này được chính phủ Israel tài trợ hàng chục triệu đô la, được chuyển thông qua các bên thứ ba, bao gồm cả tập đoàn quảng cáo châu Âu Havas Media. Một hợp đồng giữa Havas và một công ty Mỹ khác thực hiện chiến dịch này cam kết "triển khai các trang web và nội dung để cung cấp kết quả định khung GPT trên các cuộc hội thoại GPT".

Sau khi sự tồn tại của trang này được báo cáo lần đầu tiên vào ngày 14 tháng 8, viện đã lặng lẽ thêm một trang tài trợ có đính chính: "Phiên bản trước đó của trang này cho biết Viện hoạt động mà không có nguồn tài trợ bên ngoài, và điều đó đúng khi nó được viết ra." The Guardian đã liên hệ với Piro Inc, Havas Media và công ty quảng cáo LaPam của chính phủ Israel để bình luận.

Tại sao chatbot là chiến trường mới

Chiến lược này đã có tên trong ngành tiếp thị - tối ưu hóa công cụ tổng quát, hay GEO - và nó là nguyên tắc kế thừa của tối ưu hóa công cụ tìm kiếm. Khi một chatbot trả lời một câu hỏi, nó sẽ dựa vào kho dữ liệu đào tạo và các nguồn truy xuất của nó. Nội dung phong phú, có định dạng câu hỏi và được trình bày theo kiểu nghiên cứu có thẩm quyền sẽ có nhiều khả năng được hiển thị, trích dẫn hoặc hấp thụ vào câu trả lời của mô hình hơn. Một thinktank giả mạo gần như là tạo tác GEO lý tưởng: uy tín của thể chế mà không cần đến thể chế.

Thời điểm phản ánh sự tuyệt vọng cũng như sự tinh tế. The Guardian lưu ý rằng chiến dịch này diễn ra khi vị thế của Israel trong dư luận Mỹ đã sụp đổ và khi các quan chức Israel thông báo với các phương tiện truyền thông rằng số tiền chi cho hoạt động ngoại giao công chúng "Hasbara" ở nước ngoài đã bị lãng phí.

Viện Hanover không phải là trường hợp cá biệt. Cùng ngày Guardian công bố cuộc điều tra của mình, OpenAI thông báo họ đã phá vỡ một chiến dịch gây ảnh hưởng bí mật mới của Nga bằng cách sử dụng AI - vụ mới nhất trong một loạt vụ triệt phá mà công ty quy cho các tác nhân có liên quan đến nhà nước. Hai hoạt động riêng biệt, hai lục địa, một cái nhìn sâu sắc được chia sẻ: các mô hình gây ảnh hưởng hiện rẻ hơn và bền hơn so với việc gây ảnh hưởng trực tiếp đến con người.

Khoảng cách quản trị

Đối với các cơ quan quản lý, vụ việc này đã bộc lộ một lỗ hổng trong các khuôn khổ hiện có. Tiết lộ của Fara đã ghi lại hoạt động trên giấy tờ, nhưng chỉ sau khi nội dung đó được đưa vào hoạt động và có khả năng được đưa vào. Các điều khoản minh bạch của Đạo luật AI của EU và các khuôn khổ tự nguyện quản lý nguồn gốc dữ liệu đào tạo không được thiết kế cho một thế giới nơi con đường rẻ nhất dẫn đến niềm tin của người dân thông qua các chatbot.

Đối với các phòng thí nghiệm AI, câu hỏi vận hành được đặt ra ngay lập tức: làm thế nào để hệ thống truy xuất và quy trình đào tạo phân biệt nghiên cứu với các trang trại nội dung mặc quần áo nghiên cứu? Khối lượng, định dạng và những trích dẫn đáng tin cậy - những tín hiệu của quyền lực - chính xác là những gì Viện Hanover sản xuất hàng loạt. Cho đến khi các mô hình có nguồn gốc xuất xứ tốt hơn, nửa triệu từ đã có sẵn và không có tiết lộ nào được đưa ra sau khi thực tế thu hồi chúng.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →