Một tổ chức tư vấn giả mạo được thành lập thay mặt chính phủ Israel đã xuất bản hơn 100 báo cáo nghiên cứu bóng bẩy chỉ trong hơn một tuần, trong những gì các nhà phân tích mô tả là một chiến dịch có chủ ý nhằm thao túng các câu trả lời mà chatbot AI cung cấp cho người dùng về Israel và Palestine, theo một cuộc điều tra được công bố hôm thứ Hai bởi tổ chức có trách nhiệm Statecraft.
Tổ chức này có tên là Viện Chính sách Công Hanover, thể hiện mình là một cơ quan nghiên cứu mới tập trung vào Israel/Palestine. Nhưng các báo cáo của nó không có dòng tên nào và tuyên bố từ chối trách nhiệm ở cuối trang web thừa nhận rằng nó được tạo ra thay mặt cho Cơ quan Quảng cáo Chính phủ Israel bởi Piro, Inc., một công ty được đồng sáng lập bởi Daniel Rosenberg, một nhà sản xuất phim được ghi nhận trong "Inside Man" của Spike Lee. Câu chuyện đã được các hãng tin bao gồm Arab News và The Cradle săn đón, đồng thời là dấu hiệu mới nhất cho thấy các hoạt động gây ảnh hưởng đang chuyển từ nguồn cấp dữ liệu mạng xã hội sang mô hình AI. Để biết thêm về cách thao tác đang phát triển trong kỷ nguyên AI, hãy theo dõi tin tức mới nhất về AI của chúng tôi. For more context on this story, see our ongoing more AI stories.
Báo cáo được thiết kế để đánh giá độ tin cậy của LLM
Điều khiến Viện Hanover trở nên khác thường là kết quả đầu ra của nó xuất hiện chính xác như thế nào phù hợp với cách các mô hình ngôn ngữ lớn đánh giá các nguồn. "Báo cáo dữ liệu" của nó đi kèm với chú thích cuối trang, mục lục và giọng điệu trung tính, đo lường - loại định dạng giúp tài liệu thu hút các chatbot như Claude hoặc Gemini, có trách nhiệm Statecraft đưa tin.
Nhiều tiêu đề được đặt thành những câu hỏi chính xác mà người dùng có thể nhập vào chatbot: "Điều gì đã gây ra sự di dời của người Palestine vào năm 1948?" “Những tổ chức nhân đạo nào đã ghi lại tội ác chiến tranh của Israel?” "Tình hình hiện tại ở Dải Gaza là gì?" và "IDF có phải là Quân đội có đạo đức nhất thế giới không?" - trong đó trích dẫn một cuộc thăm dò năm 2022 cho thấy 47% người Do Thái ở Israel tin vào mô tả đó.
Trang web riêng của Piro rất thẳng thắn về phương pháp này. Công ty cho biết họ là tác giả của "nội dung được thiết kế để cách LLM đánh giá độ tin cậy", một dịch vụ mà họ tiếp thị là "Tối ưu hóa câu chuyện AI". Các nhà nghiên cứu đặt một cái tên ngắn gọn hơn cho phương pháp này: "ngộ độc LLM".
Một 'sự bắt chước hoàn hảo' của một tổ chức đáng tin cậy
Alice Lee, một nhà phân tích tại NewsGuard, công ty theo dõi thông tin sai lệch, nói với có trách nhiệm Statecraft rằng các báo cáo của trang này dường như được thiết kế để tiếp cận khán giả Hoa Kỳ tò mò về cuộc xung đột, cho dù thông qua công cụ tìm kiếm hay trợ lý AI.
Lee nói: “LLM ủng hộ số liệu thống kê và dữ liệu cụ thể cũng như các trích dẫn và nguồn mạnh mẽ mà những bài báo này đều có. "Đó là sự mô phỏng hoàn hảo của một tổ chức tư vấn đáng tin cậy điển hình của Mỹ, ngay từ tên chung, cách bố trí trang web và cách phối màu đỏ-trắng-xanh."
Viện cũng đã công bố những gì họ tuyên bố là những phát hiện ban đầu - ví dụ: một nghiên cứu khẳng định rằng 19 trong số 36 video giải thích Israel-Gaza được xem nhiều nhất có chứa các tuyên bố gây tranh cãi, trong đó hầu hết các tuyên bố gây tranh cãi đó đều phù hợp với câu chuyện của người Palestine. Các báo cáo khác phản đối các tài liệu đã được xác lập, bao gồm cả báo cáo gây nghi ngờ về khẳng định của UNICEF rằng 90% cơ sở hạ tầng về nước và thể chế ở Gaza đã bị hư hại hoặc phá hủy.
Đáng chú ý, đầu ra không phải lúc nào cũng theo đường lối của chính phủ Israel. Một báo cáo mô tả lý thuyết rằng nguồn tài trợ nước ngoài cho các trường đại học giải thích các vụ việc chống Do Thái là "yếu và đầy ngoại lệ" - mặc dù Thủ tướng Benjamin Netanyahu đã ủng hộ lý thuyết đó và nói với Breitbart rằng các tác nhân nước ngoài đã chi "hàng tỷ USD" cho các trường đại học ở Mỹ. Nhiều báo cáo kết luận bằng cách liên kết chủ đề hiện tại với chủ nghĩa bài Do Thái đang gia tăng, thường trích dẫn các nghiên cứu tương tự.
Đi theo tiền: 900.000 đô la thông qua một tập đoàn PR của Pháp
Theo CSR có trách nhiệm, Piro, Inc. đã nhận được 900.000 USD từ chính phủ Israel cho công việc của mình, được ký hợp đồng phụ thông qua Havas Media, một tập đoàn quan hệ công chúng của Pháp - một thỏa thuận phù hợp với cách các nhà thầu Israel khác được trả tiền cho công việc gây ảnh hưởng ở nước ngoài.
Viện Hanover bắt đầu xuất bản vào ngày 6 tháng 8. Trong khoảng 10 ngày kể từ đó, viện đã đưa ra hơn 100 báo cáo, một tốc độ mà không cơ quan chính sách chân chính nào có quy mô tương đương có thể duy trì được.
##Tại sao thao tác Chatbot lại khác biệt
Vụ việc nhấn mạnh điểm yếu về cấu trúc trong cách trợ lý AI tập hợp các câu trả lời: họ coi các tài liệu nặng về số liệu thống kê, được trích dẫn tốt là đáng tin cậy bất kể ai đã tạo ra chúng hoặc tại sao. Thông tin sai lệch truyền thống nhắm vào độc giả là con người trên các nền tảng xã hội, nơi mà cú đấm cảm xúc quan trọng nhất. Thay vào đó, cái gọi là ngộ độc LLM nhắm vào các lớp truy xuất và xếp hạng quyết định nguồn trích dẫn của mô hình - và sau đó, một tài liệu thuyết phục duy nhất có thể tạo ra hàng triệu câu trả lời.
Đối với các nhà phát triển chatbot, Viện Hanover là một bài kiểm tra căng thẳng về việc kiểm tra nguồn. Đánh giá của NewsGuard cho thấy hành vi bắt chước đủ gần để đánh lừa các tín hiệu đáng tin cậy tự động. Đối với người đọc, bài học đơn giản hơn: câu trả lời tự tin, được chú thích rõ ràng mà chatbot đưa ra cho bạn về một cuộc xung đột đang tranh cãi có thể truy nguyên đến một tổ chức được xây dựng, gắn nhãn hiệu và tài trợ để đưa ra câu trả lời chính xác đó.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
