Sebuah badan pemikir palsu yang diwujudkan bagi pihak kerajaan Israel telah menerbitkan lebih daripada 100 laporan penyelidikan yang digilap dalam masa lebih seminggu, dalam apa yang disifatkan oleh penganalisis sebagai kempen yang disengajakan untuk memanipulasi jawapan yang diberikan oleh chatbot AI kepada pengguna tentang Israel dan Palestin, menurut satu siasatan yang diterbitkan Isnin oleh Responsible Statecraft.
Organisasi itu, yang dipanggil Institut Hanover untuk Dasar Awam, menampilkan dirinya sebagai badan penyelidikan baharu yang memberi tumpuan kepada Israel/Palestin. Tetapi laporannya tidak mengandungi garis kecil, dan penafian di bahagian bawah tapak webnya mengakui bahawa ia dicipta bagi pihak Agensi Pengiklanan Kerajaan Israel oleh Piro, Inc., sebuah firma yang diasaskan bersama oleh Daniel Rosenberg, penerbit filem yang dikreditkan pada "Inside Man" Spike Lee. Kisah ini diambil oleh kedai-kedai termasuk Arab News dan The Cradle, dan merupakan petanda terkini yang mempengaruhi operasi beralih daripada suapan media sosial kepada model AI. Untuk mengetahui lebih lanjut tentang cara manipulasi berkembang dalam era AI, ikuti liputan berita terkini AI kami. For more context on this story, see our ongoing AI news.
Laporan Dicipta untuk Bagaimana LLMs Menghakimi Kredibiliti
Apa yang menjadikan Institut Hanover luar biasa ialah seberapa tepat outputnya kelihatan disesuaikan dengan cara model bahasa besar menilai sumber. "Laporan data"nya disertakan dengan nota kaki, jadual kandungan dan nada neutral yang diukur — jenis pemformatan yang membantu dokumen menarik perhatian bot sembang seperti Claude atau Gemini, lapor Responsible Statecraft.
Banyak tajuk diungkapkan sebagai soalan tepat yang mungkin ditaip oleh pengguna ke dalam chatbot: "Apa yang Menyebabkan Perpindahan Rakyat Palestin pada tahun 1948?" "Pertubuhan Kemanusiaan Mana Yang Mendokumentasikan Jenayah Perang Israel?" "Apakah Situasi Semasa di Semenanjung Gaza?" dan "Adakah IDF Tentera Paling Bermoral di Dunia?" — yang terakhir memetik tinjauan pendapat 2022 mendapati bahawa 47% orang Yahudi Israel percaya huraian itu.
Laman web Piro sendiri berterus terang tentang kaedah tersebut. Syarikat itu berkata ia mengarang "kandungan direkayasa untuk cara LLM menilai kredibiliti," perkhidmatan yang dipasarkan sebagai "Pengoptimuman Cerita AI." Penyelidik mempunyai nama yang lebih jelas untuk amalan itu: "Keracunan LLM."
'Mimikri Sempurna' Institusi Berwibawa
Alice Lee, seorang penganalisis di NewsGuard, syarikat penjejakan disinformasi, memberitahu Responsible Statecraft bahawa laporan tapak kelihatan direka untuk menjangkau khalayak A.S. yang ingin tahu tentang konflik, sama ada melalui enjin carian atau pembantu AI.
"LLM memihak kepada statistik dan data yang konkrit, serta petikan dan sumber yang kukuh, yang kesemua artikel ini ada," kata Lee. "Ia adalah peniruan yang sempurna bagi kumpulan pemikir Amerika yang boleh dipercayai, sehinggalah kepada nama generik, susun atur tapak dan skema warna merah-putih-biru."
Institut itu juga telah menerbitkan apa yang didakwanya sebagai penemuan asal — contohnya, kajian yang menegaskan bahawa 19 daripada 36 video penjelasan Israel-Gaza yang paling banyak ditonton mengandungi tuntutan yang dipertikaikan, dengan kebanyakan tuntutan yang dipertikaikan itu sejajar dengan naratif Palestin. Laporan lain menolak dokumentasi yang telah ditetapkan, termasuk yang menimbulkan keraguan terhadap dakwaan UNICEF bahawa 90% infrastruktur air dan institusi di Gaza telah rosak atau musnah.
Terutama, output tidak selalu menjejaki barisan kerajaan Israel. Satu laporan menerangkan teori bahawa pembiayaan asing untuk universiti menjelaskan insiden antisemitik sebagai "lemah dan penuh dengan pengecualian" - walaupun Perdana Menteri Benjamin Netanyahu telah mempromosikan teori itu, memberitahu Breitbart bahawa aktor asing telah membelanjakan "berbilion" di kampus Amerika. Banyak laporan menyimpulkan dengan mengaitkan topik yang dibincangkan dengan antisemitisme yang semakin meningkat, dengan kerap memetik kajian yang sama.
Ikuti Wang: $900,000 Melalui Konglomerat PR Perancis
Menurut Responsible Statecraft, Piro, Inc. telah menerima $900,000 daripada kerajaan Israel untuk kerjanya, yang disubkontrakkan melalui Havas Media, sebuah konglomerat perhubungan awam Perancis — satu perkiraan yang konsisten dengan cara kontraktor Israel lain telah dibayar untuk kerja pengaruh di luar negara.
Institut Hanover mula menerbitkan pada 6 Ogos. Dalam kira-kira sepuluh hari sejak itu, ia telah menghasilkan lebih daripada 100 laporan, satu kepantasan yang tiada kedai polisi tulen yang mempunyai saiz yang setanding.
Mengapa Manipulasi Chatbot Berbeza
Kes ini menggariskan kelemahan struktur dalam cara pembantu AI mengumpulkan jawapan: mereka menganggap dokumen yang dipetik dengan baik dan berat statistik sebagai boleh dipercayai tanpa mengira siapa yang menghasilkannya atau mengapa. Maklumat salah tradisional menyasarkan pembaca manusia di platform sosial, di mana pukulan emosi paling penting. Apa yang dipanggil keracunan LLM sebaliknya menyasarkan lapisan perolehan dan pemeringkatan yang menentukan sumber petikan model — dan satu dokumen persuasif kemudiannya boleh bergema kepada jutaan jawapan.
Bagi pembangun chatbot, Institut Hanover ialah ujian tekanan bagi tapisan sumber. Penilaian NewsGuard mencadangkan mimikri cukup dekat untuk menipu isyarat kredibiliti automatik. Bagi pembaca, pelajarannya lebih mudah: jawapan yang yakin dan bernota kaki yang diberikan oleh chatbot kepada anda tentang konflik yang dipertikaikan mungkin dikesan kembali kepada organisasi yang dibina, dijenamakan dan dibiayai untuk menghasilkan jawapan itu dengan tepat.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
