Sebuah wadah pemikir palsu yang dibuat atas nama pemerintah Israel telah menerbitkan lebih dari 100 laporan penelitian yang disempurnakan hanya dalam waktu seminggu, yang oleh para analis digambarkan sebagai kampanye yang disengaja untuk memanipulasi jawaban yang diberikan oleh chatbot AI kepada pengguna tentang Israel dan Palestina, menurut sebuah investigasi yang diterbitkan pada hari Senin oleh Responsible Statecraft.
Organisasi tersebut, yang disebut Hanover Institute for Public Policy, menampilkan dirinya sebagai badan penelitian baru yang berfokus pada Israel/Palestina. Namun laporan-laporannya tidak memuat catatan kecil, dan penafian di bagian bawah situs webnya menyatakan bahwa iklan tersebut dibuat atas nama Badan Periklanan Pemerintah Israel oleh Piro, Inc., sebuah perusahaan yang didirikan oleh Daniel Rosenberg, seorang produser film yang juga ikut berperan dalam film "Inside Man" karya Spike Lee. Kisah ini diangkat oleh berbagai media termasuk Arab News dan The Cradle, dan merupakan tanda terbaru bahwa pengaruh operasi beralih dari media sosial ke model AI. Untuk mengetahui lebih lanjut tentang bagaimana manipulasi berkembang di era AI, ikuti liputan berita AI terkini kami. For more context on this story, see our ongoing AI trends.
Laporan Direkayasa untuk Bagaimana LLM Menilai Kredibilitas
Apa yang membuat Hanover Institute tidak biasa adalah bagaimana keluarannya disesuaikan dengan cara model bahasa besar mengevaluasi sumber. "Laporan data"-nya dilengkapi dengan catatan kaki, daftar isi, dan nada netral yang terukur — jenis format yang membantu dokumen menarik bagi chatbot seperti Claude atau Gemini, Responsible Statecraft melaporkan.
Banyak dari judul-judul tersebut diutarakan sebagai pertanyaan yang persis seperti yang mungkin diketik pengguna ke dalam chatbot: "Apa yang Menyebabkan Pengungsian Warga Palestina pada tahun 1948?" "Organisasi Kemanusiaan Manakah yang Mendokumentasikan Kejahatan Perang Israel?" “Bagaimana Situasi Saat Ini di Jalur Gaza?” dan "Apakah IDF Tentara Paling Bermoral di Dunia?" — yang terakhir mengutip temuan jajak pendapat tahun 2022 bahwa 47% orang Yahudi Israel mempercayai gambaran tersebut.
Website Piro sendiri blak-blakan mengenai metode ini. Perusahaan tersebut mengatakan bahwa mereka menulis "konten yang dirancang untuk bagaimana LLM mengevaluasi kredibilitas", sebuah layanan yang dipasarkan sebagai "AI Story Optimization". Para peneliti memiliki nama yang lebih jelas untuk praktik ini: "keracunan LLM".
'Mimikri Sempurna' dari Institusi yang Kredibel
Alice Lee, seorang analis di NewsGuard, perusahaan pelacakan disinformasi, mengatakan kepada Responsible Statecraft bahwa laporan situs tersebut tampaknya dirancang untuk menjangkau khalayak AS yang penasaran dengan konflik tersebut, baik melalui mesin pencari atau asisten AI.
“LLM menyukai statistik dan data yang konkrit, serta kutipan dan sumber yang kuat, yang dimiliki oleh semua artikel ini,” kata Lee. “Ini adalah tiruan sempurna dari lembaga think tank Amerika yang kredibel, mulai dari nama umum, tata letak situs, dan skema warna merah-putih-biru.”
Lembaga ini juga telah menerbitkan apa yang mereka klaim sebagai temuan asli – misalnya, sebuah penelitian menyatakan bahwa 19 dari 36 video penjelasan Israel-Gaza yang paling banyak ditonton berisi klaim yang diperdebatkan, dan sebagian besar klaim yang dipermasalahkan tersebut sejalan dengan narasi Palestina. Laporan lain menentang dokumentasi yang sudah ada, termasuk laporan yang meragukan pernyataan UNICEF bahwa 90% infrastruktur air dan kelembagaan di Gaza telah rusak atau hancur.
Khususnya, hasilnya tidak selalu sejalan dengan kebijakan pemerintah Israel. Sebuah laporan menggambarkan teori bahwa pendanaan asing untuk universitas-universitas menjelaskan insiden-insiden antisemitisme sebagai hal yang "lemah dan penuh pengecualian" - meskipun Perdana Menteri Benjamin Netanyahu telah mempromosikan teori tersebut, dengan mengatakan kepada Breitbart bahwa aktor-aktor asing telah menghabiskan "miliar dolar" di kampus-kampus Amerika. Banyak laporan menyimpulkan dengan menghubungkan topik yang dibahas dengan meningkatnya antisemitisme, dan sering kali mengutip penelitian yang sama.
Ikuti Uang: $900.000 Melalui Konglomerat PR Prancis
Menurut Responsible Statecraft, Piro, Inc. telah menerima $900,000 dari pemerintah Israel untuk pekerjaannya, yang disubkontrakkan melalui Havas Media, konglomerat hubungan masyarakat Perancis – sebuah pengaturan yang konsisten dengan bagaimana kontraktor Israel lainnya dibayar untuk pekerjaan pengaruh di luar negeri.
Hanover Institute mulai menerbitkan laporannya pada tanggal 6 Agustus. Dalam sepuluh hari sejak itu, Hanover Institute telah menghasilkan lebih dari 100 laporan, suatu kecepatan yang tidak dapat didukung oleh lembaga kebijakan asli dengan ukuran yang sebanding.
Mengapa Manipulasi Chatbot Berbeda
Kasus ini menggarisbawahi kelemahan struktural dalam cara asisten AI mengumpulkan jawaban: mereka memperlakukan dokumen yang banyak dikutip dan berisi statistik sebagai hal yang kredibel, terlepas dari siapa yang memproduksinya atau mengapa. Disinformasi tradisional menyasar pembaca manusia di platform sosial, di mana dampak emosional adalah hal yang paling penting. Apa yang disebut keracunan LLM justru menargetkan lapisan pengambilan dan pemeringkatan yang menentukan sumber mana yang dikutip oleh model – dan satu dokumen persuasif kemudian dapat menghasilkan jutaan jawaban.
Bagi pengembang chatbot, Hanover Institute adalah uji stres pemeriksaan sumber. Penilaian NewsGuard menunjukkan bahwa mimikri tersebut cukup mirip untuk mengelabui sinyal kredibilitas otomatis. Bagi pembaca, pelajarannya lebih sederhana: jawaban yang percaya diri dan jelas yang diberikan chatbot kepada Anda tentang konflik yang diperebutkan mungkin berasal dari sebuah organisasi yang dibangun, diberi merek, dan didanai untuk menghasilkan jawaban yang persis seperti itu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
