A think tank palsu digawe atas jenenge pamaréntah Israel wis nerbitaké luwih saka 100 laporan riset polesan mung liwat minggu, ing apa analis diterangake minangka kampanye disengaja kanggo ngapusi jawaban sing AI chatbots menehi kedhaftar bab Israel lan Palestina, miturut diselidiki diterbitake ana dening Responsible Statecraft.
Organisasi kasebut, sing diarani Hanover Institute for Public Policy, nampilake awake dhewe minangka badan riset anyar sing fokus ing Israel/Palestina. Nanging laporan kasebut ora ana garis garis, lan wewaler ing sisih ngisor situs web kasebut ngakoni manawa digawe atas jenenge Badan Periklanan Pemerintah Israel dening Piro, Inc., perusahaan sing diadegake bebarengan karo Daniel Rosenberg, produser film sing dikreditake ing Spike Lee "Inside Man." Crita kasebut dijupuk dening toko kalebu Arab News lan The Cradle, lan minangka tandha paling anyar yen pengaruhe operasi ganti saka feed media sosial menyang model AI. Kanggo luwih lengkap babagan cara manipulasi berkembang ing jaman AI, tututi liputan warta AI sing bubar. For more context on this story, see our ongoing AI news.
Laporan Direkayasa kanggo Carane LLMs Judge Kredibilitas
Sing ndadekake Institut Hanover ora biasa yaiku kepiye outpute katon cocog karo cara model basa gedhe ngevaluasi sumber. "Laporan data" kasebut dilengkapi cathetan kaki, tabel isi, lan nada netral sing diukur - jinis format sing mbantu dokumen narik kawigaten chatbots kayata Claude utawa Gemini, lapor Responsible Statecraft.
Akeh judhul sing diucapake minangka pitakonan sing tepat sing bisa diketik pangguna menyang chatbot: "Apa sing Nimbulake Pemindahan Warga Palestina ing taun 1948?" "Organisasi Kemanusiaan Endi sing Ndhaptar Kadurjanan Perang Israel?" "Apa Kahanan Saiki ing Jalur Gaza?" lan "Apa IDF minangka Tentara Paling Moral ing Donya?" - sing pungkasan nyatakake polling 2022 sing nemokake manawa 47% wong Yahudi Israel percaya katrangan kasebut.
Situs web Piro dhewe blak-blakan babagan cara kasebut. Perusahaan kasebut ujar manawa penulis "konten direkayasa babagan carane LLM ngevaluasi kredibilitas," layanan sing dipasarake minangka "AI Story Optimization." Peneliti duwe jeneng blunter kanggo laku: "LLM poisoning."
'Mimikri Sampurna' saka Institusi sing Bisa Dipercaya
Alice Lee, analis ing NewsGuard, perusahaan pelacak disinformasi, ngandhani Responsible Statecraft yen laporan situs kasebut katon dirancang kanggo nggayuh pamirsa AS sing kepengin weruh konflik kasebut, liwat mesin telusur utawa asisten AI.
"LLMs milih statistik lan data konkrit, uga kutipan lan sumber sing kuat, sing kabeh artikel iki duwe," ujare Lee. "Iki minangka mimicry sampurna saka think tank Amérika sing bisa dipercaya, nganti jeneng umum, tata letak situs, lan skema warna abang-putih-biru."
Institusi kasebut uga nerbitake apa sing diklaim minangka temuan asli - contone, panaliten sing negesake manawa 19 saka 36 video panjelasan Israel-Gaza sing paling ditonton ngemot klaim sing ditandingi, kanthi umume klaim sing ditandingi selaras karo narasi Palestina. Laporan liyane nyurung dokumentasi sing wis diadegake, kalebu sing nggawe keraguan babagan pernyataan UNICEF manawa 90% infrastruktur banyu lan institusi ing Gaza wis rusak utawa rusak.
Utamane, output ora mesthi nglacak garis pamrentah Israel. Siji laporan nggambarake teori yen pendanaan universitas asing nerangake kedadeyan antisemitik minangka "lemah lan kebak pengecualian" - sanajan Perdana Menteri Benjamin Netanyahu wis promosi teori kasebut, ngandhani Breitbart yen aktor asing wis ngentekake "miliar" ing kampus Amerika. Akeh laporan nyimpulake kanthi ngubungake topik sing ana ing tangan karo antisemitisme sing mundhak, asring nyebutake studi sing padha.
Tindakake Dhuwit: $ 900.000 Liwat Konglomerat PR Prancis
Miturut Responsible Statecraft, Piro, Inc. wis nampa $900.000 saka pamrentah Israel kanggo pakaryane, sing disubkontrak liwat Havas Media, konglomerat hubungan masyarakat Prancis - pengaturan sing konsisten karo carane kontraktor Israel liyane dibayar kanggo kerja pengaruh ing luar negeri.
Institut Hanover wiwit nerbitake tanggal 6 Agustus. Ing kira-kira sepuluh dina wiwit, iku wis churned metu luwih saka 100 laporan, jangkah sing ora toko privasi asli saka ukuran iso dibandhingke nyonggo.
Napa Manipulasi Chatbot Beda
Kasus kasebut negesake kelemahan struktural babagan carane asisten AI nglumpukake jawaban: dheweke nganggep dokumen sing dikutip kanthi statistik sing bisa dipercaya, ora preduli sapa sing ngasilake utawa ngapa. Disinformasi tradisional nargetake pembaca manungsa ing platform sosial, ing ngendi pukulan emosional paling penting. Dadi-disebut peracunan LLM tinimbang target retrieval lan peringkat lapisan sing mutusaké sumber kuotasi model - lan siji document persuasif banjur bisa echo menyang mayuta-yuta jawaban.
Kanggo pangembang chatbot, Institut Hanover minangka tes stres saka vetting sumber. Assessment NewsGuard nyaranake mimikri cukup cedhak kanggo ngapusi sinyal kredibilitas otomatis. Kanggo sing maca, pawulangan luwih gampang: jawaban sing yakin lan apik sing ditawakake chatbot babagan konflik sing ditandingi bisa dilacak maneh menyang organisasi sing dibangun, dicap, lan didanai kanggo ngasilake jawaban kasebut.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
