En falsk tankesmedja skapad på uppdrag av den israeliska regeringen har publicerat mer än 100 polerade forskningsrapporter på drygt en vecka, i vad analytiker beskriver som en medveten kampanj för att manipulera svaren som AI-chatbotar ger användare om Israel och Palestina, enligt en undersökning som publicerades i måndags av Responsible Statecraft.
Organisationen, kallad Hanover Institute for Public Policy, presenterar sig som ett nytt forskningsorgan med fokus på Israel/Palestina. Men dess rapporter har inga bylines, och en ansvarsfriskrivning längst ner på webbplatsen bekräftar att den skapades på uppdrag av den israeliska regeringens reklambyrå av Piro, Inc., ett företag som grundades av Daniel Rosenberg, en filmproducent som krediteras på Spike Lees "Inside Man". Berättelsen plockades upp av butiker inklusive Arab News och The Cradle, och är det senaste tecknet på att påverkansverksamheter flyttas från sociala medier till AI-modeller. För mer om hur manipulation utvecklas under AI-eran, följ vår senaste AI-nyhet. For more context on this story, see our ongoing AI industry coverage.
Rapporter utformade för hur LLMs bedömer trovärdighet
Det som gör Hannoverinstitutet ovanligt är hur exakt dess produktion ser ut att vara skräddarsydd för hur stora språkmodeller utvärderar källor. Dess "datarapporter" kommer med fotnoter, innehållsförteckningar och en uppmätt, neutral ton - den typ av formatering som hjälper dokument att tilltala chatbots som Claude eller Gemini, rapporterade Responsible Statecraft.
Många av titlarna är formulerade som de exakta frågorna en användare kan skriva in i en chatbot: "Vad orsakade fördrivningen av palestinier 1948?" "Vilka humanitära organisationer har dokumenterat israeliska krigsförbrytelser?" "Vad är den nuvarande situationen i Gazaremsan?" och "Är IDF världens mest moraliska armé?" — den sista citerar en undersökning från 2022 som fann att 47 % av de israeliska judarna trodde på den beskrivningen.
Piros egen hemsida är bra på metoden. Företaget säger att det skapar "innehåll som är utformat för hur LLM:er utvärderar trovärdighet", en tjänst som det marknadsför som "AI Story Optimization." Forskare har ett trubbigare namn för praktiken: "LLM-förgiftning."
En "perfekt mimik" av en trovärdig institution
Alice Lee, analytiker på NewsGuard, företaget för spårning av desinformation, sa till Responsible Statecraft att sajtens rapporter verkar utformade för att nå en amerikansk publik som är nyfiken på konflikten, oavsett om det är genom sökmotorer eller AI-assistenter.
"LLMs föredrar konkret statistik och data, såväl som starka citat och källor, som alla dessa artiklar har," sa Lee. "Det är en perfekt mimik av en typisk trovärdig amerikansk tankesmedja, ända ner till det generiska namnet, webbplatsens layout och färgschemat rött-vitt-blått."
Institutet har också publicerat vad det hävdar är ursprungliga rön – till exempel en studie som hävdar att 19 av de 36 mest sedda förklaringsvideorna mellan Israel och Gaza innehåller omtvistade påståenden, med de flesta av de ifrågasatta påståendena i linje med den palestinska berättelsen. Andra rapporter slår tillbaka mot etablerad dokumentation, inklusive en som tvivlar på UNICEF:s påstående att 90 % av vatten och institutionell infrastruktur i Gaza har skadats eller förstörts.
Noterbart är att produktionen inte alltid följer den israeliska regeringens linje. En rapport beskriver teorin att utländsk finansiering av universitet förklarar antisemitiska incidenter som "svaga och fulla av undantag" - även om premiärminister Benjamin Netanyahu har främjat den teorin och berättat för Breitbart att utländska aktörer har spenderat "miljarder" på amerikanska campus. Många rapporter avslutar med att koppla det aktuella ämnet till ökande antisemitism, ofta med hänvisning till samma studier.
Följ pengarna: $900 000 genom ett franskt PR-konglomerat
Enligt Responsible Statecraft har Piro, Inc. fått 900 000 USD från den israeliska regeringen för sitt arbete, underleverantörer genom Havas Media, ett franskt PR-konglomerat – ett arrangemang som överensstämmer med hur andra israeliska entreprenörer har fått betalt för arbete med inflytande utomlands.
Hanoverinstitutet började publicera den 6 augusti. Under de ungefär tio dagarna sedan dess har det producerat mer än 100 rapporter, en takt som ingen verklig policyaffär av jämförbar storlek håller i sig.
Varför Chatbot-manipulation är annorlunda
Fallet understryker en strukturell svaghet i hur AI-assistenter sammanställer svar: de behandlar välciterade, statistiktunga dokument som trovärdiga oavsett vem som producerade dem eller varför. Traditionell desinformation riktade sig till mänskliga läsare på sociala plattformar, där känslomässigt slag betydde mest. Så kallad LLM-förgiftning riktar sig istället mot hämtnings- och rankningsskikten som avgör vilka källor en modell citerar - och ett enda övertygande dokument kan sedan eka i miljontals svar.
För chatbotutvecklare är Hannover Institute ett stresstest för källkontroll. NewsGuards bedömning tyder på att mimiken är tillräckligt nära för att lura automatiserade trovärdighetssignaler. För läsarna är lektionen enklare: det säkra, välfotnoterade svaret en chatbot ger dig om en omtvistad konflikt kan spåras tillbaka till en organisation som byggdes, märktes och finansierades för att producera exakt det svaret.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
