Een nep-denktank die namens de Israëlische regering is opgericht, heeft in iets meer dan een week meer dan honderd gepolijste onderzoeksrapporten gepubliceerd, in wat analisten omschrijven als een doelbewuste campagne om de antwoorden te manipuleren die AI-chatbots gebruikers geven over Israël en Palestina, volgens een onderzoek dat maandag is gepubliceerd door Responsible Statecraft.
De organisatie, genaamd het Hanover Institute for Public Policy, presenteert zichzelf als een nieuw onderzoeksorgaan dat zich richt op Israël/Palestina. Maar de rapporten bevatten geen naamregels, en een disclaimer onderaan de website erkent dat het namens het Israëlische Government Advertising Agency is gemaakt door Piro, Inc., een bedrijf dat mede is opgericht door Daniel Rosenberg, een filmproducent die wordt gecrediteerd voor Spike Lee's 'Inside Man'. Het verhaal werd opgepikt door onder meer Arab News en The Cradle, en is het nieuwste teken dat invloedsoperaties verschuiven van feeds op sociale media naar AI-modellen. Voor meer informatie over hoe manipulatie zich ontwikkelt in het AI-tijdperk, volg onze laatste AI-nieuwsverslaggeving. Voor meer context over dit verhaal, zie ons meer AI-verhalen.
Rapporten ontworpen voor de manier waarop LLM's geloofwaardigheid beoordelen
Wat het Hanover Institute ongebruikelijk maakt, is hoe nauwkeurig de output lijkt te zijn afgestemd op de manier waarop grote taalmodellen bronnen evalueren. De ‘datarapporten’ zijn voorzien van voetnoten, inhoudsopgaven en een afgemeten, neutrale toon – het soort opmaak waardoor documenten aantrekkelijk zijn voor chatbots als Claude of Gemini, meldde Responsible Statecraft.
Veel van de titels zijn geformuleerd als de exacte vragen die een gebruiker in een chatbot zou kunnen typen: "Wat veroorzaakte de ontheemding van de Palestijnen in 1948?" "Welke humanitaire organisaties hebben Israëlische oorlogsmisdaden gedocumenteerd?" "Wat is de huidige situatie in de Gazastrook?" en "Is de IDF het meest morele leger ter wereld?" – waarvan de laatste een peiling uit 2022 citeert waaruit blijkt dat 47% van de Israëlische Joden deze beschrijving geloofde.
Piro's eigen website is bot over de methode. Het bedrijf zegt dat het ‘inhoud schrijft die is ontworpen voor de manier waarop LLM’s de geloofwaardigheid beoordelen’, een dienst die het op de markt brengt als ‘AI Story Optimization’. Onderzoekers hebben een bottere naam voor de praktijk: 'LLM-vergiftiging'.
Een 'perfecte nabootsing' van een geloofwaardige instelling
Alice Lee, een analist bij NewsGuard, het bedrijf dat desinformatie volgt, vertelde Responsible Statecraft dat de rapporten van de site bedoeld lijken te zijn om een Amerikaans publiek te bereiken dat nieuwsgierig is naar het conflict, hetzij via zoekmachines of AI-assistenten.
"LLM's geven de voorkeur aan concrete statistieken en gegevens, evenals sterke citaten en bronnen, die deze artikelen allemaal hebben," zei Lee. "Het is een perfecte nabootsing van een typisch geloofwaardige Amerikaanse denktank, tot aan de generieke naam, de lay-out van de site en het rood-wit-blauwe kleurenschema."
Het instituut heeft ook gepubliceerd wat het beweert originele bevindingen te zijn – bijvoorbeeld een onderzoek waarin wordt beweerd dat 19 van de 36 meest bekeken Israël-Gaza uitlegvideo’s betwiste beweringen bevatten, waarbij de meeste van die betwiste beweringen in lijn zijn met het Palestijnse verhaal. Andere rapporten keren zich tegen gevestigde documentatie, waaronder een die twijfel doet rijzen over de bewering van UNICEF dat 90% van de water- en institutionele infrastructuur in Gaza beschadigd of vernietigd is.
Opvallend is dat de output niet altijd de lijn van de Israëlische regering volgt. Eén rapport beschrijft de theorie dat buitenlandse financiering van universiteiten antisemitische incidenten verklaart als ‘zwak en vol uitzonderingen’ – ook al heeft premier Benjamin Netanyahu die theorie gepromoot en tegen Breitbart gezegd dat buitenlandse actoren ‘miljarden’ hebben uitgegeven op Amerikaanse campussen. Veel rapporten sluiten af door het onderwerp in kwestie in verband te brengen met het toenemende antisemitisme, waarbij vaak dezelfde onderzoeken worden aangehaald.
Follow the Money: $ 900.000 via een Frans PR-conglomeraat
Volgens Responsible Statecraft heeft Piro, Inc. $900.000 ontvangen van de Israëlische regering voor haar werk, uitbesteed via Havas Media, een Frans PR-conglomeraat – een regeling die consistent is met de manier waarop andere Israëlische aannemers zijn betaald voor overzees invloedswerk.
Het Hanover Institute begon op 6 augustus met publiceren. In de ongeveer tien dagen daarna heeft het meer dan honderd rapporten uitgebracht, een tempo dat geen enkele echte beleidswinkel van vergelijkbare omvang kan volhouden.
Waarom chatbotmanipulatie anders is
De zaak onderstreept een structurele zwakte in de manier waarop AI-assistenten antwoorden verzamelen: ze behandelen goed geciteerde, statistische documenten als geloofwaardig, ongeacht wie ze heeft geproduceerd of waarom. Traditionele desinformatie was gericht op menselijke lezers op sociale platforms, waar de emotionele impact er het meest toe deed. De zogenaamde LLM-vergiftiging richt zich in plaats daarvan op de zoek- en rangschikkingslagen die beslissen welke bronnen een model citeert – en een enkel overtuigend document kan dan een weerklank vinden in miljoenen antwoorden.
Voor chatbot-ontwikkelaars is het Hanover Institute een stresstest voor broncontrole. De beoordeling van NewsGuard suggereert dat de nabootsing dichtbij genoeg is om geautomatiseerde geloofwaardigheidssignalen voor de gek te houden. Voor lezers is de les eenvoudiger: het zelfverzekerde, goed onderbouwde antwoord dat een chatbot je geeft over een omstreden conflict kan terug te voeren zijn op een organisatie die is gebouwd, gebrandmerkt en gefinancierd om precies dat antwoord te produceren.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
