OpenAI zei dinsdag dat het een cluster van ChatGPT-accounts uit Rusland heeft verboden die werden gebruikt ter ondersteuning van een geheime online beïnvloedingscampagne – een operatie opgebouwd rond een fictieve onderzoeksorganisatie genaamd het International Burke Institute, die banden met prominente academici verzon en de overgrote meerderheid van het gepubliceerde materiaal plagiaat pleegde.
Het bedrijf maakte de verwijdering bekend in een blogpost met de titel ‘Het verstoren van een nieuwe geheime invloedscampagne vanuit Rusland’, en de bevindingen werden gerapporteerd door CNBC en Quartz. Volgens OpenAI werden de accounts gebruikt om reclame te maken voor het International Burke Institute, oftewel IBI, een zelfbenoemde ‘expertgemeenschap’ wiens website een adres in Israël vermeldde en in februari 2025 werd geregistreerd. Voor meer context over dit verhaal, zie ons AI-nieuws.
Een denktank die er nooit is geweest
Het middelpunt van de operatie was de schijn van institutionele legitimiteit. Op de IBI-website wordt ten onrechte beweerd dat er prominente academici op staan, waaronder Francis Fukuyama en Noam Chomsky, aldus OpenAI. In een overzicht van 36 artikelen die gelinkt waren aan op de site genoemde experts en gepubliceerd tussen september 2025 en mei 2026, ontdekte het bedrijf dat 34 artikelen van elders op internet waren gekopieerd – soms met onjuiste toeschrijving.
Een centraal kenmerk van de campagne was een ‘soevereiniteitsindex’ die landen rangschikte op basis van een maatstaf die bedoeld was om Rusland gunstig te stemmen en tegelijkertijd westerse landen te bekritiseren. Rapporten gericht op Frankrijk, Duitsland, de Verenigde Staten en de Europese Unie ontaardden in polemiek, aldus OpenAI. Een bericht over de Verenigde Staten luidde: "Trump arriveerde [in Peking] met de nummer 1 soevereiniteitsindex ter wereld en vertrok na een aantal stappen te hebben gezet die [...] kunnen worden gekwalificeerd als een vrijwillige vermindering van de autonomie."
Hoe de operatie werkte
OpenAI zei dat het ondanks de camouflage de rekeningen zeer waarschijnlijk als afkomstig uit Rusland heeft beoordeeld. Om het verbod van OpenAI op modeltoegang vanuit Rusland te omzeilen, hebben de operators hun verbindingen via VPN's geleid, aldus het bedrijf. Ze werkten in het Russisch en gebruikten ChatGPT om sociale media-inhoud op te stellen die op Substack, Telegram, X, Facebook en LinkedIn verscheen – waarbij ze het model opdracht gaven om alle kenmerken van de tekst te verwijderen die de door AI gegenereerde oorsprong zouden kunnen verraden. Het grootste deel van de gegenereerde inhoud is in het Engels geschreven, een keuze die suggereert dat de operatie gericht was op een westers publiek in plaats van op binnenlandse Russische lezers.
De operatie reikte verder dan de Engelstalige inhoud. Eén operator genereerde Duitstalige berichten voor een Telegram-kanaal genaamd ‘Lahme Ente’ – Duits voor ‘lame eend’ – waarin kritiek werd geuit op Oekraïne, de Europese Unie en de Duitse regering en tegelijkertijd werd gepleit voor nauwere banden met Rusland. Een tweede operator creëerde logo's voor ongeveer een dozijn Telegram-kanalen gericht op Duitsland, de Verenigde Staten, Frankrijk, Polen en Turkije, en vroeg om Russischtalige samenvattingen van hun activiteiten.
Beperkt bereik, maar een alarmerende blauwdruk
Volgens conventionele betrokkenheidsstatistieken was de campagne geen succes. OpenAI erkende dat de meeste posts op sociale media weinig bekeken werden, dat de officiële IBI-accounts weinig abonnees hadden en dat de bijbehorende Telegram-kanalen elk tussen de 10.000 en 20.000 volgers trokken.
Maar het bedrijf voerde aan dat de betekenis van de operatie niet ligt in het bereik ervan, maar in het apparaat dat de operators hebben gebouwd. Berichten geproduceerd met ChatGPT stuurden lezers naar wat leek op een legitiem onderzoeksorgaan – compleet met een fysiek adres, een lijst van deskundigen en een gestage stroom publicaties. Die structuur laat volgens OpenAI zien hoe AI-tools slechte actoren kunnen helpen institutionele geloofwaardigheid te verwerven, de ware bron van voorkeursverhalen te verdoezelen en de basis te leggen voor operaties die aanzienlijk groter zouden kunnen worden.
De bredere strijd om de door AI gegenereerde invloed
De verwijdering is de laatste in een reeks verstoringen die OpenAI heeft aangekondigd waarbij aan de staat gelieerde dreigingsactoren betrokken zijn, en komt te midden van groeiend bewijs dat invloedsoperaties hun ambities verleggen van sociale media-feeds naar AI-systemen zelf. Eerder in augustus documenteerde een afzonderlijk onderzoek door Responsible Statecraft een nep-denktank die in een week tijd meer dan 100 rapporten publiceerde in een kennelijke poging om de antwoorden te manipuleren die AI-chatbots over Israël en Palestina geven.
Samen schetsen de cases een opkomend draaiboek: in plaats van alleen maar boodschappen naar mensen te pushen, bouwen operators valse instituties waarvan de output kan worden geciteerd, geschraapt en geabsorbeerd door de AI-modellen die steeds meer bemiddelen in de manier waarop mensen met informatie omgaan.
Voor AI-bedrijven is de implicatie ongemakkelijk. Dezelfde eigenschappen die grote taalmodellen nuttig maken – vloeiend meertalig schrijven, lage kosten, onvermoeibare output – maken ze een aantrekkelijke infrastructuur voor witgewassen propaganda. De reactie van OpenAI in dit geval was een verwijdering op inhoudsniveau: verboden accounts, benoemde tactieken en een openbare verantwoording van hoe de operatie werkte.
Of dergelijke onthullingen gelijke tred kunnen houden met de operaties die ze beschrijven, blijft een van de centrale veiligheidsvragen van het AI-tijdperk. Zoals het rapport van dinsdag duidelijk maakt, zijn de kosten voor het bouwen van een overtuigend nep-instituut dramatisch gedaald – en de entiteiten die het best gepositioneerd zijn om ze op te sporen zijn juist de bedrijven wier modellen worden gebruikt om ze op te bouwen.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
