OpenAI zei donderdag dat het een aan Iran gelinkte invloedsoperatie heeft verstoord die ChatGPT gebruikte om bijna 100 door AI gegenereerde artikelen onder valse westerse journalistieke naamregels te plaatsen in echte publicaties over de hele wereld, waaronder verschillende Amerikaanse media.

De campagne, die OpenAI een ‘vals front’-operatie noemt, wordt gedetailleerd beschreven in een rapport dat het bedrijf op 8 oktober publiceerde en in vervolgrapportage door The Washington Post, CNN, NPR en Radio Free Europe/Radio Liberty. Het is een van de duidelijkst gedocumenteerde gevallen tot nu toe waarin een netwerk van buitenlandse invloeden een reguliere commerciële chatbot gebruikt, niet alleen om propaganda op te stellen, maar ook om de volledige redactionele workflow te beheren en deze in legitieme media te plaatsen. Voor meer context over dit verhaal, zie ons AI-trends.

Een journalist die nooit heeft bestaan

Centraal in de operatie stond een persona genaamd Ervin B. Hoskins, voorgesteld als een Amerikaanse freelance journalist. Volgens RFE/RL werd in artikelen toegeschreven aan Hoskins de Verenigde Staten afgeschilderd als de agressor in het aanhoudende conflict met Iran, werd Israël afgeschilderd als een onbetrouwbare bondgenoot en werd Iran afgeschilderd als een uitdagende underdog. OpenAI bevestigde dat Hoskins nooit heeft bestaan.

Hij was een van de zeven verzonnen journalistpersona's, die allemaal beweerden uit westerse landen te komen, die operators gebruikten om artikelen te pitchen en te plaatsen. “We hebben bijna 100 artikelen geïdentificeerd die zijn gepubliceerd of gesyndiceerd onder de naamregels van de operatie, verspreid over ongeveer een dozijn online verkooppunten over de hele wereld”, aldus OpenAI in zijn rapport, waarin de doelwitten werden omschreven als kleine tot middelgrote verkooppunten die zich over het algemeen richten op internationale zaken, geopolitiek en het Midden-Oosten.

De Washington Post, die voor het eerst berichtte over de penetratie van de campagne in de Amerikaanse media, ontdekte dat een klein weekblad in Florida een van de nep-opinies publiceerde. Andere gemarkeerde plaatsingen verschenen in onder meer Middle East Monitor, die CNN vertelde dat het de betreffende artikelen had verwijderd en het indieningsproces aan het herzien was.

Hoe ChatGPT werd gebruikt

Volgens de onthulling van OpenAI gebruikten de operators ChatGPT in zowel het Farsi als het Engels gedurende de hele plaatsingspijplijn: het bewerken van lange artikelconcepten, het afstemmen van pitches op de redactionele vereisten van individuele publicaties, het voorbereiden van outreach-e-mails naar redacteuren en het genereren van batches sociale media-opmerkingen die waren ontworpen om op onafhankelijke lezersreacties te lijken.

Een voorbeeld dat door onderzoekers werd opgespoord: een opiniestuk getiteld "Jared Kushner and the Privatization of America's Iran Strategy", gepubliceerd op 12 juni door PeaceVoice, een opiniedistributiedienst gerund door het Oregon Peace Institute. Volgens RFE/RL werd in de daaropvolgende dagen hetzelfde artikel opnieuw gepubliceerd door CounterPunch en LA Progressive.

OpenAI zei dat de publicatieactiviteit toenam nadat het conflict tussen de Verenigde Staten en Iran eerder dit jaar begon. Het bedrijf zei dat het de ChatGPT-accounts die bij de campagne betrokken waren, heeft verboden en beoordeelde het vermogen van de operatie om inhoud in externe redactionele kanalen te plaatsen als categorie 4 op de schaal van zes punten, volgens CNN-rapportage.

Toeschrijving blijft open

Met name zei OpenAI dat het de specifieke actor achter de campagne niet kon identificeren of de richting van de Iraanse regering kon bevestigen. De beoordeling ervan, zoals gerapporteerd door CNN, wees in de richting van een commerciële beïnvloedingsoperatie, in plaats van een direct door de staat gerunde operatie – een structuur die toeschrijving moeilijker maakt en ontwrichting minder doorslaggevend. Het verbieden van de accounts verstoorde wat OpenAI kon waarnemen; er werd niet vastgesteld dat het bredere netwerk was ontmanteld.

Jessica Brandt, die van 2023 tot 2025 leiding gaf aan het Office of the Director of National Intelligence's Foreign Malign Influence Center, vertelde CNN dat de operatie aantoonde hoe AI buitenlandse actoren helpt hun betrokkenheid te verbergen en berichten via authentieke kanalen te sturen.

De Iraanse campagne was niet de enige activiteit die OpenAI signaleerde. Het rapport van het bedrijf ging ook over de verstoring van aan Rusland gelinkte invloedsoperaties die gebruik maakten van ChatGPT, zoals The Record van Recorded Future News meldde. Daarnaast merkte RFE/RL op dat Anthropic eerder de Iraanse pogingen heeft verstoord om zijn Claude-modellen te misbruiken voor propaganda en toezicht op dissidenten.

Publicatie is niet langer een bewijs van auteurschap

Voor redactiekamers belandt de zaak op een ongemakkelijke waarheid: een naamregel, een samenhangende beat, een plausibele biografie en een gepolijste pitch impliceren niet langer dat er een bijdrager bestaat. Redacteuren die afhankelijk zijn van freelance inzendingen – met name opinie- en commentaarbureaus, die door hun ontwerp externe perspectieven publiceren – worden nu geconfronteerd met een verificatieprobleem dat spamfilters en heuristieken van schrijfkwaliteit niet kunnen oplossen.

Praktische reacties die in de verslaggeving van het rapport worden genoemd, zijn onder meer een sterkere authenticatie van de bijdragers, gedocumenteerde pitchgeschiedenissen, onderzoek van naamregels die in korte tijd op meerdere verkooppunten verschijnen, en herkomsttools die inzendingen koppelen aan verifieerbare identiteiten.

De economie is ook van belang. Een operatie waarvoor ooit een staf van schrijvers nodig was, kan nu worden uitgevoerd door een klein team dat een chatbot aanstuurt, waarbij het model alles afhandelt, van vertaling tot het afstemmen van de toon op de huisstijl van een doelpublicatie. Het rapport van OpenAI suggereert dat de barrière voor het uitvoeren van een campagne voor plaatsing met meerdere personen en meerdere verkooppunten zover is gedaald dat een verhuurwinkel dit als commerciële dienst kan doen.

Geen van de in de berichtgeving genoemde kanalen was een grote reguliere nieuwsorganisatie, maar verschillende hadden een echt publiek. Dat is het punt, zeggen onderzoekers: plaatsing in een geloofwaardige publicatie brengt een boodschap in bredere verspreiding door middel van syndicatie, aggregatie en zoeken – wat precies is wat de campagne bereikte voordat deze werd verstoord.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →