OpenAI sa på torsdagen att det störde en iransk-kopplad påverkansoperation som använde ChatGPT för att placera nästan 100 AI-genererade artiklar under falska västerländska journalistbylines i verkliga publikationer runt om i världen, inklusive flera amerikanska butiker.
Kampanjen, som OpenAI kallar en "falsk front"-operation, beskrivs i en rapport som företaget publicerade den 8 oktober och i uppföljande rapporter från The Washington Post, CNN, NPR och Radio Free Europe/Radio Liberty. Det är ett av de tydligaste dokumenterade fallen hittills av ett utländskt påverkansnätverk som använder en vanlig kommersiell chatbot, inte bara för att utarbeta propaganda, utan för att hantera hela det redaktionella arbetsflödet för att plantera den i legitima medier. For more context on this story, see our ongoing breaking AI news.
En journalist som aldrig funnits
I centrum för verksamheten stod en persona vid namn Ervin B. Hoskins, presenterad som en amerikansk frilansjournalist. Enligt RFE/RL framställde artiklar som tillskrivs Hoskins USA som angriparen i den pågående konflikten med Iran, framställde Israel som en opålitlig allierad och framställde Iran som en trotsig underdog. Hoskins, bekräftade OpenAI, har aldrig existerat.
Han var en av sju påhittade journalistpersonligheter, som alla utgav sig vara från västländer, som operatörer använde för att pitcha och placera artiklar. "Vi identifierade nästan 100 artiklar publicerade eller syndikerade under verksamhetens bylines över ungefär ett dussin onlinebutiker runt om i världen", sa OpenAI i sin rapport och beskrev målen som små till medelstora butiker som generellt fokuserar på internationella angelägenheter, geopolitik och Mellanöstern.
Washington Post, som först rapporterade kampanjens penetration av amerikanska medier, fann att en liten veckotidning i Florida publicerade en av de falska op-ederna. Andra flaggade placeringar dök upp i butiker inklusive Middle East Monitor, som berättade för CNN att de hade tagit bort artiklarna i fråga och granskade dess inlämningsprocess.
Hur ChatGPT användes
Enligt OpenAI:s avslöjande använde operatörerna ChatGPT på både farsi och engelska i hela placeringspipelinen: redigerade långformade artikelutkast, skräddarsydda pitches efter individuella publikationers redaktionella krav, förberedde uppsökande e-postmeddelanden till redaktörer och genererade partier av kommentarer på sociala medier utformade för att se ut som oberoende läsarreaktioner.
Ett exempel spåras av forskare: en op-ed med titeln "Jared Kushner and the Privatization of America's Iran Strategy", publicerad den 12 juni av PeaceVoice, en oped-distributionstjänst som drivs av Oregon Peace Institute. Under de följande dagarna återpublicerades samma artikel av CounterPunch och LA Progressive, enligt RFE/RL.
OpenAI sa att publiceringsaktiviteten ökade efter att konflikten mellan USA och Iran började tidigare i år. Företaget sa att det har förbjudit de ChatGPT-konton som är inblandade i kampanjen och rankade operationens förmåga att placera innehåll i externa redaktioner som kategori 4 på sin sexpunktsskala för påverkan, enligt CNN-rapportering.
Attribution Remains Open
OpenAI sa att de inte kunde identifiera den specifika aktören bakom kampanjen eller bekräfta riktningen från den iranska regeringen. Dess bedömning, som rapporterats av CNN, pekade mot en kommersiell inflytandeoperation för uthyrning snarare än en direkt statlig - en struktur som gör tilldelning svårare och störningar mindre avgörande. Att förbjuda kontona störde vad OpenAI kunde observera; det fastställdes inte att det bredare nätverket avvecklades.
Jessica Brandt, som ledde kontoret för direktören för National Intelligence's Foreign Malign Influence Center från 2023 till 2025, berättade för CNN att operationen visade hur AI hjälper utländska aktörer att dölja sitt engagemang och skicka meddelanden genom autentiska kanaler.
Den iranska kampanjen var inte den enda aktiviteten som OpenAI flaggade för. Företagets rapport täckte också avbrott i rysklänkade påverkansoperationer som använde ChatGPT, som The Record från Recorded Future News rapporterade. Separat noterade RFE/RL att Anthropic tidigare har stört iranska ansträngningar att missbruka sina Claude-modeller för propaganda och övervakning av oliktänkande.
Publikationen är inte längre bevis på författarskap
För nyhetsredaktioner hamnar fallet på en obekväm sanning: en byline, ett sammanhängande beat, en rimlig biografi och en polerad tonhöjd antyder inte längre att en bidragsgivare existerar. Redaktörer som förlitar sig på frilansande inlägg – särskilt oped- och kommentarsdiskar, som till sin design publicerar externa perspektiv – står nu inför ett verifieringsproblem som spamfilter och heuristik av skrivkvalitet inte kan lösa.
Praktiska svar som flaggats i rapportens täckning inkluderar starkare bidragsgivareautentisering, dokumenterad pitchhistorik, granskning av bylines som visas över flera butiker i korta fönster och härkomstverktyg som knyter inlämningar till verifierbara identiteter.
Ekonomin spelar också roll. En operation som en gång krävde en stab av författare kan nu drivas av ett litet team som styr en chatbot, med modellen som hanterar allt från översättning till tonmatchning av en målpublikations husstil. OpenAI:s rapport antyder att hindret för att driva en placeringskampanj med flera personer och flera butiker har sjunkit till den punkt där en uthyrd butik kan göra det som en kommersiell tjänst.
Ingen av butikerna som nämns i rapporteringen var stora vanliga nyhetsorganisationer, men flera hade riktig publik. Det är poängen, säger forskare: placering i vilken trovärdig publikation som helst flyttar ett budskap till en bredare spridning genom syndikering, aggregering och sökning - vilket är exakt vad kampanjen uppnådde innan den stördes.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
