OpenAI a declarat joi că a perturbat o operațiune de influență legată de Iran, care a folosit ChatGPT pentru a plasa aproape 100 de articole generate de inteligență artificială sub linii false ale jurnaliștilor occidentali în publicații reale din întreaga lume, inclusiv mai multe publicații din Statele Unite.
Campania, pe care OpenAI o numește o operațiune „fals front”, este detaliată într-un raport publicat de companie pe 8 octombrie și în rapoartele ulterioare ale The Washington Post, CNN, NPR și Radio Free Europe/Radio Liberty. Este unul dintre cele mai clare cazuri documentate până în prezent în care o rețea de influență străină folosește un chatbot comercial principal nu doar pentru a redacta propagandă, ci și pentru a gestiona întregul flux de lucru editorial al plantării acesteia în mediile legitime. For more context on this story, see our ongoing breaking AI news.
Un jurnalist care nu a existat niciodată
În centrul operațiunii se afla o persoană pe nume Ervin B. Hoskins, prezentat ca un jurnalist american independent. Potrivit RFE/RL, articolele atribuite lui Hoskins au prezentat Statele Unite drept agresor în conflictul în curs cu Iranul, au descris Israelul ca un aliat nesigur și au încadrat Iranul drept un subjugator sfidător. Hoskins, a confirmat OpenAI, nu a existat niciodată.
El a fost unul dintre cei șapte jurnaliști inventați, toți pretinzând că sunt din țări occidentale, pe care operatorii obișnuiau să prezinte și să plaseze articole. „Am identificat aproape 100 de articole publicate sau sindicalizate în conformitate cu principiile operațiunii în aproximativ o duzină de puncte de vânzare online din întreaga lume”, a spus OpenAI în raportul său, descriind țintele ca fiind instituții mici și mijlocii axate în general pe afaceri internaționale, geopolitică și Orientul Mijlociu.
Washington Post, care a raportat pentru prima dată penetrarea campaniei în mass-media din SUA, a constatat că un mic săptămânal din Florida a publicat unul dintre articolele de opinie false. Alte destinații de plasare semnalate au apărut în magazine, inclusiv Middle East Monitor, care a declarat pentru CNN că a eliminat articolele în cauză și că își revizuiește procesul de trimitere.
Cum a fost folosit ChatGPT
Conform dezvăluirii OpenAI, operatorii au folosit ChatGPT atât în farsi, cât și în engleză pe întreg canalul de plasare: editarea de schițe de articole de formă lungă, adaptarea propunerilor la cerințele editoriale ale publicațiilor individuale, pregătirea e-mailurilor de informare către editori și generarea de loturi de comentarii pe rețelele sociale menite să arate ca reacții ale cititorilor independenți.
Un exemplu urmărit de cercetători: un articol de opinie intitulat „Jared Kushner and the Privatization of America’s Iran Strategy”, publicat pe 12 iunie de PeaceVoice, un serviciu de distribuție a articolelor de opinie condus de Oregon Peace Institute. În zilele următoare, același articol a fost republicat de CounterPunch și LA Progressive, potrivit RFE/RL.
OpenAI a declarat că activitatea de publicare a crescut după ce conflictul dintre Statele Unite și Iran a început la începutul acestui an. Compania a declarat că a interzis conturile ChatGPT implicate în campanie și a evaluat capacitatea operațiunii de a plasa conținut în rețele editoriale externe ca Categoria 4 pe scara operațiunii de influență în șase puncte, potrivit rapoartelor CNN.
Atribuirea rămâne deschisă
În special, OpenAI a spus că nu a putut identifica actorul specific din spatele campaniei și nici nu poate confirma direcția guvernului iranian. Evaluarea sa, așa cum a raportat CNN, a indicat mai degrabă o operațiune de influență comercială, pe angajare, decât una direct condusă de stat - o structură care face atribuirea mai dificilă și perturbarea mai puțin concludentă. Interzicerea conturilor a perturbat ceea ce OpenAI putea observa; nu a stabilit că rețeaua mai largă a fost demontată.
Jessica Brandt, care a condus Biroul Centrului de Influență Malignă Externă al Directorului Național de Informații din 2023 până în 2025, a declarat pentru CNN că operațiunea a arătat cum AI ajută actorii străini să-și ascundă implicarea și să transmită mesajele prin canale autentice.
Campania iraniană nu a fost singura activitate semnalată de OpenAI. Raportul companiei a acoperit, de asemenea, întreruperile operațiunilor de influență legate de Rusia care au folosit ChatGPT, după cum a raportat The Record de la Recorded Future News. Separat, RFE/RL a remarcat că Anthropic a perturbat anterior eforturile iraniene de a folosi greșit modelele sale Claude pentru propagandă și supravegherea dizidenților.
Publicarea nu mai este o dovadă a calității de autor
Pentru redacții, cazul aterizează pe un adevăr inconfortabil: un nume, o ritm coerentă, o biografie plauzibilă și un pitch șlefuit nu mai înseamnă că există un colaborator. Editorii care se bazează pe trimiterile independenți – în special birourile de articole de opinie și de comentarii, care prin design publică perspective externe – se confruntă acum cu o problemă de verificare pe care filtrele de spam și euristica de calitate a scrisului nu o pot rezolva.
Răspunsurile practice semnalate în acoperirea raportului includ autentificarea mai puternică a contribuitorilor, istoriile documentate de prezentare, examinarea subliniilor care apar în mai multe puncte de vânzare în ferestre scurte și instrumente de proveniență care leagă trimiterile de identități verificabile.
Contează și economia. O operațiune care odinioară necesita un personal de scriitori poate fi condusă acum de o echipă mică care conduce un chatbot, modelul gestionând totul, de la traducere până la potrivirea tonului stilului de casă al unei publicații țintă. Raportul OpenAI sugerează că bariera în derularea unei campanii de plasare cu mai multe persoane și mai multe puncte de vânzare a scăzut până la punctul în care un magazin cu închiriere poate face acest lucru ca un serviciu comercial.
Niciunul dintre instituțiile menționate în reportaj nu a fost organizații de știri majore, dar câteva au avut audiențe reale. Acesta este ideea, spun cercetătorii: plasarea în orice publicație credibilă mută un mesaj într-o circulație mai largă prin sindicare, agregare și căutare - care este exact ceea ce a realizat campania înainte de a fi perturbată.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
