OpenAI a declarat marți că a interzis un grup de conturi ChatGPT originare din Rusia care au fost folosite pentru a susține o campanie de influență online ascunsă - o operațiune construită în jurul unei organizații de cercetare fictive numită Institutul Internațional Burke care a fabricat afilieri cu academicieni proeminenți și a plagiat marea majoritate a materialului publicat.

Compania a dezvăluit eliminarea într-o postare pe blog intitulată „Perturbarea unei noi campanii de influență secretă din Rusia”, iar concluziile au fost raportate de CNBC și Quartz. Potrivit OpenAI, conturile au fost folosite pentru a promova Institutul Internațional Burke, sau IBI, o „comunitate de experți” auto-descrisă, al cărei site web enumera o adresă stradală în Israel și a fost înregistrată în februarie 2025. For more context on this story, see our ongoing more AI stories.

Un think tank care nu a fost niciodată

Piesa centrală a operațiunii a fost apariția legitimității instituționale. Site-ul IBI a susținut în mod fals că prezintă cadre universitare proeminenți, inclusiv Francis Fukuyama și Noam Chomsky, a spus OpenAI. Într-o analiză a 36 de articole legate de experți listați pe site și publicate între septembrie 2025 și mai 2026, compania a constatat că 34 au fost copiate din altă parte de pe internet - uneori cu atribuire incorectă.

O caracteristică centrală a campaniei a fost un „indice de suveranitate” care a clasat țările pe o măsurătoare menită să prezinte Rusia în mod favorabil în timp ce critica națiunile occidentale. Rapoartele care vizează Franța, Germania, Statele Unite și Uniunea Europeană au intrat în polemică, a spus OpenAI. O intrare despre Statele Unite scria: „Trump a sosit [la Beijing] cu indicele de suveranitate nr. 1 din lume și a plecat după ce a făcut o serie de pași care [...] pot fi calificați drept o reducere voluntară a autonomiei”.

Cum a funcționat operațiunea

OpenAI a spus că a evaluat conturile ca fiind foarte probabil originare din Rusia, în ciuda camuflajului. Pentru a sustrage interdicția OpenAI privind accesul la model din Rusia, operatorii și-au direcționat conexiunile prin VPN-uri, a spus compania. Lucrând în limba rusă, ei au folosit ChatGPT pentru a redacta conținut de rețele sociale care a apărut pe Substack, Telegram, X, Facebook și LinkedIn – direcționând modelul să elimine orice caracteristică a textului care ar putea trăda originile sale generate de AI. Majoritatea conținutului generat a fost scris în limba engleză, o alegere care sugerează că operațiunea a fost destinată publicului occidental, mai degrabă decât cititorilor ruși autohtoni.

Operațiunea sa extins dincolo de conținutul în limba engleză. Un operator a generat postări în limba germană pentru un canal Telegram numit „Lahme Ente” – în germană „rață șchiopătă” – care a criticat Ucraina, Uniunea Europeană și guvernul german în timp ce susținea legături mai strânse cu Rusia. Un al doilea operator a creat sigle pentru aproximativ o duzină de canale Telegram concentrate pe Germania, Statele Unite, Franța, Polonia și Turcia și a solicitat rezumate în limba rusă ale activității lor.

Acoperire limitată, dar un plan alarmant

După valorile convenționale de implicare, campania nu a fost un succes. OpenAI a recunoscut că majoritatea postărilor din rețelele sociale au primit un număr scăzut de vizionări, conturile oficiale IBI au avut puțini abonați, iar canalele Telegram asociate au atras între 10.000 și 20.000 de urmăritori fiecare.

Dar compania a susținut că semnificația operațiunii nu constă în întinderea sa, ci în aparatul construit de operatorii săi. Postările produse cu ChatGPT au îndreptat cititorii către ceea ce părea a fi un organism de cercetare legitim - complet cu o adresă fizică, o listă de experți și un flux constant de publicații. Această structură, a spus OpenAI, demonstrează modul în care instrumentele AI pot ajuta actorii răi să producă credibilitate instituțională, să ascundă adevărata sursă a narațiunilor preferate și să pună bazele operațiunilor care ar putea crește considerabil.

Bătălia mai largă asupra influenței generate de AI

Eliminarea este cea mai recentă dintr-o serie de întreruperi pe care OpenAI a anunțat-o care implică actori de amenințări afiliați statului și vine pe fondul dovezilor tot mai mari că operațiunile de influență își schimbă ambițiile de la feedurile de social media către sistemele AI în sine. La începutul lunii august, o investigație separată realizată de Responsible Statecraft a documentat un think tank fals care publică peste 100 de rapoarte într-o săptămână, într-un efort aparent de a manipula răspunsurile oferite de chatbots AI despre Israel și Palestina.

Împreună, cazurile schițează un manual emergent: în loc să transmită doar mesaje oamenilor, operatorii construiesc instituții false ale căror rezultate pot fi citate, răzuite și absorbite de modelele AI care mediază din ce în ce mai mult modul în care oamenii întâlnesc informații.

Pentru companiile AI, implicația este incomodă. Aceleași proprietăți care fac ca modelele lingvistice mari să fie utile — redactare fluentă în mai multe limbi, costuri reduse, rezultate neobosite — le fac o infrastructură atractivă pentru propaganda spălată. Răspunsul OpenAI în acest caz a fost o eliminare la nivel de conținut: conturi interzise, ​​tactici numite și o contabilitate publică a modului în care a funcționat operațiunea.

Dacă astfel de dezvăluiri pot ține pasul cu operațiunile pe care le descriu rămâne una dintre întrebările centrale de securitate ale erei AI. După cum arată în mod clar raportul de marți, costul construirii unei instituții false convingătoare a scăzut dramatic – iar entitățile cel mai bine poziționate pentru a le detecta sunt chiar companiile ale căror modele sunt folosite pentru a le construi.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →