OpenAI a declarat joi că a interzis două operațiuni de influență sub acoperire – una originară din Rusia și una din Iran – care au folosit ChatGPT pentru a conduce entități sofisticate „fals front” concepute pentru a spăla propaganda geopolitică în mass-media reale. Compania a spus că campania de origine rusă este cea mai amplă operațiune de influență pe care a perturbat-o de când a început să publice rapoarte de amenințări în urmă cu doi ani și jumătate.
Dezvăluirea, publicată pe site-ul OpenAI, este cea mai recentă intrare dintr-un șir de rapoarte despre modul în care actorii aliniați la stat folosesc greșit modelele comerciale de IA. De asemenea, subliniază, așa cum am observat în ultima noastră știri de ultimă oră, un model pe care OpenAI l-a observat în cele 30 de operațiuni ascunse pe care le-a expus de la începutul anului 2024: campaniile care reușesc să-și plaseze conținutul în publicații autentice ajung la un public mult mai mare decât acele rețele sociale false.
Prima Categoria 5: Operațiunea „Dark Clark”
Operațiunea rusă, pe care OpenAI a poreclit-o „Dark Clark”, s-a concentrat pe o organizație de cercetare auto-numită din America Latină numită Centrul de Cercetare Socială (SRC). Potrivit OpenAI, operatorii au controlat think tank-ul printr-o persoană inventată numită „Mia Clark”, în timp ce angajații locali din America Latină au efectuat interviuri și au redactat lucrări de cercetare fără să știe că lucrează pentru un grup rus.
Folosind Scala Breakout – o măsură de la 1 la 6 a potențialului acoperire a unei operațiuni de influență dezvoltată la Brookings – OpenAI a evaluat Dark Clark la Categoria 5, cel mai înalt rating pe care l-a atribuit oricărei operațiuni de la începutul raportării sale. Campania de origine Iran a ajuns la Categoria 4.
O mare parte din utilizarea ChatGPT de către operatori a intrat în rapoartele interne către un operator necunoscut, a spus OpenAI, descriind campanii de denigrare a Ucrainei, de subminare a recrutării forțelor armate ale Ucrainei și de interferență în politica internă din Argentina și Bolivia. Operatorii au solicitat mai ales în rusă și s-au bazat pe VPN-uri pentru a accesa serviciul, care blochează traficul din Rusia.
Cercetătorii OpenAI au coroborat câteva dintre campaniile revendicate ale operațiunii prin surse deschise. Unul a implicat e-mailuri false care se pretindeau că provin de la direcția regională de educație din Lima, în care școlile din capitala peruană erau instruite să organizeze evenimente în cinstea lui Stepan Bandera – controversata figură naționalistă ucraineană – cu ocazia unei zile naționale a diversității. Posturile peruviane și poloneze au acoperit controversa care a urmat, iar un membru polonez al Parlamentului European a fost citat în acoperirea acesteia. În Ecuador, operatorii au folosit o adresă de e-mail falsă pentru a păcăli școlile să își dea un jurământ de credință președintelui Daniel Noboa și fostului șef al Blackwater Erik Prince; cascadoarea a atras o acoperire mediatică și o respingere publică din partea ministrului educației din Ecuador.
Operațiunea a răspândit, de asemenea, înregistrări audio fabricate, inclusiv una atribuită unui lucrător al companiei de apă de stat din Bolivia, EPSAS, care susținea că guvernul va reduce aprovizionarea către La Paz, și o alta atribuită consulului Ucrainei în Ecuador. Verificatorii faptelor din ambele țări au dezmințit afirmațiile. Cercetătorii cu sursă deschisă au legat anterior activități similare cu „Politology” sau „La Compania”, entități descrise ca succesori ai operațiunii regretatului Yevgeniy Prigozhin, iar rapoartele proprii ale operatorilor susțin campanii care vizează președintele Argentinei Javier Milei care se potrivesc cu raportarea publică.
Șapte jurnaliști falși: operațiunea „Bogus Bylines”
Operațiunea iraniană a luat o altă cale în ecosistemul media. Operatorii săi, care au determinat ChatGPT în persană, au folosit modelul pentru a perfecționa articole de lungă durată în limba engleză despre conflictul dintre SUA și Iran, apoi le-au prezentat editorilor de la magazine online mici și mijlocii folosind șapte jurnaliști: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feus, Alice Williams și Johnson.
OpenAI a identificat aproape 100 de articole publicate sau sindicalizate în conformitate cu aceste linii de referință în aproximativ o duzină de magazine din întreaga lume, cele mai multe concentrate pe afaceri internaționale și Orientul Mijlociu. Operațiunea a generat, de asemenea, loturi de comentarii pe rețelele sociale, deși OpenAI a spus că acestea au atras puțină implicare reală – și a remarcat că operatorii au folosit un calcul înșelător în rapoartele lor interne pentru a crește impactul lor aparent pe rețelele sociale. Compania a spus că activitatea pare a fi în concordanță cu un actor comercial care desfășoară o campanie de influență pe angajare și că a împărtășit informații autorităților relevante.
Meșteșug vechi, instrumente noi
Ceea ce îi frapează cel mai mult pe cercetători, a scris OpenAI, este cât de mult semănau ambele operațiuni cu campaniile de influență din era pre-AI. Persoanele false ale jurnaliștilor seamănă cu „Alice Donovan”, o reporteră fictivă care se ocupă de serviciile secrete militare rusești ale cărei articole de opinie au apărut în publicațiile occidentale în 2016 și 2017. Personalul local involuntar al SRC ecou „PeaceData”, site-ul de știri false care a cooptat adevărații jurnalişti.
AI nu a inventat aceste tehnici – le-a făcut mai ieftine, mai rapide și mai fluente. Operatorii au folosit modele pentru a adapta falsurile la vocabularul local și stilul instituțional, pentru a traduce scripturile în variante regionale spaniole și pentru a produce e-mailuri de prezentare rafinate pentru editori. Dar OpenAI a susținut că natura secretă, de la persoană la persoană a operațiunilor fals-front, le face, de asemenea, vulnerabile la expunere: atât Alice Donovan, cât și PeaceData s-au închis după ce au fost denumite public.
Citind dovezile cu atenție
OpenAI a avut grijă să-și avertizeze propriile descoperiri. Operatorii au revendicat în mod obișnuit credit pentru evenimente cu care nu au avut nimic de-a face, iar unele falsuri pe care le-au raportat că au plantat nu au putut fi găsite în surse deschise. Ceea ce OpenAI ar putea verifica - prin verificări ale faptelor, dezmințiri oficiale și articole publicate care se potrivesc cu descrierile operatorilor - sugerează pătrunderea reală a discursului media și politic în cel puțin patru țări.
Pentru industria AI, raportul este o reamintire a faptului că cele mai eficiente utilizări ale modelelor în dezinformare sunt adesea cele mai puțin vizibile: redactarea rapoartelor interne, rafinarea propunerilor, lustruirea traducerilor. Entitățile cel mai bine poziționate pentru a detecta aceste campanii, așa cum au arătat cazurile anterioare ale OpenAI, sunt adesea platformele ale căror instrumente proprii sunt folosite pentru a le rula.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.
Citește mai multe știri AI →
