OpenAI ha dichiarato giovedì di aver vietato due operazioni di influenza segrete – una originaria della Russia e una in Iran – che utilizzavano ChatGPT per gestire sofisticate entità di “falso fronte” progettate per riciclare la propaganda geopolitica nei media reali. La società ha affermato che la campagna di origine russa è l’operazione di influenza di più vasta portata che abbia interrotto da quando ha iniziato a pubblicare rapporti sulle minacce due anni e mezzo fa.

La divulgazione, pubblicata sul sito web di OpenAI, è l'ultima di una serie di rapporti su come gli attori allineati allo Stato utilizzano in modo improprio i modelli di intelligenza artificiale commerciale. Sottolinea inoltre, come abbiamo notato nel nostro ultimo [ultime notizie sull'intelligenza artificiale] (https://aibuzzwire.news), un modello che OpenAI ha osservato nelle 30 operazioni segrete che ha scoperto dall'inizio del 2024: le campagne che riescono a inserire i propri contenuti in pubblicazioni autentiche raggiungono un pubblico molto più ampio rispetto a coloro che si affidano ad account di social media falsi.

Prima la Categoria 5: Operazione "Dark Clark"

L’operazione russa, che OpenAI ha soprannominato “Dark Clark”, era incentrata su una sedicente organizzazione di ricerca in America Latina chiamata Social Research Center (SRC). Secondo OpenAI, gli operatori controllavano il think tank attraverso una persona inventata chiamata “Mia Clark”, mentre i dipendenti locali in America Latina conducevano interviste e redigevano documenti di ricerca senza sapere che stavano lavorando per un gruppo russo.

Utilizzando la Breakout Scale, una misura da 1 a 6 della potenziale portata di un'operazione di influenza sviluppata presso Brookings, OpenAI ha valutato Dark Clark alla Categoria 5, il punteggio più alto che ha assegnato a qualsiasi operazione dall'inizio del suo reporting. La campagna di origine iraniana ha raggiunto la categoria 4.

Gran parte dell'utilizzo di ChatGPT da parte degli operatori è confluito in rapporti interni a un gestore sconosciuto, ha affermato OpenAI, descrivendo campagne per denigrare l'Ucraina, minare il reclutamento per le forze armate ucraine e interferire nella politica interna in Argentina e Bolivia. Gli operatori hanno parlato principalmente in russo e hanno fatto affidamento sulle VPN per accedere al servizio, che blocca il traffico dalla Russia.

I ricercatori di OpenAI hanno confermato molte delle campagne dichiarate dell'operazione attraverso fonti aperte. Uno riguardava false e-mail che sembravano provenire dalla direzione regionale dell'istruzione di Lima, che ordinavano alle scuole della capitale peruviana di organizzare eventi in onore di Stepan Bandera – la controversa figura nazionalista ucraina – in una giornata nazionale della diversità. I media peruviani e polacchi hanno coperto la controversia che ne è derivata, e un membro polacco del Parlamento europeo è stato citato in copertura. In Ecuador, gli operatori hanno utilizzato un indirizzo e-mail falso per indurre le scuole a mantenere una promessa di fedeltà al presidente Daniel Noboa e all’ex capo della Blackwater Erik Prince; l'acrobazia ha attirato la copertura mediatica e una confutazione pubblica da parte del ministro dell'Istruzione dell'Ecuador.

L'operazione ha diffuso anche registrazioni audio fittizie, tra cui una attribuita a un lavoratore della compagnia idrica statale boliviana EPSAS che sosteneva che il governo avrebbe tagliato la fornitura a La Paz, e un'altra attribuita al console ucraino in Ecuador. I fact-checker in entrambi i paesi hanno smentito le affermazioni. I ricercatori open source hanno precedentemente collegato attività simili a "Politology" o "La Compania", entità descritte come successori dell'operazione del defunto Yevgeniy Prigozhin, e i rapporti degli stessi operatori affermano che campagne contro il presidente argentino Javier Milei corrispondono a quanto riportato pubblicamente.

Sette falsi giornalisti: operazione "Bogus Bylines"

L’operazione iraniana ha preso una strada diversa nell’ecosistema mediatico. I suoi operatori, che hanno lanciato ChatGPT in persiano, hanno utilizzato il modello per perfezionare articoli di lunga durata in lingua inglese sul conflitto USA-Iran, quindi li hanno presentati agli editori di punti vendita online di piccole e medie dimensioni utilizzando sette personaggi giornalistici inventati: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams e Alice Johnson.

OpenAI ha identificato quasi 100 articoli pubblicati o distribuiti con questi titoli in circa una dozzina di punti vendita in tutto il mondo, la maggior parte focalizzati sugli affari internazionali e sul Medio Oriente. L’operazione ha anche generato una serie di commenti sui social media, anche se OpenAI ha affermato che questi hanno suscitato poco coinvolgimento reale e ha notato che gli operatori hanno utilizzato un calcolo ingannevole nei loro rapporti interni per gonfiare il loro apparente impatto sui social media. La società ha affermato che l'attività sembrava coerente con un attore commerciale che conduceva una campagna di influenza a pagamento e che aveva condiviso le informazioni con le autorità competenti.

Vecchi mestieri, nuovi strumenti

Ciò che colpisce di più i ricercatori, ha scritto OpenAI, è quanto entrambe le operazioni somigliassero molto alle campagne di influenza dell’era precedente all’intelligenza artificiale. I personaggi dei falsi giornalisti hanno una somiglianza familiare con "Alice Donovan", una reporter fittizia che rappresenta l'intelligence militare russa i cui editoriali sono apparsi nei media occidentali nel 2016 e nel 2017. Lo staff locale inconsapevole della SRC fa eco a "PeaceData", il sito di notizie false che ha cooptato giornalisti veri nel 2020.

L’intelligenza artificiale non ha inventato queste tecniche: le ha rese più economiche, più veloci e più fluide. Gli operatori hanno utilizzato modelli per adattare i falsi al vocabolario locale e allo stile istituzionale, tradurre i copioni in varianti regionali spagnole e produrre e-mail con una presentazione raffinata per gli editori. Ma OpenAI ha sostenuto che la natura segreta, da persona a persona, delle operazioni di falso fronte le rende anche vulnerabili all’esposizione: sia Alice Donovan che PeaceData hanno chiuso dopo essere stati nominati pubblicamente.

Leggere le prove con attenzione

OpenAI è stata attenta a mettere in guardia i propri risultati. Gli operatori rivendicavano regolarmente il merito di eventi con cui non avevano nulla a che fare, e alcuni falsi che avevano riferito di aver piantato non potevano essere trovati in fonti aperte. Ciò che OpenAI ha potuto verificare – attraverso verifiche dei fatti, smentite ufficiali e articoli pubblicati corrispondenti alle descrizioni degli operatori – suggerisce una reale penetrazione dei media e del discorso politico in almeno quattro paesi.

Per l’industria dell’intelligenza artificiale, il rapporto ricorda che gli usi più efficaci dei modelli nella disinformazione sono spesso quelli meno visibili: redazione di rapporti interni, perfezionamento delle proposte, perfezionamento delle traduzioni. Le entità meglio posizionate per rilevare queste campagne, come hanno dimostrato i casi precedenti di OpenAI, sono spesso le piattaforme i cui strumenti vengono utilizzati per gestirle.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →