OpenAI ha dichiarato giovedì di aver interrotto un'operazione di influenza collegata all'Iran che ha utilizzato ChatGPT per inserire quasi 100 articoli generati dall'intelligenza artificiale sotto false firme di giornalisti occidentali in pubblicazioni reali in tutto il mondo, compresi diversi punti vendita degli Stati Uniti.
La campagna, che OpenAI definisce un'operazione di "falso fronte", è dettagliata in un rapporto pubblicato dalla società l'8 ottobre e in un reportage successivo di The Washington Post, CNN, NPR e Radio Free Europe/Radio Liberty. Si tratta di uno dei casi documentati più chiari fino ad oggi di una rete di influenza straniera che utilizza un chatbot commerciale tradizionale non solo per redigere propaganda, ma per gestire l’intero flusso di lavoro editoriale inserendola nei media legittimi. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.
Un giornalista che non è mai esistito
Al centro dell'operazione c'era un personaggio di nome Ervin B. Hoskins, presentato come un giornalista freelance americano. Secondo RFE/RL, gli articoli attribuiti a Hoskins presentavano gli Stati Uniti come l’aggressore nel conflitto in corso con l’Iran, descrivevano Israele come un alleato inaffidabile e inquadravano l’Iran come un perdente ribelle. Hoskins, confermato da OpenAI, non è mai esistito.
Era uno dei sette personaggi giornalistici inventati, tutti presumibilmente provenienti da paesi occidentali, che gli operatori utilizzavano per pubblicare e pubblicare articoli. "Abbiamo identificato quasi 100 articoli pubblicati o distribuiti sotto il titolo dell'operazione in circa una dozzina di punti vendita online in tutto il mondo", ha affermato OpenAI nel suo rapporto, descrivendo gli obiettivi come punti vendita di piccole e medie dimensioni generalmente focalizzati su affari internazionali, geopolitica e Medio Oriente.
Il Washington Post, che per primo ha denunciato la penetrazione della campagna nei media statunitensi, ha scoperto che un piccolo settimanale della Florida ha pubblicato uno dei falsi editoriali. Altri posizionamenti segnalati sono apparsi in punti vendita tra cui Middle East Monitor, che ha detto alla CNN di aver rimosso gli articoli in questione e di stare rivedendo il processo di invio.
Come è stato utilizzato ChatGPT
Secondo la divulgazione di OpenAI, gli operatori hanno utilizzato ChatGPT sia in Farsi che in inglese durante l'intero processo di posizionamento: modificando bozze di articoli di lunga durata, adattando le presentazioni ai requisiti editoriali delle singole pubblicazioni, preparando e-mail di sensibilizzazione agli editori e generando batch di commenti sui social media progettati per assomigliare alle reazioni dei lettori indipendenti.
Un esempio tracciato dai ricercatori: un editoriale intitolato "Jared Kushner e la privatizzazione della strategia americana sull'Iran", pubblicato il 12 giugno da PeaceVoice, un servizio di distribuzione di editoriali gestito dall'Oregon Peace Institute. Nei giorni successivi lo stesso articolo è stato ripubblicato da CounterPunch e LA Progressive, secondo RFE/RL.
OpenAI ha affermato che l’attività di pubblicazione è aumentata dopo l’inizio del conflitto tra Stati Uniti e Iran all’inizio di quest’anno. La società ha affermato di aver vietato gli account ChatGPT coinvolti nella campagna e di aver valutato la capacità dell'operazione di inserire contenuti in organi editoriali esterni come categoria 4 sulla sua scala di operazione di influenza a sei punti, secondo quanto riportato dalla CNN.
L'attribuzione rimane aperta
In particolare, OpenAI ha affermato di non essere in grado di identificare l’attore specifico dietro la campagna o di confermare la direzione del governo iraniano. La sua valutazione, come riportato dalla CNN, indicava un’operazione di influenza commerciale, a pagamento, piuttosto che gestita direttamente dallo stato – una struttura che rende l’attribuzione più difficile e l’interruzione meno conclusiva. Il divieto degli account ha interrotto ciò che OpenAI poteva osservare; non ha dimostrato che la rete più ampia fosse stata smantellata.
Jessica Brandt, che ha guidato l’ufficio del direttore del Centro per l’influenza maligna straniera dell’intelligence nazionale dal 2023 al 2025, ha detto alla Galileus Web che l’operazione ha mostrato come l’intelligenza artificiale aiuta gli attori stranieri a nascondere il loro coinvolgimento e a instradare i messaggi attraverso canali autentici.
La campagna iraniana non è stata l’unica attività segnalata da OpenAI. Il rapporto della società riguardava anche l'interruzione delle operazioni di influenza legate alla Russia che utilizzavano ChatGPT, come riportato da The Record di Recorded Future News. Separatamente, RFE/RL ha osservato che Anthropic ha precedentemente interrotto gli sforzi iraniani di utilizzare impropriamente i suoi modelli Claude per la propaganda e la sorveglianza dei dissidenti.
La pubblicazione non è più una prova della paternità
Per le redazioni, il caso approda a una scomoda verità: una didascalia, un ritmo coerente, una biografia plausibile e una presentazione raffinata non implicano più l’esistenza di un collaboratore. Gli editori che si affidano a contributi freelance - in particolare editoriali e commentatori, che per natura pubblicano punti di vista esterni - ora devono affrontare un problema di verifica che i filtri antispam e l'euristica della qualità della scrittura non possono risolvere.
Le risposte pratiche segnalate nella copertura del rapporto includono un'autenticazione più forte dei contributori, cronologie documentate delle presentazioni, esame accurato dei sottotitoli che appaiono su più punti vendita in finestre brevi e strumenti di provenienza che collegano i contributi a identità verificabili.
Conta anche l’aspetto economico. Un'operazione che una volta richiedeva uno staff di scrittori può ora essere gestita da un piccolo team che dirige un chatbot, con il modello che gestisce tutto, dalla traduzione all'adattamento del tono allo stile della pubblicazione di destinazione. Il rapporto di OpenAI suggerisce che la barriera alla gestione di una campagna di posizionamento multi-persona e multi-punto è scesa al punto in cui un negozio a noleggio può farlo come servizio commerciale.
Nessuno dei mezzi di informazione citati nel rapporto era un importante organo di informazione tradizionale, ma molti avevano un pubblico reale. Questo è il punto, dicono i ricercatori: il posizionamento in qualsiasi pubblicazione credibile sposta un messaggio in una circolazione più ampia attraverso la diffusione, l’aggregazione e la ricerca – che è esattamente ciò che la campagna ha ottenuto prima di essere interrotta.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
