OpenAI ha dichiarato martedì di aver bandito un gruppo di account ChatGPT originari della Russia utilizzati per supportare una campagna di influenza online segreta, un'operazione costruita attorno a un'organizzazione di ricerca fittizia chiamata International Burke Institute che ha fabbricato affiliazioni con eminenti accademici e ha plagiato la stragrande maggioranza del suo materiale pubblicato.
La società ha rivelato la rimozione in un post sul blog intitolato "Interrompere una nuova campagna di influenza segreta dalla Russia" e i risultati sono stati riportati da CNBC e Quartz. Secondo OpenAI, gli account sono stati utilizzati per promuovere l'International Burke Institute, o IBI, un'autodefinita "comunità di esperti" il cui sito web elencava un indirizzo in Israele ed è stato registrato nel febbraio 2025. Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.
Un think tank che non è mai esistito
Il fulcro dell'operazione è stata l'apparenza di legittimità istituzionale. Il sito web dell'IBI afferma falsamente di includere accademici di spicco tra cui Francis Fukuyama e Noam Chomsky, ha affermato OpenAI. In un’analisi di 36 articoli collegati a esperti elencati sul sito e pubblicati tra settembre 2025 e maggio 2026, la società ha scoperto che 34 erano stati copiati da altrove su Internet, a volte con attribuzione errata.
Una caratteristica centrale della campagna era un “indice di sovranità” che classificava i paesi secondo un sistema di misurazione progettato per dare un giudizio favorevole alla Russia mentre criticava le nazioni occidentali. I rapporti riguardanti Francia, Germania, Stati Uniti e Unione Europea sono diventati polemici, ha affermato OpenAI. Una voce sugli Stati Uniti diceva: "Trump è arrivato [a Pechino] con l'indice di sovranità n. 1 al mondo e se ne è andato dopo aver compiuto una serie di passi che [...] possono essere qualificati come una riduzione volontaria dell'autonomia".
Come ha funzionato l'operazione
OpenAI ha affermato di aver valutato i conti come molto probabilmente originari della Russia, nonostante il camuffamento. Per eludere il divieto di OpenAI sull'accesso ai modelli dalla Russia, gli operatori hanno instradato le loro connessioni tramite VPN, ha affermato la società. Lavorando in russo, hanno utilizzato ChatGPT per redigere contenuti di social media apparsi su Substack, Telegram, X, Facebook e LinkedIn, indirizzando il modello a eliminare qualsiasi caratteristica del testo che potrebbe tradire le sue origini generate dall'intelligenza artificiale. La maggior parte dei contenuti generati sono stati scritti in inglese, una scelta che suggerisce che l’operazione fosse rivolta al pubblico occidentale piuttosto che ai lettori russi nazionali.
L'operazione si è estesa oltre il contenuto in lingua inglese. Un operatore ha generato post in lingua tedesca per un canale Telegram chiamato “Lahme Ente” – tedesco per “anatra zoppa” – che criticava l’Ucraina, l’Unione Europea e il governo tedesco mentre sosteneva legami più stretti con la Russia. Un secondo operatore ha creato loghi per circa una dozzina di canali Telegram focalizzati su Germania, Stati Uniti, Francia, Polonia e Turchia e ha richiesto riassunti in lingua russa della loro attività.
Portata limitata, ma un progetto allarmante
Secondo le metriche di coinvolgimento convenzionali, la campagna non è stata un successo. OpenAI ha riconosciuto che la maggior parte dei post sui social media hanno ricevuto un numero basso di visualizzazioni, gli account ufficiali IBI avevano pochi abbonati e i canali Telegram associati hanno attirato tra 10.000 e 20.000 follower ciascuno.
Ma l’azienda sostiene che l’importanza dell’operazione non risiede nella sua portata ma nell’apparato costruito dai suoi operatori. I post prodotti con ChatGPT indirizzavano i lettori verso quello che sembrava essere un ente di ricerca legittimo, completo di indirizzo fisico, elenco di esperti e un flusso costante di pubblicazioni. Questa struttura, ha affermato OpenAI, dimostra come gli strumenti di intelligenza artificiale possano aiutare i malintenzionati a creare credibilità istituzionale, oscurare la vera fonte delle narrazioni preferite e gettare le basi per operazioni che potrebbero diventare notevolmente più grandi.
La battaglia più ampia sull'influenza generata dall'intelligenza artificiale
La rimozione è l’ultima di una serie di interruzioni annunciate da OpenAI che coinvolgono attori di minacce affiliati allo stato, e arriva in mezzo a prove crescenti che le operazioni di influenza stanno spostando le loro ambizioni dai feed dei social media verso gli stessi sistemi di intelligenza artificiale. All’inizio di agosto, un’indagine separata di Responsible Statecraft ha documentato un falso think tank che pubblicava più di 100 rapporti in una settimana nel tentativo evidente di manipolare le risposte fornite dai chatbot di intelligenza artificiale su Israele e Palestina.
Insieme, i casi delineano un programma emergente: invece di limitarsi a diffondere messaggi agli esseri umani, gli operatori stanno costruendo false istituzioni i cui risultati possono essere citati, estratti e assorbiti dai modelli di intelligenza artificiale che mediano sempre più il modo in cui le persone incontrano le informazioni.
Per le aziende di intelligenza artificiale, l’implicazione è scomoda. Le stesse proprietà che rendono utili i grandi modelli linguistici – redazione fluente e multilingue, basso costo, produzione instancabile – li rendono un’infrastruttura attraente per la propaganda riciclata. La risposta di OpenAI in questo caso è stata una rimozione a livello di contenuto: account bannati, tattiche nominate e un resoconto pubblico di come ha funzionato l'operazione.
Se tali divulgazioni possano tenere il passo con le operazioni che descrivono rimane una delle questioni di sicurezza centrali dell’era dell’IA. Come chiarisce il rapporto di martedì, il costo per costruire un’istituzione falsa convincente è diminuito drasticamente – e le entità meglio posizionate per individuarle sono proprio le aziende i cui modelli vengono utilizzati per costruirle.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
