Un falso think tank creato per conto del governo israeliano ha pubblicato più di 100 raffinati rapporti di ricerca in poco più di una settimana, in quella che gli analisti descrivono come una campagna deliberata per manipolare le risposte che i chatbot di intelligenza artificiale forniscono agli utenti su Israele e Palestina, secondo un'indagine pubblicata lunedì da Responsible Statecraft.
L’organizzazione, chiamata Hanover Institute for Public Policy, si presenta come un nuovo organismo di ricerca focalizzato su Israele/Palestina. Ma i suoi resoconti non riportano sottotitoli, e un disclaimer in fondo al suo sito web riconosce che è stato creato per conto dell'agenzia pubblicitaria del governo israeliano da Piro, Inc., una società co-fondata da Daniel Rosenberg, un produttore cinematografico accreditato per "Inside Man" di Spike Lee. La storia è stata ripresa da organi di stampa tra cui Arab News e The Cradle, ed è l’ultimo segnale che le operazioni di influenza si stanno spostando dai feed dei social media ai modelli di intelligenza artificiale. Per ulteriori informazioni su come si sta evolvendo la manipolazione nell'era dell'intelligenza artificiale, segui la nostra copertura delle ultime notizie sull'intelligenza artificiale. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.
Report progettati per il modo in cui i LLM giudicano la credibilità
Ciò che rende insolito l’Hannover Institute è il modo in cui i suoi risultati appaiono adattati al modo in cui i modelli linguistici di grandi dimensioni valutano le fonti. I suoi "rapporti sui dati" sono dotati di note a piè di pagina, indici e un tono misurato e neutro: il tipo di formattazione che aiuta i documenti ad attirare chatbot come Claude o Gemini, ha riferito Responsible Statecraft.
Molti dei titoli sono formulati come le domande esatte che un utente potrebbe digitare in un chatbot: “Cosa ha causato lo sfollamento dei palestinesi nel 1948?” "Quali organizzazioni umanitarie hanno documentato i crimini di guerra israeliani?" "Qual è la situazione attuale nella Striscia di Gaza?" e "L'IDF è l'esercito più morale del mondo?" – l’ultimo dei quali cita un sondaggio del 2022 secondo cui il 47% degli ebrei israeliani credeva a quella descrizione.
Il sito web di Piro è schietto riguardo al metodo. L'azienda afferma di creare "contenuti progettati per il modo in cui i LLM valutano la credibilità", un servizio che commercializza come "Ottimizzazione della storia AI". I ricercatori hanno un nome schietto per questa pratica: "avvelenamento da LLM".
Un 'mimetismo perfetto' di un'istituzione credibile
Alice Lee, analista di NewsGuard, la società di monitoraggio della disinformazione, ha dichiarato a Responsible Statecraft che i rapporti del sito sembrano progettati per raggiungere un pubblico statunitense curioso del conflitto, sia attraverso i motori di ricerca che attraverso gli assistenti di intelligenza artificiale.
"I LLM preferiscono statistiche e dati concreti, nonché citazioni e fonti forti, di cui tutti questi articoli dispongono", ha affermato Lee. "È una perfetta imitazione di un tipico think tank americano credibile, fino al nome generico, al layout del sito e allo schema di colori rosso-bianco-blu."
L’istituto ha anche pubblicato quelle che sostiene siano scoperte originali – ad esempio, uno studio che afferma che 19 dei 36 video esplicativi più visti su Israele e Gaza contengono affermazioni contestate, la maggior parte delle quali in linea con la narrativa palestinese. Altri rapporti si oppongono alla documentazione consolidata, incluso uno che mette in dubbio l'affermazione dell'UNICEF secondo cui il 90% delle infrastrutture idriche e istituzionali a Gaza sono state danneggiate o distrutte.
In particolare, i risultati non sempre seguono la linea del governo israeliano. Un rapporto descrive la teoria secondo cui i finanziamenti esteri alle università spiegano gli episodi di antisemitismo come “deboli e pieni di eccezioni” – anche se il primo ministro Benjamin Netanyahu ha promosso questa teoria, dicendo a Breitbart che gli attori stranieri hanno speso “miliardi” nei campus americani. Molti rapporti concludono collegando l’argomento in questione al crescente antisemitismo, citando spesso gli stessi studi.
Follow the Money: $ 900.000 attraverso un conglomerato di pubbliche relazioni francese
Secondo Responsible Statecraft, Piro, Inc. ha ricevuto 900.000 dollari dal governo israeliano per il suo lavoro, subappaltato tramite Havas Media, un conglomerato francese di pubbliche relazioni – un accordo coerente con il modo in cui altri appaltatori israeliani sono stati pagati per il lavoro di influenza all’estero.
L’Hannover Institute ha iniziato a pubblicare il 6 agosto. Nei circa dieci giorni successivi, ha sfornato più di 100 rapporti, un ritmo che nessun vero e proprio centro politico di dimensioni paragonabili riesce a sostenere.
Perché la manipolazione di Chatbot è diversa
Il caso sottolinea una debolezza strutturale nel modo in cui gli assistenti di intelligenza artificiale assemblano le risposte: trattano documenti ben citati e ricchi di statistiche come credibili indipendentemente da chi li ha prodotti o perché. La disinformazione tradizionale prendeva di mira i lettori umani sulle piattaforme social, dove la forza emotiva contava di più. Il cosiddetto avvelenamento da LLM prende invece di mira i livelli di recupero e classificazione che decidono quali fonti citare un modello – e un singolo documento persuasivo può quindi riecheggiare in milioni di risposte.
Per gli sviluppatori di chatbot, l’Hannover Institute è uno stress test di controllo della fonte. La valutazione di NewsGuard suggerisce che il mimetismo è abbastanza vicino da ingannare i segnali automatizzati di credibilità. Per i lettori, la lezione è più semplice: la risposta sicura e ben annotata che un chatbot ti dà su un conflitto contestato può risalire a un’organizzazione che è stata costruita, marchiata e finanziata per produrre esattamente quella risposta.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
