Il falso thinktank statunitense esposto per la prima volta la scorsa settimana è stato ora quantificato dal Guardian: 124 rapporti e 560.000 parole in nove giorni, costruiti su una piattaforma commerciale che promette di ottimizzare i contenuti in modo che i chatbot di intelligenza artificiale li citino, con una traccia di finanziamento del governo israeliano documentata nei documenti del Dipartimento di Giustizia degli Stati Uniti. È l’esempio pubblico più chiaro finora di attori legati allo Stato che prendono di mira lo stesso livello di risposta dell’intelligenza artificiale: non i lettori, ma i modelli che parlano sempre più per loro. È il tipo di storia che la nostra copertura del settore dell'intelligenza artificiale traccia mentre la manipolazione dei chatbot diventa industriale. (Abbiamo trattato la scoperta iniziale del sito qui.)

Un think tank che non esiste

Il sito pubblica sotto il nome dell'Hannover Institute for Public Policy. Secondo Jason Wilson del Guardian, l'istituto apparentemente non esiste come entità legale in nessuna giurisdizione, non ha un indirizzo fisico e non riporta personale nominato e nessuna firma in nessuno dei suoi rapporti. I suoi termini di utilizzo sono regolati dalle leggi dello "stato in cui ha sede l'Istituto" - uno stato che il documento rifiuta di menzionare.

La scala della produzione era industriale. Tra il 6 e il 14 agosto, l’Hannover Institute ha pubblicato 124 rapporti per un totale di oltre 560.000 parole, con una media di circa 4.500 parole ciascuno. Soltanto nei giorni 12 e 13 agosto ha prodotto 73 rapporti per un totale di quasi 354.000 parole. Non è stato pubblicato nulla da quando sono apparsi i primi resoconti dei media sul sito.

Progettato per il livello di risposta del chatbot

Ciò che caratterizza l’operazione come nuova è il suo targeting. Tutti i 124 titoli tranne uno si aprono con una domanda simile a quella che un utente potrebbe digitare in un chatbot: "L'antisionismo è antisemitismo?", "Israele ha espulso i palestinesi dalla loro terra?", "Israele sta compiendo un genocidio a Gaza?" I rapporti presentano la posizione di Israele sulla tortura dei prigionieri palestinesi, sui crimini di guerra e sulla fame a Gaza come una ricerca neutrale, formattata per il recupero automatico.

La meccanica è documentata nei documenti ufficiali. La società di produzione multimediale di New York Piro Inc ha registrato questo mese il sito presso il Dipartimento di Giustizia degli Stati Uniti ai sensi del Foreign Agents Registration Act (Fara), una legge del 1938 che richiede la divulgazione del lavoro per governi stranieri, come materiale distribuito per il governo israeliano. Il Guardian riferisce che l'operazione è finanziata da decine di milioni di dollari del governo israeliano, passati attraverso terzi tra cui il gruppo pubblicitario europeo Havas Media. Un contratto tra Havas e un'altra azienda americana che lavora alla campagna la impegna alla "distribuzione di siti Web e contenuti per fornire risultati di framing GPT sulle conversazioni GPT".

Dopo che l'esistenza del sito fu segnalata per la prima volta il 14 agosto, l'istituto aggiunse silenziosamente una pagina di finanziamento contenente una correzione significativa: "Una versione precedente di questa pagina diceva che l'Istituto operava senza finanziamenti esterni, e questo era vero quando fu scritta." Il Guardian ha contattato Piro Inc, Havas Media e l'agenzia pubblicitaria governativa israeliana LaPam per un commento.

Perché i chatbot sono il nuovo campo di battaglia

La strategia ha un nome nel settore del marketing – ottimizzazione generativa dei motori, o GEO – ed è la disciplina successiva all’ottimizzazione dei motori di ricerca. Quando un chatbot risponde a una domanda, attinge al suo corpus di formazione e alle fonti di recupero. I contenuti voluminosi, formattati come domande e presentati come ricerche autorevoli hanno maggiori probabilità di essere emersi, citati o assorbiti nella risposta di un modello. Un falso think tank è quasi l’artefatto GEO ideale: credibilità istituzionale senza un’istituzione.

Il tempismo riflette la disperazione tanto quanto la raffinatezza. Il Guardian nota che la campagna arriva mentre la posizione di Israele nell'opinione pubblica americana è crollata, e mentre i funzionari israeliani informano i media che il denaro speso per la diplomazia pubblica "Hasbara" all'estero è stato sprecato.

L’Hannover Institute non è un caso isolato. Lo stesso giorno in cui il Guardian ha pubblicato la sua indagine, OpenAI ha annunciato di aver interrotto una nuova campagna segreta di influenza russa utilizzando l’intelligenza artificiale, l’ultima di una serie di eliminazioni che la società ha attribuito ad attori legati allo stato. Due operazioni separate, due continenti, una visione condivisa: influenzare i modelli è ora più economico e più duraturo che influenzare direttamente le persone.

Il divario di governance

Per i regolatori, il caso mette in luce un buco nei quadri esistenti. La divulgazione di Fara ha colto l'operazione sulla carta, ma solo dopo che il contenuto era attivo e potenzialmente importato. Le disposizioni sulla trasparenza dell’UE AI Act e i quadri volontari che regolano la provenienza dei dati di formazione non sono stati progettati per un mondo in cui il percorso più economico verso le convinzioni di una popolazione passa attraverso i suoi chatbot.

Per i laboratori di intelligenza artificiale, la domanda operativa è immediata: in che modo i sistemi di recupero e le pipeline di formazione distinguono la ricerca dalle content farm che indossano abiti da ricerca? Volume, formattazione e citazioni sicure – i segnali di autorità – sono esattamente ciò che l’Hannover Institute ha prodotto in serie. Fino a quando i modelli non miglioreranno la provenienza, il mezzo milione di parole sarà già disponibile e nessuna divulgazione depositata dopo il fatto le richiamerà.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →