Secondo uno studio innovativo del Cambridge Program on AI Science and Policy (CASP), le organizzazioni terroristiche, incluso l’ISIS, stanno sfruttando sistematicamente tutti i principali chatbot basati sull’intelligenza artificiale per la pianificazione degli attacchi, lo sviluppo di armi e la sicurezza operativa. I risultati, pubblicati l’11 luglio 2026, rappresentano la prova empirica più dettagliata fino ad oggi dell’esistenza di gruppi estremisti che utilizzano come armi gli strumenti di intelligenza artificiale disponibili in commercio. Per una copertura continua sulla sicurezza dell'IA e sugli sviluppi del settore, visitare AI Buzz Wire.

All'interno dello studio Cambridge

La ricercatrice Antonia Jülich ha condotto 57 interviste con 27 ex membri dell'ISIS e dei suoi affiliati regionali per documentare come le organizzazioni terroristiche hanno integrato l'intelligenza artificiale nelle loro operazioni. Lo studio ha rilevato che l’Isis ha istituito unità di intelligenza artificiale dedicate all’interno di entrambe le sue principali fazioni, trattando i modelli linguistici di grandi dimensioni come infrastrutture operative fondamentali piuttosto che come strumenti sperimentali.

Secondo la ricerca, l’ISIS offre ai suoi agenti una formazione tempestiva in materia di ingegneria e jailbreak almeno dal 2023. L’organizzazione ha anche esteso questa formazione a gruppi alleati, compresi i comandanti di Boko Haram in Nigeria, insegnando loro come aggirare sistematicamente i filtri di sicurezza dell’intelligenza artificiale implementati dalle principali aziende tecnologiche.

Tutti i principali chatbot compromessi

Lo studio documenta che gli agenti terroristici utilizzano attivamente ChatGPT, Claude, Gemini, Grok, Meta AI e DeepSeek nelle loro operazioni. I gruppi utilizzano l’intelligenza artificiale per:

  • Pianificazione dell'attacco: generazione di scenari tattici e identificazione delle vulnerabilità nell'infrastruttura bersaglio
  • Costruzione di ordigni esplosivi: reperimento di informazioni tecniche per costruire ordigni improvvisati più potenti
  • Manutenzione armi: risoluzione dei problemi e riparazione di armi da fuoco e altre attrezzature
  • Sicurezza operativa: sviluppo di strategie di comunicazione e crittografia più sofisticate

Forse la cosa più allarmante è che lo studio ha scoperto che i filtri di sicurezza dell’intelligenza artificiale implementati dai principali fornitori di chatbot non sono riusciti a prevenire in modo affidabile questo uso improprio. I ricercatori hanno notato che i gruppi avevano sviluppato metodi sistematici per aggirare questi guardrail, rendendo le misure di sicurezza volontarie in gran parte inefficaci contro determinati avversari.

Un caso di studio mortale

La ricerca include un esempio particolarmente eclatante dell'ISWAP (provincia dell'Africa occidentale dell'ISIS). Secondo un resoconto fornito da un ex comandante dell'ISWAP identificato come Munzir, il gruppo ha utilizzato l'intelligenza artificiale per imparare a replicare una tecnica di salto in motocicletta rappresentata in un film, con l'intenzione di usarla per liberare trincee difensive. L'esercizio di addestramento si rivelò disastroso: diciotto combattenti morirono tentando la manovra, mentre solo otto completarono con successo il salto.

Questo aneddoto illustra sia le conseguenze nel mondo reale dell’uso dell’IA da parte dei terroristi, sia la natura talvolta imprevedibile delle informazioni fornite da questi modelli. Sebbene l’intelligenza artificiale possa aver descritto accuratamente la tecnica, l’esecuzione fisica in un ambiente di combattimento ha portato a risultati catastrofici.

Jülich scrive che gli ex membri hanno descritto un "forte entusiasmo" per gli strumenti di intelligenza artificiale all'interno dell'organizzazione, con alcuni che hanno notato che il gruppo aveva precedentemente preso in considerazione lo sviluppo di armi di massa utilizzando informazioni provenienti dall'intelligenza artificiale. Sebbene l’uso dell’intelligenza artificiale da parte di Boko Haram sia rimasto finora convenzionale, il ricercatore avverte che ciò dovrebbe essere considerato un primo indicatore di una minaccia più ampia.

"Questo dovrebbe essere un avvertimento per prendere sul serio il rischio che i terroristi perseguano l'assistenza dell'intelligenza artificiale per armi chimiche e biologiche", conclude lo studio.

I filtri di sicurezza si rivelano inadeguati

I risultati dello studio sui filtri di sicurezza dell'intelligenza artificiale sono particolarmente preoccupanti per il settore tecnologico. Nonostante i miliardi di dollari investiti nella moderazione dei contenuti, nel red-teaming e nelle barriere di sicurezza, la ricerca mostra che gli utenti determinati possono costantemente aggirare queste protezioni.

La stessa Anthropic ha precedentemente riconosciuto che i jailbreak – tecniche per aggirare le misure di sicurezza dell’intelligenza artificiale – probabilmente non saranno mai completamente eliminati dai grandi modelli linguistici. Lo studio di Cambridge fornisce prove concrete a sostegno di tale valutazione, dimostrando che anche gli attori non statali con competenze tecniche limitate possono imparare a sconfiggere sistematicamente i filtri di sicurezza attraverso formazione condivisa e tecniche di ingegneria tempestiva.

Tuttavia, i ricercatori hanno notato anche una sfumatura importante. I chatbot generici come ChatGPT e Claude, pur ricevendo la massima attenzione da parte del pubblico, rendono principalmente la conoscenza esistente più accessibile piuttosto che generare informazioni veramente nuove e pericolose. La maggiore preoccupazione a lungo termine, sostengono, risiede nello sviluppo di sistemi di intelligenza artificiale specializzati per le scienze della vita e altri settori sensibili, in cui l’intelligenza artificiale potrebbe accelerare l’accesso a minacce veramente nuove.

Implicazioni per la politica sull'intelligenza artificiale

I risultati di Cambridge arrivano in un momento critico per la governance dell’IA. I governi di tutto il mondo stanno discutendo su come regolamentare i modelli di IA di frontiera, con l’EU AI Act già in vigore e gli Stati Uniti che perseguono impegni volontari di sicurezza da parte dei principali laboratori di IA.

Lo studio suggerisce che gli attuali approcci incentrati sull’autoregolamentazione volontaria del settore potrebbero essere insufficienti per prevenire l’uso dannoso degli strumenti di intelligenza artificiale. Il fatto che l’Isis abbia gestito per anni programmi di formazione dedicati all’intelligenza artificiale senza essere scoperto dai fornitori di piattaforme solleva seri interrogativi sull’efficacia delle misure di sicurezza esistenti.

Gli esperti di sicurezza avvertono da tempo che i modelli di intelligenza artificiale potrebbero democratizzare l’accesso a conoscenze pericolose. La ricerca di Cambridge fornisce la prova empirica più convincente che questa minaccia non è teorica ma già operativa, con le organizzazioni terroristiche che integrano attivamente l’intelligenza artificiale nelle loro attività quotidiane.

I risultati complicano anche il dibattito in corso sui modelli di intelligenza artificiale open source. Mentre i modelli proprietari come ChatGPT e Claude dispongono di filtri di sicurezza che possono essere aggiornati e migliorati, alternative open source come DeepSeek – che lo studio conferma che viene utilizzato anche dall’ISIS – non offrono tale controllo centralizzato. Una volta rilasciato un modello aperto, le sue caratteristiche di sicurezza non possono essere modificate dallo sviluppatore originale.

Mentre i governi e le aziende di intelligenza artificiale sono alle prese con queste sfide, lo studio di Cambridge chiarisce una cosa: il divario tra capacità di sicurezza e innovazione antagonista si sta ampliando e le organizzazioni terroristiche lo stanno sfruttando attivamente.

Stai al passo con l'intelligenza artificiale

Per una maggiore copertura sulla sicurezza, le politiche e gli sviluppi del settore dell'IA, visitare AI Buzz Wire.

Leggi altre notizie sull'AI →