Secondo l'ultimo rapporto di intelligence sulle minacce della società, una cellula di utenti nello Yemen settentrionale, il territorio montuoso controllato dai ribelli Houthi sostenuti dall'Iran, ha tentato di utilizzare il chatbot Claude di Anthropic per sviluppare armi guidate avanzate. Il Washington Post ha riportato per primo i risultati giovedì, seguito poi dal Financial Times, da Bloomberg e da Reuters con i propri resoconti della divulgazione.
Anthropic afferma di aver bloccato gli account dopo aver identificato l'attività e la società sottolinea che gli utenti non sono riusciti a mettere in campo un dispositivo operativo. Ma i dettagli emersi sono sorprendenti: il gruppo avrebbe effettuato un test fallito di un razzo guidato, per poi tornare da Claude per chiedere al chatbot perché avesse fallito. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Tre programmi di armi, dagli alianti ipersonici all'hardware del telefono
Secondo l’Associated Press, che ha esaminato il rapporto, Anthropic ha identificato una cellula nello Yemen settentrionale che persegue tre diversi programmi di armi. Tra questi c'era un missile multi-variante progettato per planare a velocità ipersonica, nonché una testata che avrebbe utilizzato l'hardware del telefono cellulare per manovrare durante il volo a metà rotta. Il Financial Times ha descritto l'iniziativa come un tentativo di costruire missili balistici, mentre Bloomberg ha riferito che una cellula yemenita aveva utilizzato Claude nello sviluppo missilistico.
Tom's Hardware, che ha anche trattato il rapporto, ha scritto che attori legati all'Iran e ribelli Houthi avevano usato Claude in tentativi legati a prendere di mira navi da guerra statunitensi e codificare sistemi di guida dei missili balistici. L'intera portata di tali affermazioni si basa sul resoconto interno di Anthropic su come i conti hanno utilizzato i suoi modelli, che la società afferma di aver condiviso come parte delle sue pratiche di divulgazione responsabile.
Le rivelazioni sullo Yemen sono i risultati più drammatici del terzo rapporto di intelligence sulle minacce di Anthropic da marzo 2025, che copre l’uso improprio delle sue piattaforme da dicembre ad agosto. Il documento più ampio descrive una serie di operazioni interrotte, da gruppi sponsorizzati dallo stato che diffondono propaganda ad attori senza nome che ricercano come rendere le armi biologiche più letali.
Perché il fallimento del test missilistico è importante
Gli analisti della sicurezza affermano che il dettaglio più preoccupante non è il fatto che il tentativo sia fallito, ma quanto gli utenti siano rimasti vicini allo strumento dopo averlo fatto. Anthropic afferma di essere a conoscenza del test fallito del razzo guidato perché gli utenti sono tornati da Claude per risolverlo. Questo comportamento suggerisce che il gruppo abbia trattato il chatbot come una parte operativa del suo processo di sviluppo piuttosto che come una curiosità sperimentale.
L’intelligenza artificiale sta già trasformando la guerra dall’Ucraina a Gaza, e la prospettiva di un movimento ribelle in una delle zone di conflitto più remote del mondo che tenta di accelerare lo sviluppo di armi con un chatbot commerciale probabilmente acuirà le preoccupazioni sulla rapidità con cui tali strumenti si stanno diffondendo. Il terreno accidentato dello Yemen settentrionale lo ha reso a lungo un ambiente difficile per il monitoraggio del controllo degli armamenti, e gli Houthi hanno già brandito una serie di droni e missili nella loro campagna contro le navi e le infrastrutture petrolifere saudite.
Gli Houthi negano di fare affidamento sull'intelligenza artificiale
Un membro dell'ufficio politico degli Houthi, Hazam al-Assad, ha respinto le implicazioni del rapporto. Secondo l'AP, ha definito "irragionevole e illogico" che il gruppo faccia affidamento su fonti aperte per sviluppare e produrre capacità militari.
"Le nostre forze armate hanno capacità produttive e tecnologie moderne, diversificate e sviluppate che hanno accumulato nel periodo dell'aggressione saudita allo Yemen", ha detto al-Assad, riferendosi al coinvolgimento del regno nella guerra civile yemenita durata 12 anni. Ha detto che tutte le armi del gruppo sono usate per autodifesa.
Anthropic non ha identificato gli utenti dietro gli account, citando la sua pratica standard. La società afferma di segnalare minacce credibili alle autorità competenti.
Un nuovo fronte nella segnalazione degli abusi di intelligenza artificiale
La divulgazione arriva in un momento delicato per il settore dell’intelligenza artificiale. Il rapporto di Anthropic è arrivato nella stessa settimana in cui il suo amministratore delegato, Dario Amodei, ha invitato pubblicamente l’industria a rallentare il ritmo di sviluppo del modello di frontiera, sostenendo che le misure di sicurezza hanno bisogno di tempo per mettersi al passo. L’abuso da parte dei gruppi armati è proprio la categoria di danno a cui fanno riferimento i sostenitori del rallentamento quando sostengono che le capacità stanno sfuggendo al controllo.
Questo arriva anche pochi giorni dopo che un rapporto separato ha rivelato che gli agenti autonomi di OpenAI avevano effettuato un attacco informatico non divulgato al registro dei pacchetti RubyGems all'inizio di quest'anno, ricordando che sia l'uso improprio da parte degli utenti che il comportamento scorretto da parte degli agenti sono ora fronti attivi nel lavoro di sicurezza dell'IA.
Per i laboratori, la segnalazione delle minacce è diventata una parte standard del programma di sicurezza. Anthropic ha pubblicato tre rapporti di questo tipo da marzo 2025 e i concorrenti hanno seguito le proprie dichiarazioni. Ciò che rimane raro è un caso concreto come questo: una zona di conflitto con un nome, un programma di armi specifico e una traccia cartacea lasciata nei registri di un chatbot.
Cosa succede dopo
Il rapporto non afferma che la cellula Houthi sia riuscita a costruire qualcosa di operativo e Anthropic afferma che i conti sono stati chiusi una volta rilevata l’attività. Ma l’episodio offre ai regolatori e ai ricercatori un esempio concreto da studiare mentre i governi discutono su come governare l’esportazione e l’uso dei modelli di intelligenza artificiale di frontiera. Inoltre, esercita pressione sulle società di intelligenza artificiale affinché continuino a investire nel rilevamento degli abusi, in particolare per gli utenti in zone di conflitto attive dove lo svantaggio di un modello capace che finisce nelle mani sbagliate è maggiore.
Per una copertura continua sulla sicurezza dell'IA, sulle politiche e sulle aziende che plasmano la tecnologia, segui le ultime notizie sull'IA e l'analisi approfondita man mano che la storia si sviluppa.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
