Un'analisi del Dipartimento della Difesa degli Stati Uniti ha concluso che l'eccessivo affidamento all'intelligenza artificiale ha contribuito a un attacco missilistico di marzo contro una scuola in Iran che avrebbe ucciso circa 120 bambini, secondo i risultati dell'analisi riportati da Bloomberg lunedì e riassunti da Yahoo News e altri organi di informazione.
La scoperta è la prima volta che il Pentagono attribuisce formalmente un esito mortale di un combattimento in parte alla dipendenza da un sistema di intelligenza artificiale, e si colloca nel mezzo di un dibattito sempre più intenso su quanta autorità di targeting le forze armate statunitensi dovrebbero delegare al giudizio della macchina. Per ulteriori segnalazioni come questa, consulta la nostra Copertura sull'etica dell'IA.
Cosa è successo a marzo
L’attacco è avvenuto all’inizio di marzo 2026, quando l’analisi video pubblicata da Bellingcat e verificata da NPR e BBC ha mostrato un missile da crociera Tomahawk americano che colpiva vicino a una scuola femminile nella città iraniana di Lamerd. Nel giro di pochi giorni, il New York Times riferì che un'indagine preliminare statunitense aveva scoperto che l'attacco era stato il risultato di un missile americano, e fonti iraniane stimarono il bilancio delle vittime nell'ordine di dozzine, la maggior parte dei quali bambini.
La nuova analisi del Pentagono, descritta in un’indagine di Bloomberg pubblicata lunedì, va oltre: secondo quanto riferito, traccia il fallimento del processo di targeting e conclude che l’eccessivo affidamento sull’intelligenza artificiale ha contribuito allo sciopero. Yahoo News ha riassunto la revisione collegando un sistema di targeting basato sull'intelligenza artificiale all'attacco che ha ucciso 120 bambini iraniani; diversi organi di stampa hanno identificato il sistema in questione come software fornito da Palantir, sebbene il Pentagono non abbia confermato pubblicamente i dettagli del fornitore.
All'interno della catena di uccisione
Il Los Angeles Times, in un'indagine parallela pubblicata lunedì, ha tracciato quella che ha definito la "catena di uccisione" degli Stati Uniti che ha distrutto la scuola: la sequenza di raccolta dati, designazione dei bersagli assistita da macchine e approvazione umana che si è conclusa con il lancio di un missile. Il rapporto sottolinea una scomoda realtà della moderna guerra di precisione: l’equipaggio che spara con un Tomahawk potrebbe non vedere mai il bersaglio. Eseguono un pacchetto di dati target assemblato a monte, in cui gli strumenti algoritmici modellano sempre più ciò che viene nominato e la fiducia degli analisti di supporto.
In altre parole, la scoperta centrale della revisione – l’eccessiva dipendenza – non riguarda un robot che preme un grilletto. Si tratta di esseri umani che si fidano abbastanza del risultato di una macchina da evitare lo scetticismo che il processo è stato progettato per richiedere.
Supervisione che è stata smantellata
Il contesto del fallimento è stato segnalato mesi fa. Politico ha rivelato a marzo che il capo del Pentagono aveva tagliato gli uffici che non contribuivano ai suoi obiettivi di “letalità”, compreso il Centro di Eccellenza per la Protezione Civile, e che il personale delle squadre di mitigazione dei danni civili era diminuito di circa il 90%, riducendosi a meno di 20 persone in totale. ProPublica ha riferito che la squadra per le vittime civili del Comando Centrale è scesa da dieci a una.
In questo contesto, i risultati della revisione sembrano meno un bug del software e più un fallimento del sistema: uno strumento di intelligenza artificiale i cui errori sono rimasti incontrastati all’interno di un apparato di targeting le cui reti di sicurezza umana erano state ridotte all’osso.
Uno schema di cui il Pentagono era già a conoscenza
L’attacco all’Iran non è stato un caso isolato legato all’intelligenza artificiale nell’esercito americano. Report separati di Gizmodo e Futurism hanno documentato un incidente in cui i militari sono quasi saliti a bordo – e potenzialmente hanno sparato – su una nave cinese dopo che un sistema di intelligenza artificiale ha avuto allucinazioni su materiale di armi nucleari a bordo, un errore che avrebbe potuto innescare un’escalation di grandi potenze. In quel caso, l’intervento umano ha evitato il disastro. In Iran non si è verificato alcun intervento del genere.
I ricercatori di intelligenza artificiale e gli studiosi di etica militare avvertono da anni che i risultati delle macchine inseriti nelle decisioni ad alto rischio creano pregiudizi nell’automazione: la tendenza umana documentata a fidarsi eccessivamente dei sistemi sicuri. La revisione del Pentagono rappresenta ora il riconoscimento ufficiale che questo pregiudizio ha contribuito a uno dei tributi civili più mortali della guerra.
Cosa verrà dopo
È probabile che la revisione intensifichi la pressione a Washington per i requisiti statutari di human-in-the-loop nel targeting abilitato all’intelligenza artificiale, nello stesso momento in cui l’amministrazione spinge per accelerare l’adozione dell’intelligenza artificiale militare. Complica anche il discorso di vendita dei fornitori di tecnologia per la difesa i cui prodotti sono ora implicati in una revisione formale dei difetti – e fornisce al Congresso un caso di studio concreto e documentato da citare nelle udienze sulla politica sulle armi autonome.
Molte domande rimangono senza risposta. I riassunti della revisione pubblicati finora non specificano quale versione del modello fosse in uso, se il guasto fosse un'allucinazione, un'errata classificazione dell'edificio o dati di input corrotti a monte - distinzioni che contano enormemente per il modo in cui i militari dovrebbero regolare gli strumenti di intelligenza artificiale. Né è chiaro se i risultati del sistema siano stati esaminati da qualche analista prima che il pacchetto target fosse finalizzato.
L’opinione pubblica è già scettica: un sondaggio Reuters/Ipsos pubblicato questa settimana ha rilevato che il 73% degli americani afferma che le aziende di intelligenza artificiale non stanno facendo abbastanza per prevenire esiti catastrofici, e la preoccupazione per l’intelligenza artificiale nei sistemi d’arma è costantemente superiore alla preoccupazione per l’intelligenza artificiale dei consumatori. Ciò che accadrà alle raccomandazioni della revisione – e se qualcuno sarà ritenuto responsabile – indicherà se la scoperta cambierà la pratica o diventerà un altro rapporto sull'incidente archiviato e dimenticato.
---
Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
