L’ufficio del Pentagono incaricato di coordinare l’uso responsabile ed etico dell’intelligenza artificiale è significativamente a corto di personale, secondo il principale supervisore del governo federale – una carenza che ha ostacolato il quadro etico dell’IA di punta del dipartimento anche se l’esercito spinge per diventare una forza di guerra “AI first”.
La carenza di personale nel Chief Digital and Artificial Intelligence Office ha impedito la piena attuazione dell'iniziativa Responsible AI del Pentagono, ha affermato il Government Accountability Office in un rapporto datato 14 ottobre e riportato martedì da Stars and Stripes. La scoperta arriva in un momento in cui il processo decisionale dell’IA nella difesa si è spostato dal laboratorio al campo di battaglia, dando al gap di personale conseguenze concrete.
Tre posizioni su dieci sono occupate e i posti vacanti potrebbero rimanere aperti
L'intelligenza artificiale responsabile è il quadro etico integrato del Dipartimento della Difesa che regola lo sviluppo, l'implementazione e il funzionamento delle capacità di intelligenza artificiale sia nei sistemi di combattimento che in quelli non di combattimento. Il CDAO è l'ufficio principale per l'adozione e l'integrazione dell'IA da parte del dipartimento, compreso il quadro dell'IA responsabile, che rende il livello del personale una misura diretta della capacità effettiva della funzione di supervisione.
Il GAO ha scoperto che solo tre delle 10 posizioni autorizzate dell'ufficio erano state occupate a febbraio. Funzionari della difesa hanno detto al watchdog che le posizioni rimanenti difficilmente verranno coperte, un'ammissione che suggerisce che il deficit non è un ritardo temporaneo nelle assunzioni ma una condizione strutturale del mandato di supervisione dell'ufficio.
Una strategia "AI First" che supera le sue stesse misure di salvaguardia
La divulgazione del personale si colloca stranamente accanto alla direzione strategica del dipartimento. A gennaio, il segretario alla Difesa Pete Hegseth ha pubblicato una strategia sull’intelligenza artificiale che, secondo il rapporto GAO, enfatizza nuovamente l’accelerazione dell’integrazione e dell’adozione dell’intelligenza artificiale. La strategia, afferma il rapporto, "enfatizzava una base di guerra, chiedendo al DOD di diventare una forza di combattimento 'AI first' in tutte le sue componenti".
Il contrasto è netto: un mandato in accelerazione per l’intelligenza artificiale nei sistemi di combattimento, supervisionato da un ufficio che opera al 30% della sua forza autorizzata. Il rapido sviluppo dell’intelligenza artificiale ha messo a dura prova gli organi di governo di tutto il mondo poiché la tecnologia supera il tradizionale controllo legislativo e la supervisione umana – e lo stesso cane da guardia del Pentagono ora documenta questa lacuna all’interno della più grande burocrazia militare del mondo. Per ulteriori resoconti sulla politica e sulla governance dell'IA, consulta la nostra home page delle notizie sull'AI.
La posta in gioco: obiettivi, barriere e un rifiuto che ha rimodellato la politica
Le conseguenze di una scarsa supervisione non sono ipotetiche. Bloomberg ha riferito il mese scorso, e Stars and Stripes ha ribadito, che il software abilitato all’intelligenza artificiale utilizzato per la selezione degli obiettivi ha contribuito all’attacco statunitense a una scuola elementare con un missile Tomahawk il 28 febbraio, il primo giorno della guerra in Iran, in cui sono stati uccisi più di 100 bambini.
Le lotte per la governance dell’IA in ambito militare hanno coinvolto anche il settore privato. A febbraio, il segretario alla Difesa Pete Hegseth e il presidente Donald Trump hanno fatto pressioni su Anthropic affinché rimuovesse i guardrail di sicurezza nel suo modello Claude contratto dal governo che impediscono l’utilizzo del sistema per armi completamente autonome e sorveglianza di massa. Quando Anthropic ha rifiutato, l’amministrazione ha designato l’azienda come un rischio per la sicurezza nazionale e ha vietato alle agenzie governative di utilizzare Claude – una situazione di stallo che AI Buzz Wire ha coperto attraverso i tribunali, inclusa la sentenza della corte d’appello che ha confermato la lista nera.
Cosa significa in pratica correre al 30%?
Un ufficio di supervisione in tre delle dieci posizioni autorizzate non è una burocrazia con un arretrato: è una struttura che opera a una frazione della sua capacità prevista. L’iniziativa Responsible AI dipende dal CDAO per tradurre i principi etici in processi di revisione che i programmi reali di armi e comunicazioni devono seguire, e ogni posto vacante rappresenta un lavoro che viene annullato o spetta al personale rimanente distribuito nei portafogli.
Poiché i funzionari della Difesa hanno detto al GAO che è improbabile che i posti vacanti vengano coperti, il vincolo sembra duraturo piuttosto che ciclico. I programmi continueranno a mettere in campo le capacità dell’intelligenza artificiale e l’onere pratico dell’applicazione del quadro etico continuerà a concentrarsi su un gruppo sempre più ristretto di persone.
L'etica umana come ultima linea di difesa
Gli avvocati militari sostengono che il divario di personale lascia il giudizio umano come unico controllo significativo. "Il processo decisionale militare deve basarsi sull'etica umana, e semplicemente dire a un computer di realizzare qualcosa può essere un modo molto rapido per farlo, ma potrebbe non essere una metodologia etica, morale o legale legittima per realizzare qualunque cosa stiamo cercando di far accadere," ha detto al telefono martedì Sean Timmons, un avvocato specializzato in diritto militare presso lo studio Tully Rinckey, secondo Stars and Stripes.
Alcuni leader del settore dell’intelligenza artificiale hanno chiesto di rallentare il ritmo dei progressi dell’intelligenza artificiale, avvertendo che la perdita di controllo degli agenti autonomi di intelligenza artificiale potrebbe rappresentare una minaccia esistenziale – avvertimenti che hanno un peso particolare se applicati alle armi autonome. La scoperta del GAO suggerisce che, per ora, la componente in più rapida crescita della potenza militare statunitense viene ridimensionata rispetto alle infrastrutture umane destinate a governarla.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
