Il Dipartimento della Difesa ha pubblicato nuove linee guida per il personale contraente e di programma progettate per garantire che i sistemi di intelligenza artificiale acquistati dal Pentagono rispettino i principi di "ricerca della verità" e "neutralità ideologica" dell'amministrazione Trump, ha riferito lunedì il Federal News Network.
La direttiva, emessa da John Tenaglia, il principale direttore del Pentagono per la politica dei prezzi, dei contratti e delle acquisizioni della difesa, è il passo più concreto del dipartimento per attuare l'agenda del presidente Donald Trump per "prevenire il risveglio dell'intelligenza artificiale" nel governo federale. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.
Dall'ordine esecutivo al linguaggio contrattuale
La guida deriva direttamente dall’ordine esecutivo firmato da Trump a luglio, che richiede alle agenzie federali di garantire che i grandi modelli linguistici che acquistano siano “strumenti neutrali e imparziali che non manipolino le risposte a favore di dogmi ideologici come [diversità, equità e inclusione]”. In quest’ordine, Trump ha dichiarato che le agenzie federali “hanno l’obbligo di non procurarsi modelli che sacrificano la veridicità e l’accuratezza ai programmi ideologici”.
L'Ufficio di gestione e bilancio ha successivamente emesso una nota in cui rispondeva alle domande emerse dopo la pubblicazione dell'ordine esecutivo. Il nuovo documento del Pentagono traduce questi mandati di alto livello nel meccanismo di acquisizione della difesa: modelli che guidano i funzionari attraverso le diverse fasi dell'acquisto di sistemi di intelligenza artificiale e della verifica della conformità degli appaltatori ai principi di "intelligenza artificiale imparziale" del dipartimento.
Nello specifico, i modelli includono un promemoria per aiutare le agenzie a selezionare i requisiti appropriati di trasparenza e documentazione per un appalto, un linguaggio di sollecitazione standardizzato che indica alle aziende quale documentazione devono fornire per dimostrare la conformità e un linguaggio contrattuale formale che può essere incorporato in una dichiarazione di lavoro o in una dichiarazione di prestazione di lavoro, secondo Federal News Network.
Orientamento, non un mandato: per ora
Tenaglia è stato attento a inquadrare il peso legale del documento. Sebbene il rispetto dell’ordine esecutivo sottostante e della nota dell’OMB sia obbligatorio, il nuovo documento è inteso “solo come guida”, fornendo “un approccio standardizzato per documentare, sollecitare e far rispettare i principi imparziali dell’intelligenza artificiale”, ha scritto.
"Riconoscendo che gli appalti legati all'intelligenza artificiale variano ampiamente in termini di complessità e rischio, i componenti del Dipartimento della Difesa e le attività che richiedono hanno la flessibilità di rivedere, personalizzare o integrare questo linguaggio secondo necessità per soddisfare le esigenze specifiche e il contesto delle loro esigenze individuali", ha scritto Tenaglia nella nota.
Tale flessibilità potrebbe rivelarsi consequenziale. Misurare se un modello di intelligenza artificiale è “imparziale” – e documentare tale determinazione per un file contrattuale – è un compito molto più complicato rispetto al controllo di una certificazione di sicurezza informatica, ed è probabile che i fornitori respingano le richieste di documentazione che riguardano la progettazione del modello.
Parte di una spinta più ampia verso la commercializzazione dell'IA per la difesa
La guida arriva mentre il segretario alla Difesa Pete Hegseth continua la sua spinta per portare l’intelligenza artificiale commerciale nel dipartimento. All’inizio di quest’anno, il Pentagono ha pubblicato una strategia sull’intelligenza artificiale volta a trasformare il dipartimento in una “forza di guerra basata sull’intelligenza artificiale”, con Hegseth che afferma che il dipartimento investirà molto nell’infrastruttura di calcolo dell’intelligenza artificiale, dai data center ai sistemi all’avanguardia.
I legislatori si stanno muovendo in parallelo. Il deputato Jimmy Patronis (R-Fla.) sta cercando di codificare in legge l'ordine esecutivo di Trump. "Il presidente e il suo team hanno emanato un ordine esecutivo intelligente che istruisce le agenzie federali a sfruttare solo gli strumenti di intelligenza artificiale che dicono la verità", ha detto Patronis, sostenendo che ci sono "esempi dopo esempi di strumenti di intelligenza artificiale che vanno fuori dai binari perché la programmazione fondamentale si inclina politicamente a sinistra."
Cosa significa per i fornitori di IA
Per le aziende di intelligenza artificiale – compresi i laboratori di frontiera che ora corrono verso offerte pubbliche – le linee guida segnalano che la documentazione sulla neutralità ideologica sta diventando un requisito de facto per il mercato della difesa statunitense, uno dei segmenti di clienti in più rapida crescita per l’intelligenza artificiale commerciale. I fornitori in grado di produrre audit trail per l'addestramento e il comportamento dei loro modelli potrebbero trovare la porta aperta; coloro che non possono farlo potrebbero ritrovarsi sempre più chiusi negli appalti federali.
L’effetto pratico è che l’“intelligenza artificiale imparziale” sta passando dalla retorica politica a un requisito scritto nei contratti del più grande acquirente di tecnologia del mondo – e ogni altra agenzia sta osservando come funzionano i modelli del Pentagono.
Cosa dovranno effettivamente produrre i fornitori
Con i modelli, l'onere della prova si sposta a carico del venditore. Le aziende che fanno offerte per contratti ad alto contenuto di intelligenza artificiale dovrebbero fornire documentazione che dimostri che i loro modelli sono conformi ai principi di “intelligenza artificiale imparziale”, creando di fatto una nuova categoria di documenti di acquisizione insieme agli accreditamenti di sicurezza e alle attestazioni della catena di fornitura. I funzionari appaltanti, a loro volta, ottengono un linguaggio standardizzato che possono inserire nei bandi senza redigerli da zero, che secondo gli esperti di appalti è di solito ciò che trasforma la politica in pratica.
La guida arriva anche mentre il Pentagono normalizza i chatbot commerciali per la sua forza lavoro, avendo lanciato versioni ottimizzate dal governo di assistenti IA commerciali per il personale della difesa. Incorporare un linguaggio di neutralità ideologica in tali contratti estende uno standard politico ai sistemi utilizzati per qualsiasi cosa, dalla pianificazione logistica al lavoro amministrativo di routine.
Un banco di prova per il resto del governo
Altre agenzie ora si trovano di fronte a una scelta: adottare in blocco i modelli del Pentagono, scriverne di propri o aspettare che il Congresso agisca. La spinta di Patronis a codificare l’ordine esecutivo risolverebbe quell’ambiguità per statuto – e renderebbe i requisiti di neutralità molto più difficili da invertire per una futura amministrazione.
I critici dell’ordinanza sostengono che misurare la neutralità ideologica nei modelli linguistici è scientificamente complicato e potrebbe raffreddare il comportamento legittimo del modello, comprese le descrizioni accurate degli argomenti contestati. I sostenitori ribattono che gli standard di procurement impongono già regolarmente requisiti di contenuto ai fornitori e che gli sviluppatori di modelli rimangono liberi di vendere altrove.
In ogni caso, la direzione del viaggio è chiara. Il più grande acquirente di tecnologia del governo ha messo per iscritto “un’intelligenza artificiale imparziale”, e gli appaltatori della difesa che sperano di vendere sistemi di intelligenza artificiale al Pentagono ora hanno una nuova lista di controllo da soddisfare – una che inizia con la documentazione e finisce, potenzialmente, in controversie contrattuali se un modello implementato non supera il test di neutralità.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
