Il Pentagono sta lanciando un programma pilota che utilizzerà l'intelligenza artificiale per gestire il modo in cui classifica e gestisce le informazioni militari sensibili, secondo un memorandum emesso dal vice segretario alla Difesa Steve Feinberg e esaminato da DefenseScoop. La direttiva ordina un’implementazione iniziale su piccola scala di una capacità di classificazione automatizzata della sicurezza entro i prossimi sei mesi: la mossa di apertura nel tentativo di rivedere un processo che il dipartimento descrive come pericolosamente obsoleto.
All'interno del promemoria Feinberg Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
La nota, pubblicata lunedì, inquadra le attuali procedure di classificazione e declassificazione del Pentagono come una fonte di "disfunzione" che secondo il dipartimento sta "mettendo in pericolo" la sua missione. Si sostiene che le procedure obsolete rallentano il "rilascio tempestivo di informazioni critiche" ed erodono la fiducia del pubblico nel dipartimento.
"La disfunzione causata da queste procedure porta a classificazioni errate che gravano sui nostri sistemi di sicurezza nazionali, impediscono l'interoperabilità e rallentano l'innovazione intrappolando dati vitali nei tubi da stufa", afferma la nota, secondo DefenseScoop.
##ACME: Il Sistema Aeronautica al Centro
Per la sperimentazione, il Dipartimento della Difesa utilizzerà un sistema supportato dall’intelligenza artificiale recentemente sviluppato dall’Air Force chiamato Automated Classification Management Environment, o ACME. La nota designa il massimo funzionario civile dell'aeronautica come agente esecutivo del pilota, e un portavoce dell'aeronautica ha detto a DefenseScoop che il servizio "rispetterà le indicazioni contenute nella nota".
L’ACME è stata segnalata pubblicamente in agosto, quando i funzionari hanno emesso una richiesta di informazioni chiedendo all’industria di contribuire a costruire un ecosistema di gestione della classificazione per sostituire il processo “manuale, ad alta intensità umana” che i militari hanno utilizzato per decenni. Quell’avviso descriveva un sistema sotto pressione: centinaia di funzionari detengono l’autorità di classificare le informazioni, molti dei quali utilizzano programmi arcaici, producendo documentazione obsoleta, alti tassi di errore, frequenti sovraclassificazioni e degradata integrità dei dati. Il dipartimento ha anche un arretrato cartaceo di circa 140 milioni di pagine.
Dal progetto pilota al riferimento autorevole unico
Se il progetto pilota avesse successo, la nota afferma che il sistema automatizzato alla fine fungerebbe da “unico riferimento digitale autorevole” per tutte le decisioni di classificazione originali del dipartimento. Questa responsabilità è storicamente appartenuta a funzionari umani appositamente designati che determinano come classificare le informazioni sensibili: il che significa che un’implementazione di successo segnerebbe uno dei trasferimenti più consequenziali di una funzione governativa fondamentale ai sistemi di intelligenza artificiale fino ad oggi.
Perché i funzionari affermano che il cambiamento è necessario
Le ragioni a favore dell’automazione si basano sull’enorme volume e sulla velocità delle moderne informazioni militari. La richiesta di informazioni di agosto ha definito il processo manuale "incompatibile" con il volume e la velocità delle informazioni nell'era digitale. La classificazione eccessiva mantiene le informazioni nascoste alle unità e agli alleati che ne hanno bisogno; la sottoclassificazione rischia di esporre capacità e piani agli avversari. Errori in entrambe le direzioni comportano costi e, con un arretrato di pagine cartacee a sette cifre, il dipartimento ha concluso che le correzioni incrementali non sono sufficienti.
Josh Wallin, membro del programma di difesa del Center for a New American Security, ha detto a DefenseScoop che informazioni sottoclassificate possono esporre una capacità o un piano a un avversario, mentre materiale sovraclassificato può essere trattenuto o bloccato da un processo di revisione ritardato, il che significa che potrebbe non raggiungere le organizzazioni che ne hanno bisogno, "in un ambiente di coalizione in cui la condivisione delle informazioni è fondamentale per il coordinamento". Ha aggiunto che, in molti casi, "la stragrande maggioranza delle informazioni non è necessariamente così sensibile da far temere un'errata classificazione", che è proprio il motivo per cui una gestione più rapida e coerente potrebbe ripagare i dividendi in tutto il dipartimento.
Gli analisti vedono guadagni e rischi reali
Wallin ha affermato che l’automazione potrebbe aiutare a risolvere i problemi di classificazione errata – comprese le informazioni che sono iperprotette, sottoprotette o etichettate erroneamente dagli esseri umani – e ridurre i problemi, soprattutto perché i conflitti moderni hanno dimostrato che il rapido flusso di informazioni può essere un vantaggio decisivo.
Ma Wallin ha anche segnalato i rischi. La classificazione errata potrebbe verificarsi su scala più rapida nei sistemi supportati dall’intelligenza artificiale. Una condivisione più rapida con alleati e partner solleva interrogativi sui protocolli di sicurezza informatica delle reti destinatarie. E la declassificazione accelerata crea un effetto “aggregato”, in cui un avversario può mettere insieme informazioni sensibili da rivelazioni individualmente innocue.
"C'è un problema di classificazione errata", ha detto Wallin. "C'è solo una preoccupazione intrinseca che alcune informazioni siano sensibili. Verranno classificate e condivise erroneamente, in un certo senso involontariamente, e qualcuno non le prenderà?"
Rimangono domande di supervisione
Wallin ha anche messo in dubbio la brevità del progetto pilota e come funzionerà la supervisione umana quando l’intelligenza artificiale fungerà da riferimento definitivo per l’autorità di classificazione originale. "Come farete ad avere effettivamente una supervisione umana? Questa dovrà persistere per sempre", ha detto a DefenseScoop, sottolineando che il sistema si evolverà nel tempo e che la fiducia completa non sarà mai raggiungibile.
Il Pentagono non ha risposto immediatamente alle domande su quali modelli di intelligenza artificiale sottostanti alimenterebbero il pilota o se il dipartimento abbia dubbi sull’utilizzo della tecnologia per questo scopo. La direttiva finisce nel mezzo di un dibattito più ampio a Washington sulla supervisione dell’intelligenza artificiale, anche se i funzionari della difesa sostengono che l’intelligenza artificiale è uno strumento troppo potente per essere messo da parte mentre gli avversari la utilizzano nei loro stessi eserciti. Il modo in cui il dipartimento bilancia questi due impulsi – adozione aggressiva e controllo umano significativo – sarà la questione determinante del progetto pilota di sei mesi.
Per l’Aeronautica Militare l’incarico rappresenta anche un voto di fiducia. Il servizio ha costruito l’ACME mentre la conversazione a livello di dipartimento sulla riforma della classificazione era ancora teorica, e il promemoria ora gli affida la responsabilità di una capacità che, se funzionerà, rimodellerà il modo in cui ogni ramo militare gestisce i propri segreti. Per il resto del governo federale – dove gli arretrati di classificazione e i reclami per classificazione eccessiva sono cronici – un progetto pilota di successo del Pentagono fornirebbe il primo modello su larga scala per la gestione delle informazioni assistita dall’intelligenza artificiale, e per di più un modello attentamente monitorato.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
