O Pentágono está a lançar um programa piloto que utilizará inteligência artificial para gerir a forma como classifica e trata informações militares sensíveis, de acordo com um memorando emitido pelo vice-secretário de Defesa, Steve Feinberg, que foi revisto pela DefenseScoop. A directiva ordena uma implementação inicial em pequena escala de uma capacidade de classificação de segurança automatizada nos próximos seis meses – o movimento inicial num esforço para rever um processo que o departamento descreve como perigosamente desactualizado.
Por dentro do memorando de Feinberg Para mais contexto sobre esta história, confira nossa cobertura da indústria de IA.
O memorando, divulgado na segunda-feira, enquadra os procedimentos existentes de classificação e desclassificação do Pentágono como uma fonte de “disfunção” que o departamento diz estar “colocando em perigo” a sua missão. Argumenta que procedimentos desatualizados retardam a “divulgação oportuna de informações críticas” e minam a confiança do público no departamento.
“A disfunção causada por estes procedimentos leva a classificações incorretas que sobrecarregam os nossos sistemas de segurança nacional, impedem a interoperabilidade e retardam a inovação ao reter dados vitais em chaminés”, afirma o memorando, de acordo com a DefenseScoop.
ACME: O Sistema da Força Aérea no Centro
Para o teste, o Departamento de Defesa usará um sistema apoiado por IA que a Força Aérea desenvolveu recentemente, chamado Automated Classification Management Environment, ou ACME. O memorando designa o principal oficial civil da Força Aérea como agente executivo do piloto, e um porta-voz da Força Aérea disse ao DefenseScoop que a Força “cumprirá as instruções do memorando”.
A ACME foi denunciada publicamente em Agosto, quando as autoridades emitiram um pedido de informação pedindo à indústria que ajudasse a construir um ecossistema de gestão de classificação para substituir o processo “manual, com utilização intensiva de humanos” que os militares têm utilizado durante décadas. Esse aviso descreveu um sistema sob pressão: centenas de funcionários detêm autoridade para classificar informações, muitos deles utilizando programas arcaicos, produzindo documentação desatualizada, elevadas taxas de erro, classificação excessiva frequente e integridade de dados degradada. O departamento também carrega uma carteira de cópias impressas de aproximadamente 140 milhões de páginas.
Do piloto à referência oficial única
Se o piloto for bem-sucedido, o memorando diz que o sistema automatizado acabaria por servir como “a referência única e digital autorizada” para todas as decisões de classificação originais do departamento. Essa responsabilidade tem pertencido historicamente a funcionários humanos especialmente designados que determinam como as informações confidenciais são categorizadas – o que significa que uma implementação bem-sucedida marcaria uma das transferências mais importantes de uma função governamental central para sistemas de IA até o momento.
Por que as autoridades dizem que a mudança é necessária
A defesa da automação baseia-se no grande volume e velocidade da informação militar moderna. O pedido de informações de agosto classificou o processo manual como “incompatível” com o volume e a velocidade da informação na era digital. A classificação excessiva mantém as informações afastadas das unidades e aliados que delas necessitam; a subclassificação corre o risco de expor capacidades e planos aos adversários. Erros em qualquer direção acarretam custos e, com um acúmulo de páginas impressas de sete dígitos, o departamento concluiu que correções incrementais não são suficientes.
Josh Wallin, membro do programa de defesa do Centro para uma Nova Segurança Americana, disse ao DefenseScoop que informações subclassificadas podem expor uma capacidade ou plano a um adversário, enquanto materiais excessivamente classificados podem ser retidos ou paralisados por um processo de revisão atrasado - o que significa que podem não chegar às organizações que deles necessitam, "num ambiente de coligação onde a partilha de informações é crítica para a coordenação". Ele acrescentou que, em muitos casos, “a grande maioria das informações não é necessariamente tão sensível a ponto de você ficar preocupado com uma classificação incorreta”, e é exatamente por isso que um tratamento mais rápido e consistente poderia render dividendos em todo o departamento.
Analistas veem ganhos – e riscos reais
Wallin disse que a automação poderia ajudar com problemas de classificação incorreta – incluindo informações superprotegidas, subprotegidas ou rotuladas incorretamente por humanos – e reduzir a confusão, especialmente porque os conflitos modernos mostraram que o fluxo rápido de informações pode ser uma vantagem decisiva.
Mas Wallin também sinalizou riscos. A classificação incorreta pode ocorrer em uma escala mais rápida em sistemas apoiados por IA. A partilha mais rápida com aliados e parceiros levanta questões sobre os protocolos de segurança cibernética das redes receptoras. E a desclassificação acelerada cria um efeito “agregado”, no qual um adversário pode reunir informações sensíveis a partir de divulgações individualmente inofensivas.
“Há uma preocupação de classificação incorreta”, disse Wallin. “Há apenas uma preocupação inerente de que algumas informações sejam confidenciais. Será que serão classificadas e compartilhadas incorretamente, de forma não intencional, e alguém não as captará?”
Permanecem questões de supervisão
Wallin também questionou a brevidade do piloto e como a supervisão humana funcionará quando a IA servir como referência definitiva para a autoridade de classificação original. “Como [você] vai realmente ter supervisão humana? Isso terá que persistir para sempre”, disse ele ao DefenseScoop, observando que o sistema evoluirá com o tempo e que a confiança total nunca é alcançável.
O Pentágono não respondeu imediatamente a perguntas sobre quais modelos de IA subjacentes alimentariam o piloto ou se o departamento tem preocupações sobre a utilização da tecnologia para este fim. A directiva surge no meio de um debate mais amplo em Washington sobre a supervisão da IA, mesmo quando os responsáveis da defesa argumentam que a IA é uma ferramenta demasiado poderosa para ser marginalizada enquanto os adversários a implantam nas suas próprias forças armadas. Como o departamento equilibra esses dois impulsos – adoção agressiva e controle humano significativo – será a questão definidora do piloto de seis meses.
Para a Força Aérea, a atribuição também é um voto de confiança. O serviço construiu a ACME enquanto a conversa em todo o departamento sobre a reforma da classificação ainda era teórica, e o memorando atribui-lhe agora a responsabilidade por uma capacidade que, se funcionar, irá remodelar a forma como cada ramo militar lida com os seus segredos. Para o resto do governo federal – onde os atrasos na classificação e as reclamações sobre classificação excessiva são crónicos – um piloto bem-sucedido do Pentágono forneceria o primeiro modelo em grande escala para o tratamento de informação assistido por IA, e um modelo observado de perto.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
