O escritório do Pentágono encarregado de coordenar o uso responsável e ético da inteligência artificial tem uma falta significativa de pessoal, de acordo com o principal órgão de fiscalização do governo federal - uma deficiência que prejudicou a principal estrutura de ética da IA do departamento, mesmo quando os militares pressionam para se tornarem uma força de combate "IA primeiro".
A escassez de pessoal no Gabinete Chefe de Inteligência Digital e Artificial impediu-o de implementar totalmente a iniciativa de IA Responsável do Pentágono, disse o Gabinete de Responsabilidade Governamental num relatório datado de 14 de outubro e divulgado terça-feira pela Stars and Stripes. A descoberta chega num momento em que a tomada de decisões da IA na defesa passou do laboratório para o campo de batalha, dando consequências concretas à lacuna de pessoal.
Três das dez vagas preenchidas e as vagas podem permanecer abertas
A IA Responsável é a estrutura ética integrada do Departamento de Defesa que rege o desenvolvimento, implantação e operação de capacidades de IA em sistemas de combate e não-combate. O CDAO é o escritório principal para a adoção e integração da IA pelo departamento, incluindo a estrutura de IA Responsável — o que torna o seu nível de pessoal uma medida direta de quanta capacidade a função de supervisão realmente tem.
O GAO descobriu que apenas três dos 10 cargos autorizados do escritório foram preenchidos em fevereiro. Autoridades de defesa disseram ao órgão de fiscalização que os cargos restantes provavelmente não serão preenchidos, uma admissão que sugere que o déficit não é um atraso temporário nas contratações, mas uma condição estrutural do mandato de supervisão do gabinete.
Uma estratégia de 'AI primeiro' que supera suas próprias salvaguardas
A divulgação de pessoal fica estranhamente ao lado da direção estratégica do departamento. Em Janeiro, o secretário da Defesa, Pete Hegseth, emitiu uma estratégia de IA que, de acordo com o relatório do GAO, voltou a enfatizar a aceleração da integração e adopção da IA. A estratégia, afirma o relatório, “enfatizou uma base de guerra, apelando para que o DOD se tornasse uma força de combate ‘IA primeiro’ em todos os componentes”.
O contraste é gritante: um mandato acelerado para a IA em todos os sistemas de combate, supervisionado por um gabinete que funciona com 30% da sua força autorizada. O rápido desenvolvimento da IA tem desafiado os órgãos governamentais em todo o mundo, à medida que a tecnologia ultrapassa a supervisão legislativa tradicional e a supervisão humana – e o próprio órgão de vigilância do Pentágono documenta agora essa lacuna dentro da maior burocracia militar do mundo. Para obter mais relatórios sobre políticas e governança de IA, consulte nossa página inicial de notícias sobre IA.
O que está em jogo: direcionamento, proteções e uma recusa que remodelou a política
As consequências da supervisão limitada não são hipotéticas. A Bloomberg informou no mês passado, e a Stars and Stripes reiterou, que o software habilitado para IA utilizado para seleccionar alvos contribuiu para o ataque dos EUA a uma escola primária com um míssil Tomahawk em 28 de Fevereiro, o primeiro dia da Guerra do Irão, no qual mais de 100 crianças foram mortas.
As lutas militares pela governação da IA também atraíram o sector privado. Em Fevereiro, o secretário da Defesa Pete Hegseth e o presidente Donald Trump pressionaram a Anthropic para remover as barreiras de segurança do seu modelo Claude contratado pelo governo que impedem o sistema de ser utilizado para armas totalmente autónomas e vigilância em massa. Quando a Anthropic recusou, a administração designou a empresa como um risco à segurança nacional e proibiu as agências governamentais de usar Claude – um impasse que a AI Buzz Wire cobriu nos tribunais, incluindo a decisão do tribunal de apelações que manteve a lista negra.
O que correr a 30 por cento significa na prática
Um gabinete de supervisão em três dos seus dez cargos autorizados não é uma burocracia com atrasos — é um quadro que funciona com uma fracção da capacidade pretendida. A iniciativa IA Responsável depende do CDAO para traduzir princípios éticos em processos de revisão que os programas reais de armas e comunicações devem seguir, e cada lugar não preenchido representa um trabalho que não é feito ou cabe ao restante pessoal espalhado pelas pastas.
Como os responsáveis da Defesa disseram ao GAO que é pouco provável que as vagas sejam preenchidas, a restrição parece durável e não cíclica. Os programas continuarão a colocar em campo as capacidades de IA e o fardo prático da aplicação do quadro ético continuará a concentrar-se num grupo cada vez mais pequeno de pessoas.
Ética Humana como Última Linha de Defesa
Os advogados militares argumentam que a falta de pessoal deixa o julgamento humano como a única verificação significativa. “A tomada de decisões militares deve ser baseada na ética humana, e apenas dizer a um computador para realizar algo pode ser uma maneira muito rápida de fazê-lo, mas pode não ser uma metodologia ética, moral ou legal legítima para realizar o que quer que estejamos tentando que aconteça”, disse Sean Timmons, advogado especializado em direito militar do escritório Tully Rinckey, por telefone na terça-feira, de acordo com Stars and Stripes.
Alguns líderes da indústria da IA apelaram à desaceleração do ritmo dos avanços da IA, alertando que a perda de controlo dos agentes autónomos da IA pode representar uma ameaça existencial – avisos que têm um peso especial quando aplicados a armas autónomas. A conclusão do GAO sugere que, por enquanto, a componente de crescimento mais rápido do poder militar dos EUA está a ser escalada à frente da infra-estrutura humana destinada a governá-la.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
