O Departamento de Defesa emitiu novas orientações para contratação e pessoal de programa destinadas a garantir que os sistemas de inteligência artificial que o Pentágono compra aderem aos princípios de aquisição de “busca da verdade” e “neutralidade ideológica” da administração Trump, informou a Federal News Network na segunda-feira.
A directiva, emitida por John Tenaglia, principal director do Pentágono para a política de preços, contratos e aquisições de defesa, é o passo mais concreto do departamento até agora para implementar a agenda do presidente Donald Trump para "prevenir a IA despertada" no governo federal. Para mais contexto sobre esta história, confira nossa tendências de IA.
Da ordem executiva à linguagem contratual
A orientação decorre directamente da ordem executiva assinada por Trump em Julho, que exige que as agências federais garantam que os grandes modelos de linguagem que adquirem sejam "ferramentas neutras e apartidárias que não manipulem respostas em favor de dogmas ideológicos como [diversidade, equidade e inclusão]". Nessa ordem, Trump declarou que as agências federais “têm a obrigação de não adquirir modelos que sacrifiquem a veracidade e a precisão às agendas ideológicas”.
O Gabinete de Gestão e Orçamento emitiu posteriormente um memorando abordando questões que surgiram após a publicação da ordem executiva. O novo documento do Pentágono traduz esses mandatos de alto nível no mecanismo de aquisição de defesa: modelos que orientam os funcionários através de diferentes fases de compra de sistemas de IA e de verificação da conformidade do contratante com os princípios de “IA imparcial” do departamento.
Especificamente, os modelos incluem um memorando para ajudar as agências a selecionar requisitos apropriados de transparência e documentação para uma aquisição, linguagem de solicitação padronizada informando às empresas qual documentação elas devem fornecer para demonstrar conformidade e linguagem formal do contrato que pode ser incorporada em uma declaração de trabalho ou declaração de desempenho de trabalho, de acordo com a Federal News Network.
Orientação, não um mandato – por enquanto
Tenaglia teve o cuidado de enquadrar o peso jurídico do documento. Embora o cumprimento da ordem executiva subjacente e do memorando do OMB seja obrigatório, o novo documento destina-se “apenas como orientação”, fornecendo “uma abordagem padronizada para documentar, solicitar e fazer cumprir os princípios imparciais da IA”, escreveu ele.
“Reconhecendo que as aquisições de IA variam amplamente em complexidade e risco, os componentes do DoD e as atividades que exigem têm a flexibilidade de revisar, adaptar ou complementar esta linguagem conforme necessário para atender às necessidades específicas e ao contexto de seus requisitos individuais”, escreveu Tenaglia no memorando.
Essa flexibilidade pode ter consequências. Medir se um modelo de IA é “imparcial” – e documentar essa determinação para um arquivo de contrato – é uma tarefa muito mais complicada do que verificar uma certificação de segurança cibernética, e os fornecedores provavelmente rejeitarão as demandas de documentação que afetam o design do modelo.
Parte de um esforço maior para comercializar IA de defesa
A orientação chega enquanto o secretário de Defesa, Pete Hegseth, continua seu esforço para trazer a IA comercial para o departamento. No início deste ano, o Pentágono emitiu uma estratégia de IA destinada a transformar o departamento numa “força de combate com IA em primeiro lugar”, com Hegseth a dizer que o departamento investirá pesadamente em infra-estruturas de computação de IA, desde centros de dados a sistemas de ponta táctica.
Os legisladores estão se movendo em paralelo. O deputado Jimmy Patronis (R-Flórida) está tentando transformar a ordem executiva de Trump em lei. “O presidente e sua equipe emitiram uma ordem executiva inteligente que instrui as agências federais a aproveitar apenas as ferramentas de IA que falam a verdade”, disse Patronis, argumentando que há “exemplos e mais exemplos de ferramentas de IA saindo dos trilhos porque a programação fundamental se inclina politicamente para a esquerda”.
O que isso significa para os fornecedores de IA
Para as empresas de IA – incluindo os laboratórios fronteiriços que agora correm para ofertas públicas – a orientação sinaliza que a documentação de neutralidade ideológica está a tornar-se um requisito de facto para o mercado de defesa dos EUA, um dos segmentos de clientes de IA comercial de crescimento mais rápido. Os fornecedores que conseguem produzir trilhas de auditoria para o treinamento e comportamento de seus modelos podem encontrar a porta aberta; aqueles que não puderem poderão encontrar as compras federais cada vez mais fechadas.
O efeito prático é que a “IA imparcial” está a passar da retórica política a um requisito escrito nos contratos dos maiores compradores de tecnologia do mundo – e todas as outras agências estão a observar o desempenho dos modelos do Pentágono.
O que os fornecedores realmente terão que produzir
De acordo com os modelos, o ônus da prova recai sobre o fornecedor. As empresas que concorrem a contratos com grande utilização de IA precisarão de fornecer documentação que demonstre que os seus modelos cumprem os princípios da "IA imparcial" - criando efectivamente uma nova categoria de documentação de aquisição, juntamente com acreditações de segurança e atestados da cadeia de abastecimento. Os responsáveis pela contratação, por sua vez, obtêm uma linguagem padronizada que podem utilizar nas solicitações sem redigir do zero, o que, segundo os especialistas em aquisições, é normalmente o que transforma a política em prática.
A orientação também chega no momento em que o Pentágono normaliza os chatbots comerciais para sua força de trabalho, tendo lançado versões ajustadas pelo governo de assistentes comerciais de IA para o pessoal de defesa. A incorporação de uma linguagem de neutralidade ideológica nesses contratos estende um padrão político aos sistemas utilizados para tudo, desde o planeamento logístico até ao trabalho administrativo de rotina.
Um caso de teste para o resto do governo
Outras agências enfrentam agora uma escolha: adoptar por atacado os modelos do Pentágono, redigir os seus próprios ou esperar que o Congresso aja. O esforço de Patronis para codificar a ordem executiva resolveria essa ambiguidade por estatuto – e tornaria os requisitos de neutralidade muito mais difíceis de serem revertidos por uma futura administração.
Os críticos da ordem argumentam que medir a neutralidade ideológica em modelos linguísticos é cientificamente complicado e pode esfriar o comportamento legítimo do modelo, incluindo descrições precisas de tópicos contestados. Os defensores argumentam que os padrões de aquisição já impõem rotineiramente requisitos de conteúdo aos fornecedores e que os desenvolvedores de modelos continuam livres para vender em outros lugares.
De qualquer forma, a direção da viagem é clara. O maior comprador de tecnologia do governo colocou por escrito a “IA imparcial”, e os empreiteiros de defesa que esperam vender sistemas de IA ao Pentágono têm agora uma nova lista de verificação a satisfazer – uma que começa com documentação e termina, potencialmente, em disputas contratuais se um modelo implantado falhar no teste de neutralidade.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
