El Departamento de Defensa ha emitido nuevas directrices para la contratación y el personal de programas diseñadas para garantizar que los sistemas de inteligencia artificial que compra el Pentágono cumplan con los principios de adquisición de "búsqueda de la verdad" y "neutralidad ideológica" de la administración Trump, informó el lunes Federal News Network.
La directiva, emitida por John Tenaglia, director principal del Pentágono para política de precios, contratación y adquisiciones de defensa, es el paso más concreto del departamento hasta el momento para implementar la agenda del presidente Donald Trump para "evitar el despertar de la IA" en el gobierno federal. Para más contexto sobre esta historia, consulta nuestra noticias de IA.
De la orden ejecutiva al lenguaje del contrato
La orientación se deriva directamente de la orden ejecutiva que Trump firmó en julio, que exige que las agencias federales garanticen que los grandes modelos lingüísticos que compren sean "herramientas neutrales y no partidistas que no manipulen las respuestas a favor de dogmas ideológicos como [diversidad, equidad e inclusión]". En esa orden, Trump declaró que las agencias federales "tienen la obligación de no procurar modelos que sacrifiquen la veracidad y precisión a agendas ideológicas".
Posteriormente, la Oficina de Gestión y Presupuesto emitió un memorando abordando las preguntas que surgieron después de la publicación de la orden ejecutiva. El nuevo documento del Pentágono traduce esos mandatos de alto nivel en la maquinaria de adquisición de defensa: plantillas que guían a los funcionarios a través de diferentes etapas de la compra de sistemas de IA y verifican el cumplimiento de los contratistas con los principios de "IA imparcial" del departamento.
Específicamente, las plantillas incluyen un memorando para ayudar a las agencias a seleccionar los requisitos de transparencia y documentación adecuados para una adquisición, un lenguaje de solicitud estandarizado que indica a las empresas qué documentación deben proporcionar para demostrar el cumplimiento y un lenguaje de contrato formal que se puede incorporar en una declaración de trabajo o una declaración de desempeño del trabajo, según Federal News Network.
Orientación, no un mandato, por ahora
Tenaglia tuvo cuidado de enmarcar el peso legal del documento. Si bien el cumplimiento de la orden ejecutiva subyacente y el memorando de la OMB es obligatorio, el nuevo documento pretende ser "sólo una guía", proporcionando "un enfoque estandarizado para documentar, solicitar y hacer cumplir los principios imparciales de la IA", escribió.
"Al reconocer que las adquisiciones de IA varían ampliamente en complejidad y riesgo, los componentes del Departamento de Defensa y las actividades que requieren tienen la flexibilidad de revisar, adaptar o complementar este lenguaje según sea necesario para adaptarse a las necesidades específicas y al contexto de sus requisitos individuales", escribió Tenaglia en el memorando.
Esa flexibilidad puede resultar trascendente. Medir si un modelo de IA es "imparcial" -y documentar esa determinación para un expediente de contrato- es una tarea mucho más complicada que verificar una certificación de ciberseguridad, y es probable que los proveedores rechacen las demandas de documentación que afecten al diseño del modelo.
Parte de un mayor impulso para comercializar la IA de defensa
La guía llega mientras el Secretario de Defensa, Pete Hegseth, continúa presionando para incorporar la IA comercial al departamento. A principios de este año, el Pentágono emitió una estrategia de IA destinada a convertir al departamento en una "fuerza de guerra que priorice la IA", y Hegseth dijo que el departamento invertirá mucho en infraestructura informática de IA, desde centros de datos hasta sistemas en el borde táctico.
Los legisladores están avanzando en paralelo. El representante Jimmy Patronis (republicano por Florida) está buscando convertir en ley la orden ejecutiva de Trump. "El presidente y su equipo han emitido una orden ejecutiva inteligente que instruye a las agencias federales a aprovechar sólo las herramientas de IA que dicen la verdad", dijo Patronis, argumentando que hay "ejemplos tras ejemplos de herramientas de IA que se descarrilan porque la programación fundamental se inclina políticamente hacia la izquierda".
Qué significa para los proveedores de IA
Para las empresas de IA (incluidos los laboratorios fronterizos que ahora se apresuran hacia las ofertas públicas), la guía indica que la documentación de neutralidad ideológica se está convirtiendo en un requisito de facto para el mercado de defensa de EE. UU., uno de los segmentos de clientes de IA comercial de más rápido crecimiento. Los proveedores que puedan producir pistas de auditoría para la capacitación y el comportamiento de sus modelos pueden encontrar la puerta abierta; aquellos que no pueden hacerlo pueden encontrar cada vez más cerradas las adquisiciones federales.
El efecto práctico es que la "IA imparcial" está pasando de la retórica política a un requisito escrito en los contratos de los compradores de tecnología más grandes del mundo, y todas las demás agencias están observando cómo funcionan las plantillas del Pentágono.
Lo que los proveedores realmente tendrán que producir
Según las plantillas, la carga de la prueba recae en el vendedor. Las empresas que presenten ofertas en contratos con gran cantidad de IA tendrían que proporcionar documentación que demuestre que sus modelos cumplen con los principios de "IA imparcial", creando efectivamente una nueva categoría de trámites de adquisición junto con acreditaciones de seguridad y certificaciones de la cadena de suministro. Los funcionarios de contratación, a su vez, obtienen un lenguaje estandarizado que pueden incluir en las licitaciones sin necesidad de redactarlo desde cero, lo que, según los expertos en adquisiciones, suele ser lo que convierte las políticas en práctica.
La guía también llega cuando el Pentágono normaliza los chatbots comerciales para su fuerza laboral, habiendo implementado versiones adaptadas por el gobierno de asistentes comerciales de IA para el personal de defensa. Incorporar un lenguaje de neutralidad ideológica en esos contratos extiende un estándar político a los sistemas utilizados para todo, desde la planificación logística hasta el trabajo administrativo de rutina.
Un caso de prueba para el resto del gobierno
Otras agencias se enfrentan ahora a una elección: adoptar al por mayor los modelos del Pentágono, redactar los suyos propios o esperar a que el Congreso actúe. El impulso de Patronis para codificar la orden ejecutiva resolvería esa ambigüedad mediante un estatuto y haría que los requisitos de neutralidad fueran mucho más difíciles de revertir para una futura administración.
Los críticos de la orden argumentan que medir la neutralidad ideológica en los modelos lingüísticos es científicamente complicado y podría enfriar el comportamiento legítimo del modelo, incluidas las descripciones precisas de temas controvertidos. Los partidarios responden que los estándares de adquisiciones ya imponen rutinariamente requisitos de contenido a los proveedores y que los desarrolladores de modelos siguen siendo libres de vender en otros lugares.
De cualquier manera, la dirección del viaje es clara. El mayor comprador de tecnología del gobierno ha puesto por escrito la "IA imparcial", y los contratistas de defensa que esperan vender sistemas de IA al Pentágono ahora tienen una nueva lista de verificación que cumplir, una que comienza con la documentación y termina, potencialmente, en disputas contractuales si un modelo desplegado no pasa la prueba de neutralidad.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
