La oficina del Pentágono encargada de coordinar el uso responsable y ético de la inteligencia artificial tiene una escasez significativa de personal, según el principal organismo de control del gobierno federal, una deficiencia que ha obstaculizado el marco ético de IA emblemático del departamento, incluso cuando el ejército presiona para convertirse en una fuerza de guerra "primero la IA".
La escasez de personal en la Oficina Principal de Inteligencia Digital y Artificial le ha impedido implementar plenamente la iniciativa de IA Responsable del Pentágono, dijo la Oficina de Responsabilidad Gubernamental en un informe fechado el 14 de octubre y publicado el martes por Stars and Stripes. El hallazgo llega en un momento en el que la toma de decisiones de la IA en defensa se ha trasladado del laboratorio al campo de batalla, lo que ha dado consecuencias concretas a la falta de personal.
Tres de cada diez puestos están cubiertos y las vacantes pueden permanecer abiertas
La IA responsable es el marco ético integrado del Departamento de Defensa que rige el desarrollo, despliegue y operación de capacidades de IA en sistemas tanto de combate como de no combate. El CDAO es la oficina líder para la adopción e integración de la IA por parte del departamento, incluido el marco de IA responsable, lo que hace que su nivel de personal sea una medida directa de cuánta capacidad tiene realmente la función de supervisión.
La GAO descubrió que sólo tres de los 10 puestos autorizados de la oficina estaban cubiertos en febrero. Los funcionarios de defensa dijeron al organismo de control que no es probable que se cubran los puestos restantes, una admisión que sugiere que el déficit no es un retraso temporal en la contratación sino una condición estructural del mandato de supervisión de la oficina.
Una estrategia de 'IA primero' que supera sus propias salvaguardas
La divulgación de la dotación de personal no coincide con la dirección estratégica del departamento. En enero, el secretario de Defensa, Pete Hegseth, publicó una estrategia de IA que, según el informe de la GAO, volvía a hacer hincapié en acelerar la integración y adopción de la IA. La estrategia, afirma el informe, "enfatizó una posición en tiempos de guerra, pidiendo que el DOD se convierta en una fuerza de guerra 'AI primero' en todos los componentes".
El contraste es marcado: un mandato acelerado para la IA en todos los sistemas de combate, supervisado por una oficina que funciona al 30 por ciento de su dotación autorizada. El rápido desarrollo de la IA ha desafiado a los órganos de gobierno de todo el mundo a medida que la tecnología supera la supervisión legislativa y humana tradicional, y el propio organismo de control del Pentágono ahora documenta esa brecha dentro de la burocracia militar más grande del mundo. Para obtener más informes sobre la política y la gobernanza de la IA, consulte nuestra página de inicio de noticias sobre IA.
Lo que está en juego: focalización, barreras y una negativa que reformuló la política
Las consecuencias de una supervisión deficiente no son hipotéticas. Bloomberg informó el mes pasado, y Stars and Stripes reiteró, que el software habilitado para IA utilizado para seleccionar objetivos contribuyó al ataque estadounidense a una escuela primaria con un misil Tomahawk el 28 de febrero, el primer día de la guerra de Irán, en el que murieron más de 100 niños.
Las luchas militares por la gobernanza de la IA también han atraído al sector privado. En febrero, el secretario de Defensa, Pete Hegseth, y el presidente Donald Trump presionaron a Anthropic para que eliminara las barreras de seguridad en su modelo Claude, contratado por el gobierno, que impiden que el sistema se utilice para armas totalmente autónomas y vigilancia masiva. Cuando Anthropic se negó, la administración designó a la empresa como un riesgo para la seguridad nacional y prohibió a las agencias gubernamentales utilizar a Claude, un enfrentamiento que AI Buzz Wire ha cubierto en los tribunales, incluido el fallo del tribunal de apelaciones que confirmó la lista negra.
Lo que significa correr al 30 por ciento en la práctica
Una oficina de supervisión con tres de sus diez puestos autorizados no es una burocracia con retraso: es un marco que funciona a una fracción de su capacidad prevista. La iniciativa de IA Responsable depende de que el CDAO traduzca los principios éticos en procesos de revisión que deben seguir los programas reales de armas y comunicaciones, y cada puesto vacante representa un trabajo que se deshace o recae en el personal restante repartido en las carteras.
Como los funcionarios de Defensa dijeron a la GAO que es poco probable que se cubran las vacantes, la restricción parece duradera más que cíclica. Los programas seguirán desarrollando capacidades de IA y la carga práctica de aplicar el marco ético seguirá concentrándose en un grupo cada vez más pequeño de personas.
La ética humana como última línea de defensa
Los abogados militares argumentan que la brecha de personal deja al criterio humano como el único control significativo. "La toma de decisiones militares tiene que basarse en la ética humana, y simplemente decirle a una computadora que logre algo puede ser una forma muy rápida de hacerlo, pero puede no ser una metodología ética, moral o legal legítima para lograr lo que estamos tratando de que suceda", dijo por teléfono el martes Sean Timmons, abogado especializado en derecho militar en la firma Tully Rinckey, según Stars and Stripes.
Algunos líderes de la industria de la IA han pedido que se desacelere el ritmo de los avances de la IA, advirtiendo que la pérdida de control de los agentes autónomos de IA podría representar una amenaza existencial, advertencias que tienen un peso particular cuando se aplican a las armas autónomas. El hallazgo de la GAO sugiere que, por ahora, el componente de más rápido crecimiento del poder militar estadounidense se está ampliando por delante de la infraestructura humana destinada a gobernarlo.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
