Un comité clave del Senado de los Estados Unidos ha acercado las barreras de seguridad militares propuestas a la IA un paso más para convertirse en ley, aprobando una legislación que regularía cómo el Pentágono desarrolla, prueba y despliega sistemas de inteligencia artificial y armas autónomas.

El Comité de Servicios Armados del Senado respaldó el nuevo marco en su borrador de la Ley de Autorización de Defensa Nacional del año fiscal 2027, finalizando el marcado del proyecto de ley el 10 de junio. Las disposiciones enfatizan el juicio humano y la responsabilidad humana en última instancia, al tiempo que respaldan en gran medida la adopción de tecnologías autónomas por parte del Pentágono, según la Asociación de Control de Armas, que informó los detalles en julio de 2026. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.

La legislación propuesta requeriría que el Departamento de Defensa garantice que el personal ejerza niveles apropiados de juicio humano sobre el uso de armas habilitadas por IA, y que los sistemas relevantes estén diseñados para que los comandantes y operadores mantengan la responsabilidad humana final sobre el uso de la fuerza.

Codificación de la supervisión humana

El marco se basa en un principio ya establecido en la Directiva 3000.09 del Departamento de Defensa, que rige la autonomía en los sistemas de armas, pero carece de una definición clara de lo que constituye un juicio humano significativo. El nuevo lenguaje busca desarrollar ese principio en términos concretos.

Según las disposiciones propuestas, se requeriría que los sistemas autónomos permitan la supervisión por parte de operadores humanos, incluyan métodos de intervención o terminación, incorporen mecanismos a prueba de fallas para permitir el control manual y proporcionen datos de monitoreo adecuados a los controladores. Los sistemas también tendrían que mantener registros de los datos y la lógica de selección de objetivos, y operar de conformidad con el derecho internacional, el derecho de los conflictos armados, los tratados aplicables y la política del Departamento de Defensa.

La legislación codificaría el proceso de revisión existente exigido por la directiva 2023 al tiempo que agregaría criterios de verificación, validación, prueba y evaluación. La oficina del Director de Pruebas y Evaluación Operativas del Pentágono, cuyo presupuesto propuesto se redujo en dos tercios en la solicitud de presupuesto actual, estaría encargada de garantizar que los sistemas cubiertos funcionen como se anticipó contra adversarios adaptativos.

Una línea roja nuclear

Una de las disposiciones más importantes prohibiría categóricamente el uso de la IA en cualquier decisión de iniciar el lanzamiento o la detonación de un arma nuclear. Esa restricción fue solicitada de forma bipartidista en 2023 por el senador Ed Markey, el representante Ted Lieu, el representante Don Beyer y el representante Ken Buck.

Sin embargo, el texto del comité del Senado no incluye una prohibición del uso de IA para apuntar a armas nucleares, un paso que la senadora Kirsten Gillibrand de Nueva York había propuesto en un proyecto de ley independiente presentado el 2 de junio. La omisión resalta los límites de lo que los legisladores estaban dispuestos a restringir, incluso cuando actuaron para limitar las capacidades autónomas más extremas.

El comité también establecería un depósito de incidentes para rastrear datos sobre fallas del sistema, comportamientos no intencionados y eventos que estuvieron a punto de ocurrir, una medida destinada a mejorar la rendición de cuentas a medida que el ejército integra más IA en sus operaciones.

Una fundación bipartidista

El marco sigue en gran medida un proyecto de ley presentado el 8 de junio por el liderazgo demócrata, representado por el miembro de alto rango Jack Reed de Rhode Island y el senador Chris Coons de Delaware, quien se desempeña como el principal demócrata en el subcomité de asignaciones de defensa del Senado. El texto, que fue aceptado por la mayoría republicana como borrador base del proyecto de ley, también incorpora partes sustanciales de una propuesta del senador Mark Kelly de Arizona y el representante Suhas Subramanyam de Virginia.

Varios otros senadores demócratas habían presentado propuestas competitivas en las semanas previas al marcado, incluidas medidas del senador Adam Schiff, la senadora Elissa Slotkin y el senador Kelly. El lenguaje del comité del Senado basado en el proyecto de ley Coons-Reed es menos específico en sus protecciones contra la vigilancia interna que algunas de esas alternativas.

En otra parte del proyecto de ley, el comité recomienda crear un comando de sistemas autónomos y robóticos responsable de la generación de fuerzas, el entrenamiento conjunto, la interoperabilidad, el desarrollo de doctrinas y el empleo operativo a través de otros comandos combatientes.

Sopesando el impacto en los combatientes

Como reflejo de las preocupaciones bipartidistas sobre los efectos de la rápida adopción de la IA, una sección separada del borrador incorpora un proyecto de ley propuesto por el senador Kelly y el senador Tom Cotton, republicano de Arkansas, que instruiría al Pentágono a evaluar cómo el uso de la IA afecta el mantenimiento y la retención de habilidades esenciales de los combatientes.

Los avances se producen mientras Estados Unidos se apresura a integrar la inteligencia artificial en su ejército más rápido que sus adversarios, mientras los legisladores intentan establecer barreras que eviten fallas catastróficas sin desacelerar el despliegue. El proyecto de ley aún debe ser aprobado por el pleno del Senado y la Cámara de Representantes antes de llegar al escritorio del presidente, y las disposiciones podrían cambiar durante las negociaciones entre las cámaras.

Aun así, la aprobación del comité marca uno de los pasos más concretos hasta ahora dados por el Congreso para imponer límites legales vinculantes a la forma en que el ejército utiliza los sistemas autónomos, estableciendo parámetros que podrían dar forma al futuro de la guerra en los años venideros.

---

Mantente al Día con la IA

Las últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.

Leer más noticias de IA →