El ejército de Estados Unidos estuvo más cerca de una confrontación directa con China de lo que casi nadie pensaba esta primavera, y según una exclusiva de CNN publicada el viernes, la razón fue una alucinación de IA.
El informe detalla cómo un documento de inteligencia generado con la ayuda de un chatbot desencadenó una cadena de eventos que armaron al personal estadounidense que se preparaba para abordar un barco chino en el Medio Oriente, con la creencia de que el barco transportaba componentes de un programa de armas nucleares. Según fuentes familiarizadas con la operación, ya se encontraban aviones militares en el aire. Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
La misión fue descartada justo antes de la interceptación planeada, cuando los funcionarios profundizaron en el informe y descubrieron que su afirmación central –la que había movilizado al ejército estadounidense– era errónea.
Una fuente familiarizada con el episodio describió el informe de inteligencia a CNN como "completamente falso". Además, dijo la fuente, "casi inició una guerra". Cualquier operación estadounidense contra un buque chino podría haber desembocado en un conflicto armado entre las dos naciones.
Cómo el reclamo de un chatbot se convirtió en una operación militar
El episodio comenzó esta primavera, en medio de la guerra con Irán, cuando un informe de inteligencia comenzó a circular entre el ejército estadounidense. El documento afirmaba que un barco chino en Oriente Medio transportaba componentes del programa de armas nucleares, e inmediatamente hizo saltar las alarmas.
Según CNN, el informe fue elaborado por un analista del comando de operaciones especiales de EE. UU. que había consultado a un chatbot sobre los informes de inteligencia en el manifiesto del barco, informes que se originaron en el Comando de Operaciones Especiales del Pacífico de EE. UU., con sede en Hawaii. Aún no está claro si el chatbot era un producto disponible comercialmente o una herramienta del gobierno de EE. UU. Un ex alto funcionario estadounidense familiarizado con los sistemas de inteligencia artificial utilizados por analistas militares y de inteligencia ofreció a CNN una evaluación contundente de las ofertas internas del gobierno: "Las herramientas internas son en su mayoría copias de material comercial que lleva lápiz labial".
El chatbot fusionó inteligencia de código abierto con señales secretas de inteligencia en poder del gobierno y llegó a su fatídica conclusión sobre la carga del barco. Luego, el analista utilizó la IA por segunda vez para empaquetar los hallazgos en un informe de inteligencia estándar (del tipo en el que los oficiales militares están acostumbrados a confiar) y lo difundió.
Cuatro fuentes familiarizadas con el episodio hablaron con CNN. Según dos de ellos, miembros armados del ejército estadounidense se estaban preparando para abordar el barco cuando los informes fracasaron. CNN no pudo saber cuál era realmente la carga mal identificada. El Comando de Operaciones Especiales del Pacífico de Estados Unidos y el Pentágono no respondieron a la solicitud de comentarios de CNN.
Una estrategia de aceleración se topa con la realidad
El casi accidente ocurre en un momento en el que el Pentágono está presionando para integrar la IA en casi todas las facetas de su trabajo: analizar enormes volúmenes de inteligencia en bruto, seleccionar objetivos para ataques y manejar tareas más mundanas como presupuestos, logística y cadenas de suministro.
En enero, el Secretario de Defensa, Pete Hegseth, publicó la "Estrategia de Aceleración de la Inteligencia Artificial" del departamento, un intento por acelerar la adopción militar de la IA.
"Desataremos la experimentación, eliminaremos las barreras burocráticas, centraremos nuestras inversiones y demostraremos el enfoque de ejecución necesario para garantizar que somos líderes en IA militar", dijo Hegseth en un discurso en el que anunciaba la estrategia.
El memorando adjunto va más allá y ordena al departamento que haga que la IA esté disponible a través de varios programas con el objetivo de "democratizar la experimentación y la transformación de la IA en todo el Departamento poniendo los modelos de IA líderes en el mundo de Estados Unidos directamente en manos de nuestros tres millones de personal civil y militar, en todos los niveles de clasificación".
Pero el esfuerzo está descentralizado, dijeron a CNN varios funcionarios estadounidenses, y diferentes partes del gobierno utilizan diferentes herramientas bajo diferentes órdenes y estándares de seguridad. No existe un conjunto único de estándares para verificar la información generada por estas herramientas, y la confiabilidad de los distintos sistemas varía ampliamente.
La focalización es donde reside el riesgo
Los analistas han temido durante mucho tiempo que la IA pueda contribuir a un error de cálculo catastrófico si los Estados-nación actúan sobre la base de datos deficientes o corruptos. El episodio del barco chino es un caso documentado de exactamente ese modo de falla que se formó en tiempo real y de que las salvaguardias no lograron detectarlo hasta el último momento.
"La IA en la selección de objetivos es definitivamente algo que está aumentando, y no hay una guía real sobre cómo tener un ser humano en el circuito evitará las víctimas civiles o el fratricidio", dijo a CNN otra fuente familiarizada con las políticas actuales del ejército.
Según los informes de CNN, el tipo de alucinación que produjo la afirmación falsa no ha sido un incidente aislado en toda la comunidad de inteligencia desde que las herramientas de inteligencia artificial comenzaron a proliferar en el gobierno. Varias fuentes también señalaron un riesgo cultural: los analistas más jóvenes, descritos como nativos de estas herramientas, tienen más probabilidades de confiar en ellas acríticamente, y la presión para producir inteligencia más rápidamente deja más margen de error.
"La IA te permite llegar a una mala idea más rápido", dijo una fuente.
Un riesgo más inmediato que la superinteligencia
Durante semanas, Washington ha estado consumido por un debate sobre el riesgo a largo plazo de la IA, luego de una serie de terribles advertencias públicas de ingenieros y ejecutivos tecnológicos de Silicon Valley sobre sistemas que potencialmente podrían liberarse de las limitaciones humanas. El informe de CNN subraya un peligro diferente y más inmediato: seres humanos que toman decisiones desastrosas basadas en resultados de IA inexactos o engañosos, justo ahora, en medio de tensiones geopolíticas reales.
Esta primavera no se hicieron disparos y el abordaje nunca se produjo. Pero el episodio es el ejemplo más claro hasta ahora de que los errores generados por máquinas, una vez blanqueados en los informes oficiales, pueden viajar a través del aparato militar más poderoso del mundo hasta el borde de un conflicto armado entre potencias nucleares, sin que exista una norma de verificación permanente para detener el siguiente.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
