Las negociaciones sobre posibles reglas para armas letales autónomas -los llamados "robots asesinos"- están en marcha en las Naciones Unidas en Ginebra, en una conferencia que los defensores del control de armas describen como la última oportunidad realista de establecer límites antes de que la tecnología supere por completo a la diplomacia. Las conversaciones se llevan a cabo en la conferencia de la ONU sobre Ciertas Armas Convencionales (CAC) de esta semana, un foro que sólo se reúne a este nivel una vez cada cinco años.

La urgencia no es hipotética. La tecnología bélica ha avanzado rápidamente en los últimos años, y algunos expertos advierten ahora que el mundo está a sólo unos meses de contar con armas que puedan elegir objetivos y tomar la decisión de matar sin que haya un ser humano en el circuito. En Ucrania y Gaza, ya se han utilizado armas asistidas por IA para atacar objetivos, y civiles ucranianos han informado que han sido "cazados" por drones mientras hacían compras o caminaban a la escuela. Esos sistemas todavía están controlados remotamente por operadores humanos, pero la distancia entre el control remoto y la autonomía total se está reduciendo. Para los lectores que siguen lo rápido que avanza este campo, nuestra cobertura ética y armas de IA sigue cada desarrollo.

Por qué los activistas llaman a esto la 'última mejor oportunidad'

Los partidarios de los controles sobre las armas autónomas argumentan que la reunión de la CCW de esta semana es la última ventana para acordar reglas mientras la tecnología permanece en su etapa semiautónoma. Sostienen que una vez que se desplieguen a gran escala las armas que seleccionan y atacan objetivos de forma independiente, negociar la moderación se vuelve dramáticamente más difícil: los estados ya habrán integrado los sistemas en sus arsenales y doctrinas.

El peso moral detrás de las conversaciones es inusualmente amplio. Antes de la reunión, las Naciones Unidas, el Comité Internacional de la Cruz Roja y el Papa pidieron normas jurídicamente vinculantes. El secretario general de la ONU, Antonio Guterres, advirtió que permitir que armas totalmente autónomas maten sería "cruzar una línea roja moral".

El caso humanitario: la responsabilidad debe seguir siendo humana

Las organizaciones humanitarias sostienen que la decisión de matar (y la responsabilidad por esa elección) debe permanecer en manos humanas. A la Cruz Roja le preocupa especialmente que las normas de guerra existentes, codificadas en los Convenios de Ginebra, no puedan ser respetadas de forma fiable por sistemas autónomos. La guerra es caótica y avanza rápidamente, y las Convenciones protegen a los soldados heridos o que se rinden activamente de ser atacados.

"El riesgo es que, según la tecnología que estamos viendo, no sean capaces de entender las señales contextuales de la misma manera que un humano", dijo Georgia Haines, asesora legal de la Cruz Roja. "Y por eso los riesgos de que se identifique erróneamente un objetivo son increíblemente altos".

Los grupos de derechos humanos añaden una dimensión económica al peligro: la tecnología detrás de las armas asistidas por IA se está volviendo barata y fácil de usar. Cuanto más amplia sea su adopción por parte de los ejércitos nacionales, mayor será el riesgo de proliferación para grupos terroristas o agencias encargadas de hacer cumplir la ley en regímenes represivos. En teoría, se podría programar un enjambre de drones autónomos para atacar a cualquiera que lleve un color particular de ropa o un cartel específico: discriminación a una escala que las leyes de la guerra nunca fueron diseñadas para manejar.

Una sala dividida: más de 50 estados versus los tres grandes

Al menos 50 países (incluidos Irlanda, Italia, Brasil, México, Francia y Alemania) están pidiendo un calendario estricto para acordar normas vinculantes que regulen las armas autónomas. Muchos de los Estados que ahora se reúnen en Ginebra toman en serio las preocupaciones humanitarias y quieren que el proceso esté anclado en el derecho internacional.

Pero entre los estados que ya desarrollan y despliegan armas semiautónomas, hay un firme rechazo. Estados Unidos, Rusia e Israel han indicado que se opondrán a normas jurídicamente vinculantes. La contrapropuesta de Washington: un calendario de cinco años para redactar directrices no vinculantes.

La posición de Estados Unidos refleja un escepticismo más amplio respecto de los tratados

La postura estadounidense es consistente con un patrón de larga data: Estados Unidos tradicionalmente adopta tarde los tratados internacionales. Nunca ratificó la Convención de Ottawa sobre minas terrestres, aunque con el tiempo sí dejó de desplegarlas y redujo sus arsenales. Bajo el presidente Trump, las dudas sobre el derecho internacional se han vuelto más explícitas: Washington ha impuesto amplias sanciones a la Corte Penal Internacional y este fin de semana el Secretario de Estado Marco Rubio, en un discurso de apertura ante la Sociedad Federalista, advirtió contra "citar leyes a hombres con espadas".

Reglas de consenso y una historia de soluciones alternativas

Un problema estructural se cierne sobre las conversaciones de Ginebra: se supone que las negociaciones de la ONU sobre la limitación de armas específicas deben proceder por consenso. Ese mecanismo produjo un acuerdo histórico (la prohibición de los láseres cegadores en 1995), pero la mayoría de los demás intentos fracasaron. En el caso de las minas terrestres, los países frustrados por el lento proceso de la ONU acabaron por sacar las negociaciones completamente fuera de él, dando lugar a la Convención de Ottawa.

Los diplomáticos están planteando un posible compromiso para esta semana: un período de negociación más largo, o incluso indefinido, para desarrollar reglas que los estados individuales podrían adoptar como vinculantes o no vinculantes. Para sus partidarios, esa es una forma de garantizar al menos algún progreso. Para los activistas, se queda muy corto: uno comparó el enfoque con patear una lata muy peligrosa en el camino.

¿Qué pasa después?

Si la conferencia termina con un mandato indefinido, el efecto práctico es que los límites vinculantes sobre las armas autónomas retroceden aún más en el futuro, mientras que los plazos de despliegue se siguen comprimiendo. Los gobiernos, los ejércitos y las empresas emergentes de defensa observarán de cerca a Ginebra esta semana, porque sea cual sea el camino hacia el que llegue el consenso, definirá el panorama legal para las armas autónomas en los años venideros.

---

Manténgase a la vanguardia de la IA

Obtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.

Leer más noticias sobre IA →