Las principales potencias militares, Estados Unidos y Rusia, parecen dispuestas a oponerse a una iniciativa en una reunión global en Ginebra esta semana para iniciar negociaciones sobre reglas legalmente vinculantes para armas autónomas, en lo que diplomáticos y grupos de derechos humanos esperan que sean conversaciones difíciles, informó Reuters el lunes.

La reunión organizada por la ONU, que comenzó el lunes en Ginebra, debe decidir si se abren negociaciones para un acuerdo legalmente vinculante sobre prohibiciones y regulaciones para los sistemas de armas letales autónomas (LAWS), los llamados "robots asesinos" que, según advierten los críticos, podrían seleccionar y atacar objetivos sin participación humana. El auge de la inteligencia artificial ha acelerado el desarrollo de drones, robots, tanques y submarinos capaces de matar sin órdenes humanas directas, y las armas semiautónomas asistidas por IA ya han entrado en combate en Ucrania, Sudán y Medio Oriente: una evolución del mundo real rastreada en [la cobertura de la industria de la IA] (https://aibuzzwire.news) del sector de tecnología de defensa.

Lo que está sobre la mesa en Ginebra

La reunión es la Conferencia de Revisión de la Convención sobre Ciertas Armas Convencionales (CCW), que cuenta con 128 estados como partes. Si bien la mayoría de esos estados apoyan el lanzamiento de negociaciones hacia un instrumento vinculante sobre LAWS, las principales naciones militares, incluidos Estados Unidos, Rusia e Israel, se oponen a la medida, argumentando que el derecho internacional humanitario existente ya es suficiente para regular estas armas.

Hay varias propuestas en competencia en juego. El presidente de las conversaciones de esta semana propuso un mandato de dos años para negociar un protocolo jurídicamente vinculante. Washington, por el contrario, prefiere directrices a reglas vinculantes y ha propuesto un mandato de cinco años para conversaciones encaminadas a un acuerdo no vinculante. El Reino Unido, Alemania y Francia han propuesto negociaciones sobre un instrumento que deja abierto si en última instancia será legalmente vinculante, según Verity Coyle de Human Rights Watch, hablando con Reuters.

Los diplomáticos dijeron a Reuters que las discusiones parecían ser desafiantes, pero dijeron que los estados podrían tender puentes hacia un acuerdo de compromiso para el final de la semana. Todas las opciones siguen sobre la mesa, desde textos jurídicamente vinculantes hasta textos no vinculantes, así como un acuerdo híbrido que combine ambos elementos.

Por qué Estados Unidos y Rusia se resisten

La posición de Washington se basa en el argumento de que el derecho internacional ya proporciona un marco para gobernar la guerra, lo que hace innecesario un nuevo tratado. Rusia no ha manifestado públicamente su posición antes de las conversaciones, pero anteriormente se ha resistido a las propuestas de un acuerdo legalmente vinculante y planea impedir que la Unión Europea, un observador de las conversaciones, tome la palabra, dijo a Reuters un alto diplomático occidental.

Anna Hehir, jefa de gobernanza de la IA militar en el Future of Life Institute, dijo a Reuters que Estados Unidos y Rusia probablemente tratarían de suavizar cualquier resultado, como lo hicieron en septiembre con un texto de la ONU sobre las armas autónomas y su potencial dañino. En la Asamblea General de la ONU el mes pasado, 163 estados adoptaron una resolución que pedía negociaciones sobre las reglas que rigen las armas autónomas, con cinco países votando en contra (Estados Unidos, Rusia, Bielorrusia, Israel y Corea del Norte) y nueve absteniéndose, incluidos Irán, Arabia Saudita y China.

Advertencias de la ONU, la Cruz Roja y el Papa

El impulso a favor de la regulación está respaldado por una coalición inusual. El secretario general de la ONU, Antonio Guterres, los dirigentes del Comité Internacional de la Cruz Roja y el Papa León XIV han advertido contra la entrega del poder de la vida y la muerte a máquinas totalmente autónomas. En 2023, Guterres y la presidenta del CICR, Mirjana Spoljaric Egger, pidieron conjuntamente a los Estados que prohibieran las armas autónomas antes de 2026.

"La necesidad de regular las armas autónomas ha adquirido una nueva urgencia" con los avances en inteligencia artificial, afirmó Laurent Gisel, jefe de la Unidad de Armas y Conducta de Hostilidades del CICR. La Cruz Roja sostiene que el derecho humanitario no aborda suficientemente los riesgos específicos que plantean las armas autónomas y pide la prohibición de dos categorías: las armas autónomas impredecibles y las diseñadas o utilizadas para apuntar directamente a humanos.

"Nunca se debe permitir que las máquinas decidan quién vive y quién muere en un campo de batalla, pero esa es la realidad distópica que se acerca rápidamente", dijo Verity Coyle de Human Rights Watch, que insta a la Conferencia de Revisión a actuar con firmeza y ha advertido que los civiles quedarán "peligrosamente expuestos" si la reunión fracasa.

Las armas autónomas ya están en el campo de batalla

Los partidarios de normas vinculantes sostienen que el debate ha superado las hipótesis. Según se informa, Rusia ha utilizado drones totalmente autónomos con efectos letales en su guerra contra Ucrania, mientras que la propia industria de defensa de Ucrania está presionando para desarrollar enjambres de drones autónomos. La semana pasada, Corea del Norte se jactó de un nuevo sistema de torpedos habilitado por IA.

Hehir dijo a Reuters que los LAWS ya no son ciencia ficción, señalando los informes de los medios sobre el uso temprano de sistemas totalmente autónomos en Ucrania. Los activistas advierten que los sistemas pueden comportarse de manera impredecible, aumentando el riesgo de errores fatales incluso cuando los militares intentan mantener a los humanos informados.

¿Qué pasa después?

Dada la oposición de las principales potencias militares, los observadores dicen que parece poco probable que se alcance un acuerdo esta semana para iniciar negociaciones formales sobre reglas vinculantes. Los resultados más probables, sugieren los diplomáticos, son un mandato de compromiso –posiblemente un instrumento híbrido que posponga la cuestión de la vinculación jurídica– u otro año de estancamiento.

De cualquier manera, la sesión de Ginebra pondrá a prueba si el control internacional de armas puede seguir el ritmo del desarrollo de armas impulsado por la IA o si, como ocurrió con transformaciones anteriores en la tecnología militar, las limitaciones vinculantes sólo llegarán después de que las armas ya estén en uso generalizado.

Manténgase a la vanguardia de la IA

Realice un seguimiento de las decisiones políticas que determinan cómo se utiliza la IA en todo el mundo. Leer más noticias sobre IA →