Des négociations sur d'éventuelles règles pour les armes autonomes mortelles – appelées « robots tueurs » – sont en cours aux Nations Unies à Genève, lors d'une conférence que les partisans du contrôle des armements décrivent comme la dernière chance réaliste de fixer des limites avant que la technologie ne dépasse complètement la diplomatie. Les pourparlers ont lieu cette semaine lors de la conférence des Nations Unies sur certaines armes classiques (CCW), un forum qui ne se réunit à ce niveau qu'une fois tous les cinq ans.
L’urgence n’est pas hypothétique. La technologie de guerre a progressé rapidement ces dernières années, et certains experts préviennent désormais que le monde n’est qu’à quelques mois de disposer d’armes capables de choisir des cibles et de prendre la décision de tuer sans qu’un humain soit au courant. En Ukraine et à Gaza, des armes assistées par l'IA ont déjà été utilisées pour frapper des cibles, des civils ukrainiens signalant avoir été « pourchassés » par des drones alors qu'ils faisaient leurs courses ou se rendaient à l'école à pied. Ces systèmes sont toujours contrôlés à distance par des opérateurs humains, mais la distance entre le contrôle à distance et une autonomie totale se réduit. Pour les lecteurs qui suivent la vitesse à laquelle ce domaine évolue, notre Couverture sur les armes et l'éthique de l'IA suit chaque développement.
Pourquoi les militants appellent cela la « dernière meilleure chance »
Les partisans du contrôle des armes autonomes affirment que la réunion de cette semaine sur la CCAC est la dernière fenêtre pour convenir de règles alors que la technologie reste à son stade semi-autonome. Une fois que des armes qui sélectionnent et engagent des cibles de manière indépendante sont déployées à grande échelle, affirment-ils, négocier la retenue devient considérablement plus difficile : les États auront déjà intégré les systèmes dans leurs arsenaux et leurs doctrines.
Le poids moral derrière ces négociations est inhabituellement large. Avant la réunion, les Nations Unies, le Comité international de la Croix-Rouge et le Pape ont tous appelé à des règles juridiquement contraignantes. Le secrétaire général de l'ONU, Antonio Guterres, a averti que permettre à des armes entièrement autonomes de tuer reviendrait à « franchir une ligne rouge morale ».
Le cas humanitaire : la responsabilité doit rester humaine
Les organisations humanitaires affirment que la décision de tuer – et la responsabilité de ce choix – doit rester entre les mains des humains. La Croix-Rouge est particulièrement préoccupée par le fait que les règles de guerre existantes, codifiées dans les Conventions de Genève, ne peuvent pas être respectées de manière fiable par les systèmes autonomes. La guerre est chaotique et rapide, et les Conventions protègent les soldats blessés ou qui se rendent activement contre les attaques.
"Le risque est que, sur la base de la technologie que nous voyons, ils ne soient pas capables de comprendre les signaux contextuels de la même manière qu'un être humain", a déclaré Georgia Haines, conseillère juridique à la Croix-Rouge. "Les risques d'une mauvaise identification d'une cible sont donc incroyablement élevés."
Les groupes de défense des droits humains ajoutent une dimension économique au danger : la technologie derrière les armes assistées par l’IA devient bon marché et facile à utiliser. Plus son adoption par les armées nationales est grande, plus le risque de prolifération au profit des groupes terroristes ou des forces de l’ordre dans les régimes répressifs est grand. En théorie, un essaim de drones autonomes pourrait être programmé pour attaquer toute personne portant une couleur particulière de vêtements ou portant une affiche spécifique – une discrimination à une échelle que les lois de la guerre n’ont jamais été conçues pour gérer.
Une salle divisée : plus de 50 États contre les trois grands
Au moins 50 pays – dont l’Irlande, l’Italie, le Brésil, le Mexique, la France et l’Allemagne – réclament un calendrier strict pour convenir de règles contraignantes régissant les armes autonomes. De nombreux États réunis actuellement à Genève prennent les préoccupations humanitaires au sérieux et souhaitent que le processus soit ancré dans le droit international.
Mais parmi les États qui développent et déploient déjà des armes semi-autonomes, il y a une ferme résistance. Les États-Unis, la Russie et Israël ont indiqué qu’ils s’opposeraient à des règles juridiquement contraignantes. Contre-proposition de Washington : un calendrier de cinq ans pour rédiger des lignes directrices non contraignantes.
La position américaine reflète un scepticisme plus large à l'égard des traités
La position américaine est conforme à une longue tendance : les États-Unis ont traditionnellement adopté tardivement les traités internationaux. Il n’a jamais ratifié la Convention d’Ottawa sur les mines terrestres, même s’il a progressivement cessé de les déployer et réduit ses stocks. Sous le président Trump, les doutes sur le droit international sont devenus plus explicites : Washington a imposé des sanctions draconiennes à la Cour pénale internationale et ce week-end, le secrétaire d'État Marco Rubio, dans un discours prononcé devant la Société fédéraliste, a mis en garde contre le fait de « citer des lois à des hommes armés d'épées ».
Règles de consensus et historique des solutions de contournement
Un problème structurel plane sur les négociations de Genève : les négociations de l'ONU sur la limitation de certaines armes sont censées se dérouler par consensus. Ce mécanisme a abouti à un accord historique – l’interdiction en 1995 des lasers aveuglants – mais la plupart des autres tentatives ont échoué. Avec les mines terrestres, les pays frustrés par la lenteur du processus de l’ONU ont fini par abandonner complètement les négociations, produisant ainsi la Convention d’Ottawa.
Les diplomates proposent un compromis possible pour cette semaine : une période de négociation plus longue, voire indéterminée, pour élaborer des règles que chaque État pourrait ensuite adopter comme contraignantes ou non contraignantes. Pour les supporters, c’est une manière de garantir au moins quelques progrès. Pour les militants, c’est loin d’être le cas – on a comparé cette approche à un coup de pied très dangereux sur la route.
Que se passe-t-il ensuite
Si la conférence se termine par un mandat à durée indéterminée, l’effet pratique est que les limites contraignantes sur les armes autonomes reculent encore dans le futur, tandis que les délais de déploiement continuent de se comprimer. Les gouvernements, les armées et les startups de la défense surveilleront Genève de près cette semaine, car quelle que soit la manière dont le consensus se dégagera, il définira le paysage juridique des armes autonomes pour les années à venir.
---
Gardez une longueur d'avance sur l'IARecevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.
Lire plus d'actualités sur l'IA →