Onderhandelingen over mogelijke regels voor dodelijke autonome wapens – de zogenaamde ‘killer-robots’ – zijn aan de gang bij de Verenigde Naties in Genève, op een conferentie die voorstanders van wapenbeheersing omschrijven als de laatste realistische kans om grenzen te stellen voordat de technologie de diplomatie volledig overtreft. De gesprekken vinden deze week plaats tijdens de VN-conferentie over Bepaalde Conventionele Wapens (CCW), een forum dat slechts eens in de vijf jaar op dit niveau bijeenkomt.

De urgentie is niet hypothetisch. De oorlogstechnologie heeft de afgelopen jaren snel vooruitgang geboekt, en sommige experts waarschuwen nu dat de wereld slechts enkele maanden verwijderd is van wapens die doelen kunnen kiezen en de beslissing kunnen nemen om te doden zonder dat er een mens bij betrokken is. In Oekraïne en Gaza zijn al AI-ondersteunde wapens gebruikt om doelen te treffen, waarbij Oekraïense burgers melden dat ze door drones zijn ‘opgejaagd’ terwijl ze aan het winkelen waren of naar school liepen. Die systemen worden nog steeds op afstand bestuurd door menselijke operators, maar de afstand tussen bediening op afstand en volledige autonomie wordt steeds kleiner. Voor lezers die willen volgen hoe snel dit veld evolueert, volgt onze verslaggeving over AI-wapens en ethiek elke ontwikkeling.

Waarom campagnevoerders dit de 'laatste beste kans' noemen

Voorstanders van controles op autonome wapens beweren dat de CCW-bijeenkomst van deze week het laatste moment is om overeenstemming te bereiken over regels, terwijl de technologie zich nog in de semi-autonome fase bevindt. Zodra wapens die onafhankelijk doelen selecteren en aanvallen op grote schaal worden ingezet, wordt het onderhandelen over terughoudendheid dramatisch moeilijker – staten zullen de systemen al in hun arsenalen en doctrines hebben geïntegreerd.

Het morele gewicht achter de gesprekken is ongewoon breed. Voorafgaand aan de bijeenkomst riepen de Verenigde Naties, het Internationale Comité van het Rode Kruis en de paus allemaal op tot juridisch bindende regels. VN-secretaris-generaal Antonio Guterres waarschuwde dat het toestaan ​​van volledig autonome wapens om te doden ‘een morele rode lijn zou overschrijden’.

De humanitaire zaak: verantwoordelijkheid moet menselijk blijven

Humanitaire organisaties stellen dat de beslissing om te doden – en de verantwoordelijkheid voor die keuze – in menselijke handen moet blijven. Het Rode Kruis is vooral bezorgd dat de bestaande oorlogsregels, vastgelegd in de Conventies van Genève, niet op betrouwbare wijze kunnen worden gerespecteerd door autonome systemen. Oorlog is chaotisch en snel, en de verdragen beschermen soldaten die gewond zijn of zich actief overgeven, zodat ze niet het doelwit worden.

“Het risico is dat ze, op basis van de technologie die we zien, niet in staat zijn om op dezelfde manier te begrijpen dat een mens de contextuele signalen is”, zegt Georgia Haines, juridisch adviseur bij het Rode Kruis. "En dus zijn de risico's ongelooflijk hoog dat er een verkeerde identificatie van een doelwit zal plaatsvinden."

Mensenrechtengroeperingen voegen een economische dimensie toe aan het gevaar: de technologie achter AI-ondersteunde wapens wordt goedkoop en gemakkelijk te gebruiken. Hoe breder de toepassing ervan door nationale legers, hoe groter het risico van verspreiding naar terroristische groeperingen of naar wetshandhavingsinstanties in repressieve regimes. In theorie zou een zwerm autonome drones kunnen worden geprogrammeerd om iedereen aan te vallen die een bepaalde kleur kleding draagt ​​of een specifieke poster draagt ​​– discriminatie op een schaal waarop de oorlogswetten nooit waren ontworpen.

Een gesplitste kamer: meer dan 50 staten versus de grote drie

Minstens vijftig landen – waaronder Ierland, Italië, Brazilië, Mexico, Frankrijk en Duitsland – roepen op tot een strikt tijdschema voor het overeenkomen van bindende regels voor autonome wapens. Veel van de staten die nu in Genève bijeenkomen, nemen de humanitaire zorgen serieus en willen dat het proces verankerd wordt in het internationaal recht.

Maar onder de staten die al semi-autonome wapens ontwikkelen en inzetten, is er sprake van stevige tegenstand. De Verenigde Staten, Rusland en Israël hebben aangegeven dat zij zich zullen verzetten tegen juridisch bindende regels. Het tegenvoorstel van Washington: een tijdschema van vijf jaar om in plaats daarvan niet-bindende richtlijnen op te stellen.

Het standpunt van de VS weerspiegelt een breder scepticisme ten aanzien van verdragen

Het Amerikaanse standpunt komt overeen met een lang patroon: de VS zijn traditioneel een late adoptant van internationale verdragen. Het land heeft het Verdrag van Ottawa inzake landmijnen nooit geratificeerd, hoewel het na verloop van tijd wel is gestopt met de inzet ervan en zijn voorraden heeft verminderd. Onder president Trump zijn de twijfels over het internationaal recht explicieter geworden – Washington heeft ingrijpende sancties opgelegd aan het Internationaal Strafhof, en dit weekend waarschuwde minister van Buitenlandse Zaken Marco Rubio in een keynote speech voor de Federalist Society voor het ‘citeren van wetten aan mannen met zwaarden’.

Consensusregels en een geschiedenis van oplossingen

Er hangt een structureel probleem boven de gesprekken in Genève: de VN-onderhandelingen over het beperken van specifieke wapens zouden bij consensus moeten verlopen. Dat mechanisme heeft één belangrijke overeenkomst opgeleverd – het verbod uit 1995 op verblindende lasers – maar de meeste andere pogingen zijn mislukt. Door de landmijnen hebben landen die gefrustreerd waren door het trage VN-proces de onderhandelingen uiteindelijk geheel buiten het VN-proces gevoerd, waardoor het Verdrag van Ottawa tot stand is gekomen.

Diplomaten brengen deze week een mogelijk compromis naar voren: een langere onderhandelingsperiode, of zelfs met een onbepaalde duur, om regels te ontwikkelen die individuele staten vervolgens als bindend of niet-bindend kunnen aannemen. Voor de supporters is dat een manier om in ieder geval enige vooruitgang te garanderen. Voor campagnevoerders schiet dit ver te kort: men vergeleek de aanpak met het wegschoppen van een zeer gevaarlijk blikje.

Wat gebeurt er vervolgens

Als de conferentie eindigt met een mandaat voor onbepaalde tijd, is het praktische effect dat de bindende beperkingen op autonome wapens in de toekomst verder verdwijnen, terwijl de tijdlijnen voor de inzet steeds korter worden. Regeringen, legers en defensie-startups zullen Genève deze week nauwlettend in de gaten houden – want hoe de consensus ook terechtkomt, het zal de komende jaren het juridische landschap voor autonome wapens bepalen.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →