De grote militaire machten, de Verenigde Staten en Rusland, lijken zich te zullen verzetten tegen een poging deze week tijdens een mondiale bijeenkomst in Genève om onderhandelingen te starten over juridisch bindende regels voor autonome wapens, in wat diplomaten en rechtengroepen verwachten dat het moeilijke gesprekken zullen worden, meldde Reuters maandag.
De door de VN georganiseerde bijeenkomst, die maandag in Genève begon, moet beslissen of er onderhandelingen moeten worden geopend voor een juridisch bindende overeenkomst over verboden en voorschriften voor Lethal Autonomous Weapons Systems (LAWS) – de zogenaamde ‘killerrobots’ waarvan critici waarschuwen dat ze doelen kunnen selecteren en aanvallen zonder menselijke tussenkomst. De opkomst van kunstmatige intelligentie heeft de ontwikkeling versneld van drones, robots, tanks en onderzeeërs die in staat zijn om te doden zonder directe menselijke bevelen, en semi-autonome, door AI ondersteunde wapens hebben al strijd gekend in Oekraïne, Soedan en het Midden-Oosten – een reële evolutie die wordt gevolgd in [de berichtgeving van de AI-industrie] (https://aibuzzwire.news) over de defensietechnologiesector.
Wat ligt er op tafel in Genève
De bijeenkomst is de Herzieningsconferentie van de Conventie over Bepaalde Conventionele Wapens (CCW), waarbij 128 staten partij zijn. Terwijl de meeste van deze staten het starten van onderhandelingen over een bindend instrument inzake wetten steunen, verzetten grote militaire landen, waaronder de VS, Rusland en Israël, zich tegen deze stap, met het argument dat het bestaande internationale humanitaire recht al voldoende is om deze wapens te besturen.
Er zijn verschillende concurrerende voorstellen in het spel. De voorzitter van de gesprekken van deze week heeft een mandaat van twee jaar voorgesteld om te onderhandelen over een juridisch bindend protocol. Washington geeft daarentegen de voorkeur aan richtlijnen boven bindende regels en heeft een vijfjarig mandaat voorgesteld voor onderhandelingen over een niet-bindende overeenkomst. Het Verenigd Koninkrijk, Duitsland en Frankrijk hebben onderhandelingen voorgesteld over een instrument dat openlaat of het uiteindelijk juridisch bindend zal zijn, aldus Verity Coyle van Human Rights Watch, in gesprek met Reuters.
Diplomaten vertelden Reuters dat de discussies een uitdaging leken te worden, maar zeiden dat staten tegen het einde van de week bruggen konden slaan in de richting van een compromisovereenkomst. Alle opties blijven op tafel liggen, van juridisch bindende tot niet-juridisch bindende teksten, evenals een hybride overeenkomst die beide elementen combineert.
Waarom de VS en Rusland zich verzetten
Het standpunt van Washington berust op het argument dat het internationaal recht al een raamwerk biedt voor het regeren van oorlogvoering, waardoor een nieuw verdrag overbodig wordt. Rusland heeft bij aanvang van de gesprekken zijn standpunt niet publiekelijk kenbaar gemaakt, maar heeft zich eerder verzet tegen voorstellen voor een juridisch bindende overeenkomst – en is van plan de Europese Unie, als waarnemer bij de gesprekken, ervan te weerhouden het woord te nemen, vertelde een hoge westerse diplomaat aan Reuters.
Anna Hehir, hoofd van het militaire AI-bestuur bij het Future of Life Institute, vertelde Reuters dat de VS en Rusland waarschijnlijk zouden proberen elke uitkomst af te zwakken, zoals ze in september deden met een VN-tekst over autonome wapens en hun potentieel voor schade. Tijdens de Algemene Vergadering van de VN vorige maand namen 163 staten een resolutie aan waarin werd opgeroepen tot onderhandelingen over regels voor autonome wapens. Vijf landen stemden tegen – de Verenigde Staten, Rusland, Wit-Rusland, Israël en Noord-Korea – en negen onthielden zich, waaronder Iran, Saoedi-Arabië en China.
Waarschuwingen van de VN, het Rode Kruis en de paus
Het streven naar regulering wordt gesteund door een ongebruikelijke coalitie. VN-secretaris-generaal Antonio Guterres, de leiding van het Internationale Comité van het Rode Kruis en paus Leo XIV hebben allemaal gewaarschuwd om de macht over leven en dood niet over te dragen aan volledig autonome machines. In 2023 riepen Guterres en ICRC-president Mirjana Spoljaric Egger gezamenlijk staten op om vóór 2026 een verbod op autonome wapens af te ronden.
“De noodzaak om autonome wapens te reguleren heeft een nieuwe urgentie gekregen” met de ontwikkelingen op het gebied van kunstmatige intelligentie, zegt Laurent Gisel, hoofd van de Weapons and Conduct of Hostilities Unit bij het ICRC. Het Rode Kruis stelt dat het humanitair recht onvoldoende aandacht besteedt aan de specifieke risico's die autonome wapens met zich meebrengen, en roept op tot een verbod op twee categorieën: onvoorspelbare autonome wapens en wapens die zijn ontworpen of gebruikt om mensen rechtstreeks te targeten.
“Machines mogen nooit beslissen wie er leeft en sterft op een slagveld, maar dat is de dystopische realiteit die snel nadert”, zegt Verity Coyle van Human Rights Watch, die er bij de Review Conference op aandringt krachtig op te treden en heeft gewaarschuwd dat burgers “gevaarlijk blootgesteld” zullen blijven als de bijeenkomst mislukt.
Autonome wapens zijn al aanwezig op het slagveld
Voorstanders van bindende regels beweren dat het debat voorbij de hypothesen is gegaan. Rusland heeft naar verluidt volledig autonome drones gebruikt met dodelijke gevolgen in zijn oorlog tegen Oekraïne, terwijl de eigen defensie-industrie van Oekraïne aandringt op de ontwikkeling van autonome drone-zwermen. Noord-Korea pochte vorige week over een nieuw, op AI gebaseerd torpedosysteem.
Hehir vertelde Reuters dat WETTEN niet langer sciencefiction zijn, wijzend op berichtgeving in de media over het vroege gebruik van volledig autonome systemen in Oekraïne. Actievoerders waarschuwen dat de systemen zich onvoorspelbaar kunnen gedragen, waardoor het risico op fatale fouten toeneemt, zelfs wanneer militairen van plan zijn mensen op de hoogte te houden.
Wat gebeurt er vervolgens
Gezien de tegenstand van de leidende militaire machten zeggen waarnemers dat het onwaarschijnlijk lijkt dat er deze week overeenstemming zal worden bereikt over het starten van formele onderhandelingen over bindende regels. De meest waarschijnlijke uitkomsten, zo suggereren diplomaten, zijn een compromismandaat – mogelijk een hybride instrument dat de kwestie van de juridische bindendheid uitstelt – of nog een jaar van impasse.
Hoe dan ook, de sessie in Genève zal testen of de internationale wapenbeheersing gelijke tred kan houden met de door AI aangedreven wapenontwikkeling, of dat er, net als bij eerdere transformaties in de militaire technologie, bindende beperkingen pas zullen komen als de wapens al op grote schaal worden gebruikt.
Blijf AI een stap voor
Volg de beleidsbeslissingen die bepalen hoe AI over de hele wereld wordt gebruikt. Lees meer AI-nieuws →
