Stora militärmakter USA och Ryssland ser ut att motsätta sig en push vid ett globalt möte i Genève denna vecka för att inleda förhandlingar om juridiskt bindande regler för autonoma vapen, i vad diplomater och rättighetsgrupper förväntar sig att bli svåra samtal, rapporterade Reuters på måndagen.

Det FN-värdade mötet, som inleddes i måndags i Genève, måste besluta om man ska inleda förhandlingar om ett juridiskt bindande avtal om förbud och regler för dödliga autonoma vapensystem (LAWS) – de så kallade "mördarrobotarna" som kritiker varnar för kan välja ut och slå till mål utan mänsklig inblandning. Framväxten av artificiell intelligens har påskyndat utvecklingen av drönare, robotar, stridsvagnar och ubåtar som kan döda utan direkta mänskliga order, och halvautonoma, AI-stödda vapen har redan sett strider i Ukraina, Sudan och Mellanöstern – en verklig utveckling som spåras i AI-branschens täckning av försvarsteknologisektorn.news.

Vad står på bordet i Genève

Mötet är granskningskonferensen för konventionen om vissa konventionella vapen (CCW), som räknar 128 stater som parter. Medan de flesta av dessa stater stöder att inleda förhandlingar om ett bindande instrument om LAGAR, motsätter sig stora militära nationer inklusive USA, Ryssland och Israel åtgärden, med argumentet att befintlig internationell humanitär lag redan är tillräcklig för att styra dessa vapen.

Flera konkurrerande förslag är i spel. Ordföranden för veckans samtal har föreslagit ett tvåårigt mandat för att förhandla fram ett juridiskt bindande protokoll. Washington, däremot, förespråkar riktlinjer framför bindande regler och har föreslagit ett femårigt mandat för samtal mot ett icke-bindande avtal. Storbritannien, Tyskland och Frankrike har föreslagit förhandlingar om ett instrument som lämnar öppet om det i slutändan skulle vara juridiskt bindande, enligt Human Rights Watchs Verity Coyle, som talade med Reuters.

Diplomater sa till Reuters att diskussionerna såg ut att bli utmanande, men sa att stater kan bygga broar mot ett kompromissavtal i slutet av veckan. Alla alternativ finns kvar på bordet, från rättsligt bindande till icke-rättsligt bindande texter, såväl som ett hybridavtal som kombinerar båda delarna.

Varför USA och Ryssland gör motstånd

Washingtons ståndpunkt vilar på argumentet att internationell rätt redan ger ett ramverk för att styra krigföring, vilket gör ett nytt fördrag onödigt. Ryssland har inte offentligt uttalat sin ståndpunkt för att gå in i samtalen, men har tidigare motsatt sig förslag om ett juridiskt bindande avtal - och planerar att blockera Europeiska unionen, en observatör till samtalen, från att ta ordet, säger en senior västerländsk diplomat till Reuters.

Anna Hehir, chef för militär AI-styrning vid Future of Life Institute, sa till Reuters att USA och Ryssland förmodligen skulle försöka urvattna alla resultat, som de gjorde i september med en FN-text om autonoma vapen och deras potential för skada. Vid FN:s generalförsamling förra månaden antog 163 stater en resolution som uppmanade till förhandlingar om regler för autonoma vapen, där fem länder röstade emot – USA, Ryssland, Vitryssland, Israel och Nordkorea – och nio avstod från att rösta, inklusive Iran, Saudiarabien och Kina.

Varningar från FN, Röda Korset och påven

Kravet på reglering stöds av en ovanlig koalition. FN:s generalsekreterare Antonio Guterres, ledningen för Internationella Röda Korsets kommitté och påven Leo XIV har alla varnat för att överlämna makten över liv och död till helt autonoma maskiner. 2023 uppmanade Guterres och ICRC:s president Mirjana Spoljaric Egger gemensamt stater att ingå ett förbud mot autonoma vapen före 2026.

"Behovet av att reglera autonoma vapen har blivit brådskande" med utvecklingen inom artificiell intelligens, säger Laurent Gisel, chef för enheten för vapen och fientligheter vid ICRC. Röda Korset hävdar att den humanitära rätten inte tillräckligt tar itu med de specifika risker som autonoma vapen utgör, och kräver ett förbud mot två kategorier: oförutsägbara autonoma vapen och de som är utformade eller används för att direkt rikta in sig på människor.

"Maskiner ska aldrig tillåtas att bestämma vem som lever och dör på ett slagfält men det är den dystopiska verkligheten som närmar sig snabbt", säger Verity Coyle från Human Rights Watch, som uppmanar granskningskonferensen att agera bestämt och har varnat för att civila kommer att lämnas "farligt utsatta" om mötet misslyckas.

Autonoma vapen finns redan på slagfältet

Anhängare av bindande regler hävdar att debatten har flyttat förbi hypotetik. Ryssland har enligt uppgift använt helt autonoma drönare till dödlig effekt i sitt krig mot Ukraina, medan Ukrainas egen försvarsindustri driver på för att utveckla autonoma drönarsvärmar. Nordkorea förra veckan skröt med ett nytt AI-aktiverat torpedsystem.

Hehir sa till Reuters att LAGAR inte längre är science fiction, vilket pekar på mediarapportering om tidig användning av helt autonoma system i Ukraina. Kampanjer varnar för att systemen kan bete sig oförutsägbart, vilket ökar risken för dödliga fel även när militärer har för avsikt att hålla människor i ögat.

Vad händer härnäst

Med tanke på motståndet från de ledande militärmakterna säger observatörer att det verkar osannolikt att en överenskommelse kommer att nås denna vecka för att inleda formella förhandlingar om bindande regler. De mest troliga resultaten, föreslår diplomater, är ett kompromissmandat - möjligen ett hybridinstrument som skjuter upp frågan om juridisk bindning - eller ytterligare ett år av dödläge.

Hur som helst kommer Genèvesessionen att testa om internationell vapenkontroll kan hålla jämna steg med AI-driven vapenutveckling, eller om, som med tidigare transformationer inom militär teknologi, bindande begränsningar kommer först efter att vapnen redan är i utbredd användning.

Stay ahead of AI

Spåra policybeslut som formar hur AI används runt om i världen. Läs mer AI-nyheter →