Förhandlingar om möjliga regler för dödliga autonoma vapen - så kallade "mördarrobotar" - pågår i FN i Genève, vid en konferens som vapenkontrollförespråkare beskriver som den sista realistiska chansen att sätta gränser innan tekniken överträffar diplomatin helt. Samtalen äger rum på veckans FN-konferens om vissa konventionella vapen (CCW), ett forum som bara sammanträder på denna nivå en gång vart femte år.

Brådskan är inte hypotetisk. Krigsföringstekniken har utvecklats snabbt de senaste åren, och vissa experter varnar nu för att världen är bara månader borta från vapen som kan välja mål och fatta beslutet att döda utan att en människa är i slingan. I Ukraina och Gaza har AI-stödda vapen redan använts för att träffa mål, med ukrainska civila rapporterar att de har "jagats" av drönare när de handlat eller gick till skolan. Dessa system fjärrstyrs fortfarande av mänskliga operatörer - men avståndet mellan fjärrkontroll och full autonomi krymper. Vår AI-vapen och etikbevakning följer varje utveckling för läsare som spårar hur snabbt detta område rör sig.

Varför kampanjer kallar detta den "sista bästa chansen"

Anhängare av kontroller av autonoma vapen hävdar att veckans CCW-möte är det sista fönstret för att komma överens om regler medan tekniken förblir i sitt semi-autonoma stadium. När väl vapen som självständigt väljer ut och engagerar mål har ställts upp i stor skala, hävdar de, att förhandla om återhållsamhet blir dramatiskt svårare - stater kommer redan att ha integrerat systemen i sina arsenaler och doktriner.

Den moraliska tyngden bakom samtalen är ovanligt bred. Inför mötet efterlyste FN, Internationella Röda Korsets kommitté och påven alla juridiskt bindande regler. FN:s generalsekreterare Antonio Guterres varnade för att att tillåta helt autonoma vapen att döda skulle vara att "korsa en moralisk röd linje".

Det humanitära fallet: Ansvaret måste förbli mänskligt

Humanitära organisationer hävdar att beslutet att döda – och ansvaret för det valet – måste förbli i mänskliga händer. Röda Korset är särskilt bekymrat över att existerande krigsregler, kodifierade i Genèvekonventionerna, inte kan respekteras på ett tillförlitligt sätt av autonoma system. Krig är kaotiskt och rör sig snabbt, och konventionerna skyddar soldater som är sårade eller aktivt kapitulerar från att bli måltavla.

"Risken är att de, baserat på den teknik vi ser, inte kan förstå på samma sätt som en människa är de kontextuella signalerna", säger Georgia Haines, juridisk rådgivare på Röda Korset. "Och så riskerna är otroligt höga att det blir en felaktig identifiering av ett mål."

Människorättsgrupper lägger till en ekonomisk dimension till faran: tekniken bakom AI-stödda vapen blir billig och lätt att använda. Ju bredare det antas av nationella militärer, desto större är risken för spridning till terroristgrupper eller till brottsbekämpande organ i repressiva regimer. I teorin kan en svärm av autonoma drönare programmeras att attackera alla som bär en viss färg på kläder eller bär en specifik affisch - diskriminering i en skala som krigslagarna aldrig var designade för att hantera.

Ett delat rum: 50-plus stater kontra de tre stora

Minst 50 länder – inklusive Irland, Italien, Brasilien, Mexiko, Frankrike och Tyskland – kräver en strikt tidsplan för att komma överens om bindande regler för autonoma vapen. Många av de stater som nu möts i Genève tar de humanitära problemen på allvar och vill ha processen förankrad i internationell rätt.

Men bland de stater som redan utvecklar och distribuerar semi-autonoma vapen, finns det en fast återhämtning. USA, Ryssland och Israel har indikerat att de kommer att motsätta sig juridiskt bindande regler. Washingtons motförslag: en femårig tidsplan för att istället utarbeta icke-bindande riktlinjer.

USA:s ståndpunkt återspeglar en bredare skepsis mot fördrag

Den amerikanska hållningen överensstämmer med ett långt mönster: USA har traditionellt sett sent antagit internationella fördrag. Den ratificerade aldrig Ottawakonventionen om landminor, även om den med tiden slutade utplacera dem och minskade sina lager. Under president Trump har tvivel om internationell rätt blivit mer tydliga – Washington har infört omfattande sanktioner mot Internationella brottmålsdomstolen, och i helgen varnade utrikesminister Marco Rubio i ett huvudtal till Federalist Society för att "citera lagar till män med svärd".

Konsensusregler och en historia av lösningar

Ett strukturellt problem hänger över Genèveförhandlingarna: FN-förhandlingar om att begränsa specifika vapen ska fortsätta med konsensus. Den mekanismen skapade ett landmärkeavtal - 1995 års förbud mot att blända lasrar - men de flesta andra försök har grundats. Med landminor tog länder som var frustrerade av den långsamma FN-processen slutligen förhandlingarna helt utanför det, och producerade Ottawakonventionen.

Diplomater lägger fram en möjlig kompromiss för denna vecka: en längre, eller till och med öppen, förhandlingsperiod för att utveckla regler som enskilda stater sedan kan anta som bindande eller icke-bindande. För supportrar är det ett sätt att garantera åtminstone vissa framsteg. För aktivister faller det mycket kort - man liknade tillvägagångssättet med att sparka en mycket farlig burk på vägen.

Vad händer härnäst

Om konferensen avslutas med ett öppet mandat blir den praktiska effekten att bindande gränser för autonoma vapen avtar längre in i framtiden, samtidigt som tidslinjerna för utplacering fortsätter att komprimeras. Regeringar, militärer och försvarsstartuper kommer att bevaka Genève noggrant den här veckan – för hur konsensus än landar, kommer det att definiera det juridiska landskapet för autonoma vapen i många år framöver.

---

Stay ahead of AI

Få de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.

Läs mer AI-nyheter →