Jednání o možných pravidlech pro smrtící autonomní zbraně – takzvané „zabijácké roboty“ – probíhají v OSN v Ženevě na konferenci, kterou zastánci kontroly zbrojení označují za poslední reálnou šanci, jak stanovit hranice, než technologie zcela předběhne diplomacii. Jednání se konají tento týden na konferenci OSN o určitých konvenčních zbraních (CCW), což je fórum, které se na této úrovni schází pouze jednou za pět let.
Naléhavost není hypotetická. Válečná technologie v posledních letech rychle pokročila a někteří odborníci nyní varují, že svět je jen několik měsíců od zbraní, které si mohou vybrat cíle a rozhodnout se zabíjet bez člověka ve smyčce. Na Ukrajině a v Gaze již byly zbraně podporované umělou inteligencí použity k úderům na cíle, přičemž ukrajinští civilisté hlásí, že je „lovily“ drony při nakupování nebo chůzi do školy. Tyto systémy jsou stále ovládány na dálku lidskými operátory – ale vzdálenost mezi dálkovým ovládáním a plnou autonomií se zmenšuje. Pro čtenáře, kteří sledují, jak rychle se toto pole pohybuje, naše AI zbraně a etické pokrytí sleduje každý vývoj.
Proč tomu aktivisté říkají „Poslední nejlepší šance“
Zastánci kontrol autonomních zbraní tvrdí, že schůzka CCW tento týden je posledním oknem k dohodě o pravidlech, zatímco technologie zůstává ve své semi-autonomní fázi. Jakmile jsou zbraně, které nezávisle vybírají a zasahují cíle, nasazeny ve velkém měřítku, tvrdí, že vyjednávání o zdrženlivosti se dramaticky ztíží – státy již integrovaly systémy do svých arzenálů a doktrín.
Morální váha jednání je neobvykle široká. Organizace spojených národů, Mezinárodní výbor Červeného kříže a papež před schůzkou požadovali právně závazná pravidla. Generální tajemník OSN Antonio Guterres varoval, že povolit zabíjení plně autonomními zbraněmi by bylo „překročením morální červené čáry“.
Humanitární případ: Odpovědnost musí zůstat lidská
Humanitární organizace tvrdí, že rozhodnutí zabít – a odpovědnost za tuto volbu – musí zůstat v lidských rukou. Červený kříž je obzvláště znepokojen tím, že autonomní systémy nemohou spolehlivě respektovat stávající pravidla války, kodifikovaná v Ženevských konvencích. Válka je chaotická a rychle se rozvíjející a úmluvy chrání vojáky, kteří jsou zraněni nebo se aktivně vzdávají, před terčem.
"Rizikem je, že na základě technologie, kterou vidíme, nejsou schopni porozumět stejným způsobem, jakým jsou kontextové signály člověk," řekla Georgia Hainesová, právní poradkyně Červeného kříže. "A tak jsou rizika neuvěřitelně vysoká, že dojde k chybné identifikaci cíle."
Skupiny na ochranu lidských práv přidávají k nebezpečí ekonomický rozměr: technologie za zbraněmi podporovanými umělou inteligencí se stává levnou a snadno použitelnou. Čím širší je její přijetí národními armádami, tím větší je riziko šíření teroristickým skupinám nebo donucovacím orgánům v represivních režimech. Teoreticky by mohl být roj autonomních dronů naprogramován tak, aby zaútočil na každého, kdo nosí určitou barvu oblečení nebo nosí specifický plakát – diskriminace v rozsahu, na který válečné zákony nikdy nebyly navrženy.
Split Room: 50-plus States versus Big Three
Nejméně 50 zemí – včetně Irska, Itálie, Brazílie, Mexika, Francie a Německa – požaduje přísný harmonogram, který by schválil závazná pravidla pro autonomní zbraně. Mnoho států, které se nyní scházejí v Ženevě, bere humanitární záležitosti vážně a chtějí, aby byl proces zakotven v mezinárodním právu.
Ale mezi státy, které již vyvíjejí a nasazují poloautonomní zbraně, existuje silný odpor. Spojené státy, Rusko a Izrael daly najevo, že budou proti právně závazným pravidlům. Washingtonův protinávrh: místo toho pětiletý harmonogram navrhování nezávazných pokynů.
Pozice USA odráží širší skepticismus smluv
Americký postoj je v souladu s dlouhým vzorem: USA tradičně přijímají mezinárodní smlouvy pozdě. Nikdy neratifikovala Ottawskou úmluvu o nášlapných minách, i když postupem času je přestala nasazovat a snížila své zásoby. Za prezidenta Trumpa se pochybnosti o mezinárodním právu staly explicitnějšími – Washington uvalil rozsáhlé sankce na Mezinárodní trestní soud a ministr zahraničí Marco Rubio tento víkend v hlavním projevu k Federalistické společnosti varoval před „citováním zákonů pro muže s meči“.
Pravidla konsensu a historie náhradních řešení
Nad ženevskými rozhovory visí strukturální problém: jednání OSN o omezení konkrétních zbraní má probíhat konsensem. Tento mechanismus vytvořil jednu přelomovou dohodu – zákaz oslepujících laserů z roku 1995 – ale většina ostatních pokusů ztroskotala. S nášlapnými minami se země frustrované pomalým procesem OSN nakonec dostaly zcela mimo jednání a vytvořily Ottawskou úmluvu.
Diplomaté předkládají možný kompromis pro tento týden: delší, nebo dokonce neomezené období vyjednávání s cílem vytvořit pravidla, která by pak jednotlivé státy mohly přijmout jako závazná nebo nezávazná. Pro příznivce je to způsob, jak zaručit alespoň nějaký pokrok. Pro aktivisty to nestačí – jeden přístup přirovnával ke kopnutí do velmi nebezpečné plechovky.
Co se stane dál
Pokud konference skončí mandátem na dobu neurčitou, praktickým důsledkem je, že závazné limity pro autonomní zbraně ustupují dále do budoucnosti, zatímco časové osy nasazení se stále stlačují. Vlády, armády a obranné startupy budou tento týden Ženevu bedlivě sledovat – protože ať už konsenzus dopadne jakkoli, bude definovat právní prostředí pro autonomní zbraně pro nadcházející roky.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →