Zdá se, že hlavní vojenské mocnosti, Spojené státy a Rusko, budou tento týden na celosvětovém setkání v Ženevě proti tlaku na zahájení jednání o právně závazných pravidlech pro autonomní zbraně, o čemž diplomaté a organizace na ochranu lidských práv očekávají, že budou obtížná, uvedla v pondělí agentura Reuters.
Setkání pořádané OSN, které začalo v pondělí v Ženevě, se musí rozhodnout, zda zahájit jednání o právně závazné dohodě o zákazech a předpisech pro systémy smrtících autonomních zbraní (LAWS) – takzvané „zabijácké roboty“, o kterých kritici varují, že by si mohli vybrat a zasáhnout cíle bez lidské účasti. Vzestup umělé inteligence urychlil vývoj dronů, robotů, tanků a ponorek schopných zabíjet bez přímého lidského rozkazu a poloautonomní zbraně podporované umělou inteligencí již zažily boje na Ukrajině, v Súdánu a na Středním východě – vývoj v reálném světě sledovaný v pokrytí průmyslu AI v sektoru obranných technologií.
Co je na stole v Ženevě
Jedná se o revizní konferenci Úmluvy o některých konvenčních zbraních (CCW), jejíž smluvními stranami je 128 států. Zatímco většina těchto států podporuje zahájení jednání směřujících k závaznému nástroji pro ZÁKONY, velké vojenské státy včetně USA, Ruska a Izraele jsou proti tomuto kroku s argumentem, že stávající mezinárodní humanitární právo je již dostatečné pro řízení těchto zbraní.
Ve hře je několik soutěžních návrhů. Předsedkyně jednání z tohoto týdne navrhla dvouletý mandát k vyjednání právně závazného protokolu. Washington naopak upřednostňuje pokyny před závaznými pravidly a navrhl pětiletý mandát pro rozhovory směřující k nezávazné dohodě. Velká Británie, Německo a Francie navrhly jednání o nástroji, který ponechává otevřenou otázku, zda bude nakonec právně závazný, uvedla Verity Coyleová z Human Rights Watch, která pro agenturu Reuters hovořila.
Diplomaté řekli agentuře Reuters, že jednání se zdají být náročná, ale uvedli, že státy by mohly do konce týdne postavit mosty ke kompromisní dohodě. Na stole zůstávají všechny možnosti, od právně závazných až po právně nezávazné texty, stejně jako hybridní dohoda spojující oba prvky.
Proč USA a Rusko vzdorují
Postoj Washingtonu spočívá na argumentu, že mezinárodní právo již poskytuje rámec pro řízení válčení, takže nová smlouva je zbytečná. Rusko svůj postoj k jednání veřejně neoznámilo, ale již dříve se bránilo návrhům na právně závaznou dohodu – a plánuje zabránit Evropské unii, pozorovateli rozhovorů, aby se ujala slova, řekl agentuře Reuters vysoký západní diplomat.
Anna Hehirová, vedoucí vojenského řízení umělé inteligence v Institutu budoucnosti života, řekla agentuře Reuters, že USA a Rusko se pravděpodobně budou snažit zmírnit jakýkoli výsledek, jak to udělaly v září textem OSN o autonomních zbraních a jejich potenciálu škodit. Na Valném shromáždění OSN minulý měsíc přijalo 163 států rezoluci vyzývající k jednání o pravidlech upravujících autonomní zbraně, přičemž pět zemí hlasovalo proti – Spojené státy, Rusko, Bělorusko, Izrael a Severní Korea – a devět se zdrželo hlasování, včetně Íránu, Saúdské Arábie a Číny.
Varování OSN, Červeného kříže a papeže
Za tlakem na regulaci stojí neobvyklá koalice. Generální tajemník OSN Antonio Guterres, vedení Mezinárodního výboru Červeného kříže a papež Lev XIV. varovali před předáním moci života a smrti plně autonomním strojům. V roce 2023 Guterres a předsedkyně MVČK Mirjana Spoljaric Egger společně vyzvali státy, aby uzavřely zákaz autonomních zbraní do roku 2026.
"Potřeba regulovat autonomní zbraně nabyla na nové naléhavosti" s vývojem v oblasti umělé inteligence, řekl Laurent Gisel, vedoucí jednotky pro zbraně a chování nepřátelských akcí při MVČK. Červený kříž tvrdí, že humanitární právo dostatečně neřeší konkrétní rizika, která autonomní zbraně představují, a požaduje zákaz dvou kategorií: nepředvídatelné autonomní zbraně a ty, které byly navrženy nebo použity k přímému zacílení na lidi.
„Strojům by nikdy nemělo být dovoleno rozhodovat o tom, kdo žije a zemře na bitevním poli, ale to je dystopická realita, která se rychle blíží,“ řekla Verity Coyle z Human Rights Watch, která naléhá na hodnotící konferenci, aby jednala rozhodně a varovala, že civilisté budou ponecháni „nebezpečně odhaleni“, pokud schůzka selže.
Autonomní zbraně jsou již na bojišti
Zastánci závazných pravidel argumentují, že debata se posunula mimo hypotézy. Rusko údajně použilo plně autonomní drony ke smrtícímu účinku ve své válce na Ukrajině, zatímco ukrajinský obranný průmysl tlačí na vývoj autonomních rojů dronů. Severní Korea se minulý týden pochlubila novým torpédovým systémem s umělou inteligencí.
Hehir řekl agentuře Reuters, že ZÁKONY již nejsou sci-fi a poukázal na zprávy médií o brzkém používání plně autonomních systémů na Ukrajině. Aktivisté varují, že systémy se mohou chovat nepředvídatelně, což zvyšuje riziko fatálních chyb, i když mají armády v úmyslu udržet lidi ve smyčce.
Co se stane dál
Vzhledem k odporu ze strany předních vojenských mocností se pozorovatelé domnívají, že se zdá nepravděpodobné, že bude tento týden dosaženo dohody o zahájení formálních jednání o závazných pravidlech. Nejpravděpodobnějšími výsledky, navrhují diplomaté, je kompromisní mandát – možná hybridní nástroj, který odkládá otázku právní závaznosti – nebo další rok slepé uličky.
Ať tak či onak, ženevské zasedání otestuje, zda mezinárodní kontrola zbrojení dokáže držet krok s vývojem zbraní řízených umělou inteligencí, nebo zda, jako u předchozích transformací ve vojenské technologii, závazná omezení přijdou až poté, co budou zbraně již široce používány.
Stay Ahead of AI
Sledujte politická rozhodnutí, která utvářejí způsob používání umělé inteligence po celém světě. Přečtěte si další zprávy o AI →
