Negocjacje w sprawie możliwych zasad dotyczących śmiercionośnej broni autonomicznej – tak zwanych „zabójczych robotów” – trwają w Organizacji Narodów Zjednoczonych w Genewie podczas konferencji, którą zwolennicy kontroli zbrojeń określają jako ostatnią realną szansę na wyznaczenie granic, zanim technologia całkowicie wyprzedzi dyplomację. Rozmowy toczą się w tym tygodniu w ramach konferencji ONZ w sprawie niektórych broni konwencjonalnych (CCW), forum, które zbiera się na tym szczeblu tylko raz na pięć lat.

Pilność nie jest hipotetyczna. W ostatnich latach technologia wojenna szybko się rozwinęła i niektórzy eksperci ostrzegają, że świat dzieli zaledwie kilka miesięcy od broni, która będzie w stanie wybierać cele i podejmować decyzję o zabijaniu bez udziału człowieka. Na Ukrainie i w Gazie broń wspomaganą przez sztuczną inteligencję została już użyta do ataków na cele, a ukraińscy cywile zgłaszają, że drony „polowały” na nich podczas zakupów lub w drodze do szkoły. Systemami tymi nadal sterują zdalnie operatorzy, ale dystans między zdalnym sterowaniem a pełną autonomią maleje. Czytelnicy śledzący rozwój tej dziedziny mogą śledzić każdy rozwój sytuacji w naszym opisie broni i etyki opartym na sztucznej inteligencji.

Dlaczego działacze nazywają to „ostatnią najlepszą szansą”

Zwolennicy kontroli broni autonomicznej argumentują, że odbywające się w tym tygodniu spotkanie CCW to ostatnie okno na uzgodnienie zasad, dopóki technologia pozostaje na etapie półautonomicznym. Twierdzą, że gdy broń, która samodzielnie wybiera i atakuje cele, zostanie rozmieszczona na dużą skalę, negocjowanie powściągliwości stanie się dramatycznie trudniejsze – państwa będą już zintegrować te systemy ze swoimi arsenałami i doktrynami.

Waga moralna rozmów jest niezwykle szeroka. Przed spotkaniem Organizacja Narodów Zjednoczonych, Międzynarodowy Komitet Czerwonego Krzyża i Papież wzywali do przyjęcia prawnie wiążących zasad. Sekretarz generalny ONZ Antonio Guterres ostrzegł, że zezwolenie na zabijanie w pełni autonomiczną bronią byłoby „przekroczeniem czerwonej linii moralnej”.

Sprawa humanitarna: odpowiedzialność musi pozostać ludzka

Organizacje humanitarne argumentują, że decyzja o zabiciu – i odpowiedzialność za ten wybór – muszą pozostać w rękach ludzi. Czerwony Krzyż jest szczególnie zaniepokojony faktem, że istniejące zasady wojny, skodyfikowane w Konwencjach Genewskich, nie mogą być wiarygodnie przestrzegane przez systemy autonomiczne. Wojna jest chaotyczna i szybka, a Konwencje chronią żołnierzy, którzy są ranni lub aktywnie się poddają, przed staniem się celem.

„Ryzyko polega na tym, że w oparciu o technologię, którą obserwujemy, nie będą w stanie zrozumieć sygnałów kontekstowych w taki sam sposób, w jaki odbierany jest przez człowieka” – stwierdziła Georgia Haines, doradca prawny Czerwonego Krzyża. „Zatem ryzyko błędnej identyfikacji celu jest niewiarygodnie wysokie”.

Organizacje praw człowieka dodają niebezpieczeństwu wymiar ekonomiczny: technologia stojąca za bronią wspomaganą sztuczną inteligencją staje się tania i łatwa w użyciu. Im szerzej zostanie on przyjęty przez krajowe siły zbrojne, tym większe ryzyko proliferacji do grup terrorystycznych lub do organów ścigania w represyjnych reżimach. Teoretycznie rój autonomicznych dronów można zaprogramować tak, aby atakował każdego, kto nosi określony kolor ubrania lub niesie konkretny plakat, co byłoby dyskryminacją na skalę, do której prawa wojenne nigdy nie były przystosowane.

Pokój dzielony: ponad 50 stanów kontra wielka trójka

Co najmniej 50 krajów – w tym Irlandia, Włochy, Brazylia, Meksyk, Francja i Niemcy – wzywa do przyjęcia ścisłego harmonogramu uzgodnienia wiążących zasad dotyczących broni autonomicznej. Wiele państw spotykających się obecnie w Genewie poważnie podchodzi do kwestii humanitarnych i chce, aby proces był zakotwiczony w prawie międzynarodowym.

Jednak wśród państw, które już opracowują i wdrażają broń półautonomiczną, panuje zdecydowany sprzeciw. Stany Zjednoczone, Rosja i Izrael dały do ​​zrozumienia, że ​​będą sprzeciwiać się prawnie wiążącym przepisom. Kontrpropozycja Waszyngtonu: zamiast tego pięcioletni harmonogram opracowania niewiążących wytycznych.

Stanowisko USA odzwierciedla szerszy sceptycyzm wobec traktatów

Amerykańskie stanowisko wpisuje się w długi schemat: Stany Zjednoczone tradycyjnie późno przyjmują traktaty międzynarodowe. Nigdy nie ratyfikowała Konwencji Ottawskiej w sprawie min przeciwpiechotnych, choć z czasem zaprzestała ich rozmieszczania i zmniejszyła swoje zapasy. Pod rządami prezydenta Trumpa wątpliwości co do prawa międzynarodowego stały się bardziej wyraźne – Waszyngton nałożył daleko idące sankcje na Międzynarodowy Trybunał Karny, a w ten weekend sekretarz stanu Marco Rubio w przemówieniu programowym skierowanym do Towarzystwa Federalistycznego przestrzegł przed „cytowaniem prawa ludziom z mieczami”.

Zasady konsensusu i historia obejść

Nad rozmowami w Genewie wisi problem strukturalny: negocjacje ONZ w sprawie ograniczenia określonych rodzajów broni mają przebiegać w drodze konsensusu. Mechanizm ten zaowocował przełomowym porozumieniem – zakazem stosowania oślepiających laserów z 1995 r. – ale większość innych prób zakończyła się fiaskiem. W przypadku min przeciwpiechotnych kraje sfrustrowane powolnym procesem ONZ ostatecznie całkowicie wyprowadziły negocjacje poza ONZ, tworząc Konwencję Ottawską.

Dyplomaci proponują możliwy kompromis na ten tydzień: dłuższy lub nawet nieograniczony okres negocjacji w celu opracowania zasad, które poszczególne państwa mogłyby następnie przyjąć jako wiążące lub niewiążące. Dla kibiców jest to sposób na gwarancję przynajmniej pewnego postępu. W przypadku działaczy jest to zdecydowanie niewystarczające – jeden z nich porównał podejście do kopania bardzo niebezpiecznej puszki na drodze.

Co stanie się dalej

Jeżeli konferencja zakończy się mandatem na czas nieokreślony, praktycznym skutkiem będzie to, że wiążące ograniczenia dotyczące broni autonomicznej zostaną cofnięte w przyszłość, a harmonogramy jej rozmieszczenia będą coraz bardziej napięte. Rządy, siły zbrojne i start-upy z branży obronnej będą w tym tygodniu uważnie obserwować Genewę – ponieważ niezależnie od tego, w którą stronę zostanie osiągnięty konsensus, określi on krajobraz prawny dla broni autonomicznej na nadchodzące lata.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →