Wygląda na to, że główne potęgi wojskowe, Stany Zjednoczone i Rosja, sprzeciwią się naciskom na światowym spotkaniu w Genewie w tym tygodniu, aby rozpocząć negocjacje w sprawie prawnie wiążących zasad dotyczących broni autonomicznej, co według dyplomatów i grup praw człowieka będzie trudnymi rozmowami, podał w poniedziałek Reuters.
Na spotkaniu zorganizowanym przez ONZ, które rozpoczęło się w poniedziałek w Genewie, należy podjąć decyzję, czy rozpocząć negocjacje w sprawie prawnie wiążącego porozumienia w sprawie zakazów i przepisów dotyczących śmiercionośnych systemów broni autonomicznej (LAWS) – tak zwanych „robotów-zabójców”, które – jak ostrzegają krytycy – mogą wybierać i uderzać w cele bez udziału człowieka. Rozwój sztucznej inteligencji przyspieszył rozwój dronów, robotów, czołgów i łodzi podwodnych zdolnych do zabijania bez bezpośrednich rozkazów człowieka, a półautonomiczna broń wspomagana przez sztuczną inteligencję znalazła już zastosowanie w walce na Ukrainie, w Sudanie i na Bliskim Wschodzie – ewolucję w świecie rzeczywistym można śledzić w relacje branży sztucznej inteligencji w sektorze technologii obronnych.
Co jest na stole w Genewie
Spotkanie to ma charakter Konferencji Przeglądowej Konwencji o niektórych broniach konwencjonalnych (CCW), której stronami jest 128 państw. Chociaż większość tych państw popiera rozpoczęcie negocjacji w sprawie wiążącego instrumentu dotyczącego PRAWA, główne państwa wojskowe, w tym USA, Rosja i Izrael, sprzeciwiają się temu posunięciu, argumentując, że istniejące międzynarodowe prawo humanitarne jest już wystarczające do regulowania tej broni.
W grę wchodzi kilka konkurencyjnych propozycji. Przewodniczący rozmów, które odbyły się w tym tygodniu, zaproponował dwuletni mandat do negocjowania prawnie wiążącego protokołu. Waszyngton natomiast woli wytyczne od wiążących zasad i zaproponował pięcioletni mandat na rozmowy prowadzące do niewiążącego porozumienia. Według Verity Coyle z Human Rights Watch w rozmowie z Reutersem Wielka Brytania, Niemcy i Francja zaproponowały negocjacje w sprawie instrumentu, który pozostawia otwartą kwestię, czy będzie on ostatecznie prawnie wiążący.
Dyplomaci powiedzieli agencji Reuters, że dyskusje wydają się być trudne, ale stwierdzili, że do końca tygodnia państwa mogą budować mosty w kierunku kompromisowego porozumienia. Rozważone pozostają wszystkie opcje, od tekstów prawnie wiążących po niewiążące prawnie, a także umowa hybrydowa łącząca oba elementy.
Dlaczego USA i Rosja stawiają opór
Stanowisko Waszyngtonu opiera się na argumencie, że prawo międzynarodowe już zapewnia ramy regulujące prowadzenie działań wojennych, co sprawia, że nowy traktat staje się niepotrzebny. Rosja nie określiła publicznie swojego stanowiska przed rozmowami, ale wcześniej sprzeciwiała się propozycjom prawnie wiążącego porozumienia i planuje uniemożliwić Unii Europejskiej, obserwatorowi rozmów, zabranie głosu, powiedział agencji Reuters starszy zachodni dyplomata.
Anna Hehir, szefowa zarządzania wojskową sztuczną inteligencją w Future of Life Institute, powiedziała Reutersowi, że Stany Zjednoczone i Rosja prawdopodobnie będą starały się złagodzić każdy wynik, tak jak to uczyniły we wrześniu w tekście ONZ na temat broni autonomicznej i jej potencjalnego szkodliwości. W zeszłym miesiącu na Zgromadzeniu Ogólnym ONZ 163 państwa przyjęły uchwałę wzywającą do negocjacji w sprawie zasad regulujących broń autonomiczną, przy czym pięć krajów głosowało przeciw – Stany Zjednoczone, Rosja, Białoruś, Izrael i Korea Północna – a dziewięć wstrzymało się od głosu, w tym Iran, Arabia Saudyjska i Chiny.
Ostrzeżenia ONZ, Czerwonego Krzyża i Papieża
Nacisk na regulacje jest wspierany przez niezwykłą koalicję. Sekretarz Generalny ONZ Antonio Guterres, kierownictwo Międzynarodowego Komitetu Czerwonego Krzyża i papież Leon XIV ostrzegali przed oddawaniem władzy nad życiem i śmiercią w pełni autonomicznym maszynom. W 2023 r. Guterres i przewodnicząca MKCK Mirjana Spoljaric Egger wspólnie wezwali państwa do zawarcia zakazu broni autonomicznej przed 2026 r.
„Konieczność uregulowania broni autonomicznej stała się pilniejsza” wraz z rozwojem sztucznej inteligencji, powiedział Laurent Gisel, szef Jednostki ds. Broni i Prowadzenia Działań Wrogich w MKCK. Czerwony Krzyż utrzymuje, że prawo humanitarne w niewystarczającym stopniu uwzględnia szczególne zagrożenia, jakie stwarza broń autonomiczna, i wzywa do wprowadzenia zakazu dotyczącego dwóch kategorii broni: nieprzewidywalnej broni autonomicznej oraz broni zaprojektowanej lub wykorzystywanej do bezpośredniego celowania w ludzi.
„Maszyny nigdy nie powinny mieć możliwości decydowania o tym, kto przeżyje, a kto zginie na polu bitwy, ale taka jest dystopijna rzeczywistość, która szybko się zbliża” – stwierdziła Verity Coyle z Human Rights Watch, która wzywa Konferencję Przeglądową do zdecydowanych działań i ostrzegła, że w przypadku niepowodzenia spotkania cywile zostaną „niebezpiecznie narażeni”.
Broń autonomiczna jest już na polu bitwy
Zwolennicy wiążących zasad argumentują, że debata wyszła poza hipotetyki. Według doniesień Rosja użyła w pełni autonomicznych dronów ze śmiercionośnym skutkiem w swojej wojnie z Ukrainą, podczas gdy ukraiński przemysł obronny naciska na rozwój autonomicznych rojów dronów. W zeszłym tygodniu Korea Północna pochwaliła się nowym systemem torpedowym wykorzystującym sztuczną inteligencję.
Hehir powiedział agencji Reuters, że LAWS nie są już science fiction, wskazując na doniesienia mediów o wczesnym uruchomieniu w pełni autonomicznych systemów na Ukrainie. Działacze ostrzegają, że systemy mogą zachowywać się nieprzewidywalnie, zwiększając ryzyko śmiertelnych błędów, nawet jeśli siły zbrojne zamierzają na bieżąco informować ludzi.
Co stanie się dalej
Biorąc pod uwagę sprzeciw czołowych potęg wojskowych, obserwatorzy twierdzą, że osiągnięcie w tym tygodniu porozumienia w sprawie rozpoczęcia formalnych negocjacji w sprawie wiążących zasad wydaje się mało prawdopodobne. Dyplomaci sugerują, że najbardziej prawdopodobnym rezultatem jest mandat kompromisowy – być może instrument hybrydowy odraczający kwestię wiążącej mocy prawnej – lub kolejny rok impasu.
Tak czy inaczej, sesja genewska sprawdzi, czy międzynarodowa kontrola zbrojeń może dotrzymać kroku rozwojowi broni opartej na sztucznej inteligencji, czy też – podobnie jak w przypadku poprzednich przemian w technologii wojskowej – wiążące ograniczenia zostaną wprowadzone dopiero po tym, jak broń będzie już w powszechnym użyciu.
Wyprzedź sztuczną inteligencję
Śledź decyzje polityczne kształtujące sposób wykorzystania sztucznej inteligencji na całym świecie. Przeczytaj więcej aktualności o sztucznej inteligencji →
