Сполучені Штати та Росія, схоже, мають намір протистояти спробам глобальної зустрічі в Женеві цього тижня щодо початку переговорів щодо юридично обов’язкових правил щодо автономної зброї, переговори, які дипломати та правозахисні групи очікують, будуть важкими, повідомляє Reuters у понеділок.

Організована ООН зустріч, яка розпочалася в понеділок у Женеві, має вирішити, чи розпочинати переговори щодо юридично обов’язкової угоди про заборони та правила для смертоносних автономних систем зброї (LAWS) — так званих «роботів-вбивць», які, як попереджають критики, можуть вибирати та вражати цілі без участі людини. Розвиток штучного інтелекту прискорив розробку безпілотних літальних апаратів, роботів, танків і підводних човнів, здатних вбивати без прямого наказу людини, а напівавтономна зброя з підтримкою штучного інтелекту вже потрапила в бойові дії в Україні, Судані та на Близькому Сході — еволюція в реальному світі відстежується в [висвітленні індустрії штучного інтелекту] (https://aibuzzwire.news) сектору оборонних технологій.

Що на столі в Женеві

Зустріч є конференцією з перегляду Конвенції про певні види звичайної зброї (CCW), сторонами якої є 128 держав. У той час як більшість із цих держав підтримують початок переговорів щодо зобов’язуючого інструменту щодо LAWS, великі військові держави, включаючи США, Росію та Ізраїль, виступають проти цього кроку, стверджуючи, що існуючого міжнародного гуманітарного права вже достатньо для регулювання цієї зброї.

У грі є кілька конкуруючих пропозицій. Головуючий на переговорах цього тижня запропонував дворічний мандат на переговори щодо юридично обов’язкового протоколу. Вашингтон, навпаки, віддає перевагу керівним принципам, а не обов’язковим правилам, і запропонував п’ятирічний мандат на переговори щодо необов’язкової угоди. За словами представника Human Rights Watch Веріті Койл у розмові з Reuters, Велика Британія, Німеччина та Франція запропонували переговори щодо документа, який залишає відкритим питання про те, чи буде він остаточно юридично обов’язковим.

Дипломати сказали Reuters, що дискусії виглядають складними, але сказали, що країни можуть навести мости до компромісної угоди до кінця тижня. На столі залишаються всі варіанти, від юридично зобов’язуючих до юридично необов’язкових текстів, а також гібридної угоди, яка поєднує обидва елементи.

Чому США та Росія чинять опір

Позиція Вашингтона базується на аргументі, що міжнародне право вже забезпечує основу для управління війною, що робить новий договір непотрібним. Росія публічно не заявляла про свою позицію щодо участі в переговорах, але раніше чинила опір пропозиціям щодо юридично обов’язкової угоди — і планує заблокувати Європейський Союз, який є спостерігачем на переговорах, взяти слово, сказав Reuters високопоставлений західний дипломат.

Анна Хехір, голова військового управління штучним інтелектом в Інституті майбутнього життя, сказала Reuters, що США та Росія, ймовірно, намагатимуться пом'якшити будь-який результат, як вони зробили у вересні з документом ООН про автономну зброю та її потенційну шкоду. Минулого місяця на Генеральній асамблеї ООН 163 країни прийняли резолюцію, що закликає до переговорів щодо правил автономної зброї, при цьому п’ять країн проголосували проти — США, Росія, Білорусь, Ізраїль і Північна Корея — і дев’ять утрималися, включаючи Іран, Саудівську Аравію та Китай.

Попередження від ООН, Червоного Хреста та Папи Римського

Поштовх до регулювання підтримується незвичайною коаліцією. Генеральний секретар ООН Антоніу Гутерріш, керівництво Міжнародного комітету Червоного Хреста та Папа Римський Лев XIV застерігали від передачі повноважень щодо життя та смерті повністю автономним машинам. У 2023 році Гутерріш і президент МКЧХ Мір'яна Сполярич Еггер спільно закликали держави укласти заборону на автономну зброю до 2026 року.

«Потреба в регулюванні автономної зброї набула нової гостроти» з розвитком штучного інтелекту, сказав Лоран Гізель, керівник відділу озброєння та ведення бойових дій МКЧХ. Червоний Хрест стверджує, що гуманітарне право недостатньо розглядає специфічні ризики, які створює автономна зброя, і закликає до заборони двох категорій: непередбачуваної автономної зброї та тієї, яка призначена або використовується для прямого націлювання на людей.

«Машинам ніколи не можна дозволяти вирішувати, хто живе і хто помре на полі бою, але це антиутопічна реальність, яка швидко наближається», — сказала Веріті Койл з Human Rights Watch, яка закликає Оглядову конференцію діяти рішуче та попереджає, що цивільні особи залишаться «небезпечно підданими», якщо зустріч провалиться.

Автономна зброя вже на полі бою

Прихильники обов’язкових правил стверджують, що дебати вийшли за межі гіпотез. Повідомляється, що Росія використовувала повністю автономні безпілотні літальні апарати для смертельних наслідків у своїй війні проти України, тоді як українська оборонна промисловість наполягає на розробці автономних груп безпілотників. Минулого тижня Північна Корея похвалилася новою торпедною системою з підтримкою штучного інтелекту.

Хехір сказав Reuters, що ЗАКОНИ більше не є науковою фантастикою, вказавши на повідомлення ЗМІ про раннє використання повністю автономних систем в Україні. Активісти попереджають, що системи можуть поводитися непередбачувано, підвищуючи ризик фатальних помилок, навіть якщо військові мають намір тримати людей у ​​курсі.

Що станеться далі

Враховуючи спротив провідних військових держав, спостерігачі кажуть, що малоймовірно, що цього тижня буде досягнуто домовленості про початок офіційних переговорів щодо обов’язкових правил. Дипломати припускають, що найбільш вірогідними результатами є компромісний мандат — можливо, гібридний інструмент, який відкладає питання про юридичну обов’язковість — або ще один рік тупика.

У будь-якому випадку, сесія в Женеві перевірить, чи зможе міжнародний контроль над озброєннями йти в ногу з розробкою зброї, керованої ШІ, чи, як і у випадку з попередніми перетвореннями у військових технологіях, обов’язкові обмеження з’являться лише після того, як зброя вже буде широко використовуватися.

Будьте попереду ШІ

Відстежуйте політичні рішення, які впливають на використання ШІ в усьому світі. Читати більше новин AI →