Переговори щодо можливих правил для летальної автономної зброї — так званих «роботів-вбивць» — тривають в Організації Об’єднаних Націй у Женеві на конференції, яку прихильники контролю над озброєннями описують як останній реалістичний шанс встановити межі, перш ніж технологія повністю випередить дипломатію. Переговори відбуваються цього тижня на конференції ООН щодо окремих видів звичайної зброї (CCW), форумі, який збирається на такому рівні лише раз на п’ять років.

Терміновість не гіпотетична. В останні роки технології ведення війни стрімко розвиваються, і деякі експерти зараз попереджають, що світ залишився за кілька місяців до зброї, яка може вибирати цілі та приймати рішення про вбивство без участі людини. В Україні та секторі Газа зброя зі штучним інтелектом вже використовувалася для нанесення ударів по цілях, і українські цивільні особи повідомляють, що на них «полювали» дрони під час походу по магазинах або до школи. Цими системами досі керують дистанційно люди-оператори, але відстань між дистанційним керуванням і повною автономією скорочується. Для читачів, які відстежують, як швидко розвивається ця галузь, наше висвітлення зброї штучного інтелекту та етики слідкує за кожним розвитком.

Чому учасники кампанії називають це «останнім найкращим шансом»

Прихильники контролю над автономною зброєю стверджують, що зустріч CCW цього тижня є останнім вікном для узгодження правил, поки технологія залишається на напівавтономній стадії. Вони стверджують, що коли зброя, яка самостійно обирає та вражає цілі, буде розміщена у великих масштабах, домовитися про стриманість стане значно важче — держави вже інтегрують ці системи у свої арсенали та доктрини.

Моральна вага переговорів надзвичайно широка. Напередодні зустрічі Організація Об’єднаних Націй, Міжнародний Комітет Червоного Хреста та Папа Римський закликали прийняти юридично обов’язкові правила. Генеральний секретар ООН Антоніу Гутерріш попередив, що дозволити повністю автономну зброю для вбивства означатиме «перетин моральної червоної лінії».

Гуманітарна справа: відповідальність має залишатися людиною

Гуманітарні організації стверджують, що рішення про вбивство — і відповідальність за цей вибір — має залишатися в руках людей. Червоний Хрест особливо стурбований тим, що існуючі правила війни, кодифіковані в Женевських конвенціях, не можуть бути надійно дотримані автономними системами. Війна є хаотичною та швидкоплинною, і Конвенції захищають солдатів, які поранені або активно здаються, від нападу.

«Ризик полягає в тому, що, виходячи з технології, яку ми бачимо, вони не здатні зрозуміти так само, як людина — це контекстуальні сигнали», — сказала Джорджія Хейнс, юридичний радник Червоного Хреста. «І тому ризики помилкової ідентифікації цілі неймовірно високі».

Правозахисні групи додають економічний вимір до небезпеки: технологія, що лежить в основі зброї з штучним інтелектом, стає дешевшою та простою у використанні. Чим ширше його застосовують національні війська, тим більший ризик розповсюдження серед терористичних груп або правоохоронних органів репресивних режимів. Теоретично рій автономних безпілотних літальних апаратів може бути запрограмований атакувати всіх, хто носить певний колір одягу або має певний плакат — дискримінація в такому масштабі, на яку закони війни ніколи не розраховували.

Розділена кімната: понад 50 штатів проти великої трійки

Щонайменше 50 країн, у тому числі Ірландія, Італія, Бразилія, Мексика, Франція та Німеччина, закликають до чіткого графіка узгодження обов’язкових правил, що регулюють використання автономної зброї. Багато держав, які зараз зустрічаються в Женеві, серйозно ставляться до гуманітарних проблем і хочуть, щоб цей процес був закріплений у міжнародному праві.

Але серед держав, які вже розробляють і розгортають напівавтономну зброю, спостерігається тверда протидія. Сполучені Штати, Росія та Ізраїль заявили, що виступатимуть проти юридично обов’язкових правил. Контрпропозиція Вашингтона: натомість розробити необов’язкові керівні принципи на п’ять років.

Позиція США відображає ширший скептицизм щодо договорів

Американська позиція відповідає давній моделі: США традиційно пізно приймають міжнародні договори. Вона ніколи не ратифікувала Оттавську конвенцію про наземні міни, хоча з часом припинила їх розміщення та скоротила свої запаси. Під час президента Трампа сумніви щодо міжнародного права стали більш явними — Вашингтон наклав широкі санкції на Міжнародний кримінальний суд, а цими вихідними держсекретар Марко Рубіо, виступаючи перед Товариством федералістів, застеріг від «цитування законів людям із мечами».

Правила консенсусу та історія обхідних шляхів

Над женевськими переговорами нависла структурна проблема: переговори в ООН щодо обмеження конкретних озброєнь мають проходити консенсусом. Цей механізм призвів до однієї знакової угоди — заборони засліплюючих лазерів у 1995 році, але більшість інших спроб провалилися. Через протипіхотні міни країни, розчаровані повільним процесом ООН, зрештою повністю вивели переговори за її межі, створивши Оттавську конвенцію.

Дипломати пропонують можливий компроміс на цей тиждень: довший або навіть безстроковий період переговорів для розробки правил, які окремі держави могли б прийняти як обов’язкові чи необов’язкові. Для прихильників це спосіб гарантувати принаймні певний прогрес. Для активістів кампанії цього не вистачає — хтось порівняв цей підхід із ударом ногою по дорозі дуже небезпечної банки.

Що станеться далі

Якщо конференція завершиться безстроковим мандатом, практичний ефект полягає в тому, що обов’язкові обмеження щодо автономної зброї відступають у майбутнє, тоді як терміни розгортання продовжують стискатися. Уряди, військові та оборонні стартапи уважно спостерігатимуть за Женевою цього тижня — тому що, яким би шляхом не досягнувся консенсус, він визначить правовий ландшафт для автономної зброї на довгі роки.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →