Переговоры о возможных правилах использования смертоносного автономного оружия — так называемых «роботов-убийц» — ведутся в ООН в Женеве, на конференции, которую сторонники контроля над вооружениями называют последним реальным шансом установить границы, прежде чем технология полностью опередит дипломатию. Переговоры проходят на этой неделе на конференции ООН по конкретным видам обычного оружия (CCW), форуме, который собирается на этом уровне только раз в пять лет.

Актуальность не является гипотетической. В последние годы военные технологии быстро развиваются, и теперь некоторые эксперты предупреждают, что миру осталось всего несколько месяцев до появления оружия, которое сможет выбирать цели и принимать решения об убийстве без участия человека. В Украине и секторе Газа оружие с искусственным интеллектом уже использовалось для поражения целей, при этом украинские граждане сообщают, что на них «охотились» дроны, когда они делали покупки или шли в школу. Этими системами по-прежнему управляют удаленно люди-операторы, но расстояние между дистанционным управлением и полной автономией сокращается. Для читателей, которые следят за тем, как быстро развивается эта область, наш освещение об искусственном оружии и этике следит за каждым развитием.

Почему участники кампании называют это «последним лучшим шансом»

Сторонники контроля над автономным оружием утверждают, что встреча КНО на этой неделе является последним этапом для согласования правил, пока технология остается на полуавтономной стадии. По их мнению, как только оружие, которое самостоятельно выбирает и поражает цели, будет развернуто в больших масштабах, вести переговоры об ограничении станет значительно сложнее — государства уже интегрируют эти системы в свои арсеналы и доктрины.

Моральный вес переговоров необычайно велик. Накануне встречи Организация Объединенных Наций, Международный комитет Красного Креста и Папа призвали принять юридически обязательные правила. Генеральный секретарь ООН Антониу Гутерриш предупредил, что разрешение на убийство полностью автономного оружия будет «переходом моральной красной линии».

Гуманитарный подход: ответственность должна оставаться человеческой

Гуманитарные организации утверждают, что решение об убийстве – и ответственность за этот выбор – должны оставаться в руках людей. Красный Крест особенно обеспокоен тем, что существующие правила войны, кодифицированные в Женевских конвенциях, не могут надежно соблюдаться автономными системами. Война хаотична и быстро развивается, и Конвенции защищают солдат, которые ранены или активно сдаются в плен, от нападения.

«Риск заключается в том, что на основе технологий, которые мы видим, они не смогут понимать контекстуальные сигналы так же, как человек», — сказала Джорджия Хейнс, юрисконсульт Красного Креста. «И поэтому невероятно высоки риски того, что произойдет ошибочное определение цели».

Правозащитные группы добавляют к этой опасности экономическое измерение: технология, лежащая в основе оружия с использованием искусственного интеллекта, становится дешевой и простой в использовании. Чем шире его применение национальными вооруженными силами, тем выше риск его распространения среди террористических групп или правоохранительных органов в репрессивных режимах. Теоретически рой автономных дронов может быть запрограммирован так, чтобы атаковать каждого, кто носит одежду определенного цвета или несет определенный плакат — дискриминация такого масштаба, с которой законы войны никогда не были предназначены.

Разделенная комната: более 50 штатов против «большой тройки»

По меньшей мере 50 стран, включая Ирландию, Италию, Бразилию, Мексику, Францию и Германию, призывают к установлению строгого графика для согласования обязательных правил, регулирующих автономное оружие. Многие из государств, которые сейчас встречаются в Женеве, серьезно относятся к гуманитарным проблемам и хотят, чтобы процесс был закреплен в международном праве.

Но среди государств, уже разрабатывающих и развертывающих полуавтономное оружие, наблюдается решительное противодействие. Соединенные Штаты, Россия и Израиль заявили, что будут выступать против юридически обязательных правил. Контрпредложение Вашингтона: вместо этого пятилетний график разработки необязательных руководящих принципов.

Позиция США отражает более широкий скептицизм в отношении договоров

Позиция Америки соответствует давней закономерности: США традиционно поздно принимают международные договоры. Она так и не ратифицировала Оттавскую конвенцию по наземным минам, хотя со временем прекратила их применение и сократила свои запасы. При президенте Трампе сомнения относительно международного права стали более явными — Вашингтон ввел масштабные санкции в отношении Международного уголовного суда, а в эти выходные госсекретарь Марко Рубио в программной речи перед Обществом федералистов предостерег от «цитирования законов людям с мечами».

Правила консенсуса и история обходных путей

Над Женевскими переговорами нависла структурная проблема: переговоры ООН по ограничению конкретных вооружений должны проходить на основе консенсуса. Этот механизм привел к одному эпохальному соглашению — запрету на ослепляющие лазеры в 1995 году — но большинство других попыток потерпели неудачу. Из-за наземных мин страны, разочарованные медленным процессом ООН, в конечном итоге полностью вывели переговоры за его рамки, приняв Оттавскую конвенцию.

Дипломаты предлагают возможный компромисс на этой неделе: более длительный или даже бессрочный период переговоров для разработки правил, которые отдельные государства затем могли бы принять как обязательные или необязательные. Для сторонников это способ гарантировать хотя бы некоторый прогресс. Для участников кампании это явно не соответствует действительности: один из них сравнил этот подход с выбиванием очень опасной консервной банки по дороге.

Что будет дальше

Если конференция завершится принятием бессрочного мандата, практический эффект будет заключаться в том, что обязательные ограничения на автономное оружие отодвинутся еще дальше в будущее, а сроки его развертывания продолжат сжиматься. Правительства, военные и оборонные стартапы будут внимательно следить за Женевой на этой неделе, потому что какой бы путь ни достиг консенсуса, он определит правовой ландшафт для автономного оружия на долгие годы вперед.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →