Обзор Министерства обороны США пришел к выводу, что чрезмерная зависимость от искусственного интеллекта способствовала мартовскому ракетному удару по школе в Иране, в результате которого, как сообщается, погибло около 120 детей, согласно выводам обзора, опубликованным агентством Bloomberg в понедельник и обобщенным Yahoo News и другими изданиями.
Это открытие является первым случаем, когда Пентагон официально приписывает смертельный результат боя частично использованию системы искусственного интеллекта, и он оказывается в центре усиливающихся дебатов о том, сколько полномочий по нацеливанию американские военные должны делегировать машинному суждению. Дополнительную информацию о таких репортажах можно найти в нашем освещении по этике ИИ.
Что произошло в марте
Удар произошел в начале марта 2026 года, когда видеоанализ, опубликованный Bellingcat и проверенный NPR и BBC, показал, как американская крылатая ракета «Томагавк» нанесла удар по школе для девочек в иранском городе Ламерд. Через несколько дней The New York Times сообщила, что предварительное расследование США показало, что удар был вызван американской ракетой, а иранские источники сообщили, что число погибших исчисляется десятками, большинство из которых - дети.
Новый обзор Пентагона, описанный в расследовании Bloomberg, опубликованном в понедельник, идет еще дальше: как сообщается, в нем прослеживается сбой в системе определения целей и делается вывод, что чрезмерное доверие к ИИ способствовало нанесению удара. Yahoo News резюмировал обзор как связь системы нацеливания ИИ с ударом, в результате которого погибли 120 иранских детей; несколько СМИ идентифицировали рассматриваемую систему как программное обеспечение, предоставленное Palantir, хотя Пентагон публично не подтвердил подробности поставщика.
Внутри цепочки убийств
Газета Los Angeles Times в параллельном расследовании, опубликованном в понедельник, проследила то, что она назвала американской «цепочкой убийств», которая разрушила школу — последовательность сбора данных, автоматического определения цели и одобрения человеком, которая закончилась запуском ракеты. Отчет подчеркивает неприятную реальность современной высокоточной войны: экипаж, стреляющий из «Томагавка», может вообще никогда не увидеть цель. Они реализуют целевой пакет данных, собранный на начальном этапе, где алгоритмические инструменты все больше определяют, что будет номинировано и насколько уверены в себе поддерживающие аналитики.
Другими словами, главный вывод обзора — чрезмерная уверенность — не связан с тем, что робот нажимает на курок. Речь идет о людях, которые настолько доверяют результатам работы машины, что избегают скептицизма, которого требует этот процесс.
Надзор, который был устранен
Контекст неудачи был известен несколько месяцев назад. В марте журнал Politico сообщил, что глава Пентагона сократил офисы, не способствующие достижению его целей по «летальному эффекту», включая Центр передового опыта в области гражданской защиты, и что штат групп по уменьшению ущерба для гражданского населения сократился примерно на 90%, сократившись в целом до менее чем 20 человек. ProPublica сообщила, что группа по оказанию помощи гражданскому населению Центрального командования сократилась с десяти человек до одного.
На этом фоне выводы обзора выглядят не столько как программная ошибка, сколько как системный сбой: инструмент искусственного интеллекта, ошибки которого остались незамеченными внутри устройства нацеливания, чьи системы защиты людей были сокращены до костей.
Схема, о которой Пентагон уже знал
Удар по Ирану не был изолированным инцидентом, связанным с искусственным интеллектом, в армии США. В отдельных репортажах Gizmodo и Futurism задокументирован инцидент, в ходе которого военные чуть не высадились на абордаж (и потенциально обстреляли) китайское судно после того, как система искусственного интеллекта обнаружила на его борту материал для ядерного оружия — ошибка, которая могла спровоцировать эскалацию между великими державами. В этом случае вмешательство человека предотвратило катастрофу. В Иране такого вмешательства не произошло.
Исследователи искусственного интеллекта и ученые в области военной этики уже много лет предупреждают, что результаты машин, вносимые в важные решения, создают предвзятость к автоматизации — документально подтвержденную человеческую тенденцию чрезмерно доверять надежным системам. Собственный обзор Пентагона теперь является официальным признанием того, что эта предвзятость способствовала одному из самых смертоносных потерь среди гражданского населения в войне.
Что будет дальше
Этот пересмотр, вероятно, усилит давление в Вашингтоне в отношении законодательных требований к участию человека в процессе нацеливания с помощью ИИ, в то время как администрация настаивает на ускорении внедрения ИИ в военных целях. Это также усложняет процесс продаж поставщиков оборонных технологий, чья продукция сейчас подвергается формальной проверке, и дает Конгрессу конкретный, задокументированный практический пример, который можно цитировать на слушаниях по политике автономного вооружения.
Многие вопросы остаются без ответа. В опубликованных на данный момент обзорах не уточняется, какая версия модели использовалась, был ли сбой галлюцинацией, неправильной классификацией здания или поврежденными исходными входными данными — различия, которые имеют огромное значение для того, как военные должны регулировать инструменты ИИ. Неясно также, проверялись ли результаты системы каким-либо аналитиком до того, как целевой пакет был завершен.
Общественное мнение уже настроено скептически: опрос Reuters/Ipsos, опубликованный на этой неделе, показал, что 73% американцев говорят, что компании, занимающиеся ИИ, делают недостаточно для предотвращения катастрофических последствий, а обеспокоенность по поводу ИИ в системах вооружений постоянно превышает обеспокоенность по поводу потребительского ИИ. То, что произойдет с рекомендациями проверки – и будет ли кто-либо привлечен к ответственности – будет сигнализировать о том, изменит ли это заключение практику или станет еще одним отчетом об инциденте, зарегистрированным и забытым.
---
Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
