Згідно з висновками огляду, як повідомляє Bloomberg у понеділок і підсумовує Yahoo News та інші видання, огляд Міністерства оборони США прийшов до висновку, що надмірна залежність від штучного інтелекту сприяла березневому ракетному удару по школі в Ірані, який, як повідомляється, убив близько 120 дітей.
Цей висновок є першим випадком, коли Пентагон офіційно пояснює смертельний результат бою частково залежністю від системи штучного інтелекту, і він припадає на середину загострюючої дискусії щодо того, скільки повноважень щодо цілей американські військові повинні делегувати машинному оцінюванню. Щоб отримати більше подібних звітів, перегляньте наш доповідь про етику ШІ.
Що сталося в березні
Удар стався на початку березня 2026 року, коли аналіз відео, опублікований Bellingcat і перевірений NPR і BBC, показав, що американська крилата ракета Tomahawk завдала удару біля школи для дівчаток в іранському місті Ламерд. За кілька днів газета The New York Times повідомила, що попереднє розслідування США виявило, що удар був результатом американської ракети, а іранські джерела повідомляють про десятки загиблих, більшість з яких діти.
Новий огляд Пентагону, описаний у розслідуванні Bloomberg, опублікованому в понеділок, йде далі: він, як повідомляється, відстежує збій у конвеєрі націлювання та робить висновок, що надмірна залежність від ШІ сприяла удару. Yahoo News резюмував огляд як зв’язок системи націлювання штучного інтелекту з ударом, який убив 120 іранських дітей; кілька торгових марок ідентифікували цю систему як програмне забезпечення, надане Palantir, хоча Пентагон публічно не підтвердив інформацію про постачальника.
Всередині ланцюга вбивств
Лос-Анджелес Таймс у паралельному розслідуванні, опублікованому в понеділок, відстежила те, що вона назвала американським «ланцюгом убивств», який знищив школу — послідовність збору даних, машинне призначення цілі та людське підтвердження, що закінчилося пуском ракети. Звіт підкреслює незручну реальність сучасної високоточної війни: екіпаж, який стріляє з «Томагавка», може взагалі ніколи не побачити ціль. Вони виконують цільовий пакет даних, зібраний на початку, де алгоритмічні інструменти все більше визначають те, що буде номіновано та наскільки впевнені аналітики підтримки.
Іншими словами, головний висновок огляду — надмірна залежність — не стосується робота, який натискає на курок. Йдеться про те, щоб люди довіряли результатам машини настільки, щоб уникати скепсису, якого процес був розроблений таким чином.
Нагляд, який було демонтовано
Про контекст збою повідомлялося кілька місяців тому. У березні Politico повідомило, що глава Пентагону скоротив офіси, які не сприяли його цілям щодо «смертоносності», включно з Центром передового досвіду цивільного захисту, і що кількість персоналу в групах пом’якшення шкоди цивільному впала приблизно на 90%, зменшившись до менше ніж 20 осіб. ProPublica повідомила, що команда Центрального командування з цивільних осіб скоротилася з десяти осіб до однієї.
На цьому фоні висновки огляду виглядають не так як помилка програмного забезпечення, а більше як системний збій: інструмент штучного інтелекту, чиї помилки залишаються безперечними всередині апарату націлювання, чиї мережі безпеки людини були розрізані до кісток.
Шаблон, про який Пентагон уже знав
Удар по Ірану не був поодиноким випадком, пов’язаним зі штучним інтелектом, в американській армії. Окремі звіти Gizmodo та Futurism задокументували інцидент, коли військові ледь не піднялися на абордаж — і, можливо, обстріляли — китайське судно після того, як система штучного інтелекту виявила на його борту матеріал для ядерної зброї, помилка, яка могла спровокувати ескалацію великодержавного конфлікту. Тоді втручання людини запобігло катастрофі. В Ірані такого втручання не було.
Дослідники штучного інтелекту та вчені з військової етики протягом багатьох років попереджають, що вихідні дані машини, які вводяться у важливі рішення, створюють упередженість автоматизації — задокументовану людську схильність надмірно довіряти впевненим системам. Власний огляд Пентагону тепер є офіційним визнанням того, що ця упередженість сприяла одній із найбільших жертв війни серед цивільних.
Що буде далі
Перегляд, ймовірно, посилить тиск у Вашингтоні на законодавчі вимоги до людини в циклі в націлюванні з підтримкою штучного інтелекту, в той же час, коли адміністрація наполягає на прискоренні військового впровадження ШІ. Це також ускладнює продажі постачальників оборонних технологій, чия продукція зараз залучена до офіційної перевірки несправностей — і це дає Конгресу конкретне, задокументоване прикладне дослідження, яке можна цитувати під час слухань щодо політики щодо автономної зброї.
Багато питань залишаються без відповіді. У підсумках огляду, опублікованих на даний момент, не вказано, яка версія моделі використовувалася, чи була помилка галюцинацією, неправильною класифікацією будівлі чи пошкодженими вхідними даними на початку — відмінності, які мають величезне значення для того, як військові повинні регулювати інструменти ШІ. Також не зрозуміло, чи результати системи були переглянуті будь-яким аналітиком до завершення цільового пакету.
Громадська думка вже налаштована скептично: опитування Reuters/Ipsos, опубліковане цього тижня, показало, що 73% американців стверджують, що фірми, що займаються штучним інтелектом, не роблять достатньо, щоб запобігти катастрофічним наслідкам, і занепокоєність щодо штучного інтелекту в системах озброєнь незмінно вища, ніж занепокоєність щодо штучного інтелекту споживачів. Те, що станеться з рекомендаціями огляду — і чи буде когось притягнуто до відповідальності — сигналізує про те, чи знахідка змінить практику чи стане ще одним звітом про інцидент, який буде подано та забуто.
---
Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
