По словам главного наблюдателя федерального правительства, в офисе Пентагона, которому поручено координировать ответственное и этичное использование искусственного интеллекта, значительно недоукомплектованы кадры — дефицит, который мешает развитию флагманской системы этики ИИ в департаменте, даже несмотря на то, что военные стремятся стать боевой силой «в первую очередь ИИ».
Нехватка персонала в Главном управлении цифрового и искусственного интеллекта помешала ему полностью реализовать инициативу Пентагона по ответственному ИИ, говорится в отчете Счетной палаты правительства от 14 октября, опубликованном во вторник изданием Stars and Stripes. Это открытие произошло в тот момент, когда принятие решений ИИ в обороне перешло из лаборатории на поле боя, что привело к конкретным последствиям кадрового дефицита.
Три из десяти позиций заполнены, а вакансии могут остаться открытыми
Ответственный ИИ — это интегрированная этическая основа Министерства обороны, регулирующая разработку, развертывание и эксплуатацию возможностей ИИ как в боевых, так и в небоевых системах. CDAO является головным офисом по внедрению и интеграции ИИ в департаменте, включая структуру «Ответственный ИИ», что делает его штатное расписание прямым показателем того, каким потенциалом на самом деле обладает функция надзора.
GAO обнаружило, что по состоянию на февраль только три из 10 утвержденных должностей офиса были заполнены. Чиновники Министерства обороны сообщили наблюдателю, что оставшиеся должности вряд ли будут заполнены, и это признание позволяет предположить, что нехватка кадров - это не временная задержка в приеме на работу, а структурное условие надзорного мандата ведомства.
Стратегия «ИИ прежде всего», превосходящая собственные меры безопасности
Раскрытие информации о штатном расписании неудобно сочетается со стратегическим направлением деятельности департамента. В январе министр обороны Пит Хегсет опубликовал стратегию искусственного интеллекта, которая, согласно отчету GAO, еще раз подчеркивает ускорение интеграции и внедрения искусственного интеллекта. Стратегия, как говорится в докладе, «подчеркивает необходимость военного времени, призывая Минобороны стать боевой силой «прежде всего ИИ» во всех компонентах».
Контраст разительный: мандат на ускорение внедрения ИИ в боевых системах, контролируемый офисом, имеющим 30 процентов утвержденной численности. Быстрое развитие искусственного интеллекта бросило вызов руководящим органам по всему миру, поскольку эта технология превосходит традиционный законодательный надзор и человеческий надзор, а собственная наблюдательная служба Пентагона теперь документирует этот пробел внутри крупнейшей в мире военной бюрократии. Дополнительную информацию о политике и управлении ИИ можно найти на нашей главной странице новостей AI.
Ставки: таргетинг, ограничения и отказ, изменивший политику
Последствия плохого надзора не являются гипотетическими. В прошлом месяце агентство Bloomberg сообщило, а Stars and Stripes подтвердило, что программное обеспечение с поддержкой искусственного интеллекта, используемое для выбора целей, способствовало нападению США на начальную школу с использованием ракеты «Томагавк» 28 февраля, в первый день войны с Ираном, в результате которого погибло более 100 детей.
Борьба за управление искусственным интеллектом в армии также затронула частный сектор. В феврале министр обороны Пит Хегсет и президент Дональд Трамп потребовали от Anthropic убрать ограждения безопасности в модели Claude, заключенной по контракту с правительством, которые не позволяют использовать систему для полностью автономного оружия и массового наблюдения. Когда Anthropic отказалась, администрация признала фирму угрозой национальной безопасности и запретила правительственным учреждениям использовать Claude — противостояние искусственного интеллекта Buzz Wire освещалось в судах, включая решение апелляционного суда, поддержавшее черный список.
Что на практике означает показатель 30 процентов
Надзорный орган, занимающий три из десяти утвержденных должностей, не является бюрократическим аппаратом с отставанием в работе — это структура, работающая лишь на часть запланированной мощности. Инициатива «Ответственный ИИ» зависит от CDAO, который должен воплотить этические принципы в процессы проверки, которым должны следовать реальные программы вооружений и коммуникаций, и каждое незаполненное место представляет собой работу, которая либо не выполняется, либо ложится на оставшихся сотрудников, распределенных по портфелям.
Поскольку представители Министерства обороны заявили GAO, что вакансии вряд ли будут заполнены, это ограничение выглядит скорее длительным, чем циклическим. Программы будут продолжать использовать возможности ИИ, а практическое бремя применения этических рамок будет по-прежнему концентрироваться на все меньшей и меньшей группе людей.
Человеческая этика как последняя линия защиты
Военные юристы утверждают, что кадровый дефицит делает человеческое суждение единственной значимой проверкой. «Принятие военных решений должно основываться на человеческой этике, и простое указание компьютеру выполнить что-то может быть очень быстрым способом сделать это, но это не может быть этической, моральной или законной юридической методологией для достижения того, чего мы пытаемся добиться», - заявил по телефону во вторник Шон Тиммонс, адвокат, специализирующийся на военном праве в фирме Талли Ринки, по сообщению Stars and Stripes.
Некоторые лидеры отрасли ИИ призывают замедлить темпы развития ИИ, предупреждая, что потеря контроля над автономными агентами ИИ может представлять собой экзистенциальную угрозу — предупреждения, которые имеют особый вес применительно к автономному оружию. Выводы GAO показывают, что на данный момент самый быстрорастущий компонент военной мощи США опережает человеческую инфраструктуру, предназначенную для управления ею.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
