Пентагон запускает пилотную программу, которая будет использовать искусственный интеллект для управления тем, как он классифицирует и обрабатывает конфиденциальную военную информацию, согласно меморандуму, выпущенному заместителем министра обороны Стивом Фейнбергом, который был рассмотрен DefenseScoop. Директива предписывает первоначальное мелкомасштабное развертывание автоматизированной системы классификации безопасности в течение следующих шести месяцев — первый шаг в попытке пересмотреть процесс, который департамент называет опасно устаревшим.
Внутри записки Фейнберга Подробнее об этой истории — в нашем больше статей об ИИ.
В меморандуме, опубликованном в понедельник, существующие процедуры засекречивания и рассекречивания Пентагона рассматриваются как источник «дисфункции», который, по словам ведомства, «ставит под угрозу» его миссию. В нем утверждается, что устаревшие процедуры замедляют «своевременное раскрытие критической информации» и подрывают доверие общественности к ведомству.
«Дисфункция, вызванная этими процедурами, приводит к неверным классификациям, которые обременяют наши системы национальной безопасности, препятствуют взаимодействию и замедляют инновации, задерживая жизненно важные данные в дымоходах», — говорится в меморандуме, согласно DefenseScoop.
ACME: Система ВВС в центре
Для испытания Министерство обороны будет использовать систему с поддержкой искусственного интеллекта, недавно разработанную ВВС, под названием Automated Classification Management Environment (ACME). В меморандуме исполнительным агентом пилота назначается высшее гражданское должностное лицо ВВС, а представитель ВВС сообщил DefenseScoop, что служба "будет соблюдать указания, содержащиеся в меморандуме".
ACME был публично отмечен в августе, когда официальные лица опубликовали запрос на информацию, попросив представителей промышленности помочь создать экосистему управления классификацией, которая заменит «ручной, трудоемкий» процесс, который военные использовали десятилетиями. В этом уведомлении описывалась система, находящаяся в напряжении: сотни чиновников обладают полномочиями засекречивать информацию, многие из них используют устаревшие программы, создают устаревшую документацию, высокий уровень ошибок, частая чрезмерная классификация и ухудшение целостности данных. У отдела также есть резерв печатных копий объемом около 140 миллионов страниц.
От пилотного проекта к единственному авторитетному источнику информации
В меморандуме говорится, что если пилотный проект окажется успешным, автоматизированная система в конечном итоге станет «единым авторитетным цифровым справочником» для всех первоначальных классификационных решений департамента. Эта ответственность исторически принадлежала специально назначенным должностным лицам, которые определяют, как категоризировать конфиденциальную информацию. Это означает, что успешное внедрение будет означать одну из наиболее последовательных передач основных государственных функций системам ИИ на сегодняшний день.
Почему чиновники говорят, что изменения необходимы
Аргументы в пользу автоматизации основаны на огромных объемах и скорости современной военной информации. В августовском запросе информации ручной процесс был назван «несовместимым» с объемом и скоростью информации в эпоху цифровых технологий. Чрезмерная классификация удерживает информацию от юнитов и союзников, которым она нужна; недостаточная классификация рискует раскрыть возможности и планы противникам. Ошибки в любом направлении влекут за собой издержки, и, учитывая семизначный объем невыполненных печатных страниц, департамент пришел к выводу, что поэтапных исправлений недостаточно.
Джош Валлин, научный сотрудник оборонной программы Центра новой американской безопасности, рассказал DefenseScoop, что недостаточно засекреченная информация может раскрыть потенциал или план противника, в то время как чрезмерно засекреченные материалы могут быть удержаны или приостановлены в результате отложенного процесса рассмотрения — это означает, что они могут не дойти до организаций, которые в них нуждаются, «в коалиционной среде, где обмен информацией имеет решающее значение для координации». Он добавил, что во многих случаях «подавляющее большинство информации не обязательно настолько конфиденциально, чтобы беспокоиться о неправильной классификации», и именно поэтому более быстрая и последовательная обработка может принести дивиденды всему отделу.
Аналитики видят выгоды и реальные риски
Валлин сказал, что автоматизация может помочь решить проблемы с неправильной классификацией, включая информацию, которая чрезмерно защищена, недостаточно защищена или неверно маркирована людьми, а также уменьшить количество ненужных трат, особенно с учетом того, что современные конфликты показали, что быстрый поток информации может быть решающим преимуществом.
Но Валлин также отметил риски. Неправильная классификация может происходить в более быстром масштабе в системах, поддерживаемых ИИ. Более быстрый обмен информацией с союзниками и партнерами поднимает вопросы о протоколах кибербезопасности сетей-получателей. А ускоренное рассекречивание создает «агрегированный» эффект, при котором злоумышленник может собрать воедино конфиденциальную информацию из отдельных безобидных раскрытий.
«Существует проблема неправильной классификации», — сказал Валлин. «Существует лишь внутренняя обеспокоенность тем, что некоторая информация будет конфиденциальной. Будет ли она неправильно классифицирована и распространена, как бы непреднамеренно, и не уловит ли кто-нибудь ее?»
Остаются вопросы по надзору
Валлин также поставил под сомнение краткость пилотного проекта и то, как будет работать человеческий надзор, когда ИИ будет служить окончательным ориентиром для первоначального классификационного органа. «Как [вы] на самом деле собираетесь обеспечить человеческий контроль? Это должно будет продолжаться вечно», — сказал он DefenseScoop, отметив, что система будет развиваться с течением времени и что полное доверие никогда не будет достижимо.
Пентагон не сразу ответил на вопросы о том, какие базовые модели ИИ будут использоваться в пилотном проекте и есть ли у ведомства опасения по поводу использования этой технологии для этой цели. Директива появилась на фоне более широких дебатов в Вашингтоне по поводу надзора за ИИ, даже несмотря на то, что представители министерства обороны утверждают, что ИИ является слишком мощным инструментом, чтобы его можно было отодвинуть на второй план, пока противники используют его в своих вооруженных силах. Как департамент сбалансирует эти два импульса — агрессивное внедрение и значимый человеческий контроль — станет определяющим вопросом шестимесячного пилотного проекта.
Для ВВС это назначение также является вотумом доверия. Служба создала ACME, когда обсуждение реформы классификации в рамках всего ведомства все еще было теоретическим, и теперь меморандум возлагает на нее ответственность за возможность, которая, если она сработает, изменит то, как каждое военное подразделение обращается со своими секретами. Для остальной части федерального правительства, где хронические проблемы с классификацией и жалобы на чрезмерную классификацию, успешный пилотный проект Пентагона предоставит первую крупномасштабную модель для обработки информации с помощью ИИ, причем за ней будут внимательно следить.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
