Пентагон запускає пілотну програму, яка використовуватиме штучний інтелект для управління тим, як він класифікує та обробляє конфіденційну військову інформацію, згідно з меморандумом, виданим заступником міністра оборони Стівом Файнбергом, який переглянув DefenseScoop. Директива наказує початкове невелике розгортання автоматизованої системи класифікації безпеки протягом наступних шести місяців — перший крок у спробі переглянути процес, який департамент описує як небезпечно застарілий.
У пам'ятці Фейнберга For more context on this story, see our ongoing AI industry coverage.
У меморандумі, опублікованому в понеділок, існуючі процедури Пентагону засекречення та розсекречення розглядаються як джерело «дисфункції», яка, на думку департаменту, «ставить під загрозу» його місію. У ньому стверджується, що застарілі процедури уповільнюють «своєчасне оприлюднення важливої інформації» та підривають довіру громадськості до департаменту.
«Дисфункція, спричинена цими процедурами, призводить до неправильної класифікації, яка обтяжує наші системи національної безпеки, перешкоджає сумісності та уповільнює інновації, затримуючи життєво важливі дані в печі», — йдеться в записці, повідомляє DefenseScoop.
ACME: система ВПС у центрі
Для випробування Міністерство оборони використовуватиме нещодавно розроблену ВПС систему з підтримкою штучного інтелекту під назвою Автоматизоване середовище керування класифікацією (ACME). Меморандум призначає вищого цивільного чиновника ВПС як виконавчого агента пілота, і представник ВПС сказав DefenseScoop, що служба «дотримуватиметься вказівок у меморандумі».
ACME був публічно позначений у серпні, коли офіційні особи опублікували запит на інформацію з проханням допомогти промисловості побудувати екосистему керування класифікацією, щоб замінити «ручний, інтенсивний» процес, який військові використовували десятиліттями. У цьому повідомленні описано систему, яка переживає напругу: сотні чиновників мають повноваження засекречувати інформацію, багато з яких використовують архаїчні програми, створюють застарілу документацію, високі рівні помилок, часту завищену секретність та погіршення цілісності даних. У відділі також зберігається друкована копія на приблизно 140 мільйонів сторінок.
Від пілотного до єдиного авторитетного посилання
Якщо пілотний проект вдасться, у записці сказано, що автоматизована система в кінцевому підсумку буде служити «єдиною цифровою авторитетною довідкою» для всіх вихідних класифікаційних рішень департаменту. Ця відповідальність історично належала спеціально призначеним посадовим особам, які визначають, як класифікувати конфіденційну інформацію, тобто успішне розгортання ознаменувало б одну з найбільш послідовних передач основної державної функції системам ШІ на сьогоднішній день.
Чому чиновники кажуть, що зміни потрібні
Аргументи автоматизації ґрунтуються на величезному обсязі та швидкості сучасної військової інформації. Серпневий запит на інформацію назвав ручний процес «несумісним» з обсягом і швидкістю інформації в епоху цифрових технологій. Надмірна секретність тримає інформацію під замком від підрозділів і союзників, яким вона потрібна; занижена класифікація ризикує розкрити можливості та плани супротивникам. Помилки в будь-якому напрямку спричиняють витрати, і з огляду на семизначну кількість друкованих сторінок, департамент дійшов висновку, що поступових виправлень недостатньо.
Джош Уоллін, співробітник оборонної програми Центру нової американської безпеки, сказав DefenseScoop, що недостатньо секретна інформація може розкрити ворогові можливості чи план, тоді як надто секретні матеріали можуть бути затримані або зупинені через затримку процесу перегляду, тобто вони можуть не досягти організацій, які цього потребують, «у коаліційному середовищі, де обмін інформацією має вирішальне значення для координації». Він додав, що в багатьох випадках «переважна більшість інформації не обов’язково є настільки конфіденційною, щоб ви хвилювалися про неправильну класифікацію», саме тому швидша та послідовніша обробка може принести дивіденди всьому відділу.
Аналітики бачать прибутки — і реальні ризики
Уоллін сказав, що автоматизація може допомогти у вирішенні проблем із неправильною класифікацією — включно з інформацією, яка надто захищена, недостатньо захищена або неправильно позначена людьми, — і зменшити кількість викидів, особливо оскільки сучасні конфлікти показали, що швидкий потік інформації може бути вирішальною перевагою.
Але Воллін також помітив ризики. Неправильна класифікація може відбуватися швидше в системах, що підтримують штучний інтелект. Швидший обмін із союзниками та партнерами викликає питання щодо протоколів кібербезпеки мереж одержувачів. А прискорене розсекречення створює «сукупний» ефект, за якого супротивник може зібрати конфіденційну інформацію з окремо нешкідливих розкриттів.
"Існує проблема неправильної класифікації", - сказав Валлін. «Існує просто невід'ємне занепокоєння, що деяка інформація буде конфіденційною. Чи буде вона неправильно класифікована та розповсюджена, начебто ненавмисно, і чи хтось її не зловить?»
Наглядові питання залишаються
Уоллін також поставив під сумнів стислість пілотного проекту та те, як працюватиме нагляд з боку людини, коли штучний інтелект слугуватиме остаточним орієнтиром для початкової класифікації. «Як [ви] насправді збираєтеся запровадити людський нагляд? Це має тривати вічно», — сказав він DefenseScoop, зазначивши, що система з часом розвиватиметься і що повної довіри неможливо досягти.
Пентагон не відразу відповів на питання про те, які базові моделі штучного інтелекту будуть працювати в пілоті, і чи має департамент занепокоєння щодо використання технології для цієї мети. Ця директива стала результатом широких дебатів у Вашингтоні щодо нагляду за штучним інтелектом, хоча представники оборони стверджують, що штучний інтелект є надто потужним інструментом, щоб залишити його на стороні, поки супротивники розгортають його у своїх військових. Як відділ збалансує ці два імпульси — агресивне усиновлення та значущий людський контроль — стане визначальним питанням шестимісячного пілоту.
Для ВПС це призначення також є вотумом довіри. Служба розробила ACME, поки розмова про реформу класифікації в усьому департаменті була ще теоретичною, і тепер меморандум покладає на неї відповідальність за можливість, яка, якщо вона запрацює, змінить те, як кожна військова гілка поводиться зі своїми секретами. Для решти федерального уряду — де відставання в класифікації та скарги на надмірну класифікацію є хронічними — успішний пілотний проект Пентагону забезпечив би перший широкомасштабний шаблон для обробки інформації за допомогою штучного інтелекту, причому за ним уважно спостерігали.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
