Pentagon spouští pilotní program, který bude využívat umělou inteligenci ke správě toho, jak klasifikuje a nakládá s citlivými vojenskými informacemi, podle memoranda vydaného náměstkem ministra obrany Stevem Feinbergem, které přezkoumalo DefenseScoop. Směrnice nařizuje první nasazení automatizované bezpečnostní klasifikace v malém měřítku během příštích šesti měsíců – první krok ve snaze přepracovat proces, který oddělení popisuje jako nebezpečně zastaralý.
Uvnitř Feinbergova memoranda For more context on this story, see our ongoing breaking AI news.
Memorandum, vydané v pondělí, rámuje stávající klasifikační a odtajňovací postupy Pentagonu jako zdroj „dysfunkce“, která podle ministerstva „ohrožuje“ jeho poslání. Tvrdí, že zastaralé postupy zpomalují „včasné zveřejňování kritických informací“ a narušují důvěru veřejnosti v ministerstvo.
„Dysfunkce způsobená těmito procedurami vede k nesprávným klasifikacím, které zatěžují naše národní bezpečnostní systémy, brání interoperabilitě a zpomalují inovace zachycováním životně důležitých dat do potrubí,“ uvádí zpráva podle DefenseScoop.
ACME: Systém letectva v centru
Pro zkoušku použije ministerstvo obrany systém podporovaný umělou inteligencí, který nedávno vyvinulo letectvo nazvaný Automated Classification Management Environment neboli ACME. Memorandum určuje nejvyššího civilního představitele letectva jako výkonného agenta pilota a mluvčí letectva sdělil DefenseScoop, že služba „bude splňovat pokyny v memorandu“.
ACME byla veřejně označena v srpnu, když úředníci vydali žádost o informace, v níž žádali průmysl, aby pomohl vybudovat ekosystém řízení klasifikace, který by nahradil „manuální, na člověka náročný“ proces, který armáda používá po desetiletí. Toto oznámení popisovalo napjatý systém: stovky úředníků mají pravomoc klasifikovat informace, mnozí používají archaické programy, produkují zastaralou dokumentaci, vysokou chybovost, časté nadměrné třídění a zhoršenou integritu dat. Oddělení má také nevyřízené tištěné kopie zhruba 140 milionů stran.
Od pilota k jedinému autoritativnímu odkazu
Pokud pilot uspěje, zpráva říká, že automatizovaný systém by nakonec posloužil jako „jediná, digitální autoritativní reference“ pro všechna původní klasifikační rozhodnutí oddělení. Tato odpovědnost historicky patřila speciálně určeným lidským úředníkům, kteří určují, jak jsou citlivé informace kategorizovány – což znamená, že úspěšné zavedení by znamenalo jeden z nejnáslednějších přenosů hlavní vládní funkce na systémy AI k dnešnímu dni.
Proč úředníci říkají, že je změna nutná
Případ pro automatizaci spočívá na pouhém objemu a rychlosti moderních vojenských informací. Srpnová žádost o informace označila manuální proces za „neslučitelný“ s objemem a rychlostí informací v digitálním věku. Přílišná klasifikace udržuje informace zamčené mimo jednotky a spojence, kteří je potřebují; podřazení riskuje vystavení schopností a plánů protivníkům. Chyby v obou směrech s sebou nesou náklady a se sedmimístným počtem nevyřízených stránek v tištěné podobě dospělo oddělení k závěru, že postupné opravy nestačí.
Josh Wallin, člen obranného programu Centra pro novou americkou bezpečnost, řekl DefenseScoop, že nedostatečně utajované informace mohou odhalit schopnost nebo plán protivníkovi, zatímco příliš utajovaný materiál může být zadržen nebo pozastaven zpožděným procesem kontroly – což znamená, že se nemusí dostat k organizacím, které to potřebují, „v koaličním prostředí, kde je sdílení informací pro koordinaci zásadní“. Dodal, že v mnoha případech „naprostá většina informací nemusí být nutně tak citlivá, abyste se obávali nesprávné klasifikace“, což je přesně důvod, proč by se rychlejší a důslednější zpracování mohlo vyplatit napříč oddělením.
Analytici vidí zisky – a reálná rizika
Wallin řekl, že automatizace by mohla pomoci s problémy s nesprávnou klasifikací – včetně informací, které jsou nadměrně chráněny, nedostatečně chráněny nebo špatně označeny lidmi – a snížit hromadění odpadu, zvláště když moderní konflikty ukázaly, že rychlý tok informací může být rozhodující výhodou.
Wallin ale také upozornil na rizika. V systémech podporovaných umělou inteligencí by mohlo dojít k nesprávné klasifikaci v rychlejším měřítku. Rychlejší sdílení se spojenci a partnery vyvolává otázky ohledně kybernetických bezpečnostních protokolů sítí příjemců. A zrychlené odtajnění vytváří „souhrnný“ efekt, ve kterém může protivník dávat dohromady citlivé poznatky z individuálně neškodných odhalení.
"Existuje obava z nesprávné klasifikace," řekl Wallin. "Existuje pouze přirozená obava, že některé informace budou citlivé. Budou špatně klasifikovány a sdíleny, jaksi neúmyslně, a někdo je nezachytí?"
Dotazy ohledně dozoru zůstávají
Wallin také zpochybnil stručnost pilota a to, jak bude fungovat lidský dohled, když AI slouží jako definitivní reference pro původní klasifikační autoritu. "Jak [budete] mít ve skutečnosti lidský dohled? To bude muset přetrvat navždy," řekl DefenseScoop s tím, že systém se bude časem vyvíjet a že úplné důvěry není nikdy možné dosáhnout.
Pentagon okamžitě neodpověděl na otázky, které základní modely umělé inteligence by poháněly pilota nebo zda má oddělení obavy z použití technologie pro tento účel. Směrnice zapadá do širší debaty ve Washingtonu o dohledu nad umělou inteligencí, i když představitelé obrany tvrdí, že umělá inteligence je příliš mocný nástroj na to, aby ji odsunuli na vedlejší kolej, zatímco ji protivníci nasazují ve svých vlastních armádách. Jak oddělení vyrovná tyto dva impulsy – agresivní přijetí a smysluplnou lidskou kontrolu – bude určující otázkou šestiměsíčního pilotního projektu.
Pro letectvo je zadání také hlasováním o důvěře. Služba vybudovala ACME, zatímco konverzace v rámci celého oddělení o reformě klasifikace byla ještě teoretická a memorandum jí nyní svěřuje odpovědnost za schopnost, která, pokud bude fungovat, změní způsob, jakým každá vojenská pobočka nakládá se svými tajemstvími. Pro zbytek federální vlády – kde jsou nevyřízené klasifikace a stížnosti na nadměrnou klasifikaci chronické – by úspěšný pilot Pentagonu poskytl první rozsáhlou šablonu pro nakládání s informacemi za pomoci umělé inteligence, a to ostře sledovanou.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
