Jak wynika z memorandum wydanego przez zastępcę sekretarza obrony Steve’a Feinberga i zweryfikowanego przez DefenseScoop, Pentagon uruchamia pilotażowy program, który będzie wykorzystywał sztuczną inteligencję do zarządzania sposobem klasyfikacji i przetwarzania wrażliwych informacji wojskowych. Dyrektywa nakazuje wstępne wdrożenie na małą skalę funkcji zautomatyzowanej klasyfikacji bezpieczeństwa w ciągu najbliższych sześciu miesięcy – jest to posunięcie inauguracyjne mające na celu zmianę procesu, który departament określa jako niebezpiecznie przestarzały.

Wewnątrz notatki Feinberga Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

W wydanej w poniedziałek notatce uznano istniejące procedury klasyfikacji i odtajniania Pentagonu za źródło „dysfunkcji”, które według departamentu „zagrażają” jego misji. Twierdzi, że przestarzałe procedury spowalniają „terminowe udostępnianie kluczowych informacji” i podważają zaufanie społeczne do departamentu.

„Zaburzenia spowodowane tymi procedurami prowadzą do nieprawidłowych klasyfikacji, które obciążają nasze systemy bezpieczeństwa narodowego, utrudniają interoperacyjność i spowalniają innowacje, zatrzymując ważne dane w rurach od pieca” – stwierdza notatka, według DefenseScoop.

ACME: System Sił Powietrznych w Centrum

Do celów próbnych Departament Obrony użyje opracowanego niedawno przez Siły Powietrzne systemu opartego na sztucznej inteligencji, zwanego Automated Classification Management Environment (ACME). W notatce wyznaczono najwyższego urzędnika cywilnego Sił Powietrznych na agenta wykonawczego pilota, a rzecznik Sił Powietrznych powiedział DefenseScoop, że służby „będą postępować zgodnie ze wskazówkami zawartymi w notatce”.

ACME zostało publicznie oznaczone w sierpniu, kiedy urzędnicy wystosowali prośbę o informacje, zwracając się do branży o pomoc w zbudowaniu ekosystemu zarządzania klasyfikacją, który miał zastąpić „ręczny, wymagający dużego zaangażowania człowieka” proces stosowany przez wojsko od dziesięcioleci. W zawiadomieniu tym opisano obciążony system: setki urzędników ma uprawnienia do utajniania informacji, wielu korzysta z archaicznych programów, tworzy nieaktualną dokumentację, charakteryzuje się wysokim poziomem błędów, częstym nadmierną klasyfikacją i obniżoną integralnością danych. Dział ma także zaległości w zakresie wydruków papierowych, które obejmują około 140 milionów stron.

Od pilota do pojedynczego wiarygodnego odniesienia

Jeśli pilotaż się powiedzie, z notatki wynika, że zautomatyzowany system ostatecznie posłuży jako „pojedynczy, cyfrowy, wiarygodny punkt odniesienia” dla wszystkich pierwotnych decyzji klasyfikacyjnych podejmowanych przez wydział. W przeszłości odpowiedzialność ta spoczywała na specjalnie wyznaczonych urzędnikach, którzy określali, w jaki sposób kategoryzowane są informacje wrażliwe, co oznacza, że ​​pomyślne wdrożenie oznaczałoby jedno z najbardziej znaczących dotychczas transferów podstawowej funkcji rządowej do systemów sztucznej inteligencji.

Dlaczego urzędnicy twierdzą, że zmiana jest konieczna

Argumenty za automatyzacją opierają się na samej ilości i szybkości przepływu współczesnej informacji wojskowej. W sierpniowej prośbie o informacje nazwano proces ręczny „niekompatybilnym” z ilością i szybkością informacji w epoce cyfrowej. Nadmierna klasyfikacja sprawia, że ​​informacje są niedostępne dla jednostek i sojuszników, którzy ich potrzebują; niedostateczna klasyfikacja stwarza ryzyko ujawnienia możliwości i planów przeciwnikom. Błędy w którąkolwiek stronę niosą ze sobą koszty, a biorąc pod uwagę siedmiocyfrową liczbę zaległości w drukowaniu stron, dział doszedł do wniosku, że stopniowe poprawki nie wystarczą.

Josh Wallin, pracownik programu obronnego Center for a New American Security, powiedział DefenseScoop, że informacje niejawne mogą ujawnić przeciwnikowi potencjał lub plan, natomiast materiały nadmiernie tajne mogą zostać wstrzymane lub zablokowane w wyniku opóźnionego procesu przeglądu, co oznacza, że ​​mogą nie dotrzeć do organizacji, które ich potrzebują, „w środowisku koalicyjnym, w którym wymiana informacji ma kluczowe znaczenie dla koordynacji”. Dodał, że w wielu przypadkach „zdecydowana większość informacji niekoniecznie jest na tyle poufna, aby można było obawiać się błędnej klasyfikacji” i właśnie dlatego szybsze i bardziej spójne przetwarzanie może przynieść korzyści w całym dziale.

Analitycy widzą zyski i realne ryzyko

Wallin powiedział, że automatyzacja może pomóc w rozwiązaniu problemów związanych z błędną klasyfikacją – w tym informacji, które są nadmiernie chronione, niedostatecznie chronione lub błędnie oznakowane przez ludzi – i ograniczyć konieczność stosowania rur, zwłaszcza że współczesne konflikty pokazały, że szybki przepływ informacji może być decydującą zaletą.

Ale Wallin wskazał także na ryzyko. Błędna klasyfikacja może wystąpić szybciej w przypadku systemów wspieranych przez sztuczną inteligencję. Szybsze udostępnianie sojusznikom i partnerom rodzi pytania dotyczące protokołów cyberbezpieczeństwa sieci odbiorców. Przyspieszone odtajnienie powoduje efekt „skumulowany”, w ramach którego przeciwnik może połączyć wrażliwe spostrzeżenia z indywidualnie nieszkodliwych ujawnień.

„Istnieje obawa dotycząca błędnej klasyfikacji” – powiedział Wallin. „Istnieje po prostu nieodłączna obawa, że ​​niektóre informacje będą wrażliwe. Czy zostaną błędnie sklasyfikowane i udostępnione, w pewnym sensie nieumyślnie, i czy ktoś ich nie wyłapie?”

Pozostają pytania dotyczące nadzoru

Wallin zakwestionował także zwięzłość programu pilotażowego i sposób, w jaki będzie działał nadzór człowieka, gdy sztuczna inteligencja będzie ostatecznym punktem odniesienia dla pierwotnego organu klasyfikacyjnego. „Jak [macie] rzeczywiście zapewnić nadzór ze strony człowieka? To będzie musiało trwać wiecznie” – powiedział DefenseScoop, zauważając, że system będzie ewoluował z biegiem czasu i że pełne zaufanie nigdy nie zostanie osiągnięte.

Pentagon nie odpowiedział od razu na pytania, które modele sztucznej inteligencji będą napędzać pilota, ani czy departament ma wątpliwości co do wykorzystania tej technologii w tym celu. Dyrektywa pojawia się w kontekście szerszej debaty w Waszyngtonie na temat nadzoru nad sztuczną inteligencją, mimo że urzędnicy obrony twierdzą, że sztuczna inteligencja jest zbyt potężnym narzędziem, aby ją odsunąć na bok, podczas gdy przeciwnicy wdrażają ją we własnych siłach zbrojnych. To, jak wydział zrównoważy te dwa impulsy – agresywną adopcję i znaczącą kontrolę ze strony człowieka – będzie decydującym pytaniem sześciomiesięcznego pilotażu.

Dla Sił Powietrznych przydział ten jest także wotum zaufania. Służba zbudowała ACME, podczas gdy rozmowy prowadzone w całym departamencie na temat reformy klasyfikacji były jeszcze teoretyczne, a notatka nakłada na nią odpowiedzialność za zdolność, która, jeśli zadziała, zmieni sposób, w jaki każdy oddział wojskowy będzie obchodził się ze swoimi tajemnicami. Dla reszty rządu federalnego – gdzie zaległości w klasyfikacji i skargi dotyczące nadmiernej klasyfikacji są chroniczne – udany projekt pilotażowy Pentagonu zapewniłby pierwszy na dużą skalę szablon do przetwarzania informacji wspomaganych przez sztuczną inteligencję, i to przy tym uważnie obserwowany.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →