Pentagon lanserar ett pilotprogram som kommer att använda artificiell intelligens för att hantera hur den klassificerar och hanterar känslig militär information, enligt ett memorandum utfärdat av vice försvarsminister Steve Feinberg som granskades av DefenseScoop. Direktivet beordrar en första småskalig implementering av en automatiserad säkerhetsklassificeringskapacitet inom de närmaste sex månaderna - det första steget i ett försök att se över en process som avdelningen beskriver som farligt föråldrad.
Inuti Feinberg Memo For more context on this story, see our ongoing more AI stories.
Memoet, som utfärdades på måndagen, ramar in Pentagons befintliga klassificerings- och avklassificeringsförfaranden som en källa till "dysfunktion" som avdelningen säger "utsätter" dess uppdrag. Den hävdar att föråldrade förfaranden bromsar "utsändandet av viktig information i rätt tid" och urholkar allmänhetens förtroende för avdelningen.
"Den funktionsstörning som orsakas av dessa procedurer leder till felaktiga klassificeringar som belastar våra nationella säkerhetssystem, hindrar interoperabilitet och bromsar innovation genom att fånga in viktig data i kaminrör", står det i PM, enligt DefenseScoop.
ACME: Flygvapensystemet i centrum
För rättegången kommer försvarsdepartementet att använda ett AI-stödt system som flygvapnet nyligen utvecklade, kallat Automated Classification Management Environment, eller ACME. Memoet utser flygvapnets högsta civila tjänsteman som verkställande agent för piloten, och en talesman för flygvapnet sa till DefenseScoop att tjänsten "kommer att följa anvisningarna i memo."
ACME flaggades offentligt i augusti, när tjänstemän utfärdade en begäran om information och bad industrin att hjälpa till att bygga ett ekosystem för klassificeringshantering för att ersätta den "manuella, mänskligt intensiva" process som militären har använt i årtionden. Det meddelandet beskrev ett ansträngt system: hundratals tjänstemän har auktoritet att klassificera information, många använder ålderdomliga program, producerar föråldrad dokumentation, höga felfrekvenser, frekvent överklassificering och försämrad dataintegritet. Avdelningen har också en pappersbacklog på cirka 140 miljoner sidor.
Från pilot till ensam auktoritativ referens
Om piloten lyckas, säger memo att det automatiserade systemet så småningom skulle fungera som "den enda, digitala auktoritativa referensen" för alla avdelningens ursprungliga klassificeringsbeslut. Det ansvaret har historiskt tillhört särskilt utsedda mänskliga tjänstemän som bestämmer hur känslig information kategoriseras - vilket innebär att en framgångsrik utrullning skulle markera en av de mest följdriktiga överföringarna av en central statlig funktion till AI-system hittills.
Varför tjänstemän säger att förändringen behövs
Fallet för automatisering vilar på den stora volymen och hastigheten hos modern militär information. Augusti begäran om information kallade den manuella processen "inkompatibel" med informationsvolymen och hastigheten i den digitala tidsåldern. Överklassificering håller informationen låst borta från enheter och allierade som behöver den; underklassificering riskerar att exponera förmågor och planer för motståndare. Fel i båda riktningarna medför kostnader, och med en sjusiffrig eftersläpning av papperskopior har avdelningen kommit fram till att inkrementella korrigeringar inte är tillräckligt.
Josh Wallin, en stipendiat vid Center for a New American Securitys försvarsprogram, sa till DefenseScoop att underklassificerad information kan avslöja en förmåga eller plan för en motståndare, medan överklassificerat material kan undanhållas eller stoppas av en försenad granskningsprocess – vilket betyder att det kanske inte når de organisationer som behöver det, "i en koalitionsmiljö där informationsdelning är avgörande för samordning." Han tillade att, i många fall, är "den stora majoriteten av informationen inte nödvändigtvis så känslig att du är orolig för en felklassificering", vilket är just anledningen till att snabbare, mer konsekvent hantering kan ge utdelning över hela avdelningen.
Analytiker ser vinster — och verkliga risker
Wallin sa att automatisering skulle kunna hjälpa till med felklassificeringsproblem – inklusive information som är överskyddad, underskyddad eller felmärkt av människor – och minska kaminen, särskilt som moderna konflikter har visat att ett snabbt informationsflöde kan vara en avgörande fördel.
Men Wallin flaggade också för risker. Felklassificering kan ske i snabbare skala under AI-stödda system. Snabbare delning med allierade och partners väcker frågor om cybersäkerhetsprotokollen för mottagarnätverk. Och accelererad avklassificering skapar en "samlad" effekt, där en motståndare kan pussla ihop känsliga insikter från individuellt ofarliga avslöjanden.
"Det finns en felklassificeringsoro", sa Wallin. "Det finns bara en inneboende oro för att viss information kommer att vara känslig. Kommer den att felklassificeras och delas, typ oavsiktligt, och kommer någon inte att fånga den?"
Tillsynsfrågor kvarstår
Wallin ifrågasatte också pilotens korthet och hur mänsklig tillsyn kommer att fungera när AI fungerar som den definitiva referensen för den ursprungliga klassificeringsmyndigheten. "Hur [ska du] faktiskt ha mänsklig tillsyn på plats? Det kommer att behöva bestå för evigt", sa han till DefenseScoop och noterade att systemet kommer att utvecklas över tiden och att fullständigt förtroende aldrig är möjligt.
Pentagon svarade inte omedelbart på frågor om vilka underliggande AI-modeller som skulle driva piloten eller om avdelningen är orolig för att använda tekniken för detta ändamål. Direktivet landar mitt i en bredare debatt i Washington om AI-tillsyn, även när försvarstjänstemän hävdar att AI är ett för kraftfullt verktyg för att åsidosätta medan motståndare distribuerar det över sina egna militärer. Hur avdelningen balanserar dessa två impulser - aggressiv adoption och meningsfull mänsklig kontroll - kommer att vara den avgörande frågan för den sex månader långa piloten.
För Flygvapnet är uppdraget också ett förtroendevotum. Tjänsten byggde ACME medan det avdelningsövergripande samtalet om klassificeringsreformen fortfarande var teoretiskt, och PM ger den nu ansvaret för en förmåga som, om den fungerar, kommer att omforma hur varje militär gren hanterar sina hemligheter. För resten av den federala regeringen – där klassificeringseftersläpningar och överklassificeringsklagomål är kroniska – skulle en framgångsrik Pentagon-pilot tillhandahålla den första storskaliga mallen för AI-assisterad informationshantering, och en noga övervakad sådan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
