Pentagonkontoret som har till uppgift att samordna den ansvarsfulla och etiska användningen av artificiell intelligens är avsevärt underbemannad, enligt den federala regeringens högsta vakthund – ett underskott som har hindrat avdelningens flaggskepps AI-etiska ram även när militären strävar efter att bli en "AI first" krigsstyrka.
Personalbrist i Chief Digital and Artificial Intelligence Office har hindrat det från att fullt ut implementera Pentagons initiativ för ansvarsfull AI, sade Government Accountability Office i en rapport daterad den 14 oktober och rapporterad på tisdag av Stars and Stripes. Fyndet landar i ett ögonblick när AI-beslutsfattandet inom försvaret har flyttats från labbet till slagfältet, vilket ger personalgapet konkreta konsekvenser.
Tre av tio positioner tillsatta och lediga platser kan vara öppna
Ansvarsfull AI är försvarsdepartementets integrerade etiska ramverk som styr utvecklingen, driftsättningen och driften av AI-förmågor över både stridssystem och icke-stridssystem. CDAO är huvudkontoret för avdelningens adoption och integration av AI, inklusive ramverket för ansvarsfull AI – vilket gör dess personalnivå till ett direkt mått på hur stor kapacitet övervakningsfunktionen faktiskt har.
GAO fann att endast tre av kontorets 10 auktoriserade positioner var tillsatta i februari. Försvarstjänstemän sa till vakthunden att de återstående positionerna sannolikt inte kommer att fyllas, ett erkännande som tyder på att bristen inte är en tillfällig anställningsfördröjning utan ett strukturellt villkor för kontorets tillsynsmandat.
En "AI First"-strategi som överträffar sina egna skyddsåtgärder
Bemanningsavslöjandet ligger besvärligt bredvid avdelningens strategiska inriktning. I januari utfärdade försvarsminister Pete Hegseth en AI-strategi som, enligt GAO-rapporten, åter betonade att accelerera AI-integration och adoption. Strategin, sägs i rapporten, "underströk en krigstid, och krävde att DOD skulle bli en 'AI first' krigsstyrka över alla komponenter."
Kontrasten är skarp: ett accelererande mandat för AI över stridssystem, övervakat av ett kontor som körs på 30 procent av sin auktoriserade styrka. Snabb AI-utveckling har utmanat styrande organ runt om i världen eftersom tekniken överträffar traditionell lagstiftande tillsyn och mänsklig övervakning – och Pentagons egen vakthund dokumenterar nu denna klyfta i världens största militärbyråkrati. För mer rapportering om AI-policy och styrning, se vår AI-nyhetshemsida.
Insatserna: Inriktning, skyddsräcken och en vägran som omformade policyn
Konsekvenserna av tunn översyn är inte hypotetiska. Bloomberg rapporterade förra månaden, och Stars and Stripes upprepade, att AI-aktiverad programvara som användes för att välja mål bidrog till USA:s attack mot en grundskola med en Tomahawk-missil den 28 februari, den första dagen av Irankriget, där mer än 100 barn dödades.
Militärens AI-styrningsstrider har också dragit i den privata sektorn. I februari pressade försvarsminister Pete Hegseth och president Donald Trump på Anthropic att ta bort skyddsräcken i sin regeringskontrakterade Claude-modell som hindrar systemet från att användas för helt autonoma vapen och massövervakning. När Anthropic vägrade, utsåg administrationen företaget till en nationell säkerhetsrisk och förbjöd statliga myndigheter att använda Claude – ett stopp som AI Buzz Wire har täckt genom domstolarna, inklusive appellationsdomstolens beslut som upprätthöll den svarta listan.
Vad innebär att springa på 30 procent i praktiken
Ett tillsynskontor på tre av sina auktoriserade tio befattningar är inte en byråkrati med eftersläpning – det är ett ramverk som fungerar på en bråkdel av den avsedda kapaciteten. Initiativet för ansvarsfull AI är beroende av CDAO för att översätta etiska principer till granskningsprocesser som faktiska vapen- och kommunikationsprogram måste följa, och varje obesatt plats representerar arbete som antingen går ogjort eller faller på den återstående personalen som sträcker sig över portföljer.
Eftersom försvarstjänstemän sa till GAO att de lediga platserna sannolikt inte kommer att tillsättas, ser begränsningen ut som varaktig snarare än cyklisk. Programmen kommer att fortsätta att sätta in AI-kapacitet, och den praktiska bördan av att tillämpa det etiska ramverket kommer att fortsätta att koncentrera sig på en mindre och mindre grupp människor.
Mänsklig etik som den sista försvarslinjen
Militära advokater hävdar att personalgapet lämnar mänskligt omdöme som den enda meningsfulla kontrollen. "Militärt beslutsfattande måste baseras på mänsklig etik, och att bara säga åt en dator att utföra något kan vara ett väldigt snabbt sätt att göra det, men det kanske inte är en etisk, moralisk eller legitim juridisk metod för att åstadkomma vad vi än försöker ha hänt", säger Sean Timmons, en advokat specialiserad på militärrätt på företaget, enligt Tully phone Stripes, enligt Tully Rinckey.
Vissa AI-industriledare har krävt att sakta ner takten i AI-framsteg och varnat för att förlust av kontroll över autonoma AI-agenter kan utgöra ett existentiellt hot – varningar som väger särskilt tungt när de tillämpas på autonoma vapen. GAO:s upptäckt tyder på att den snabbast växande delen av USA:s militärmakt för närvarande skalas före den mänskliga infrastrukturen som är avsedd att styra den.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
