Het Pentagon-kantoor dat belast is met het coördineren van het verantwoorde en ethische gebruik van kunstmatige intelligentie is volgens de topwaakhond van de federale overheid aanzienlijk onderbezet – een tekort dat het vlaggenschip van het departement op het gebied van de AI-ethiek heeft belemmerd, zelfs nu het leger aandringt om een ​​‘AI first’-oorlogsstrijdmacht te worden.

Personeelstekorten bij het Chief Digital and Artificial Intelligence Office hebben verhinderd dat het het Responsible AI-initiatief van het Pentagon volledig kan implementeren, aldus het Government Accountability Office in een rapport van 14 oktober en dinsdag gerapporteerd door Stars and Stripes. De bevinding komt op een moment waarop AI-besluitvorming in de defensie zich heeft verplaatst van het laboratorium naar het slagveld, waardoor het tekort aan personeel concrete gevolgen heeft.

Drie van de tien vacatures zijn ingevuld en vacatures blijven mogelijk open

Verantwoorde AI is het geïntegreerde ethische raamwerk van het ministerie van Defensie dat de ontwikkeling, inzet en werking van AI-capaciteiten regelt in zowel gevechts- als niet-gevechtssystemen. Het CDAO is het leidende bureau voor de adoptie en integratie van AI door het departement, inclusief het Responsible AI-framework – waardoor het personeelsbestand een directe maatstaf is voor hoeveel capaciteit de toezichtfunctie daadwerkelijk heeft.

De GAO constateerde dat in februari slechts drie van de tien toegestane vacatures van het bureau waren vervuld. Defensiefunctionarissen vertelden de waakhond dat de resterende posities waarschijnlijk niet zullen worden vervuld, een bekentenis die suggereert dat het tekort geen tijdelijke vertraging bij het aannemen van personeel is, maar een structurele voorwaarde van het toezichtmandaat van het bureau.

Een 'AI First'-strategie die zijn eigen waarborgen overtreft

De openbaarmaking van de personeelsbezetting staat ongemakkelijk naast de strategische richting van de afdeling. In januari bracht minister van Defensie Pete Hegseth een AI-strategie uit waarin, volgens het GAO-rapport, opnieuw de nadruk werd gelegd op het versnellen van de integratie en adoptie van AI. De strategie, zo stelt het rapport, "benadrukte een basis in oorlogstijd en riep op tot DOD om een ​​'AI first'-oorlogsstrijdmacht te worden in alle componenten."

Het contrast is groot: een versnellend mandaat voor AI in alle gevechtssystemen, onder toezicht van een kantoor dat op 30 procent van zijn toegestane sterkte draait. De snelle ontwikkeling van AI heeft bestuursorganen over de hele wereld voor uitdagingen gesteld, omdat de technologie het traditionele wetgevende toezicht en menselijk toezicht overtreft – en de eigen waakhond van het Pentagon documenteert nu die kloof binnen de grootste militaire bureaucratie ter wereld. Voor meer berichtgeving over AI-beleid en -beheer, zie onze AI news homepage.

De inzet: doelgerichtheid, vangrails en een weigering die het beleid opnieuw vormgeeft

De gevolgen van mager toezicht zijn niet hypothetisch. Bloomberg meldde vorige maand, en Stars and Stripes herhaalde, dat AI-software die wordt gebruikt voor het selecteren van doelen heeft bijgedragen aan de Amerikaanse aanval op een basisschool met een Tomahawk-raket op 28 februari, de eerste dag van de oorlog in Iran, waarbij meer dan 100 kinderen werden gedood.

De gevechten van het leger op het gebied van AI-bestuur hebben ook de particuliere sector aangetrokken. In februari drongen minister van Defensie Pete Hegseth en president Donald Trump er bij Anthropic op aan om veiligheidsrails in het door de overheid gecontracteerde Claude-model te verwijderen die voorkomen dat het systeem wordt gebruikt voor volledig autonome wapens en massasurveillance. Toen Anthropic weigerde, bestempelde de regering het bedrijf als een gevaar voor de nationale veiligheid en verbood overheidsinstanties Claude te gebruiken – een patstelling die AI Buzz Wire via de rechtbank heeft behandeld, inclusief de uitspraak van het hof van beroep dat de zwarte lijst handhaafde.

Wat hardlopen op 30 procent in de praktijk betekent

Een toezichtsbureau op drie van de tien toegestane posities is geen bureaucratie met achterstanden – het is een raamwerk dat opereert op een fractie van de beoogde capaciteit. Het Responsible AI-initiatief is afhankelijk van het CDAO om ethische principes te vertalen in evaluatieprocessen die daadwerkelijke wapen- en communicatieprogramma's moeten volgen, en elke oningevulde zetel vertegenwoordigt werk dat ofwel ongedaan wordt gemaakt of terechtkomt bij het resterende personeel verspreid over de portefeuilles.

Omdat defensiefunctionarissen de GAO hebben verteld dat het onwaarschijnlijk is dat de vacatures zullen worden vervuld, lijkt de beperking eerder duurzaam dan cyclisch. Programma’s zullen doorgaan met het inzetten van AI-capaciteiten, en de praktische last van het toepassen van het ethische raamwerk zal zich blijven concentreren op een steeds kleinere groep mensen.

Menselijke ethiek als laatste verdedigingslinie

Militaire advocaten beweren dat het personeelstekort het menselijk oordeel de enige zinvolle controle laat. "Militaire besluitvorming moet gebaseerd zijn op menselijke ethiek, en het simpelweg aan een computer vertellen om iets te bereiken kan een zeer snelle manier zijn om dat te doen, maar het is misschien geen ethische, morele of legitieme juridische methodologie om te bereiken wat we ook maar willen laten gebeuren", zei Sean Timmons, een advocaat gespecialiseerd in militair recht bij de firma Tully Rinckey, dinsdag telefonisch, volgens Stars and Stripes.

Sommige leiders uit de AI-industrie hebben opgeroepen tot het vertragen van het tempo van de vooruitgang op het gebied van AI, waarbij ze hebben gewaarschuwd dat het verlies van controle over autonome AI-agenten een existentiële bedreiging zou kunnen vormen – waarschuwingen die bijzonder gewicht in de schaal leggen wanneer ze worden toegepast op autonome wapens. De bevindingen van de GAO suggereren dat de snelst groeiende component van de Amerikaanse militaire macht voorlopig groter wordt dan de menselijke infrastructuur die bedoeld is om deze te besturen.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →