Het Pentagon lanceert een proefprogramma dat kunstmatige intelligentie zal gebruiken om te beheren hoe het gevoelige militaire informatie classificeert en verwerkt, volgens een memorandum uitgegeven door plaatsvervangend minister van Defensie Steve Feinberg en beoordeeld door DefenseScoop. De richtlijn beveelt een eerste kleinschalige implementatie van een geautomatiseerde beveiligingsclassificatiefunctie binnen de komende zes maanden – de eerste stap in een poging om een ​​proces te herzien dat de afdeling als gevaarlijk verouderd omschrijft.

Binnenin de Feinberg-memo Voor meer context over dit verhaal, zie ons meer AI-verhalen.

De memo, die maandag werd uitgegeven, beschrijft de bestaande classificatie- en derubriceringsprocedures van het Pentagon als een bron van ‘disfunctioneren’, waarvan het ministerie zegt dat het zijn missie ‘in gevaar brengt’. Het stelt dat verouderde procedures de "tijdige vrijgave van kritieke informatie" vertragen en het vertrouwen van het publiek in het departement ondermijnen.

“Het disfunctioneren dat door deze procedures wordt veroorzaakt, leidt tot onjuiste classificaties die onze nationale veiligheidssystemen belasten, de interoperabiliteit belemmeren en de innovatie vertragen doordat vitale gegevens in de kachelpijpen terechtkomen”, aldus de memo, aldus DefenseScoop.

ACME: Het luchtmachtsysteem in het centrum

Voor de proef zal het ministerie van Defensie een AI-ondersteund systeem gebruiken dat de luchtmacht onlangs heeft ontwikkeld, de Automated Classification Management Environment, oftewel ACME. In de memo wordt de hoogste burgerfunctionaris van de luchtmacht aangewezen als uitvoerend agent voor de piloot, en een woordvoerder van de luchtmacht vertelde DefenseScoop dat de dienst "de aanwijzingen in de memo zal naleven".

ACME werd in augustus publiekelijk onder de aandacht gebracht, toen functionarissen een verzoek om informatie uitvaardigden waarin de industrie werd gevraagd te helpen bij het opbouwen van een ecosysteem voor classificatiebeheer ter vervanging van het ‘handmatige, mensintensieve’ proces dat het leger al tientallen jaren gebruikt. Die mededeling beschreef een systeem dat onder druk stond: honderden functionarissen hebben de bevoegdheid om informatie te classificeren, waarvan velen archaïsche programma's gebruiken, verouderde documentatie produceren, hoge foutenpercentages, frequente overclassificatie en verminderde gegevensintegriteit. De afdeling heeft ook een hardcopy-achterstand van ongeveer 140 miljoen pagina's.

Van pilot naar enkele gezaghebbende referentie

Als de pilot slaagt, zegt de memo dat het geautomatiseerde systeem uiteindelijk zou dienen als “de enige, digitale gezaghebbende referentie” voor alle oorspronkelijke classificatiebesluiten van het departement. Die verantwoordelijkheid heeft historisch gezien toebehoord aan speciaal aangewezen menselijke functionarissen die bepalen hoe gevoelige informatie wordt gecategoriseerd – wat betekent dat een succesvolle uitrol een van de meest consequente overdrachten van een kernoverheidsfunctie naar AI-systemen tot nu toe zou markeren.

Waarom ambtenaren zeggen dat de verandering nodig is

Het pleidooi voor automatisering berust op de enorme omvang en snelheid van moderne militaire informatie. In het verzoek om informatie van augustus werd het handmatige proces "onverenigbaar" genoemd met de hoeveelheid en snelheid van informatie in het digitale tijdperk. Door overclassificatie wordt informatie verborgen gehouden voor eenheden en bondgenoten die deze nodig hebben; Onderclassificatie brengt het risico met zich mee dat capaciteiten en plannen aan tegenstanders worden blootgesteld. Fouten in beide richtingen brengen kosten met zich mee, en met een achterstand van zeven cijfers op het gebied van gedrukte pagina's is de afdeling tot de conclusie gekomen dat stapsgewijze verbeteringen niet voldoende zijn.

Josh Wallin, een collega bij het defensieprogramma van het Center for a New American Security, vertelde DefenseScoop dat ondergerubriceerde informatie een capaciteit of plan aan een tegenstander kan blootleggen, terwijl te vertrouwelijk materiaal kan worden achtergehouden of tegengehouden door een vertraagd beoordelingsproces – wat betekent dat het misschien niet de organisaties bereikt die het nodig hebben, “in een coalitieomgeving waar het delen van informatie van cruciaal belang is voor de coördinatie.” Hij voegde eraan toe dat in veel gevallen "de overgrote meerderheid van de informatie niet noodzakelijkerwijs zo gevoelig is dat u zich zorgen hoeft te maken over een verkeerde classificatie", en dat is precies de reden waarom een ​​snellere, consistentere afhandeling voor de hele afdeling vruchten zou kunnen afwerpen.

Analisten zien winst – en reële risico's

Wallin zei dat automatisering zou kunnen helpen bij problemen met misclassificatie – inclusief informatie die overbeschermd, onderbeschermd of verkeerd gelabeld is door mensen – en het overbezorgen van informatie kan verminderen, vooral omdat moderne conflicten hebben aangetoond dat een snelle informatiestroom een doorslaggevend voordeel kan zijn.

Maar Wallin signaleerde ook risico's. Misclassificatie zou op snellere schaal kunnen optreden onder door AI ondersteunde systemen. Sneller delen met bondgenoten en partners roept vragen op over de cyberbeveiligingsprotocollen van ontvangende netwerken. En versnelde declassificatie creëert een ‘geaggregeerd’ effect, waarin een tegenstander gevoelige inzichten kan samenbrengen uit individueel onschadelijke onthullingen.

"Er bestaat bezorgdheid over misclassificatie", zei Wallin. "Er is gewoon een inherente zorg dat bepaalde informatie gevoelig zal zijn. Zal deze verkeerd worden geclassificeerd en gedeeld, een beetje onbedoeld, en zal iemand deze niet opmerken?"

Er blijven vragen over het toezicht bestaan

Wallin zette ook vraagtekens bij de beknoptheid van de pilot en hoe menselijk toezicht zal werken als AI als definitieve referentie dient voor de oorspronkelijke classificatie-autoriteit. “Hoe ga je daadwerkelijk menselijk toezicht hebben? Dat zal voor altijd moeten blijven bestaan”, zei hij tegen DefenseScoop, waarbij hij opmerkte dat het systeem in de loop van de tijd zal evolueren en dat volledig vertrouwen nooit haalbaar is.

Het Pentagon beantwoordde niet meteen vragen over welke onderliggende AI-modellen de pilot zouden aandrijven en of het departement zorgen heeft over het gebruik van de technologie voor dit doel. De richtlijn komt terecht te midden van een breder debat in Washington over toezicht op AI, zelfs nu defensiefunctionarissen beweren dat AI een te krachtig instrument is om buiten spel te zetten terwijl tegenstanders het in hun eigen legers inzetten. Hoe het departement deze twee impulsen – agressieve adoptie en betekenisvolle menselijke controle – in evenwicht brengt, zal de beslissende vraag zijn van de zes maanden durende pilot.

Voor de luchtmacht is de opdracht ook een blijk van vertrouwen. De dienst bouwde ACME terwijl het afdelingsbrede gesprek over classificatiehervorming nog theoretisch was, en de memo geeft het nu de verantwoordelijkheid voor een vermogen dat, als het werkt, een nieuwe vorm zal geven aan de manier waarop elke militaire tak met zijn geheimen omgaat. Voor de rest van de federale overheid – waar classificatieachterstanden en klachten over overclassificatie chronisch zijn – zou een succesvolle Pentagon-pilot het eerste grootschalige sjabloon bieden voor door AI ondersteunde informatieverwerking, en bovendien een nauwlettend in de gaten gehouden sjabloon.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →