Pentagonul lansează un program pilot care va folosi inteligența artificială pentru a gestiona modul în care clasifică și gestionează informațiile militare sensibile, potrivit unui memorandum emis de secretarul adjunct al Apărării Steve Feinberg, care a fost revizuit de DefenseScoop. Directiva ordonă o implementare inițială la scară mică a unei capacități de clasificare automată a securității în următoarele șase luni - mișcarea de deschidere în efortul de a revizui un proces pe care departamentul îl descrie ca fiind periculos de depășit.
În interiorul Memo Feinberg For more context on this story, see our ongoing AI industry coverage.
Nota, emisă luni, încadrează procedurile existente de clasificare și declasificare ale Pentagonului drept o sursă de „disfuncție” despre care departamentul spune că „își pune în pericol” misiunea. Acesta susține că procedurile învechite încetinesc „eliberarea la timp a informațiilor critice” și erodează încrederea publicului în departament.
„Disfuncția cauzată de aceste proceduri duce la clasificări incorecte care împovărează sistemele noastre naționale de securitate, împiedică interoperabilitatea și încetinește inovarea prin captarea datelor vitale în țevi”, se arată în memoriul, potrivit DefenseScoop.
ACME: Sistemul Forțelor Aeriene din Centru
Pentru încercare, Departamentul Apărării va folosi un sistem susținut de AI dezvoltat recent de Forțele Aeriene, numit Mediul de management automat al clasificării sau ACME. Nota îl desemnează pe cel mai înalt oficial civil al Forțelor Aeriene ca agent executiv al pilotului, iar un purtător de cuvânt al Forțelor Aeriene a declarat pentru DefenseScoop că serviciul „va respecta direcția din memo”.
ACME a fost semnalată public în august, când oficialii au emis o cerere de informații cerând industriei să ajute la construirea unui ecosistem de gestionare a clasificării care să înlocuiască procesul „manual, intensiv în oameni” pe care armata l-a folosit de zeci de ani. Acea notificare descria un sistem aflat sub presiune: sute de oficiali dețin autoritatea de a clasifica informațiile, mulți folosind programe arhaice, producând documentație învechită, rate mari de eroare, supraclasificare frecventă și integritate degradată a datelor. Departamentul are, de asemenea, un stoc de hârtie întârziat de aproximativ 140 de milioane de pagini.
De la Pilot la Referință Unică Autoritară
Dacă pilotul reușește, nota spune că sistemul automatizat va servi în cele din urmă drept „referință unică, digitală autorizată” pentru toate deciziile de clasificare inițiale ale departamentului. Această responsabilitate a aparținut în mod istoric oficialilor umani special desemnați, care determină modul în care sunt clasificate informațiile sensibile – ceea ce înseamnă că o lansare cu succes ar marca unul dintre cele mai importante transferuri ale unei funcții guvernamentale de bază către sistemele AI de până acum.
De ce oficialii spun că este nevoie de schimbare
Argumentul pentru automatizare se bazează pe volumul și viteza absolută a informațiilor militare moderne. Cererea de informații din august a numit procesul manual „incompatibil” cu volumul și viteza informațiilor în era digitală. Supraclasificarea ține informațiile blocate departe de unitățile și aliații care au nevoie de ele; subclasificarea riscă expunerea capacităților și planurilor adversarilor. Erorile în ambele direcții implică costuri și, cu un număr de șapte cifre de pagini pe hârtie, departamentul a ajuns la concluzia că remediile incrementale nu sunt suficiente.
Josh Wallin, membru al programului de apărare al Centrului pentru o nouă securitate americană, a declarat pentru DefenseScoop că informațiile subclasificate pot expune o capacitate sau un plan unui adversar, în timp ce materialul supraclasificat poate fi reținut sau blocat de un proces de revizuire întârziat – ceea ce înseamnă că este posibil să nu ajungă la organizațiile care au nevoie de ele, „într-un mediu de coaliție în care schimbul de informații este esențial pentru coordonare”. El a adăugat că, în multe cazuri, „marea majoritate a informațiilor nu este neapărat atât de sensibilă încât să fii îngrijorat de o clasificare greșită”, tocmai de aceea o manipulare mai rapidă și mai consecventă ar putea aduce dividende în întregul departament.
Analiștii văd câștiguri – și riscuri reale
Wallin a spus că automatizarea ar putea ajuta la problemele de clasificare greșită – inclusiv informațiile care sunt supraprotejate, subprotejate sau etichetate greșit de oameni – și ar putea reduce țevile, mai ales că conflictele moderne au arătat că fluxul rapid de informații poate fi un avantaj decisiv.
Dar Wallin a semnalat și riscuri. Clasificarea greșită ar putea avea loc la o scară mai rapidă în cazul sistemelor susținute de AI. Partajarea mai rapidă cu aliații și partenerii ridică întrebări cu privire la protocoalele de securitate cibernetică ale rețelelor destinatare. Iar declasificarea accelerată creează un efect „agregat”, în care un adversar poate reuni perspective sensibile din dezvăluiri individual inofensive.
„Există o problemă de clasificare greșită”, a spus Wallin. "Există doar o îngrijorare inerentă că unele informații vor fi sensibile. Va fi clasificată greșit și partajată, cam neintenționat, și nu le va prinde cineva?"
Întrebări de supraveghere rămân
Wallin a pus sub semnul întrebării concizia pilotului și modul în care va funcționa supravegherea umană atunci când AI servește drept referință definitivă pentru autoritatea de clasificare inițială. „Cum veți avea de fapt o supraveghere umană în vigoare? Aceasta va trebui să persistă pentru totdeauna”, a spus el pentru DefenseScoop, menționând că sistemul va evolua în timp și că încrederea completă nu este niciodată realizabilă.
Pentagonul nu a răspuns imediat la întrebările despre care modele de inteligență artificială subiacente ar alimenta pilotul sau dacă departamentul are îngrijorări cu privire la utilizarea tehnologiei în acest scop. Directiva ajunge pe fondul unei dezbateri mai ample la Washington cu privire la supravegherea AI, chiar dacă oficialii apărării susțin că AI este un instrument prea puternic pentru a fi lăsat deoparte, în timp ce adversarii o desfășoară în propriile lor armate. Modul în care departamentul echilibrează aceste două impulsuri – adoptarea agresivă și controlul uman semnificativ – va fi întrebarea definitorie a pilotului de șase luni.
Pentru Air Force, însărcinarea este, de asemenea, un vot de încredere. Serviciul a construit ACME în timp ce conversația la nivel de departament despre reforma clasificării era încă teoretică, iar nota îi dă acum responsabilitatea pentru o capacitate care, dacă funcționează, va remodela modul în care fiecare ramură militară își gestionează secretele. Pentru restul guvernului federal – unde întârzierile de clasificare și plângerile de supraclasificare sunt cronice – un pilot de succes al Pentagonului ar oferi primul șablon la scară largă pentru gestionarea informațiilor asistată de AI și unul urmărit îndeaproape.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
