Biroul Pentagonului însărcinat cu coordonarea utilizării responsabile și etice a inteligenței artificiale are în mod semnificativ un deficit de personal, potrivit organului de control al guvernului federal – un deficiență care a împiedicat cadrul de etică emblematic al departamentului, chiar dacă armata depune eforturi pentru a deveni o forță de luptă „în primul rând AI”.
Lipsa de personal din Biroul șef de inteligență digitală și artificială l-a împiedicat să pună în aplicare pe deplin inițiativa AI responsabilă a Pentagonului, a declarat Biroul de responsabilitate guvernamentală într-un raport din 14 octombrie și raportat marți de Stars and Stripes. Descoperirea ajunge într-un moment în care luarea deciziilor AI în apărare s-a mutat din laborator pe câmpul de luptă, dând decalajului de personal consecințe concrete.
Trei din zece posturi ocupate, iar posturile vacante pot rămâne deschise
IA responsabilă este cadrul etic integrat al Departamentului de Apărare care guvernează dezvoltarea, desfășurarea și funcționarea capabilităților AI atât în sistemele de luptă, cât și în cele non-combat. CDAO este biroul principal pentru adoptarea și integrarea AI de către departament, inclusiv cadrul AI responsabil – ceea ce face ca nivelul său de personal să fie o măsură directă a capacității pe care funcția de supraveghere are de fapt.
GAO a constatat că doar trei dintre cele 10 posturi autorizate ale biroului au fost ocupate în februarie. Oficialii apărării au spus organului de pază că posturile rămase nu vor fi ocupate probabil, o recunoaștere care sugerează că deficitul nu este un întârziere temporară de angajare, ci o condiție structurală a mandatului de supraveghere al biroului.
O strategie „AI în primul rând” care își depășește propriile garanții
Dezvăluirea privind personalul se află stânjenitor lângă direcția strategică a departamentului. În ianuarie, secretarul Apărării Pete Hegseth a emis o strategie AI care, conform raportului GAO, a subliniat din nou accelerarea integrării și adoptării AI. Strategia, afirmă raportul, „a subliniat o poziție în timp de război, cerând ca DOD să devină o forță de luptă „în primul rând AI” în toate componentele”.
Contrastul este puternic: un mandat de accelerare pentru AI în sistemele de luptă, supravegheat de un birou care rulează la 30% din puterea sa autorizată. Dezvoltarea rapidă a inteligenței artificiale a provocat organele de conducere din întreaga lume, deoarece tehnologia depășește supravegherea legislativă tradițională și supravegherea umană – iar propriul câine de pază al Pentagonului documentează acum acest decalaj în interiorul celei mai mari birocrații militare din lume. Pentru mai multe rapoarte despre politica și guvernarea AI, consultați pagina de pornire știri AI.
Mizele: țintirea, barele de protecție și un refuz care a remodelat politica
Consecințele unei subțiri supravegheri nu sunt ipotetice. Bloomberg a raportat luna trecută, iar Stars and Stripes a reiterat, că software-ul compatibil cu inteligența artificială utilizat pentru selectarea țintelor a contribuit la atacul SUA asupra unei școli primare cu o rachetă Tomahawk din 28 februarie, prima zi a războiului din Iran, în care au fost uciși peste 100 de copii.
Luptele armatei pentru guvernarea AI au atras și în sectorul privat. În februarie, secretarul Apărării Pete Hegseth și președintele Donald Trump au făcut presiuni pe Anthropic să îndepărteze balustradele de siguranță din modelul său Claude contractat de guvern care împiedică utilizarea sistemului pentru arme complet autonome și supraveghere în masă. Când Anthropic a refuzat, administrația a desemnat compania drept un risc pentru securitatea națională și a interzis agențiilor guvernamentale să-l folosească pe Claude - un blocaj AI Buzz Wire pe care l-a acoperit prin instanțe, inclusiv decizia curții de apel care a menținut lista neagră.
Ce înseamnă a alerga la 30 la sută în practică
Un birou de supraveghere la trei dintre cele zece posturi autorizate nu este o birocrație cu întârziere - este un cadru care funcționează la o fracțiune din capacitatea sa prevăzută. Inițiativa IA responsabilă depinde de CDAO pentru a traduce principiile etice în procese de revizuire pe care trebuie să le urmeze armele reale și programele de comunicații, iar fiecare loc neocupat reprezintă o muncă care fie este anulată, fie căde în sarcina personalului rămas, întins în portofolii.
Deoarece oficialii apărării au spus GAO că locurile vacante sunt puțin probabil să fie ocupate, constrângerea pare mai degrabă durabilă decât ciclică. Programele vor continua să dezvolte capabilitățile AI, iar sarcina practică a aplicării cadrului etic se va concentra în continuare pe un grup din ce în ce mai mic de oameni.
Etica umană ca ultimă linie de apărare
Avocații militari susțin că lipsa de personal lasă judecata umană ca singura verificare semnificativă. „Luarea deciziilor militare trebuie să se bazeze pe etica umană și doar a-i spune unui computer să realizeze ceva poate fi o modalitate foarte rapidă de a face acest lucru, dar s-ar putea să nu fie o metodologie etică, morală sau legală legală pentru a realiza orice încercăm să se întâmple”, a declarat Sean Timmons, avocat specializat în drept militar la firma, potrivit Tully Rinckey Starsday pentru telefon.
Unii lideri din industria AI au cerut încetinirea ritmului progreselor AI, avertizând că pierderea controlului agenților AI autonomi ar putea reprezenta o amenințare existențială - avertismente care au o greutate deosebită atunci când sunt aplicate armelor autonome. Descoperirea GAO sugerează că, deocamdată, componenta cu cea mai rapidă creștere a puterii militare americane este extinsă înaintea infrastructurii umane menite să o guverneze.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.
Citește mai multe știri AI →
