Departamentul Apărării a emis noi îndrumări pentru contractarea și personalul de program, menite să se asigure că sistemele de inteligență artificială pe care Pentagonul le cumpără respectă principiile de achiziție ale administrației Trump de „căutare a adevărului” și „neutralitate ideologică”, a informat luni Federal News Network.
Directiva, emisă de John Tenaglia, directorul principal al Pentagonului pentru politica de prețuri, contractări și achiziții pentru apărare, este pasul cel mai concret al departamentului de până acum pentru a implementa agenda președintelui Donald Trump de „prevenirea AI trezită” în guvernul federal. For more context on this story, see our ongoing AI industry coverage.
De la ordinul executiv la limbajul contractului
Îndrumarea provine direct din ordinul executiv semnat de Trump în iulie, care cere agențiilor federale să se asigure că modelele mari de limbă pe care le achiziționează sunt „instrumente neutre, nepartizane, care nu manipulează răspunsurile în favoarea dogmelor ideologice precum [diversitatea, echitatea și incluziunea]”. În această ordine, Trump a declarat că agențiile federale „au obligația de a nu procura modele care sacrifică veridicitatea și acuratețea agendelor ideologice”.
Ulterior, Biroul de Management și Buget a emis un memoriu în care abordează întrebările apărute după eliberarea ordinului executiv. Noul document al Pentagonului traduce acele mandate la nivel înalt în mașina de achiziție a apărării: șabloane care ghidează oficialii prin diferite etape de cumpărare a sistemelor AI și verifică conformitatea contractantului cu principiile „AI imparțial” ale departamentului.
În mod specific, șabloanele includ un memoriu pentru a ajuta agențiile să aleagă cerințele adecvate de transparență și documentație pentru o achiziție, un limbaj standardizat de solicitare care spune companiilor ce documentație trebuie să furnizeze pentru a demonstra conformitatea și un limbaj formal contractual care poate fi încorporat într-o declarație de lucru sau într-o declarație de performanță, potrivit Federal News Network.
Îndrumări, nu un mandat – Deocamdată
Tenaglia a avut grijă să încadreze greutatea legală a documentului. În timp ce respectarea ordinului executiv subiacent și a nota OMB este obligatorie, noul document este destinat „numai ca îndrumător”, oferind „o abordare standardizată pentru documentarea, solicitarea și aplicarea principiilor imparțial ale AI”, a scris el.
„Recunoscând că achizițiile AI variază mult în complexitate și risc, componentele DoD și activitățile care necesită au flexibilitatea de a revizui, adapta sau completa acest limbaj după cum este necesar pentru a se potrivi nevoilor specifice și contextului cerințelor lor individuale”, a scris Tenaglia în memoriu.
Această flexibilitate se poate dovedi semnificativă. Măsurarea dacă un model AI este „nepărtinitor” – și documentarea acestei determinări pentru un dosar de contract – este o sarcină mult mai dezordonată decât verificarea unei certificări de securitate cibernetică, iar furnizorii sunt probabil să respingă cerințele de documentare care țin de proiectarea modelului.
Face parte dintr-un impuls mai mare de a comercializa IA pentru apărare
Îndrumarea vine în timp ce secretarul apărării Pete Hegseth își continuă eforturile de a aduce IA comercială în departament. La începutul acestui an, Pentagonul a emis o strategie de inteligență artificială menită să transforme departamentul într-o „forță de luptă pe primul loc”, Hegseth afirmând că departamentul va investi foarte mult în infrastructura de calcul AI, de la centre de date până la sisteme de la marginea tactică.
Parlamentarii se mișcă în paralel. Rep. Jimmy Patronis (R-Fla.) caută să codifice ordinul executiv al lui Trump în lege. „Președintele și echipa sa au emis un ordin executiv inteligent care instruiește agențiile federale să utilizeze doar instrumentele AI care spun adevărul”, a spus Patronis, argumentând că există „exemple după exemple de instrumente AI care ies din calea normală, deoarece programarea de bază se înclină politic la stânga”.
Ce înseamnă pentru furnizorii de AI
Pentru companiile de inteligență artificială – inclusiv laboratoarele de frontieră care se îndreaptă acum spre oferte publice – îndrumarea semnalează că documentația de neutralitate ideologică devine o cerință de facto pentru piața de apărare din SUA, unul dintre segmentele de clienți cu cea mai rapidă creștere pentru inteligența artificială comercială. Furnizorii care pot produce piste de audit pentru formarea și comportamentul modelelor lor pot găsi ușa deschisă; cei care nu pot găsi achizițiile federale din ce în ce mai închise.
Efectul practic este că „AI imparțial” trece de la retorica politică la o cerință scrisă în contractele celui mai mare cumpărător de tehnologie din lume – și orice altă agenție urmărește cum performanțe șabloanele Pentagonului.
Ce vor trebui să producă de fapt vânzătorii
Sub șabloane, sarcina probei se transferă către vânzător. Companiile care licita pentru contracte intense de IA ar trebui să furnizeze documentație care să demonstreze că modelele lor respectă principiile „AI imparțial” – creând efectiv o nouă categorie de documente de achiziție alături de acreditările de securitate și atestările lanțului de aprovizionare. Ofițerii de contractare, la rândul lor, primesc un limbaj standardizat pe care îl pot trimite în solicitări fără a redacta de la zero, despre care experții în achiziții spun că este de obicei ceea ce transformă politica în practică.
Îndrumarea vine și pe măsură ce Pentagonul normalizează chatbot-urile comerciale pentru forța de muncă, după ce a lansat versiuni reglate de guvern ale asistenților comerciali AI pentru personalul apărării. Încorporarea unui limbaj de neutralitate ideologică în aceste contracte extinde un standard politic în sistemele utilizate pentru orice, de la planificarea logistică la munca administrativă de rutină.
Un caz de testare pentru restul guvernului
Alte agenții se confruntă acum cu o alegere: să adopte șabloanele Pentagonului cu ridicata, să le scrie pe ale lor sau să aștepte ca Congresul să acționeze. Efortul lui Patronis de a codifica ordinul executiv ar rezolva această ambiguitate prin statut – și ar face ca cerințele de neutralitate să fie mult mai dificile pentru o viitoare administrație.
Criticii ordinului susțin că măsurarea neutralității ideologice în modelele lingvistice este plină din punct de vedere științific și ar putea îngheață comportamentul modelului legitim, inclusiv descrieri precise ale subiectelor contestate. Susținătorii răspund că standardele de achiziții impun deja în mod obișnuit cerințe de conținut vânzătorilor și că dezvoltatorii de modele rămân liberi să vândă în altă parte.
Oricum, direcția de mers este clară. Cel mai mare cumpărător de tehnologie al guvernului a pus în scris „AI imparțial”, iar contractanții din apărare care speră să vândă sisteme AI Pentagonului au acum o nouă listă de verificare – una care începe cu documentație și se termină, potențial, în dispute contractuale dacă un model implementat eșuează testul de neutralitate.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
