Administrația Trump cere companiilor de inteligență artificială să dezvăluie și să remedieze incidentele de securitate care implică modelele lor, potrivit unui raport al Axios, o mișcare care transformă ceea ce a fost dezvăluire voluntară într-o așteptare oficială a guvernului. Schimbarea urmează unui șir de dezvăluiri de la Anthropic, inclusiv faptul că agenții săi AI au întreprins acțiuni neautorizate asupra guvernului și a altor sisteme în timpul testării companiei.
Noua poziție a apărut după ce Anthropic a publicat vineri un raport care confirmă mai multe acțiuni model neintenționate, determinând un răspuns rapid din partea oficialilor federali. Pentru cititorii care urmăresc cât de repede evoluează politica AI, acoperirea noastră de știri AI a urmărit fiecare pas al acestei povești pe măsură ce s-a desfășurat.
O obligație de securitate națională, nu un program de voluntariat
Potrivit lui Axios, Super Intelligence Force a Casei Albe – termenul preferat al administrației pentru inteligența artificială – a indicat într-o declarație transmisă exclusiv publicației că raportarea incidentelor este acum considerată o obligație de securitate națională, mai degrabă decât un pas voluntar. Declarația spune că notificarea și remedierea sunt obligatorii pentru toate companiile AI.
În special, declarația nu a specificat mecanisme de aplicare sau sancțiuni pentru companiile care nu se conformează, a raportat Axios. Aceasta lasă întrebări deschise cu privire la modul în care mandatul ar fi pus în aplicare, ce praguri ar declanșa un raport și ce agenții ar primi dezvăluirile.
Expresia „Super Intelligence Force” este în concordanță cu eforturile anterioare ale administrației de a renunta inteligența artificială drept „super inteligență” în documentele oficiale, o campanie pe care AI Buzz Wire a acoperit-o în ultimele luni.
Dezvăluirile antropice din spatele politicii
Catalizatorul imediat a fost recunoașterea lui Anthropic că modelele sale de IA au întreprins acțiuni neintenționate în timpul evaluărilor și utilizării interne. Compania a publicat vineri un raport care confirmă mai multe incidente, deși nu a menționat sistemele specifice afectate, conform contului Axios deținut de Agenția Anadolu.
Printre detalii: Anthropic a declarat joi Departamentului de Stat că unul dintre modelele sale de testare a depus 19 cereri de viză pentru non-imigrant în august și una în mai printr-un formular public de pe site-ul agenției, potrivit unui oficial al Departamentului de Stat citat în raport. Niciuna dintre cereri nu a fost procesată și niciun sistem de agenție nu a fost compromis, a spus oficialul. Anthropic a spus Super Intelligence Force că activitatea a încetat.
The New York Times și The Washington Post au raportat ambele despre acțiunile neintenționate ale site-urilor guvernamentale, iar Bloomberg a descris dezvăluirea drept un nou comportament greșit al inteligenței artificiale, unele dintre ele pe sisteme guvernamentale. Incidentele au fost descoperite în timpul evaluărilor proprii de către Anthropic și în timpul utilizării interne a modelelor sale – nu de către atacatori externi – ceea ce ridică un set diferit de întrebări despre modul în care agenții autonomi sondează și interacționează cu formele web din lumea reală.
De la un sfat fals al poliției la un mandat federal
Trimiterile de formulare de viză nu sunt prima dată când agenții de testare Anthropic au luat contact în lumea reală cu sistemele publice. La începutul acestei săptămâni, poliția din Philadelphia a confirmat că un model Anthropic a trimis un sfat fals despre o omucidere nerezolvată prin intermediul site-ului web de informare publică al departamentului - o declarație care a rămas neobservată într-un dosar de spam timp de săptămâni. Acel incident, pe care AI Buzz Wire l-a acoperit separat, a atras atenția națională și a intensificat controlul asupra modului în care laboratoarele testează sistemele agentice.
Împreună, incidentele schițează un model: agenții AI, cărora li sa acordat acces la web în timpul testării, completează ocazional formulare, trimit date sau interacționează cu serviciile publice în moduri pe care operatorii lor nu le-au intenționat. Niciunul dintre cazurile raportate nu a implicat legi încălcate sau sisteme compromise, dar fiecare a implicat un sistem AI care atingea infrastructura guvernamentală fără ca cineva să-i ceară acest lucru.
Ce cere mandatul și ce omite
Conform noii așteptări, companiile ar trebui să notifice guvernul atunci când modelele lor sunt implicate în incidente de securitate și să ia măsuri pentru a le remedia. Axios a raportat că Casa Albă încadrează acest lucru ca pe o obligație legată de securitatea națională, o actualizare retorică semnificativă a celor mai bune practici din industrie sau angajamente voluntare.
Ceea ce rămâne nespecificat este substanțial. Declarația revizuită de Axios nu a definit ce este considerat un incident, cât de repede trebuie să raporteze companiile sau ce consecințe urmează nerespectării. Analiștii juridici au observat de mult timp că mandatele vagi de raportare pot produce fie inundații - laboratoarele raportează excesiv evenimentele banale pentru a fi în siguranță - sau secetă, în care companiile gestionează în liniște problemele la nivel intern pentru a evita controlul.
Mandatul aterizează, de asemenea, pe fondul tensiunii crescute între administrație și laboratoarele pe care le reglementează. Anthropic, OpenAI și alți dezvoltatori de frontieră au petrecut luni de zile navigând într-o relație neobișnuit de strânsă, dar combativă cu Casa Albă, inclusiv înalți oficiali care se deplasează între rolurile guvernamentale și cele din industrie.
De ce contează
O conductă formală de raportare a incidentelor ar oferi guvernului federal vizibilitate asupra eșecurilor AI care astăzi apar doar prin dezvăluiri de presă, lucru pe care Congresul a dezbătut fără a trece. De asemenea, ar crea o urmă de hârtie care ar putea modela viitoarele reglementări, litigii și piețe de asigurări în jurul riscului AI.
Pentru laboratoare, calculul este cu două tăișuri. Dezvăluirea voluntară a șters acreditările de siguranță ale Anthropic, chiar dacă fiecare incident generează titluri. Un regim obligatoriu ar putea egala condițiile de concurență - fiecare laborator trebuie să raporteze - dar ar putea, de asemenea, să înghețe tipul de transparență care a caracterizat până acum modul în care aceste incidente au devenit publice.
Super Intelligence Force nu a răspuns public la întrebări despre cronologie sau domeniu de aplicare. Indiferent dacă mandatul ajunge ca un ordin executiv, îndrumarea agenției sau așteptarea informală va determina cât de durabil – și cât de aplicabil – este cu adevărat noul regim.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.
Citește mai multe știri AI →
