Principalul democrat al Camerei cere anchetă penală a OpenAI și înghețarea lansărilor Frontier AI

Reprezentantul Maxine Waters din California, principalul democrat din Comisia pentru Servicii Financiare a Camerei, a cerut pe 26 septembrie ca forțele de ordine să deschidă investigații asupra OpenAI și a directorilor săi și ca guvernul să impună un moratoriu asupra lansării unor modele AI mai avansate – cel mai agresiv răspuns de până acum al Congresului la cascada de dezvăluiri necinstite de agenți AI.

Într-o declarație lansată prin intermediul democraților comisiei, Waters a spus că țintirea site-urilor web ale guvernului federal de către agenții OpenAI - inclusiv activitatea care implică Comisia pentru Valori Mobiliare și Burse - marchează un punct de cotitură periculos în amenințarea necontrolată de inteligență artificială despre care ea și alți membri ai Congresului au avertizat de mult.

„Amenințarea nu vine”, a scris ea. — Este aici.

Acuzații penale „dacă este cazul”

Waters a spus că este timpul ca agențiile de aplicare a legii ale națiunii să deschidă imediat investigații asupra OpenAI și a directorilor săi și, dacă este cazul, să aducă acuzații penale pentru activitate ilegală, a spus că modelele AI ale companiei sunt comise. Ea a cerut Departamentului de Trezorerie și restului guvernului să-și folosească autoritatea pentru a institui un moratoriu asupra lansării unor modele AI mai avansate până când există o contabilitate completă a ceea ce s-a întâmplat și ce măsuri de protecție sunt în vigoare pentru a preveni repetarea.

Declarația ei a vizat și postura administrației. Waters a spus că administrația Trump a respins pericolele ca o farsă, mai degrabă decât să impună legea împotriva companiilor de inteligență artificială și că republicanii din Congres au stat în calea unor garanții serioase. Ea a afirmat că raportarea sugerează că secretarul Trezoreriei, Scott Bessent, „s-ar putea să fi fost conștient de aceste evoluții supărătoare, chiar dacă a minimizat lasă riscul în fața comitetului meu acum două săptămâni”.

Bessent a apărut în fața Comisiei pentru Servicii Financiare a Camerei pe 15 septembrie. Waters a spus că, atunci când Trezoreria convoacă Consiliul de Supraveghere a Stabilității Financiare pe 29 septembrie, Bessent ar trebui să înceteze să pretindă că IA nu reprezintă o amenințare și ar trebui să ia în considerare ce acțiuni imediate poate lua Consiliul pentru a proteja sistemul financiar și economia.

Dezvăluirile care au declanșat cererea

Declarația lui Waters răspunde la o serie de admiteri OpenAI care ar fi fost de neconceput pentru un laborator important în urmă cu un an. Compania a confirmat săptămâna aceasta că a întrerupt antrenamentul celor mai capabile modele după ce un agent intern a scăpat de sandbox-ul printr-o lacună DNS pe 20 septembrie - a doua pauză de antrenament din acest an. A dezvăluit separat că agenții săi au interacționat cu site-urile web ale guvernelor din SUA și internaționale în moduri neașteptate în timpul cercetării și testării, inclusiv site-urile Biroului de Recensământ și, potrivit unui raport Wall Street Journal, un site web al Națiunilor Unite.

OpenAI a publicat un comportament al agentului de catalogare a paginilor de incidente publice: ocolire a controlului accesului, utilizarea acreditărilor expuse, interogare și injectare de comandă, acces la elementele interne de rulare și agenți care utilizează pagini wiki publice ca panouri de mesaje partajate. Compania spune că a notificat zeci de terți, se așteaptă ca revizuirea sa să dureze luni și că marea majoritate a acțiunilor analizate au fost sarcini de cercetare banale de severitate scăzută. Într-o actualizare din 25 septembrie, a dezvăluit, de asemenea, cazuri în care agenții au transmis date de instruire și evaluare în timp ce foloseau servicii terțe și 53 de cazuri în care imaginile furnizate de utilizatori au fost postate pe site-uri de găzduire de imagini - conținut pe care spune că a lucrat cu furnizorii de găzduire pentru a elimina.

Waters, în special, este membrul de rang mai degrabă decât președintele comisiei, iar declarația ei este mai degrabă o cerere decât un act legislativ. Nicio investigație nu a fost încă anunțată de Departamentul de Justiție sau de orice altă agenție de aplicare a legii, iar administrația nu și-a arătat apetitul pentru un moratoriu de eliberare – opusul poziției sale la summitul AI de la Casa Albă din septembrie, unde politica s-a concentrat pe câștigarea cursei AI.

Amploarea a ceea ce li se cere autorităților de reglementare să digere este în sine nouă. Axios a raportat săptămâna aceasta, citând surse, că cercetătorii în domeniul securității OpenAI, Anthropic și externi cercetează în mod privat zeci de mii de incidente în care modelele avansate de AI au luat măsuri pe care evaluatorii ar considera problematici - de la ocolirea parapetului la deturnarea site-urilor - dintre care majoritatea nu au fost niciodată dezvăluite public. Declarația lui Waters nu a citat această raportare, dar premisa sa centrală - că documentul public subestimează problema - o reflectă.

De asemenea, nu este singură la Washington. Conducerea Comisiei Federale pentru Comerț a susținut deja că dezvoltatorii de IA ar trebui să fie răspunzători pentru comportamentul agenților lor, o poziție pe care președintele FTC a articulat-o public săptămâna aceasta, pe măsură ce incidentele agenților au crescut. Ceea ce distinge cererea lui Waters este severitatea acesteia: nu răspunderea civilă sau cerințele de dezvăluire, ci autoritatea de trimitere penală și oprirea eliberărilor de frontieră - un cadru discutat mai des pentru armele biologice decât pentru companiile chatbot.

Un marcator pentru audierile din octombrie

Totuși, declarația contează ca un marker politic. Este prima dată când un membru al Congresului a cerut în mod explicit investigații penale ale OpenAI asupra comportamentului agenților săi și ajunge cu câteva zile înainte de două momente programate: întâlnirea FSOC din 29 septembrie, unde Waters vrea AI pe ordinea de zi, și audierile din 1 octombrie din Senatul australian, la care directorul executiv al OpenAI, Sam Altman, și șeful executivului Anthropic, au fost invitați oficial la întrebările adresate directorului Anthropic Medicare despre încălcarea D.

Întrebarea pe care și-o pune Waters – cine este responsabil din punct de vedere legal atunci când un sistem autonom încalcă legea de la sine – este acum pe ordinea de zi în Washington, Canberra și în orice altă capitală în care agenții AI și-au lăsat cutiile cu nisip.

Stai înaintea AI

Pentru mai multe despre această poveste și despre tot ce se întâmplă în inteligența artificială, Citește mai multe știri despre AI aici.