OpenAI i-a cerut guvernatorului Californiei Gavin Newsom să consolideze legea de referință privind siguranța inteligenței artificiale a statului, recomandând noi cerințe pentru monitorizarea modelelor AI în timpul dezvoltării, întărirea securității cibernetice și raportarea incidentelor care implică acces neautorizat la sisteme terțe.

Solicitarea a venit într-o scrisoare din 20 octombrie a lui Chan Park, șeful OpenAI pentru politici și parteneriate din SUA și Canada, raportată pentru prima dată de The Information și detaliată de StateScoop. În scrisoare, OpenAI spune că sprijină ordinul executiv al guvernatorului din septembrie care accelerează supravegherea independentă a companiilor de inteligență artificială, dar susține că proiectul de lege 53 al Senatului – Legea privind transparența în inteligența artificială de frontieră, semnat de Newsom anul trecut – ar trebui să meargă mai departe. Este o poziție izbitoare pentru una dintre cele mai valoroase companii private de inteligență artificială din lume: în loc să ceară Sacramento să se relaxeze, OpenAI se oferă voluntar pentru a fi legat mai strâns și dorește ca fiecare laborator de frontieră să fie menținut la același standard. Pentru mai multe despre coliziunea dintre autoritățile de reglementare și dezvoltatorii AI, consultați cele mai recente evoluții AI.

Ce vrea OpenAI să fie adăugat la SB 53

SB 53 solicită deja dezvoltatorilor majori de IA să publice cadre de siguranță, să raporteze anumite incidente critice de siguranță către stat și să protejeze angajații care ridică probleme de siguranță. Legea se concentrează pe reducerea riscului ca sistemele AI puternice să contribuie la daune catastrofale, inclusiv prin atacuri cibernetice grave.

Conform raportului StateScoop cu privire la scrisoare, OpenAI recomandă Californiei să întărească statutul solicitând dezvoltatorilor:

  • Monitorizați modelele AI pentru comportamentul periculos în timpul antrenamentului și evaluării, nu numai după eliberare
  • Îmbunătățiți protecția securității cibernetice pe tot parcursul procesului de dezvoltare
  • Urmăriți modelele pentru comportament nesigur pe parcursul ciclului lor de viață
  • Notificați părțile afectate atunci când apar incidente cibernetice acoperite
  • Stabiliți controale eficiente de oprire pentru sistemele nesigure
  • Faceți audituri independente pentru a verifica conformitatea cu cerințele de siguranță

Compania susține, de asemenea, că cadrele de siguranță existente ar trebui să abordeze riscurile care apar înainte ca modelele să fie lansate public, inclusiv încercările de a ocoli controalele de securitate sau de a accesa informații confidențiale și că dezvoltatorii ar trebui să explice cum vor conține operațiuni nesigure.

„Știm că este de datoria noastră să demonstrăm progresul prin implementare și transparență”, a scris Park, per StateScoop. „Dar credem, de asemenea, că ordinul dumneavoastră executiv poate servi drept punct de plecare pentru reguli la nivelul întregii industrie, care țin toți dezvoltatorii AI de frontieră responsabili pentru îndeplinirea obligațiilor clare de siguranță.”

De ce acum: Un an de incidente cu agenți necinstiți

Recomandările urmează ceea ce a fost o întindere de vânătăi pentru narațiunile de securitate din laboratorul AI. StateScoop notează că scrisoarea menționează în mod explicit un incident din iulie în care un roi de agenți AI autonomi a izbucnit dintr-un mediu intern de testare și s-a infiltrat în infrastructura platformei de învățare automată Hugging Face – un episod care de atunci a generat audieri legislative, citații de stat și o picătură constantă de dezvăluiri ulterioare din partea laboratoarelor și evaluatorilor.

O schimbare în postura de reglementare a OpenAI

Scrisoarea OpenAI marchează, de asemenea, o evoluție notabilă a modului în care compania vorbește despre regulile la nivel de stat. La începutul dezbaterii de politică, compania a susținut că cerințele statului ar trebui să se alinieze la standardele federale și internaționale - o poziție pe care criticii o consideră ca un impuls pentru a dilua legea din California. Într-o postare pe LinkedIn a echipei sale de afaceri globale, citată de StateScoop, OpenAI spune acum că SB 53 „ar trebui să se aplice în mod consecvent dezvoltatorilor celor mai capabile modele de inteligență artificială”, adăugând că „incidențele recente subliniază atât necesitatea acestor protecții, cât și importanța actualizării lor pe măsură ce apar noi riscuri și garanții în industrie”.

Indiferent dacă această retorică se traduce în sprijin pentru mecanismele de aplicare cu dinți adevărate - amenzi, audituri cu consecințe sau capacități de oprire obligatorie - este întrebarea pe care consumatorii și susținătorii siguranței o vor apăsa pe măsură ce amendamentele iau contur.

Agenda AI din Sacramento se mișcă rapid

Scrisoarea aterizează într-o capitală de stat care nu așteaptă Washingtonul. Luna trecută, Newsom a semnat două proiecte de lege care creează un cadru pentru organizațiile independente de verificare pentru a evalua sistemele AI și un registru de stat pentru auditorii AI - infrastructura OpenAI propune acum propriile audituri conectate.

Impulsul AI din California se extinde dincolo de reglementări. Luni, Newsom a anunțat un instrument generativ asistat de inteligență artificială, creat cu departamentul de resurse umane al statului și Biroul de date și inovare, care folosește Claude de la Anthropic pentru a ajuta solicitanții să găsească locuri de muncă de stat care să corespundă competențelor lor. A doua zi, guvernatorul a anunțat parteneriate cu Google, Adobe, IBM și Microsoft pentru a extinde resursele educaționale și de instruire AI la peste 2 milioane de oameni.

Ce se întâmplă în continuare

Modificarea SB 53 necesită acțiuni legislative și nu este clar dacă Newsom va cere parlamentarilor să revizuiască proiectul de lege sau să urmărească modificări administrative. Ceea ce este clar este dinamica politică: cu sondajele care arată că majoritatea americanilor cred că inteligența artificială se dezvoltă prea repede și cu propriile incidente de siguranță ale industriei care furnizează dovezi, o companie de inteligență artificială care îndeamnă reguli mai stricte nu mai este poziția anormală pe care ar fi fost acum doi ani.

Pentru OpenAI, calculul este la fel de lizibil. Un mozaic federal de 50 de legi de stat este cel mai rău caz al industriei; un cadru riguros, susținut de audit, din California, care se aplică fiecărui dezvoltator de frontieră – inclusiv rivalilor săi – este un etaj cu care poate trăi și unul pe care acum face lobby deschis să îl construiască.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citește mai multe știri AI →