Reprezentantul Ro Khanna, un democrat din Silicon Valley, va introduce o legislație care ar interzice modelele AI capabile să se îmbunătățească recursiv până când guvernul federal va construi un sistem de reglementare capabil să le supravegheze – cea mai amplă propunere de siguranță AI care a ajuns până acum la Congres.

Proiectul de lege, numit Human Control Over AI Act, a fost transmis exclusiv CNBC sub formă de rezumat înainte de introducerea sa. Acesta sosește pe fondul creșterii preocupărilor legate de siguranță care i-au determinat deja pe directorii executivi ai OpenAI și Anthropic să ceară încetinirea dezvoltării modelelor de frontieră. For more context on this story, see our ongoing latest AI developments.

„Există de fapt un risc de extincție a civilizației”, a spus Khanna luni într-un interviu pentru CNBC. „Există un risc de siguranță al pierderii controlului și apoi există un risc de utilizare greșită și trebuie să le luăm pe amândouă în serios”.

Ce ar interzice legea

În esență, Legea privind controlul uman asupra inteligenței artificiale ar interzice modelele AI care se auto-îmbunătățesc recursiv sau își modifică în mod autonom propriile obiective de bază, mecanisme de izolare sau controale de oprire – cu excepția cazului în care există balustrade federale și o nouă agenție guvernamentală aprobă activitățile.

În termeni practici, aceasta vizează capacitatea de care cercetătorii în siguranță se tem cel mai mult: sisteme care se pot reproiecta singure într-un ciclu auto-dirijat, lăsând oamenii cu o supraveghere în diminuare la fiecare pas. Interdicția va rămâne în vigoare până când autoritățile de reglementare vor fi echipate pentru a evalua riscurile.

O nouă agenție federală pentru IA de frontieră

Proiectul de lege ar crea o agenție federală dedicată, axată pe cele mai puternice modele de IA - cele dezvoltate de OpenAI, Anthropic, Google DeepMind și xAI -, deoarece acele companii se află sub un control intens.

Potrivit rezumatului distribuit cu CNBC, agenția ar fi responsabilă pentru:

  • Redactarea reglementărilor de siguranță pentru sistemele AI de frontieră
  • Operarea unui sistem de licențiere pentru aprobarea modelului de formare și implementare
  • Efectuarea de audituri ale modelelor AI de frontieră
  • Stabilirea standardelor de securitate pentru testarea continuă și controlul uman eficient

Auditorii independenți ar fi încorporați în fiecare laborator de frontieră și ar raporta direct agenției - o verificare structurală menită să se asigure că laboratoarele nu își pot marca pur și simplu propriile teme. De asemenea, agenția ar stabili standarde care să acopere mediile de testare sandbox, golurile de aer care izolează sistemele de testare de internet, întrerupătoarele de oprire și comenzile care împiedică modelele să scape de setările de laborator și să roaming pe internetul deschis.

În special, legislația ar extinde supravegherea federală asupra cipurilor avansate pe care le folosesc laboratoarele de frontieră, inclusiv mecanisme de monitorizare sau control a modului în care sunt implementate acele procesoare.

Sancțiuni penale și asigurare obligatorie

Proiectul de lege merge mai departe decât orice propunere anterioară privind sancțiunile. Ar incrimina ceea ce definește drept „crime împotriva umanității” pentru implementarea modelelor de inteligență artificială care au ca rezultat distrugerea populațiilor civile.

Angajații companiilor de inteligență artificială s-ar confrunta cu sancțiuni penale pentru dezactivarea garanțiilor, a comutatoarelor de oprire, a sistemelor de jurnalizare sau de izolare – sau pentru implementarea cu bună știință a unui sistem neautorizat. Companiile de inteligență artificială ar trebui, de asemenea, să aibă o asigurare extinsă de răspundere civilă înainte de a-și lansa modelele, transferând riscul financiar de eșec mai degrabă către industrie decât către public.

Pe frontul geopolitic, proiectul de lege cere administrației să urmărească acorduri executorii și controale specifice ale exporturilor menite să descurajeze China și alți adversari să dezvolte sisteme AI periculoase.

Construit cu comunitatea de siguranță, nu cu laboratoarele

Khanna a fost explicit despre a cui contribuție a modelat factura. În loc să negocieze cu directorii companiilor pe care le va reglementa, el a spus că legislația a fost modelată pe conversații cu organizațiile de siguranță AI, inclusiv organizațiile nonprofit independente Model Evaluation and Threat Research, Machine Intelligence Research Institute și Palisade Research.

„Vreau ca acesta să fie un model pentru a da voce comunității de siguranță AI”, a spus Khanna pentru CNBC. „Cred că au fost respinși pe nedrept ca fiind science fiction și nu au fost luați suficient de serios. Ei trebuie să conducă această dezbatere, comunitatea de siguranță AI, nu directorii laboratoarelor de frontieră”.

Khanna a descris măsura drept cea mai cuprinzătoare legislație privind siguranța AI propusă până în prezent.

Cote lungi într-un congres divizat

Actul Human Control Over AI se alătură unui câmp aglomerat de propuneri de siguranță AI de pe Capitol Hill. Printre aceștia se numără Legea FRONTIER, bipartizană, de la reprezentanții Jay Obernolte, un republican din California, și Lori Trahan, o democrată din Massachusetts, care ar plasa auditori independenți în laboratoarele de frontieră și ar da autoritatea guvernului să închidă modelele considerate a prezenta un risc catastrofal. O propunere separată Sanders-Casar de a interzice superinteligența artificială a atras sprijinul public din partea a zece democrați din Camera Parlamentului, inclusiv Khanna însuși.

Realitatea politică este totuși serioasă. Nu se așteaptă ca niciun proiect de lege al Camerei să primească vot până după alegerile de la jumătatea mandatului, iar Senatul este de așteptat să părăsească Washingtonul și să nu se întoarcă decât după ce alegătorii vor merge la vot.

Această cronologie înseamnă că Human Control Over AI Act va funcționa, cel puțin deocamdată, ca un marcator: un plan detaliat a ceea ce comunitatea de siguranță AI ar construi dacă ar ține pixul - introdus exact în momentul în care oamenii care construiesc AI de frontieră avertizează, în dosar, că tehnologia depășește controalele sale.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →