Avertismentele de siguranță de la cercetătorii antropici care au dominat discursul AI în această săptămână au produs acum ceva concret la Washington: un impuls legislativ. Reuters a raportat joi că parlamentarii americani cer noi reguli AI ca răspuns la declarațiile cercetătorilor, în timp ce reprezentantul Massachusetts Lori Trahan a folosit un interviu de joi dimineață pentru a-și detalia Frontier Act, un proiect de lege care ar impune pentru prima dată obligații obligatorii dezvoltatorilor de frontieră AI.

Vorbind la ediția de dimineață a WBUR, Trahan a spus că reacția de pe Capitol Hill la evenimentele din această săptămână a fost diferită de orice a văzut de când a început să lucreze la reglementarea AI la începutul acestui an. Pentru acoperirea zilnică a mișcărilor politicii AI din Washington, Bruxelles și nu numai, urmați AI Buzz Wire, sursa dvs. pentru știri de ultimă oră și actualizări ale regulamentelor.

Ce ar face Frontier Act

Trahan, care a fost coautor al proiectului de lege bipartizan, l-a descris ca pe un set de „reguli ale drumului” pentru câteva companii ale căror modele ar putea provoca daune catastrofale. Frontier Act ar impune patru lucruri, potrivit congresmanului: cerințe de transparență pentru dezvoltatorii de IA de frontieră, raportarea incidentelor, verificarea independentă a afirmațiilor privind siguranța modelului și ceea ce ea a numit un buton de pauză guvernamental dacă un model prezintă un risc iminent de catastrofă.

„La un nivel de bază, trebuie să punem balustrade în laboratoarele de frontieră”, a spus Trahan, încadrând aceste prevederi drept „mize de masă”, în timp ce Congresul elaborează politici pentru multe alte sectoare pe care AI le va atinge.

„Sistemul de onoare”: cazul lui Trahan pentru reguli obligatorii

Miezul argumentului lui Trahan este că nimic nu îi leagă în prezent pe dezvoltatorii celor mai puternice sisteme AI. „Astăzi, singurul lucru pe care îl avem este sistemul de onoare”, a spus ea. „Cea mai puternică tehnologie din istoria omenirii este reglementată de dezvoltatorii săi”.

Ea a recunoscut scepticismul în rândul colegilor, spunând că unii consideră avertismentele din săptămâna ca fiind prea extreme sau care provoacă teamă. Dar ea a descris o schimbare rapidă a dispoziției camerei: "Telefonul meu nu a încetat să sune de când Jacob Coxon a sunat. Cred că colegii mei sunt speriați. Au auzit de la alegătorii lor care vor să acționăm... Săptămâna aceasta tocmai a atins un punct critic".

În special, ea a spus că presiunea nu se limitează la o singură parte. „Nu sunt doar democrați”, a spus Trahan, menționând că „republicanii MAGA au cerut ieri o acțiune bipartizană. Terenul s-a schimbat cu adevărat”.

Avertismentele care au pornit

Fermentul legislativ provine direct din declarațiile a doi cercetători antropici. Jacob Coxon a părăsit compania marți, scriind pe rețelele de socializare că Anthropic „curge direct către superinteligență auto-îmbunătățitoare și jocuri de noroc cu viețile noastre”. Colegiul de cercetare antropic Evan Hubinger l-a susținut public, scriind: „Jacob are dreptate aici... Credem cu adevărat că AI ar putea ucide toți oamenii! Eu personal cred că este > 10% în următorul deceniu”.

Povestea a metastazat pe parcursul săptămânii. The Hill a raportat că parlamentarii au tras un semnal de alarmă cu privire la pericolele AI după avertismente, BBC și CBS au acoperit estimarea probabilității lui Hubinger, iar NBC News a raportat joi că doi cercetători AI au părăsit Anthropic și Google din cauza problemelor de siguranță, citând pe unul care a spus „nu sunt adulți în cameră”. Reuters a raportat joi că parlamentarii cer acum noi reguli și au circulat, de asemenea, rapoarte conform cărora OpenAI a căutat reguli americane care guvernează modele puternice de IA.

De la avertismente la un fișier de factură

Ceea ce face săptămâna aceasta diferită de controversele anterioare privind siguranța este viteza răspunsului politicii. Dezvăluirile lui Anthropic din această săptămână – un raport de informații despre amenințări care detaliază campaniile de abuz întrerupte, inclusiv posibilele încercări de a-l folosi pe Claude pentru dezvoltarea de arme biologice – au oferit avertismentelor o coloană vertebrală probatorie, care dezbaterea anterioară nu le-a lipsit, iar parlamentarii par să se miște cât timp este momentul.

Drumul de urmat pentru legislația AI

Perspectivele pentru Legea frontierei rămân incerte. Congresul s-a luptat de ani de zile să adopte o legislație cuprinzătoare privind inteligența artificială, iar orice proiect de lege care se referă la verificarea obligatorie sau o autoritate federală de pauză s-ar confrunta cu lobby intens din partea laboratoarelor pe care le-ar reglementa, alături de luptele jurisdicționale dintre comitete. Pe margine, statele nu așteaptă: guvernatorul Californiei Gavin Newsom a semnat o suită de proiecte de lege privind siguranța inteligenței artificiale săptămâna aceasta, conform Los Angeles Times, menținând presiunea pentru un cadru federal care preîntâmpină un mozaic de reguli de stat.

Deocamdată, dinamica s-a inversat. Pentru prima dată în acest Congres, oamenii care construiesc modele de frontieră cer public restricții asupra propriei industrie - iar parlamentarii le elaborează.

Dacă această aliniere produce lege sau doar titluri, va depinde de lunile următoare. Dar săptămâna a demonstrat ceva ce nici laboratoarele, nici criticii lor nu pot ignora: siguranța AI a trecut de la sala de seminar la numărul de bici, iar membrii care numără voturile spun că alegătorii lor sunt în sfârșit cei care le cer să acționeze.

AI Buzz Wire va continua să urmărească Frontier Act pe măsură ce trece prin Congres.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.

Citește mai multe știri AI →