Geoffrey Hinton, laureatul Nobel, cunoscut pe scară largă drept „Nașul inteligenței artificiale”, a transmis una dintre cele mai severe avertismente ale sale de până acum parlamentarilor americani săptămâna aceasta: Congresul are aproximativ un an pentru a pune garanții semnificative asupra inteligenței artificiale înainte ca tehnologia să treacă dincolo de controlul uman. Informaticianul britanic-canadian a făcut aceste remarci pe 16 septembrie la un briefing cu ușile închise a Senatului la Capitol Hill, potrivit NBC News.

„Poate un an, dar nu cu mult mai mult de un an”, a spus Hinton în sala parlamentarilor, conform relatării NBC despre întâlnire. Briefing-ul a fost convocat de senatorul Bernie Sanders și a prezentat, de asemenea, fizicianul MIT Max Tegmark, co-fondatorul Institutului Viitorul Vieții și cercetătorul de siguranță AI Ajeya Cotra, potrivit mai multor rapoarte ale sesiunii.

Miezul avertismentului: AI construirea AI

Argumentul lui Hinton sa centrat mai degrabă pe o etapă tehnică specifică decât pe o ipotetică îndepărtată. „AI a ajuns acum în punctul în care AI proiectează o IA mai bună”, a spus el, potrivit rapoartelor briefing-ului. „Asta se numește auto-îmbunătățire recursivă... va scăpa de sub control dacă nu facem ceva”.

El le-a mai spus parlamentarilor că termenele experților pentru superintelligence s-au prăbușit în ultimul deceniu. „Dacă te uiți la previziunile pentru când vom obține superinteligence, înainte erau poate 30 de ani, poate 50 de ani”, a spus Hinton, pentru NBC News. „Apoi s-a redus la poate 10 ani, poate 20 de ani. Acum oamenii spun că mulți dintre cercetători spun doar câțiva ani”.

Hinton, un profesor emerit la Universitatea din Toronto, care a împărtășit Premiul Nobel pentru Fizică în 2024 pentru lucrările fundamentale privind rețelele neuronale, a părăsit Google în 2023 și de atunci a devenit cel mai proeminent critic intern al domeniului - avertizând că sistemele pe care le-a ajutat să creeze ar putea sfârși prin a-și depăși creatorii și a-și înlocui creatorii.

Scepticism față de un „interruptor de ucidere”

Chiar dacă a cerut o reglementare rapidă, Hinton și-a exprimat îndoiala cu privire la una dintre cele mai discutate propuneri: un mandat federal care ar permite guvernului să închidă sistemele AI periculoase. El le-a spus parlamentarilor că un astfel de „kill switch” nu va rezista pe termen lung, potrivit CNN.

Scepticismul său a aterizat în aceeași săptămână, senatorul Rand Paul a blocat un proiect de lege privind comutatorul de ucidere AI, condus de republicani, să nu fie accelerat în Senat - un episod care ilustrează cât de departe rămâne până și legislația minimă de protecție. Senatorul John Kennedy din Louisiana, care a participat la o parte a ședinței de informare, a declarat pentru The Washington Sun că i-a plăcut discuția, dar nu a văzut niciun semn că Senatul va acționa, adăugând că se așteaptă ca următoarea mișcare să vină de la Casa Albă, arătând că secretarul Trezoreriei, Scott Bessent, face eforturi pentru un cadru de siguranță.

Perspectiva de pe culoar nu era mult mai însorită. Senatorul Rick Scott din Florida a spus într-un interviu pentru NewsNation că companiile trebuie să se reglementeze: „Nu vom deveni suficient de deștepți pentru a le reglementa. Nu vom face ceva aici”, a spus el, după cum a raportat The Washington Sun.

Unii democrați au împins în cealaltă direcție. Reprezentantul Yassamin Ansari din Arizona, care a participat la briefing, a scris pe X că AI „poate și va continua să depășească controlul uman” și că „fereastra noastră de a o reglementa dispare rapid. Trebuie să ne oprim ACUM”.

O săptămână de AI Safety Whiplash

Briefing-ul a încheiat o perioadă tumultoasă pentru dezbaterea despre guvernarea AI. Cu câteva zile mai devreme, CEO-ul Anthropic, Dario Amodei, a publicat un eseu în care cere laboratoarelor de frontieră să ritmeze dezvoltarea, avertizând asupra riscurilor de la pierderea controlului la bioterorism - o poziție susținută public de alți lideri de laboratoare, potrivit rapoartelor larg răspândite. În aceeași zi, Hinton s-a adresat senatorilor, cercetători proeminenți în domeniul inteligenței artificiale, inclusiv Andrew Ng, au respins public preocupările privind extincția ca fiind exagerate, subliniind un domeniu care se ceartă cu el însuși în public.

Pe Capitol Hill, activitatea a fost mai zgomotoasă decât producția. Senatorul Cory Booker i-a cerut președintelui Trump să convoace o sesiune specială a Congresului pe tema inteligenței artificiale, în timp ce un grup bipartizan pentru rezolvarea problemelor a anunțat săptămâna aceasta un nou grup de lucru pentru AI și tehnologiile emergente. Niciuna dintre acestea nu a produs încă o lege federală obligatorie.

De ce contează încadrarea de un an

Avertismentele determinate de termene limită de la pionierii AI au devenit o rutină, dar specificul cronologiei lui Hinton - livrat direct persoanelor cu autoritate de a legifera, într-o cameră exclusă directorilor din industrie - marchează o schimbare de ton. Avertismentele anterioare din partea cercetătorilor au proiectat, de obicei, riscul pe orizonturi de decenii; o fereastră de un an implică răspunsuri politice concepute pentru Congresul actual, nu pentru cele viitoare.

De asemenea, accentuează problema politică. După cum arată propriul scepticism al lui Hinton și blocajul procedural al senatorului Paul, nu există un consens nici măcar în rândul figurilor care se gândesc la siguranță asupra intervențiilor care ar funcționa. Hinton a susținut că situația internațională – în special concurența cu China – face ca încetinirile unilaterale să fie fragile din punct de vedere politic, o tensiune care a împiedicat cele mai serioase propuneri de până acum.

Ceea ce se întâmplă în continuare este, după ceasul lui Hinton, o chestiune de luni. Dacă briefing-ul schimbă acest calcul depinde de un Senat care, din conturile propriilor membri, nu se mișcă în prezent deloc.

Rămâi înaintea AI

Politica AI se mișcă rapid – la fel și orice altceva în domeniu. Pentru mai multe știri de ultimă oră, actualizări ale regulamentelor și analize, citește mai multe știri despre AI →.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →