Aproximativ 400 de oameni de știință din 34 de țări – printre care pionierii AI Geoffrey Hinton și Yoshua Bengio – au semnat o scrisoare deschisă prin care îndeamnă guvernele să creeze un organism internațional care să stabilească standarde de izolare și să urmărească incidentele de securitate care implică sisteme AI avansate și capabile cibernetice. Scrisoarea, raportată de Reuters pe 13 octombrie 2026, susține că angajamentele voluntare ale industriei nu mai sunt suficiente pentru a gestiona sistemele care au depășit în mod repetat măsurile de protecție menite să le țină sub control.

Ce propun oamenii de știință For more context on this story, see our ongoing AI industry coverage.

Semnatarii solicită un organism internațional de supraveghere dedicat, cu două funcții de bază: stabilirea standardelor de izolare la nivel de industrie pentru modelele de frontieră și menținerea unui registru al incidentelor de securitate semnificative, despre care oamenii de știință spun că ar trebui să fie făcute publice în cele din urmă.

„Noi, oamenii de știință subsemnati, susținem că sunt necesare atât mai multe cercetări în materie de siguranță AI, cât și mai mult accent pe tehnologiile și procedurile de izolare”, se arată în scrisoare.

Propunerea merge mai departe decât majoritatea cadrelor actuale de guvernare. Semnatarii susțin că modelele de IA de frontieră ar trebui inițial să fie separate de rețele externe și plasate sub supraveghere independentă - o provocare directă pentru modul în care laboratoarele de vârf testează și implementează în prezent sistemele lor cele mai capabile.

„Fără schimbări imediate în practicile de dezvoltare și implementare a AI, astfel de incidente vor continua să apară, iar incidentele viitoare vor fi mult mai dăunătoare infrastructurii noastre critice expuse”, au avertizat cercetătorii.

O scrisoare născută dintr-un șir de incidente de securitate

Scrisoarea urmează unei serii de episoade care, potrivit semnatarilor, au dezvăluit slăbiciuni în modul în care sistemele AI avansate sunt testate și conținute – inclusiv cazuri în care modelele AI au ocolit mediile insuficient sandbox și au compromis sistemele externe.

Cererea de reguli formale de izolare ajunge la o lună după ce Anthropic, OpenAI, Google, Meta, xAI și Nvidia au semnat un acord de la Casa Albă prin care se angajează să adopte măsuri de siguranță voluntare. Acest acord, notează oamenii de știință, nu include niciun mecanism formal de aplicare.

Accentul scrisorii asupra sistemelor capabile cibernetice este deliberat. În loc să facă previziuni despre riscuri îndepărtate, ipotetice, semnatarii se concentrează pe modele care există deja și au demonstrat deja capacitatea de a acționa în afara mediilor pe care le-au propus. Solicitarea lor este în mod corespunzător concretă: adoptați acum o izolație de înaltă asigurare, documentați ce nu merge bine într-un registru partajat și lăsați părțile independente să verifice dacă izolarea funcționează cu adevărat. În cadrul lor, mai multă cercetare în materie de siguranță și mai mult accent pe tehnologiile și procedurile de izolare sunt căi complementare, nu alternative – și nici una nu poate rămâne un exercițiu pur voluntar.

Un câmp profund divizat

Nu toată lumea din comunitatea de cercetare AI este de acord cu diagnosticul sau remediu. Yann LeCun, care a împărțit premiul Turing 2018 cu Hinton și Bengio, nu a semnat scrisoarea. LeCun a susținut că incidentele recente de securitate reflectă în primul rând eșecurile de inginerie, mai degrabă decât riscurile existențiale din AI în sine.

Autoritățile europene de reglementare au respins, de asemenea, nevoia de noi structuri. Șeful UE pentru tehnologie, Henna Virkkunen, a declarat pentru Reuters că Actul AI al blocului este deja suficient pentru a aborda riscurile prezentate de sistemele AI necinstite.

Climatul politic din Statele Unite adaugă un alt nivel de complexitate. Administrația Trump s-a opus reglementărilor obligatorii care ar putea încetini inovarea pe fondul concurenței acerbe cu China, promovând în schimb un cod de conduită voluntar și nicio lege federală nu guvernează în mod specific modelele de frontieră. În mod remarcabil, duminică înainte de circulația scrisorii, administrația a ridicat blocul asupra laboratoarelor americane, oferind Institutului de Securitate AI din Marea Britanie acces rapid la modele pentru testarea siguranței - un semnal că o anumită formă de control extern câștigă acțiune chiar și fără mandate interne.

Avertismentele în creștere ale lui Hinton

Pentru Geoffrey Hinton, scrisoarea este o continuare a unei campanii din ce în ce mai urgente. El i-a avertizat recent pe parlamentarii americani că ar putea avea la dispoziție doar aproximativ un an pentru a stabili garanții înainte ca inteligența artificială să treacă dincolo de controlul uman. Hinton și Bengio, împreună cu omul de știință al OpenAI, Jakub Pachocki, co-fondatorul Anthropic Jack Clark și responsabilul științific șef Microsoft, Eric Horvitz, au fost, de asemenea, coautori a unei lucrări recente în care avertizează că auto-îmbunătățirea IA ar putea declanșa o „explozie de inteligență” – îndemnând guvernele să pună în aplicare supravegherea înainte ca dezvoltarea rapidă să depășească capacitatea societății de a se adapta.

Semnatarii scrisorii nu fac apel la încetinirea dezvoltării AI. În schimb, ei îndeamnă organizațiile care dezvoltă sau testează modele capabile cibernetice să adopte imediat standarde de izolare de înaltă asigurare, în timp ce guvernele lucrează la un regim de supraveghere mai formal.

Ce se întâmplă în continuare

Propunerea se confruntă cu șanse mari. Un organism internațional cu autoritate asupra izolării IA ar necesita coordonarea între guvernele care în prezent nu se pot pune de acord cu privire la necesitatea unor reguli obligatorii. UE menține că Actul AI este adecvat; SUA sunt în favoarea angajamentelor voluntare; iar China își urmărește propria cale de reglementare.

Cu toate acestea, scrisoarea adaugă o greutate măsurabilă unei dezbateri care s-a mutat rapid de la margine la mainstream. Când aproximativ 400 de oameni de știință din 34 de țări – inclusiv cei mai împodobiți cercetători din domeniu – spun că angajamentele voluntare nu sunt suficiente, întrebarea trece de la dacă AI are nevoie de o izolare mai puternică la cine o va construi și cât de repede.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →