CEO-ul Google DeepMind, Demis Hassabis, a propus crearea unui organism de standardizare independent, condus de SUA, după modelul Autorității de Reglementare a Industriei Financiare (FINRA) pentru a evalua și reglementa modelele AI de frontieră înainte de lansarea publică, avertizând că umanitatea are o „fereastră prețioasă” pentru a se asigura că inteligența generală artificială este dezvoltată în siguranță.

Într-un document-cadru intitulat „A Framework for Frontier AI and the Dawning of a New Age”, publicat marți dimineața pe X, Hassabis a prezentat o propunere detaliată despre modul în care Statele Unite ar putea stabili o infrastructură de reglementare credibilă pentru cele mai puternice sisteme AI. Planul presupune o nouă organizație care să testeze modele de frontieră și să dezvolte cele mai bune practici pentru implementarea acestora – finanțată de industria AI, dar operată independent de orice companie.

Pentru cele mai recente știri despre AI și o analiză aprofundată a politicii, AI Buzz Wire urmărește evoluțiile care modelează industria.

Cum ar funcționa organismul de standarde propus

Conform propunerii lui Hassabis, laboratoarele de inteligență artificială își vor împărtăși în mod voluntar modelele de frontieră cu organismul de standardizare pentru a fi revizuite cu până la 30 de zile înainte de lansarea publică. Această evaluare înainte de implementare ar evalua modelele pentru siguranță, securitate și potențiale riscuri de utilizare greșită. Odată ce protocolul de evaluare se dovedește eficient și robust, cadrul prevede formalizarea procesului, astfel încât modelele de frontieră să fie obligate să-l treacă înainte de a fi implementate pe piața din SUA.

Propunerea abordează în mod direct o lacună expusă de recentele revizuiri guvernamentale ale sistemelor AI de frontieră. La începutul acestui an, guvernul SUA a efectuat evaluări ad-hoc de siguranță ale modelului Mythos de la Anthropic și ale modelului Sol de la OpenAI înainte de lansările respective. Aceste analize au atras critici semnificative pentru lipsa de profunzime tehnică și pentru luarea deciziilor opace cu privire la momentul în care un model a fost considerat suficient de sigur pentru implementarea publică.

În cadrul lui Hassabis, aceste decizii ar fi gestionate de o organizație dedicată, cu personal de experți tehnici, susținută de guvernul SUA, dar izolată de presiunea politică. De asemenea, laboratoarele ar trebui să colaboreze cu organismul de standardizare pentru a aborda vulnerabilitățile critice descoperite după lansare.

O „fereastră prețioasă” înainte de AGI

În interviurile cu Axios, CNBC și The Economist care însoțesc lansarea cadrului, Hassabis a subliniat că momentul actual reprezintă o oportunitate restrânsă de a stabili mecanisme de guvernare înainte de sosirea inteligenței generale artificiale. El a descris această perioadă drept o „fereastră prețioasă” – ceea ce înseamnă că fereastra nu va rămâne deschisă la infinit.

Hassabis a fost mult timp un susținător al guvernării proactive AI. Cadrul său vine pe fondul intensificării dezbaterii cu privire la dacă Statele Unite ar trebui să creeze un organism oficial de reglementare a inteligenței artificiale și, dacă da, ce formă ar trebui să ia. Modelul FINRA este remarcabil deoarece organizația de autoreglementare a industriei financiare este finanțată de firmele membre, dar funcționează sub supraveghere guvernamentală, oferindu-i atât expertiză în industrie, cât și responsabilitate publică.

Rezistența administrației Trump

Propunerea se confruntă cu vânturi politice semnificative. Administrația Trump a semnalat un scepticism profund față de crearea de noi organisme de reglementare pentru inteligența artificială. Consilierul AI de la Casa Albă și partenerul general al a16z, Sriram Krishnan – care de atunci și-a părăsit rolul – a respins public ideea unui organism de reglementare a IA în cadrul executivului, declarând direct că „nu va exista o FDA pentru AI”.

Această poziție i-a pus pe oficialii administrației în dezacord cu unii dintre cei mai importanți lideri ai industriei. În timp ce companii precum Anthropic și OpenAI au susținut pe scară largă testele de siguranță înainte de implementare, mecanismul și autoritatea pentru astfel de testare rămân contestate. Propunerea lui Hassabis încearcă să treacă acest ac prin poziționarea organismului de standardizare ca fiind finanțat de industrie și voluntar la început, formalizarea urmând a fi doar după ce procesul își dovedește valoarea.

Construind pe eforturile existente

Cadrul nu pleacă de la zero. Se bazează pe angajamentele voluntare pe care le-au luat deja mai multe companii de IA de frontieră în ceea ce privește testarea siguranței și formarea în echipă roșie. De asemenea, se bazează pe eforturile internaționale, inclusiv Institutul pentru Siguranță AI din Marea Britanie și Procesul AI de la Hiroshima al G7, care au stabilit cadre preliminare pentru evaluarea modelelor avansate.

Cu toate acestea, propunerea lui Hassabis merge mai departe, solicitând o organizație permanentă, bine dotată cu resurse, cu mandatul de a testa fiecare model de frontieră înainte de lansare - un nivel de control pe care nici un organism actual nu îl oferă. Analogia FINRA sugerează o operațiune profesională la scară cu sute de experți tehnici, nu un mic grup consultativ.

Propunerea abordează, de asemenea, monitorizarea după implementare, solicitând laboratoarelor să colaboreze cu organismul de standardizare cu privire la vulnerabilitățile descoperite după ce un model este disponibil public. Acest lucru reflectă recunoașterea din ce în ce mai mare a faptului că riscurile de siguranță nu se termină la lansare, așa cum demonstrează jailbreak-urile și cazurile de utilizare greșită care au apărut după mai multe lansări de modele de mare profil.

Răspunsul industriei și pașii următori

Cadrul a generat o atenție semnificativă în comunitatea de politici AI. Susținătorii susțin că un regim credibil de testare înainte de desfășurare ar putea construi încrederea publicului în modelele de frontieră și ar reduce riscul de abuz catastrofal. Criticii, inclusiv unii susținători ai pieței libere, avertizează că o cerință obligatorie de testare ar putea înrădăcina marii operatori tradiționali prin crearea de bariere de reglementare pentru companiile mai mici și dezvoltatorii open-source.

Propunerea lui Hassabis nu specifică care modele s-ar califica drept „de frontieră” – o întrebare de prag care va determina domeniul de aplicare al oricărui viitor regim de reglementare. De asemenea, lasă deschis modul în care organismul de standarde ar gestiona aplicațiile clasificate sau cu dublă utilizare, în special având în vedere preocupările recente cu privire la utilizarea modelelor AI pentru a sparge sistemele clasificate din SUA.

Momentul propunerii este deliberat. Cu AGI care pare din ce în ce mai plauzibil în următorii câțiva ani, Hassabis insistă asupra faptului că infrastructura de guvernare trebuie construită acum, nu după ce apare o capacitate periculoasă. Rămâne de văzut dacă Washingtonul va acționa la apelul său.

Rămâi înaintea AI

Pentru o acoperire cuprinzătoare a politicii, reglementărilor și dezvoltărilor din industrie AI, vizitați AI Buzz Wire.

Citiți mai multe știri AI →