OpenAI a confirmat că acesta, Anthropic și Google DeepMind au purtat discuții despre coordonarea siguranței AI de câteva săptămâni și spune că sprijină legislația care ar forța laboratoarele de frontieră să-și deschidă porțile organizațiilor independente de verificare.
Chris Lehane, directorul pentru afaceri globale al OpenAI, a făcut dezvăluirea la o întâlnire de marți, potrivit TechCrunch. Reuters și Bloomberg, citând aceleași remarci, au raportat că OpenAI lucrează cu Anthropic și Google pentru siguranța AI. Confirmarea transformă săptămâni de indicii – inclusiv un interviu Fortune în care Sam Altman a recunoscut discuțiile private cu alți lideri AI – într-o admitere explicită că cele trei laboratoare de frontieră de top din lume se coordonează cu privire la cât de repede se mișcă și la modul în care modelele lor sunt verificate.
Pentru cititorii care au urmat luptele politice mai ample din jurul unei încetiniri a AI, acoperirea actualizărilor inteligenței artificiale săptămâna aceasta a variat de la co-fondatorul Anthropic, Jack Clark, susținând un comutator obligatoriu, până la președintele Trump, care a numit temerile de siguranță o farsă în timpul unui apel pe scenă cu Jensen Huang de la Nvidia.
Săptămâni de confirmare în curs
Discuțiile urmează unui eseu publicat sâmbătă de CEO-ul Anthropic, Dario Amodei, în care se cere industriei să lucreze împreună pentru a încetini ritmul dezvoltării AI de frontieră pentru a evita riscurile catastrofale. Scrisoarea a atras sprijin din întreaga industrie, Altman, Demis Hassabis de la Google și Elon Musk susținând toți apelul la acțiune, iar Altman spunând că OpenAI se va alătura efortului.
Informația a raportat ulterior că cele trei companii au lucrat pentru a crea un organism de standardizare pentru industria AI. Hassabis are un palmares în această idee: în iulie a cerut Statelor Unite să înființeze un nou organism de standardizare care să acționeze ca un supraveghetor al AI, cu puterea de a verifica cele mai avansate modele din lume și de a coordona încetinirile la nivel de industrie dacă pericolele progresează.
Ceea ce adaugă remarcile lui Lehane este o confirmare oficială. Până acum, purtătorii de cuvânt ai laboratoarelor făcuseră în mare măsură semne de dialog informal; Șeful pentru afaceri globale al OpenAI a trecut acum coordonarea în evidență.
Umbra antitrust
Orice înțelegere între concurenții direcți pentru a încetini dezvoltarea provoacă întrebări antitrust evidente, iar laboratoarele știu asta. Altman însuși a remarcat că astfel de discuții ar putea pune companiile în pericol de a încălca legea antitrust dacă s-ar constata că coordonarea suprimă concurența. Eseul lui Amodei a propus o derogare guvernamentală îngustă care ar permite coordonarea siguranței fără a declanșa legea concurenței – un semn al cât de serios este luată problema în interiorul companiilor.
Criticii s-au grăbit să sublinieze tensiunea din centrul aranjamentului: cele trei firme care dețin cele mai mari cote de piață în IA de frontieră care decid împreună să raționaleze progresul arată, pentru sceptici, comportamentul cartelului cu un pachet de siguranță. Susținătorii răspund că riscul catastrofal este tocmai genul de problemă pe care concurenții nu le pot rezolva unilateral, deoarece orice laborator care încetinește singur pur și simplu cedează frontiera rivalilor.
OpenAI acceptă verificările de la terți
Cele mai concrete știri politice din remarcile lui Lehane se referă la legislație. El a spus că OpenAI sprijină o prevedere din Legea FRONTIER care ar cere ca laboratoarele de frontieră de vârf să permită „organizațiilor independente de verificare” să intre în companiile lor pentru a se asigura că modelele sunt dezvoltate în siguranță. Politico a raportat că OpenAI susține un plan bipartizan House construit în jurul evaluărilor de siguranță ale terților.
Această poziție ar fi fost de neconceput pentru domeniu în urmă cu doi ani, când angajamentele voluntare și echipele interne roșii erau standardul industriei. Acum aliniază OpenAI cu postura de audit pe care Anthropic a promovat-o de mult și creează un punct rar de acord între laboratoare și aripa dezbaterii politice care a petrecut anul cerând o supraveghere aplicabilă.
De asemenea, provoacă o coliziune cu Casa Albă. Președintele Trump a respins preocupările legate de siguranță drept o farsă și a susținut că orice încetinire ar oferi Chinei un avantaj în cursa AI. Consilierul său de inteligență artificială David Sacks, un investitor de lungă durată cu mize personale în industrie, a numit temerile de risc existențial exagerate. În Marea Britanie, miniștrii rămân împărțiți public în legătură cu aceeași întrebare, o facțiune îndemnând guvernul să țină seama de avertismentele experților, în timp ce secretarul de afaceri Reynolds a respins discuțiile despre un comutator de oprire pentru sistemele avansate.
O luptă politică fără un teren neutru
Săptămânile următoare vor testa dacă coordonarea laboratoarelor supraviețuiește contactului cu autoritățile de concurență și cu o administrație sceptică. Un organism de standardizare creat de trei companii care controlează granița va avea de înfruntat solicitări de a include directori independenți, de a-și publica criteriile și de a se supune examinării guvernului – sau de a fi demis ca cartel privat în haine publice.
Pentru Legea FRONTIER, aprobarea OpenAI oferă sponsorilor proiectului de lege un susținător principal, dar și o nouă linie de atac pentru oponenții care susțin că cele mai mari laboratoare sunt pur și simplu reglementare-capturând domeniul, scriind reguli doar ei își permit să le urmeze. Laboratoarele mai mici și comunitatea cu greutăți deschise, care nu are loc la discuții, urmăresc îndeaproape: orice regim de verificare va apărea va defini costurile de conformare pentru toată lumea din spatele frontierei.
Ceea ce nu mai este în discuție este însăși faptul coordonării. Cele trei companii care definesc vârful AI discută acum deschis cât de repede să ruleze – și invită guvernul să ajute la arbitru.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.
Citește mai multe știri AI →
