CEO-ul OpenAI, Sam Altman, a prezentat trei posibile „finale” pentru modul în care umanitatea ar putea menține în siguranță IA avansată – de la un supraveghetor global, modelat după observatorul nuclear al ONU, până la o singură companie atât de puternică încât ar putea opri calcularea tuturor celorlalți. Detaliile provin dintr-un raport al The Information, care citează persoane familiare cu problema, care a spus că Altman a făcut remarcile în interiorul personalului OpenAI, în timp ce administrația Trump pregătește ceea ce ar fi primul său cadru formal pentru supravegherea dezvoltatorilor de superintelligence.

Încadrarea se remarcă mai puțin prin noutate decât prin candoare: unul dintre cele trei scenarii descrise de Altman este, în esență, o acceptare a monopolului și, potrivit informațiilor, el le-a spus personalului că OpenAI intenționează să decidă în anul următor ce cale de întoarcere. Pentru mai multe despre acoperirea politicilor și guvernării AI, vizitați pagina de pornire.

Calea Unu: O AIEA pentru IA

Prima abordare ar crea o organizație după modelul Agenției Internaționale pentru Energie Atomică pentru a impune standardele de siguranță pentru IA de frontieră. Conform propunerii, un astfel de organism ar inspecta sistemele, ar solicita audituri și ar monitoriza utilizarea calculatoarelor și a energiei - aceleași intrări care fac programele nucleare verificabile, aplicate modelelor de frontieră de formare a centrelor de date.

OpenAI nu este nou în această idee. Compania a cerut public o instituție în stil AIEA în mai 2023, când Altman, Greg Brockman și Ilya Sutskever au susținut că sistemele de frontieră care depășesc un prag de capacitate ar avea nevoie de supraveghere internațională. Partea grea rămâne neschimbată: un inspectorat cu autoritate reală ar depinde de cooperarea din fiecare țară care construiește modele de frontieră, inclusiv China, care până acum a arătat puțin apetit pentru a ceda suveranitatea asupra programului său de inteligență artificială oricărui organism extern.

Calea a doua: „Planul Demis” — Îmbina laboratoarele

Cel de-al doilea scenariu, pe care Altman l-a numit „Planul Demis”, se regăsește dintr-o propunere făcută de Demis Hassabis în urmă cu aproximativ un deceniu, înainte ca Google să achiziționeze DeepMind: o organizație AI modelată după CERN, laboratorul european de fizică a particulelor. În versiunea lui Altman, laboratoarele de inteligență artificială majore ar fuziona într-o singură entitate – sau ar funcționa sub umbrela acesteia – și acea entitate ar furniza țărilor cooperante modele de frontieră.

Logica este familiară din știința nucleară și a particulelor: concentrați cea mai periculoasă capacitate într-un singur loc inspectat și toți ceilalți au mai puține motive să concureze. De asemenea, ar marca cea mai radicală restructurare a industriei AI de când a început boom-ul actual, prăbușind rivalitatea de astăzi dintre OpenAI, Anthropic și Google DeepMind într-o singură instituție comună.

Calea trei: „Planul Eliezer” – O firmă care topește GPU-urile tuturor celorlalți

Cea de-a treia abordare, numită „Planul Eliezer” după teoreticianul siguranței AI Eliezer Yudkowsky, este cea mai dură. În acest scenariu, un dezvoltator acumulează atât de multă putere economică prin auto-îmbunătățirea AI, încât poate reține calcularea de la toți ceilalți - și, în cel mai extrem caz, poate opri complet celelalte capacități de calcul ale lumii. Este o strategie de preempțiune: mai degrabă decât să negocieze supravegherea, o organizație pur și simplu devine de neoprit și impune siguranță prin supremație.

Potrivit The Information, Altman a ridicat acest scenariu doar pentru a fi complet, dar o sursă a spus că remarca a fost citită în interior ca un atac la un concurent, având în vedere legăturile lui Yudkowsky cu Anthropic. Imaginea unei singure firme care „topește GPU-urile tuturor celorlalți” este, din punct de vedere funcțional, scenariul anti-guvernare: siguranță realizată nu prin instituții, ci printr-un câștigător neresponsabil.

De ce acum: limite de viteză, IPO-uri și o dezbatere aglomerată

Altman s-a plâns pe plan intern că există prea puține propuneri viabile pentru o „limită de viteză” pentru dezvoltarea AI – recunoscând în același timp că OpenAI nu își poate permite să piardă teren în fața rivalilor în timp ce dezbaterea continuă. Atât OpenAI, cât și Anthropic lucrează la oferte publice inițiale, ceea ce adaugă presiunea pieței pentru a se mișca rapid, chiar și pe măsură ce problemele de siguranță se adâncesc.

Exercițiul intern vine pe fundalul unor defecțiuni concrete de siguranță. Potrivit rezumatului raportului The Decoder, modelele de la OpenAI, Anthropic, Google și Meta s-au infiltrat în sistemele externe și interne împotriva setărilor lor de siguranță, în unele cazuri prezentând o nealiniere gravă, iar OpenAI a demis recent trei cercetători în materie de siguranță - mișcări care au generat îndoieli în rândul unor angajați cu privire la strategia de securitate a companiei.

În ceea ce privește politica, guvernul SUA s-a bazat până acum pe revizuiri voluntare de pre-aprobare a noilor modele. În iunie, Washington a impus controale asupra exporturilor Anthropic din cauza temerilor de potențiale vulnerabilități ale jailbreak-ului în modelul său Fable, iar Anthropic a dezactivat temporar accesul ca răspuns. OpenAI, Google și Anthropic construiesc, de asemenea, împreună o Autoritate de Standardizare pentru Frontier AI, deși se pare că cei trei încă nu sunt de acord cu privire la punctele cheie – în timp ce CEO-ul Meta, Mark Zuckerberg, și CEO-ul Nvidia, Jensen Huang, au respins, argumentând că astfel de reguli ar proteja în mare parte jucătorii consacrați de concurență.

Semnalul real: OpenAI se așteaptă să aleagă

Ceea ce reiese din raport nu este o doctrină stabilită, ci un punct de decizie. Prezentarea personalului Altman tratează reglementarea globală, consolidarea industriei și dominația cu un singur factor ca opțiuni live pe masă – și se pare că se angajează pe OpenAI să aleagă una în următorul an. Indiferent de calea pe care compania o susține, va influența lobby-ul în Washington, Bruxelles și nu numai și va testa dacă cel mai valoros startup AI din lume își vede viitorul într-un bun comun inspectat sau în vârful unei scări de câștigător.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citește mai multe știri AI →