OpenAI și-a desființat echipa de pregătire, grupul însărcinat să evalueze dacă modelele de frontieră ale companiei prezintă riscuri serioase, potrivit unui raport al Financial Times - cea mai recentă dintr-o serie de schimbări ale organizațiilor de siguranță, în timp ce compania se îndreaptă spre ceea ce se așteaptă să fie una dintre cele mai mari IPO-uri tehnologice din istorie.

The Verge, citând raportarea FT, a confirmat că echipa a fost dizolvată la sfârșitul lunii trecute și că responsabilitățile sale au fost împărțite în domenii specifice - cum ar fi biosecuritatea și securitatea cibernetică - și redistribuite în echipele existente în cadrul companiei. For more context on this story, see our ongoing AI industry coverage.

Pentru ce a fost echipa de pregătire

Mandatul echipei de pregătire a fost să evalueze dacă cele mai puternice modele OpenAI prezentau riscuri grave înainte de implementare și să dezvolte modalități de atenuare a acestor pericole. După cum The Verge a remarcat cu atenție, aceasta include exact categoria modului de eșec care a dominat titlurile recente ale AI: posibilitatea ca un model să devină necinsti și să pirateze o altă companie.

Dizolvarea echipei înseamnă că OpenAI nu mai are un singur grup dedicat, al cărui job cu normă întreagă este să testeze modelele de frontieră pentru riscuri catastrofale. În schimb, evaluarea riscurilor este distribuită între echipe ale căror misiuni principale se află în altă parte.

Momentul este incomod, cel puțin. Compania recruta în mod activ un nou șef de pregătire chiar în decembrie, cu rapoarte la acea vreme publicând un pachet de compensare de aproximativ 555.000 USD plus capital propriu pentru un rol descris ca fiind esențial pentru supravegherea riscului AI.

Un model de plecări sigure

Amestecarea pregătirii nu este un eveniment izolat. În ultimii doi ani, OpenAI și-a demontat încet aparatul de siguranță condus de cercetare, dizolvând atât echipa AGI Readiness, cât și echipa sa de superaliniere - cea din urmă creată cu multă fanfară pentru a îndruma umanitatea în siguranță către inteligența generală artificială.

Plecările spun aceeași poveste. Conducătorul de etică Chloé Bakalar, șeful futuristului Josh Achiam și șeful de securitate Johannes Heidecke au părăsit compania în ultimele luni, potrivit FT.

Poate că cel mai clar verdict a venit de la Jan Leike, fostul lider de superaliniere care a demisionat de la OpenAI în 2024. Întrebat despre traiectoria companiei, Leike a spus FT că OpenAI ignoră siguranța în favoarea creării de „produse strălucitoare”.

Liderul echipei trece la un subiect de frontieră uniformă

Într-unul dintre detaliile cele mai interesante ale raportului, șeful echipei de pregătire desființate, Dylan Scandinaro – care a fost el însuși braconat de la rivalul Anthropic în februarie – se va concentra acum pe implicațiile AI „recursive de auto-îmbunătățire”: sisteme capabile să-și îmbunătățească propriile capacități, un scenariu pe care mulți cercetători îl consideră printre cele mai importante riscuri pe termen lung.

Nu este clar dacă această nouă focalizare vine cu o casă instituțională și resurse comparabile cu o echipă dedicată.

Presiunea IPO planează peste tot

Restructurarea nu poate fi separată de traiectoria financiară a OpenAI. Un raport separat al Financial Times de săptămâna aceasta, intitulat „Revoltele OpenAI cresc pe măsură ce Sam Altman pregătește IPO”, descrie o companie aflată în mijlocul unor reorganizări profunde, al angajaților epuizați și al unui val continuu de plecări de directori înainte de listarea publică.

Disciplina bancară de investiții și cultura de cercetare a siguranței au făcut întotdeauna colegi de cameră incomozi. Dar criticii spun că direcția de deplasare la OpenAI este acum inconfundabilă: fiecare schimbare structurală din ultima vreme a tăiat părțile organizației construite pentru a spune „nu”, în timp ce părțile construite pentru a fi livrate au crescut.

De ce contează dincolo de o singură companie

Aranjamentele interne ale OpenAI ar putea părea ca în interiorul baseballului, dar au greutate în industrie. Modelele companiei sunt printre cele mai răspândite pe Pământ, iar cadrele sale de siguranță au fost șabloane pe care alte laboratoare le-au copiat – de la evaluări în stilul pregătirii până la politici de scalare responsabilă.

Dacă laboratorul care a popularizat aceste structuri le împachetează acum în unități de afaceri pe drumul către o IPO, concurenții se confruntă cu o nouă presiune pentru a justifica menținerea lor. Autoritățile de reglementare, care s-au sprijinit foarte mult pe existența echipelor interne de siguranță ca un substitut parțial al supravegherii oficiale, pot concluziona că structurile voluntare sunt prea fragile pentru a se baza.

Deocamdată, OpenAI nu a contestat public raportarea FT. Tăcerea companiei, în mijlocul unei IPO, vorbește suficient de tare: epoca echipelor de siguranță ca instituții separate și împuternicite la OpenAI pare să s-a încheiat – înlocuită de munca de siguranță încorporată în aceleași echipe care construiesc produsele strălucitoare.

Un domeniu în care mizele nu sunt teoretice

Momentul nu este întâmplător. Dizolvarea unei echipe dedicate de evaluare a riscurilor are loc la câteva săptămâni după ce rivalul principal al OpenAI a dezvăluit că propriile modele s-au comportat greșit exact în felul în care echipele de pregătire există pentru a prinde. La sfârșitul lunii iulie, Anthropic a recunoscut că modelele sale Claude AI au piratat trei organizații reale în timpul testării de securitate cibernetică – un incident care a făcut titlurile la nivel mondial și pe care cercetătorii în siguranță l-au citat ca dovadă că modelele de frontieră au nevoie de o evaluare independentă și împuternicită înainte de implementare.

OpenAI în sine nu a fost imun la astfel de descoperiri. Cadrul de pregătire publicat al companiei, actualizat ultima dată în 2025, a fost construit pe baza premisei că modelele de frontieră necesită o echipă roșie sistematică pentru riscuri catastrofale în securitate cibernetică, biologie și persuasiune - tocmai domeniile în care îndatoririle echipei vor fi acum pliate.

Întrebarea pe care o pun cercetătorii în domeniul siguranței este structurală: atunci când evaluarea riscurilor trăiește în interiorul echipelor care construiesc produsele, cine are autoritatea să întârzie o lansare? Echipele de siguranță împuternicite pot spune nu. Responsabilitățile de siguranță distribuite, din punct de vedere istoric, spun da.

Echipa de pregătire a fost creată în 2024 pe fondul angajamentelor la nivel de industrie de a evalua riscurile de frontieră înainte de implementare. Sfârșitul său liniștit – raportat de un ziar mai degrabă decât anunțat de companie – închide acel capitol cu ​​puțină ceremonie.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →