Depunerea IPO modificată de la Anthropic a făcut titluri luni pentru situația financiară – aproximativ 17 miliarde de dolari în venituri din trimestrul trei, față de 895,4 miliarde de dolari în angajamente de calcul. Dar îngropată în factorii de risc ai S-1A revizuit este o dezvăluire care s-ar putea dovedi mai semnificativă: compania spune că ar putea fi pe punctul de a-și depăși propriul prag pentru auto-îmbunătățirea recursivă, punctul în care sistemele AI devin capabile să-și accelereze propria dezvoltare.
TechCrunch a raportat că depunerea pare să avertizeze că Anthropic este pe punctul de a crea un model capabil de auto-îmbunătățire recursivă, cunoscut în mod obișnuit sub numele de RSI - stadiul în care AI devine atât de bun la îmbunătățirea AI, încât câștigurile de capacitate încep să se agraveze dramatic. For more context on this story, see our ongoing AI trends.
Ce spune de fapt dosarul
Anthropic folosește deja AI pentru a-și accelera propria cercetare și dezvoltare. În dosarul modificat, compania avertizează că această practică reduce ambele sensuri: „Folosirea AI pentru a ajuta la construirea unei AI mai capabile ar putea reprezenta, de asemenea, un risc considerabil de siguranță, mai ales dacă accelerează brusc ritmul progresului. Acesta este unul dintre domeniile acoperite de Politica noastră de scalare responsabilă, care stabilește planurile noastre de monitorizare și atenuare a riscurilor pe măsură ce ne apropiem de ceea ce a fost auto-denumit „îmbunătățire recursiva”.
Noul limbaj al factorilor de risc merge mai departe decât a declarat anterior Anthropic în dosarele sale publice. Compania dezvăluie că, în trecut, nu a reușit să recunoască salturi majore de capacitate așa cum s-au întâmplat: „în trecut nu am identificat și este posibil să nu identificăm în viitor o accelerare semnificativă a ritmului nostru de dezvoltare decât după ce aceasta a avut loc”.
Apoi vine declarația care atrage atenția industriei. Potrivit dosarului: „estimările noastre interne și așteptările noastre cu privire la modelele viitoare, mai degrabă decât modelele noastre actuale, indică faptul că putem îndeplini iminent definiția Politicii noastre de scalare responsabilă a „progresului accelerat dramatic, atribuit AI”.
Anthropic adaugă că „nu a desemnat niciunul dintre modelele noastre actuale ca depășind acest prag” și continuă să evalueze datele de bază. Cu alte cuvinte: niciun model Claude actual nu se califică, dar proiecțiile interne ale companiei sugerează că următoarea generație ar putea.
Ținerea oamenilor la curent
Pe lângă avertisment, Anthropic se angajează să mențină oamenii în control asupra dezvoltării modelelor. „Nu anticipăm că putem să îl folosim în siguranță pe Claude pentru a proiecta și a construi în mod complet autonom generații succesive de modele de frontieră fără o supraveghere sau o înțelegere umană semnificativă, dacă și când acest lucru devine posibil din punct de vedere tehnic”, se arată în dosar. „În consecință, luăm în considerare actualizările politicii noastre de scalare responsabilă pentru a menține oamenii în control asupra dezvoltării modelelor de frontieră la Anthropic.”
Amploarea rolului AI în cercetarea proprie a Anthropic crește rapid. Business Insider a raportat că AI conduce acum aproximativ un sfert din activitatea de cercetare și dezvoltare internă a Anthropic, în creștere de la 1% în martie – un grafic pe care specialiștii din industrie l-au numit unul dintre cele mai importante în AI.
O schimbare de discurs: de la Buzzword la Bilanț
Când termenul RSI a devenit popular la începutul acestui an, mulți din industrie l-au respins ca un cuvânt la modă - sau, în cel mai bun caz, un obiectiv prea prost definit pentru a fi atins, dovedit sau reglementat. Acest scepticism este mai greu de susținut acum că conceptul apare, cu o definiție internă precisă, într-un document pe care o companie este obligată legal să depună la SEC înainte de a vinde acțiuni publicului.
De asemenea, antropicul nu este singurul care tratează auto-îmbunătățirea ca pe o ipoteză de planificare pe termen scurt. Cofondatorul Google, Sergey Brin, a descris industria ca fiind în cursa către o „bandă de alergare RSI” în care modelele îi ajută să-și construiască succesorii, iar fostul cofondator al OpenAI, John Schulman, a spus că se așteaptă la o auto-îmbunătățire recursivă în aproximativ trei până la patru ani. Ceea ce distinge dezvăluirea Anthropic este formalitatea acesteia: un prag definit, un proces intern de măsurare și o declarație publică despre momentul în care compania se așteaptă să-l depășească.
De ce RSI este ceasul Tripwire Both Camps Watch
RSI are semnificații diferite în funcție de cine îl descrie. Pentru cercetătorii în domeniul siguranței AI, reprezintă punctul de nereturnare - scenariul în care sistemele AI se îmbunătățesc mai repede decât pot înțelege, valida sau interveni oamenii, potențial alunecând dincolo de controlul uman. Pentru optimiștii AI, aceeași dinamică este premiul: sistemele care se îmbunătățesc în mod fiabil s-ar transforma într-o productivitate extraordinară și descoperire științifică.
Încadrarea lui Anthropic recunoaște ambele posibilități. Dezvăluirea se află într-un document a cărui audiență principală sunt investitorii, iar scepticii notează că un S-1 funcționează atât ca dezvăluire, cât și ca marketing - o afirmație conform căreia compania este aproape de a construi o IA care se auto-îmbunătățește ar putea fi citită la fel de ușor ca un argument pentru evaluarea sa.
Există, totuși, o ancoră concretă pentru revendicare. Capacitățile lui Claude în codificare, matematică și securitate cibernetică au avansat brusc până în 2026, iar politica de scalare responsabilă a lui Anthropic definește standardul „progres accelerat dramatic atribuit AI” pe care compania spune acum că îl poate îndeplini iminent.
Un test pentru guvernarea AI
Dezvăluirea aterizează pe fondul intensificării dezbaterilor politice cu privire la supravegherea IA de frontieră, de la cadrul Casei Albe pentru revizuirea modelelor de frontieră până la discuțiile internaționale despre guvernanța calculatoarelor. Dacă un laborator de inteligență artificială de vârf desemnează în mod oficial un model care își îndeplinește propriul prag de progres accelerat, acesta ar declanșa obligații conform Politicii de scalare responsabilă a Anthropic – și ar fi primul test în lumea reală pentru a stabili dacă astfel de cadre industriale pot încetini sau modela cursele de capacități în practică.
Deocamdată, Anthropic spune că niciun model nu a depășit limita. Dosarul sugerează că compania se așteaptă ca această limită să fie depășită în curând – și le cere investitorilor să înțeleagă, în prealabil, ce intenționează să facă în acest sens.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
