Anthropic își îmbunătățește capacitățile modelelor sale AI de aproximativ de două ori mai repede decât în ​​urmă cu un an, iar o mare parte din această accelerare pare să provină din sistemele AI care ajută la construirea propriilor succesori, potrivit unei analize independente publicate joi de grupul nonprofit de evaluare METR.

Descoperirile, raportate de Associated Press, au o greutate neobișnuită, deoarece se bazează pe ceea ce METR a descris drept „acces fără precedent” la datele interne ale Anthropic. Cercetătorii din grupul din Berkeley, California – al cărui nume complet este Model Evaluation and Threat Research – au fost invitați în cadrul companiei timp de aproximativ 11 săptămâni, de la jumătatea lunii august până la sfârșitul lunii octombrie, unde au analizat datele cercetării interne și au intervievat personalul.

Pentru cititorii care urmăresc dezbaterea privind siguranța în jurul laboratoarelor de frontieră, consultați acoperirea noastră breaking AI news.

Constatarea de bază: Progresul se agravează

Estimarea centrală a METR este că Anthropic își îmbunătățește performanța modelelor pe sarcini bine specificate de aproximativ de două ori mai repede decât a fost cu un an mai devreme. Raportul a spus clar: „Anthropic pare să fi făcut la fel de mult progres în ceea ce privește valorile de referință în ultimul an, precum a făcut între octombrie 2023 și octombrie 2025”.

Mai important este ceea ce METR crede că conduce accelerația. Cercetătorii au spus că au reușit să excludă „cu încredere” creșterea puterii de calcul ca cauză – în mod tradițional variabila cea mai strâns legată de performanța modelului. Concluzia lor: îmbunătățirea se datorează în mare parte utilizării AI în sine pentru a face cercetare AI.

Anthropic a recunoscut că chatbot-ul său Claude ajută din ce în ce mai mult compania să dezvolte versiuni mai noi și mai avansate ale acesteia. Raportul METR a constatat că nu există „gâte de strângere” – cum ar fi restricțiile privind calcularea sau datele – care împiedică acest proces și a remarcat că, deși AI nu aduce încă „contribuții foarte semnificative și complet autonome” la cele mai importante părți ale antrenamentului de model, cercetătorii Anthropic au descris „semne de viață” semnificative, ceea ce sugerează că s-ar putea schimba în curând.

Concluziile au dus la o dezbatere la mijlocul încetinirii

Momentul este ciudat pentru o companie al cărei director executiv a făcut lobby pentru reținere. În perioada de evaluare a METR, CEO-ul Anthropic, Dario Amodei, a publicat un eseu pe 12 septembrie în care îndeamnă industria AI să „încetinească ritmul în care îmbunătățim capacitățile modelelor AI”, astfel încât măsurile de siguranță să poată ajunge din urmă.

De asemenea, METR a revizuit atât raportul public de risc Anthropic publicat în august, cât și o versiune privată și a concluzionat că documentul public „subestimează în general nivelul de accelerare care avea loc”.

Răspunsul lui Anthropic: acord parțial, redacții grele

Sam McCandlish, un co-fondator Anthropic și arhitectul șef al companiei, a răspuns raportului joi într-o postare lungă pe X, scriind că multe dintre concluziile METR se potrivesc cu propria sa viziune.

„AI ne accelerează cercetarea, dar este greu de spus exact cât de mult”, a scris el, adăugând că Anthropic intenționează să-și lanseze propria analiză a ritmului progresului AI în cadrul companiei în săptămânile următoare.

McCandlish a apărat, de asemenea, decizia companiei de a redacta porțiuni mari din raport, care a limitat cât de precis ar putea METR să comunice estimările sale de accelerare. El a spus că împărtășirea „exact ceea ce determină accelerarea nu este ceea ce trebuie făcut”, deoarece informațiile sunt sensibile din punct de vedere comercial și „risc să înmâneze o foaie de parcurs pentru ca alții să meargă mai repede” – ceea ce, a susținut el, ar înrăutăți riscurile pentru care METR este îngrijorat. „Este un compromis”, a scris el.

Avertismente importante

Raportul a fost, după propria descriere a METR, presărat cu avertismente. Grupul a spus că descoperirea sa principală ar putea exagera: accelerația măsurată se poate aplica doar sarcinilor bine specificate care pot fi clasificate automat, mai degrabă decât lucrării mai dezordonate și deschise care definesc cercetarea de frontieră. Alternativ, Anthropic ar fi putut pur și simplu să fi subestimat linia de bază anterioară, făcând ca ultimul salt să pară mai mare decât este.

Poziția METR este de remarcată și din motive de transparență: organizația nonprofit este finanțată prin donații, nu acceptă compensații pentru evaluările sale și a efectuat evaluări de capacități pentru Anthropic, OpenAI și alte laboratoare de ani de zile - deși companiile partenere oferă acces la model și token-urile necesare pentru a-și desfășura cercetarea.

De ce contează acum

Analiza ajunge cu săptămâni înainte ca Anthropic să se așteaptă să devină publică în ceea ce ar putea fi cea mai mare ofertă publică inițială din istorie, cu dezbaterea învolburând dacă modelele AI din ce în ce mai capabile ar putea eluda controlul uman. Susținătorii siguranței au susținut de mult timp că verificarea independentă – nu auto-raportarea în laborator – este singura măsură de încredere a cât de repede se mișcă frontiera, mai ales că administrația Trump a încurajat companiile să se autopolițeze.

METR a semnalat o ultimă îngrijorare: dacă cercetarea AI asistată de AI începe să se agraveze, accelerația în sine s-ar putea accelera, riscurile din modelele avansate crescând într-un ritm pe care observatorii din afara nu pot urmări cu ușurință. Raportul grupului sugerează că cel puțin pentru un laborator lider, bucla de feedback de care s-a îngrijorat domeniul nu mai este ipotetică - apare în datele de referință.

Cât de repede urmează restul industriei este întrebarea pe care o vor urmări acum autoritățile de reglementare, investitorii și proprii directori ai companiei.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.

Citește mai multe știri AI →