Jak wynika z niezależnej analizy opublikowanej w czwartek przez organizację non-profit METR, firma Anthropic poprawia możliwości swoich modeli sztucznej inteligencji mniej więcej dwa razy szybciej niż rok temu, a wydaje się, że znaczna część tego przyspieszenia pochodzi z systemów sztucznej inteligencji pomagających w budowaniu własnych następców.
Odkrycia, zgłoszone przez Associated Press, mają niezwykłą wagę, ponieważ opierają się na tym, co METR określiło jako „bezprecedensowy dostęp” do wewnętrznych danych Anthropic. Badacze z grupy z Berkeley w Kalifornii — której pełna nazwa to Model Evaluation and Threat Research — byli zapraszani do firmy na około 11 tygodni, od połowy sierpnia do końca października, podczas których analizowali dane z badań wewnętrznych i przeprowadzali wywiady z pracownikami.
Czytelnicy śledzący debatę na temat bezpieczeństwa w laboratoriach przygranicznych mogą zapoznać się z naszymi najświeższymi wiadomościami o sztucznej inteligencji.
Podstawowe ustalenie: postęp jest złożony
Centralne szacunki METR wskazują, że Anthropic poprawia wydajność swoich modeli w przypadku dobrze określonych zadań około dwa razy szybciej niż rok wcześniej. W raporcie stwierdzono to wyraźnie: „Wygląda na to, że firma Anthropic poczyniła w zeszłym roku taki sam postęp w zakresie wskaźników referencyjnych, jak między październikiem 2023 r. a październikiem 2025 r.”
Bardziej istotne jest to, co według METR napędza przyspieszenie. Naukowcy stwierdzili, że byli w stanie „z całą pewnością” wykluczyć wzrost mocy obliczeniowej jako przyczynę – tradycyjnie zmienną najściślej powiązaną z wydajnością modelu. Ich wniosek: postęp wynika w dużej mierze z wykorzystania samej sztucznej inteligencji do prowadzenia badań nad sztuczną inteligencją.
Anthropic przyznał, że chatbot Claude w coraz większym stopniu pomaga firmie w opracowywaniu nowszych, bardziej zaawansowanych wersji samego siebie. W raporcie METR nie znaleziono żadnych „wąskich gardeł” – takich jak ograniczenia w zakresie obliczeń lub danych – wstrzymujących ten proces i zauważono, że chociaż sztuczna inteligencja nie wnosi jeszcze „wysoce znaczącego i w pełni autonomicznego wkładu” w najważniejsze elementy szkolenia modelowego, badacze z firmy Anthropic opisali znaczące „oznaki życia”, co sugeruje, że może się to wkrótce zmienić.
Wyniki znalazły się w debacie w połowie spowolnienia
Moment jest nieodpowiedni dla firmy, której dyrektor naczelny lobbuje za powściągliwością. To właśnie w okresie oceny METR dyrektor generalny Anthropic, Dario Amodei, opublikował 12 września esej, w którym wzywał branżę sztucznej inteligencji do „spowolnienia tempa ulepszania możliwości modeli sztucznej inteligencji”, aby możliwe było nadrobienie zaległości w zakresie środków bezpieczeństwa.
METR dokonał także przeglądu zarówno publicznego raportu na temat ryzyka Anthropic opublikowanego w sierpniu, jak i wersji prywatnej i doszedł do wniosku, że dokument publiczny „ogólnie zaniża poziom występującego przyspieszenia”.
Odpowiedź Anthropic: częściowa zgoda, poważne redakcje
Sam McCandlish, współzałożyciel Anthropic i główny architekt firmy, odpowiedział na czwartkowy raport w obszernym poście na X, pisząc, że wiele wniosków METR pokrywa się z jego własnymi poglądami.
„Sztuczna inteligencja przyspiesza nasze badania, ale trudno powiedzieć dokładnie w jakim stopniu” – napisał, dodając, że Anthropic planuje w nadchodzących tygodniach opublikować własną analizę tempa postępu rozwoju sztucznej inteligencji w firmie.
McCandlish bronił także decyzji firmy o zredagowaniu dużej części raportu, co ograniczało dokładność METR w przekazywaniu szacunków dotyczących przyspieszenia. Powiedział, że dzielenie się „dokładnie tym, co powoduje przyspieszenie, nie jest właściwym postępowaniem”, ponieważ informacje te mają charakter wrażliwy zarówno pod względem handlowym, jak i „ryzykują udostępnienie innym planu działania, aby działać szybciej” – co jego zdaniem pogorszyłoby ryzyko, którego obawia się METR. „To kompromis” – napisał.
Ważne zastrzeżenia
Według opisu METR, raport był pełen zastrzeżeń. Grupa stwierdziła, że jej główne ustalenie może być przesadą: zmierzone przyspieszenie może dotyczyć jedynie dobrze określonych zadań, które można oceniać automatycznie, a nie bardziej chaotycznej, otwartej pracy, która definiuje pionierskie badania. Alternatywnie, Anthropic mógł po prostu zaniżyć swój wcześniejszy poziom bazowy, przez co najnowszy skok będzie wyglądał na większy, niż jest w rzeczywistości.
Stanowisko METR jest również warte odnotowania ze względu na przejrzystość: organizacja non-profit finansuje się z darowizn, nie przyjmuje wynagrodzenia za swoje oceny i od lat przeprowadza oceny możliwości dla laboratoriów Anthropic, OpenAI i innych – chociaż firmy partnerskie zapewniają dostęp do modeli i tokeny potrzebne do prowadzenia badań.
Dlaczego to ma teraz znaczenie
Analiza pojawia się na kilka tygodni przed planowanym wejściem spółki Anthropic na giełdę w ramach potencjalnie największej pierwszej oferty publicznej w historii, a wokół niej toczy się debata na temat tego, czy coraz wydajniejsze modele sztucznej inteligencji mogą wymknąć się ludzkiej kontroli. Zwolennicy bezpieczeństwa od dawna argumentują, że niezależna weryfikacja – a nie raportowanie laboratoryjne – jest jedyną godną zaufania miarą szybkości przesuwania się granicy, zwłaszcza że administracja Trumpa zachęcała firmy do samodzielnego kontrolowania.
METR zwrócił uwagę na jeszcze jedną ostatnią obawę: jeśli badania nad sztuczną inteligencją wspomaganą sztuczną inteligencją zaczną się nasilać, samo przyspieszenie może przyspieszyć, a ryzyko związane z zaawansowanymi modelami będzie rosło w tempie, którego obserwatorzy z zewnątrz nie będą mogli łatwo śledzić. Raport grupy sugeruje, że przynajmniej w przypadku jednego z wiodących laboratoriów pętla sprzężenia zwrotnego, która budzi obawy w tej dziedzinie, nie jest już hipotetyczna – pojawia się w danych porównawczych.
To, jak szybko podąży za tym reszta branży, jest pytaniem, które będą teraz obserwować organy regulacyjne, inwestorzy i kadra kierownicza firmy.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
