Anthropic opublikował w tym tygodniu pierwsze w swoim rodzaju spojrzenie na swój własny proces rozwoju, ujawniając, że model Claude „przewodzi” obecnie 26% prac badawczo-rozwojowych nad sztuczną inteligencją w firmie – w porównaniu z poniżej 1% w lutym 2026 r. Dane liczbowe pojawiły się w poście na blogu firmowym zatytułowanym „Pomiary umożliwiające zrozumienie tempa rozwoju sztucznej inteligencji w laboratoriach frontierowych”, opublikowanym przez Anthropic 17 września i zgłoszonym przez Reuters, The Washington Post i inne gniazdka.
Post jest częściowo ćwiczeniem przejrzystości, a częściowo argumentem: Anthropic chce, aby inne laboratoria graniczne publikowały tego samego rodzaju liczby, aby społeczeństwo i rządy mogły śledzić, jak szybko sztuczna inteligencja jest przekazywana klucze do jej budowania. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Trzy liczby śledzące rozwój sztucznej inteligencji
Firma zaproponowała trzy pomiary, które jej zdaniem rzucają światło na tempo rozwoju pionierskich laboratoriów: jaka część prac badawczo-rozwojowych nad sztuczną inteligencją jest wykonywana przez samą sztuczną inteligencję, jak dobrze nadzorowane są działania agentów sztucznej inteligencji oraz w jaki sposób moc obliczeniowa jest rozdzielana między prace nad zdolnościami a prace nad bezpieczeństwem.
Numer nagłówka pochodzi z tego, co Anthropic nazywa swoim indeksem automatyzacji badań i rozwoju. Firma skatalogowała każdy rodzaj prac badawczo-rozwojowych nad sztuczną inteligencją prowadzonych w firmie, oceniła stopień automatyzacji każdego zadania i zagregowała wyniki, korzystając ze skali opracowanej przez grupę badawczą Epoch AI. Skala rozciąga się od AL0 (brak zaangażowania sztucznej inteligencji) do AL5 (sztuczna inteligencja działa w pełni autonomicznie, bez udziału człowieka), przy czym AL3 oznacza, że sztuczna inteligencja „współpracuje” przy dużych fragmentach pracy pod ścisłym kierownictwem człowieka, a AL4 oznacza, że sztuczna inteligencja „przewodzi”, wykonując większość zadań od początku do końca na podstawie poleceń wysokiego poziomu pod nadzorem człowieka.
Według Anthropic, według stanu na sierpień 2026 r., Claude kieruje 26% prac badawczo-rozwojowych firmy nad sztuczną inteligencją. Udział prac na poziomie „AI współpracuje” lub wyższym przekracza 90%. Claude nie działa w pełni autonomicznie w przypadku żadnego mierzonego podzbioru prac badawczo-rozwojowych nad sztuczną inteligencją.
30 000 agentów, jeden monitor
Drugi pomiar dotyczy nadzoru. Anthropic ujawniło, że według stanu na sierpień 2026 r. około 30 000 agentów wykonywało w firmie prace badawcze i inżynieryjne na jej najczęściej używanej platformie wewnętrznej.
Jak wynika z postu, każde działanie podejmowane przez tych agentów przechodzi przez monitor online, zanim zostanie wykonane, zwykle w ciągu kilku sekund. Anthropic twierdzi, że w sierpniu przeanalizowało ponad miliard decyzji swoich agentów badawczych i inżynieryjnych i odkryło, że udział działań blokowanych lub eskalowanych przez monitory wyniósł 0,002%.
Jeśli chodzi o trzeci pomiar, alokacja mocy obliczeniowej, firma stwierdziła, że w badanym tygodniu około 6% mocy obliczeniowej przeznaczonej na prace badawczo-rozwojowe w zakresie sztucznej inteligencji przeznaczono na bezpieczeństwo.
Budowanie własnego następcy — pod nadzorem ludzi
Ramy są równie ważne jak figury. Modele Anthropic w coraz większym stopniu uczestniczą w budowaniu kolejnej generacji tych samych modeli — co badacze nazywają rekursywnym samodoskonaleniem, a co w nagłówku The Washington Post opisano bardziej dosadnie jako chatbot „przejmujący pracę nad zbudowaniem własnego następcy”.
Anthropic ostrożnie wyznacza granicę pomiędzy „AI prowadzi” a „AI zastępuje”. Na poziomie AL4 człowiek nadal nadzoruje i może interweniować; przedsiębiorstwo wyraźnie poinformowało, że żaden mierzony podzbiór jego prac badawczo-rozwojowych nie jest realizowany na poziomie AL5. Jednak trajektoria jest stroma: spadek z poniżej 1% do 26% w ciągu około siedmiu miesięcy sugeruje, że jeśli obecne trendy utrzymają się, udział prac prowadzonych przez sztuczną inteligencję może spaść o połowę na długo przed końcem dekady.
Metodologia ma realne ograniczenia i Anthropic tak twierdzi. Oceny automatyzacji zostały opracowane na podstawie próbek własnej dokumentacji pracy firmy — w tym wiadomości na platformie Slack i dokumentacji wewnętrznej — oraz na podstawie modelu, w którym zarówno ludzie, jak i sędziowie oceniali stopień zautomatyzowania każdego zadania. W ślepym teście pracownicy oceniali zadania, nie wiedząc, jakie dowody zgromadzili modele. Firma podała, że jej sędzia modelowy zgadzał się z ludźmi mniej więcej tak często, jak ludzie zgadzali się ze sobą: dokładna zgodność między modelem a człowiekiem wyniosła 59%, podczas gdy zgodność między ludźmi wynosiła zaledwie 35%, a oceny modela i ludzi mieściły się w tym samym poziomie w 97% przypadków.
Firma uznała również ryzyko związane z samoodniesieniem w swojej własnej metodologii: Anthropic wykorzystał własne modele do oceny swoich systemów, co może oznaczać, że model oceniający popełnia te same błędy, co model, który sprawdza. Twierdzi, że weryfikacja przez stronę trzecią jest prawdziwą odpowiedzią.
Nadchodzą oczy z zewnątrz
W tym celu Anthropic twierdzi, że planuje włączyć do firmy niezależnych zewnętrznych oceniających z wielu organizacji, zapewniając im dostęp do wewnętrznych procesów, systemów i danych porównywalnych z tym, czym dysponują wewnętrzne zespoły oceniające ryzyko. Zewnętrzna organizacja non-profit zajmująca się badaniem sztucznej inteligencji METR już wcześniej współpracowała z platformą monitorowania offline Anthropic.
Ujawnienie następuje w kontekście narastającej debaty na temat tempa transmisji. Dyrektor generalny Anthropic, Dario Amodei, wezwał do koordynacji w zakresie spowalniania granicy, a firma zauważa, że gdyby taka koordynacja istniała, można by się spodziewać zmiany jej liczebności. W tym tygodniu Anthropic i OpenAI były także przedmiotem publicznego listu od ekspertów ds. bezpieczeństwa, w którym argumentowali, że laboratoria potrzebują naprawdę niezależnych oceniających bezpieczeństwo.
Pytaniem otwartym jest, czy rywale pójdą śladem Anthropic. Spółka argumentuje, że każdy pionierski deweloper mógłby regularnie publikować te wskaźniki, stosując publiczną metodologię. Dopóki tego nie zrobią, jedyne publiczne dane na temat szybkości, z jaką sztuczna inteligencja buduje sztuczną inteligencję, pochodzą z samych laboratoriów.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
