Firma Anthropic ostrzegła w poprawionym zgłoszeniu IPO S-1/A, że może „nieuchronnie” spełnić definicję „dramatycznie przyspieszonego postępu przypisywanego sztucznej inteligencji” zawartą w jej własnej polityce odpowiedzialnego skalowania – próg powszechnie określany jako rekurencyjne samodoskonalenie, czyli RSI, czyli moment, w którym systemy sztucznej inteligencji stają się wystarczająco dobre w ulepszaniu sztucznej inteligencji, a przyrost możliwości zaczyna się sam zwiększać. TechCrunch poinformował o ujawnieniu w poniedziałek, podkreślając język ukryty w czynnikach ryzyka zawartych w zgłoszeniu, co stanowi jedno z najważniejszych stwierdzeń, jakie jakiekolwiek laboratorium AI wydało na temat własnej trajektorii.
W zgłoszeniu stwierdza się, jak sama Anthropic mówi: „nasze wewnętrzne szacunki i nasze oczekiwania dotyczące przyszłych modeli, a nie naszych obecnych modeli, wskazują, że możemy wkrótce spełnić definicję zawartą w naszej Polityce odpowiedzialnego skalowania, dotyczącą „dramatycznie przyspieszonego postępu przypisywanego sztucznej inteligencji”. Nie określiliśmy żadnego z naszych obecnych modeli jako przekraczającego ten próg i nadal oceniamy dane leżące u jego podstaw.” Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Co właściwie zawiera zgłoszenie
Ostrzeżenie wpisuje się w szerszy czynnik ryzyka związany z rosnącym wykorzystaniem przez firmę Anthropic systemów sztucznej inteligencji w celu przyspieszenia własnych badań i rozwoju. Firma ujawnia, że ta dynamika spowodowała już skoki wydajności, których nie udało się wykryć w czasie rzeczywistym. „W rezultacie w przeszłości nie zaobserwowaliśmy i być może nie odnotujemy w przyszłości znaczącego przyspieszenia tempa rozwoju, dopóki ono nie nastąpi” – czytamy w zgłoszeniu.
Antropiczne ujmuje podstawową dynamikę zarówno jako silnik, jak i zagrożenie. „Wykorzystywanie sztucznej inteligencji do budowania bardziej wydajnej sztucznej inteligencji może również stanowić znaczne ryzyko dla bezpieczeństwa, szczególnie jeśli gwałtownie przyspiesza tempo postępu” – czytamy w zgłoszeniu. „Jest to jeden z obszarów objętych naszą Polityką odpowiedzialnego skalowania, która określa nasze plany monitorowania i łagodzenia ryzyka w miarę zbliżania się do tak zwanego „rekurencyjnego samodoskonalenia”.
Stawka jest nietypowa jak na dokument IPO. RSI to koncepcja, która oddziela optymistyczne i pesymistyczne wizje AI ostrzej niż prawie jakakolwiek inna. Dla badaczy bezpieczeństwa sztucznej inteligencji rekurencyjne samodoskonalenie to scenariusz nieprawdopodobny: system, który staje się lepszy w budowaniu lepszych systemów, przyspieszając do punktu, w którym nadzór człowieka pozostaje znaczący. Dla zwolenników sztucznej inteligencji jest to obietnica: narzędzie, które prowadzi do odkryć naukowych i wzrostu produktywności, z którym nie może się równać żaden proces kierowany przez człowieka. W zgłoszeniu Anthropic potwierdza oba odczyty, jednocześnie skutecznie informując inwestorów, że według firmy zjawisko to jest na tyle bliskie, że uzasadnia własne stanowisko w sprawie czynników ryzyka.
Ochrona antropiczna jest obiecująca
Oprócz ostrzeżenia firma Anthropic zobowiązała się do informowania ludzi o rozwoju modeli granicznych w dającej się przewidzieć przyszłości. „Nie przewidujemy, że będziemy w stanie bezpiecznie używać Claude do w pełni autonomicznego projektowania i budowania kolejnych generacji modeli pionierskich bez znaczącego nadzoru i zrozumienia ze strony człowieka, jeśli i kiedy stanie się to technicznie możliwe” – czytamy w zgłoszeniu. Firma dodała, że „rozważa aktualizację naszej Polityki odpowiedzialnego skalowania, aby ludzie mieli kontrolę nad rozwojem modeli pionierskich w Anthropic”.
Firma ostrożnie podchodziła do czasu teraźniejszego: żaden aktualny model antropiczny nie został określony jako przekraczający próg RSI. Jednak sformułowanie „może wkrótce się spotkać” – zastosowane do przyszłych modeli, a nie do modeli dostarczonych – jest uderzającym przyznaniem się do sposobu, w jaki laboratorium odczytuje własne wewnętrzne szacunki i aktualnie trwające szkolenia.
Ujawnianie informacji czy marketing?
Sceptycy szybko zauważyli, że S-1 służy dwóm odbiorcom jednocześnie: jest ujawnieniem informacji prawnych i prezentacją. Twierdzenie, że firma jest u progu opracowania technologii wystarczająco potężnej, aby móc ją samodzielnie zbudować, można odczytać albo jako ostrzeżenie, albo jako argument wartościujący – albo jedno i drugie. Nie ma zewnętrznego sposobu sprawdzenia, czy wewnętrzne szacunki firmy Anthropic uzasadniają określenie „wkrótce”, a firma nie określiła żadnego obecnego modelu jako przekraczającego granicę, co pozostawia twierdzenie oparte na własnych pomiarach laboratorium w zakresie jego rurociągów badawczych.
Jednak podstawowy trend opisany w zgłoszeniu można zaobserwować z zewnątrz. Zdolności Claude'a w zakresie kodowania, matematyki i cyberbezpieczeństwa znacznie wzrosły do 2026 r., a firma Anthropic coraz częściej publicznie informowała o używaniu własnych modeli do prowadzenia badań, przeprowadzania eksperymentów dopasowujących i pomocy w pracach rozwojowych. Nowością w zgłoszeniu jest to, że firma sformalizowała w prawnie wiążącym dokumencie ujawniającym, że ta pętla informacji zwrotnej może wkrótce zostać zarejestrowana na własnej oficjalnej skali jako niebezpieczne przyspieszenie.
Dlaczego to ma znaczenie poza antropią
Ujawnienie następuje w momencie, gdy kwestia tempa rozwoju sztucznej inteligencji przeniosła się z paneli konferencyjnych do programów politycznych. Jeśli wiodące laboratorium zajmujące się bezpieczeństwem stwierdzi w zgłoszeniu SEC, że może wkrótce przekroczyć własny próg przyspieszenia opartego na sztucznej inteligencji – jednocześnie przyznając, że przegapiło takie przyspieszenia dopiero po ich wystąpieniu – organy regulacyjne, inwestorzy i konkurencyjne laboratoria mają teraz dokument, na który mogą wskazać obie strony debaty.
Dla Anthropic, która przygotowuje jedną z najchętniej obserwowanych ofert publicznych w branży, złożenie wniosku stanowi delikatny balans: wystarczające ostrzeżenie, aby wykazać, że firma poważnie podchodzi do swoich zobowiązań w zakresie bezpieczeństwa, oraz wystarczające zaufanie do swoich kontroli, aby nadal sprzedawać zalety. Aktualizacje zasad odpowiedzialnego skalowania firmy, jeśli się pojawią, pokażą, po której stronie tej równowagi znajdują się rzeczywiste praktyki laboratorium.
Śledź nasze ciągłe badania nad sztuczną inteligencją i raporty dotyczące bezpieczeństwa sztucznej inteligencji pod kątem rozwoju rekurencyjnego samodoskonalenia i zarządzania modelami pionierskimi.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
