W poniedziałek zmienione zgłoszenie spółki Anthropic na pierwszą ofertę publiczną trafiło na pierwsze strony gazet ze względu na jej dane finansowe – około 17 miliardów dolarów przychodów w trzecim kwartale w porównaniu z 895,4 miliardami dolarów zobowiązań w zakresie obliczeń. Jednak wśród czynników ryzyka poprawionego S-1A kryje się ujawnienie, które może okazać się bardziej istotne: firma twierdzi, że może być o krok od przekroczenia własnego progu rekurencyjnego samodoskonalenia, czyli punktu, w którym systemy sztucznej inteligencji stają się zdolne do przyspieszania własnego rozwoju.
TechCrunch podał, że złożenie wniosku wydaje się ostrzegać, że Anthropic jest o krok od stworzenia modelu zdolnego do rekurencyjnego samodoskonalenia, powszechnie znanego jako RSI – etapu, na którym sztuczna inteligencja staje się tak dobra w ulepszaniu sztucznej inteligencji, że przyrost jej możliwości zaczyna się dramatycznie zwiększać. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Co właściwie zawiera zgłoszenie
Anthropic już wykorzystuje sztuczną inteligencję do przyspieszania własnych badań i rozwoju. W poprawionym zgłoszeniu firma ostrzega, że taka praktyka działa w obie strony: „Wykorzystywanie sztucznej inteligencji do tworzenia bardziej wydajnej sztucznej inteligencji może również stwarzać znaczne ryzyko dla bezpieczeństwa, szczególnie jeśli gwałtownie przyspiesza tempo postępu. Jest to jeden z obszarów objętych naszą Polityką odpowiedzialnego skalowania, która określa nasze plany monitorowania i łagodzenia ryzyka w miarę zbliżania się do tak zwanego „rekurencyjnego samodoskonalenia”.
Nowy język dotyczący czynników ryzyka idzie dalej, niż Anthropic stwierdziła wcześniej w swoich publicznych dokumentach. Firma ujawnia, że w przeszłości nie dostrzegała znaczących skoków w zakresie zdolności w momencie ich wystąpienia: „w przeszłości nie zaobserwowaliśmy i możemy nie zidentyfikować w przyszłości znacznego przyspieszenia tempa rozwoju, dopóki ono nie nastąpi”.
Następnie następuje oświadczenie, które przyciąga uwagę branży. Według zgłoszenia: „nasze wewnętrzne szacunki i nasze oczekiwania dotyczące przyszłych modeli, a nie naszych obecnych modeli, wskazują, że możemy wkrótce spełnić definicję „dramatycznie przyspieszonego postępu przypisywanego sztucznej inteligencji” zawartej w naszej Polityce odpowiedzialnego skalowania.
Anthropic dodaje, że „nie określiła żadnego z naszych obecnych modeli jako przekraczającego ten próg” i w dalszym ciągu ocenia dane leżące u podstaw badania. Innymi słowy: żaden obecny model Claude się nie kwalifikuje, ale wewnętrzne prognozy firmy sugerują, że może to zrobić następna generacja.
Utrzymywanie ludzi na bieżąco
Oprócz ostrzeżenia firma Anthropic zobowiązuje się do zapewnienia ludziom kontroli nad rozwojem modelu. „Nie przewidujemy, że będziemy w stanie bezpiecznie używać Claude do w pełni autonomicznego projektowania i budowania kolejnych generacji modeli pionierskich bez znaczącego nadzoru i zrozumienia ze strony człowieka, jeśli i kiedy stanie się to technicznie możliwe” – czytamy w zgłoszeniu. „W związku z tym rozważamy aktualizację naszej Polityki odpowiedzialnego skalowania, aby ludzie mieli kontrolę nad rozwojem modeli pionierskich w Anthropic”.
Skala roli sztucznej inteligencji w badaniach własnych Anthropic szybko rośnie. Business Insider podał, że sztuczna inteligencja kieruje obecnie mniej więcej jedną czwartą wewnętrznych prac badawczo-rozwojowych Anthropic, w porównaniu z 1 procentem w marcu – wykres ten, zdaniem znawców branży, jest jednym z najważniejszych w dziedzinie sztucznej inteligencji.
Zmiana dyskursu: od modnego hasła do bilansu
Kiedy termin RSI stał się popularny na początku tego roku, wielu przedstawicieli branży odrzuciło go jako modne hasło lub, w najlepszym razie, cel zbyt słabo zdefiniowany, aby go osiągnąć, udowodnić lub uregulować. Ten sceptycyzm jest trudniejszy do utrzymania teraz, gdy koncepcja ta, wraz z precyzyjną definicją wewnętrzną, pojawia się w dokumencie, który spółka ma prawny obowiązek złożyć w Komisji Papierów Wartościowych i Giełd przed publiczną sprzedażą akcji.
Anthropic nie jest także osamotniona w traktowaniu samodoskonalenia jako założenia w ramach krótkoterminowego planowania. Współzałożyciel Google, Sergey Brin, opisał branżę jako pędzącą w kierunku „kierowca RSI”, na którym modele pomagają budować swoich następców, a były współzałożyciel OpenAI, John Schulman, powiedział, że spodziewa się rekurencyjnego samodoskonalenia w ciągu mniej więcej trzech do czterech lat. Tym, co wyróżnia ujawnienie przez Anthropic, jest jego formalność: określony próg, wewnętrzny proces pomiaru i publiczne oświadczenie, kiedy firma spodziewa się go przekroczyć.
Dlaczego RSI to przewodnik dla obu obozów
RSI ma różne znaczenia w zależności od tego, kto go opisuje. Dla badaczy bezpieczeństwa sztucznej inteligencji stanowi to punkt bez powrotu – scenariusz, w którym systemy sztucznej inteligencji ulepszają się szybciej, niż ludzie są w stanie zrozumieć, zweryfikować lub interweniować, potencjalnie wymykając się spod ludzkiej kontroli. Dla optymistów AI nagrodą jest ta sama dynamika: systemy, które niezawodnie się doskonalą, przełożą się na niezwykłą produktywność i odkrycia naukowe.
Sformułowanie Anthropic uwzględnia obie możliwości. Ujawnienie znajduje się w dokumencie, którego głównymi odbiorcami są inwestorzy, a sceptycy zauważają, że S-1 pełni zarówno funkcję ujawniania, jak i marketingu – twierdzenie, że firma jest bliska zbudowania samodoskonalącej się sztucznej inteligencji, można równie łatwo odczytać jako argument za jej wyceną.
Twierdzenie to ma jednak konkretną podstawę. Zdolności Claude'a w zakresie kodowania, matematyki i cyberbezpieczeństwa znacznie wzrosły do 2026 r., a własna polityka odpowiedzialnego skalowania firmy Anthropic definiuje standard „dramatycznie przyspieszonego postępu przypisywanego sztucznej inteligencji”, który według firmy może wkrótce osiągnąć.
Test zarządzania sztuczną inteligencją
Ujawnienie następuje w kontekście nasilających się debat politycznych na temat nadzoru nad granicami AI, począwszy od ram Białego Domu dotyczących przeglądu modeli pionierskich po międzynarodowe dyskusje na temat zarządzania obliczeniami. Jeśli wiodące laboratorium sztucznej inteligencji formalnie wyznaczy model jako spełniający własny próg przyspieszonego postępu, spowodowałoby to powstanie obowiązków wynikających z Polityki odpowiedzialnego skalowania firmy Anthropic i byłby to pierwszy w świecie rzeczywistym test tego, czy takie ramy branżowe mogą spowolnić lub kształtować wyścig możliwości w praktyce.
Na razie Anthropic twierdzi, że żaden model nie przekroczył tej granicy. Z dokumentów wynika, że firma spodziewa się wkrótce przekroczenia tej granicy i prosi inwestorów, aby z wyprzedzeniem zrozumieli, co planuje z tym zrobić.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
