Змінена заявка Anthropic на IPO потрапила в заголовки газет у понеділок через фінансові показники — приблизно 17 мільярдів доларів доходу в третьому кварталі проти 895,4 мільярдів доларів зобов’язань щодо обчислень. Але серед факторів ризику переглянутого S-1A є розкриття інформації, яке може виявитися більш значущим: компанія каже, що вона може бути на межі перетинання власного порогу рекурсивного самовдосконалення, моменту, коли системи штучного інтелекту стають здатними прискорювати власний розвиток.
TechCrunch повідомляє, що заявка, схоже, попереджає, що Anthropic знаходиться на порозі створення моделі, здатної до рекурсивного самовдосконалення, широко відомого як RSI — етап, на якому штучний інтелект стає настільки ефективним у вдосконаленні штучного інтелекту, що приріст можливостей починає різко зростати. For more context on this story, see our ongoing more AI stories.
Що насправді сказано в документі
Anthropic вже використовує ШІ для прискорення власних досліджень і розробок. У зміненій заявці компанія попереджає, що ця практика не підходить для обох сторін: «Використання штучного інтелекту для створення більш потужного штучного інтелекту також може становити значний ризик для безпеки, особливо якщо це різко прискорює темп прогресу. Це одна зі сфер, охоплених нашою Політикою відповідального масштабування, яка визначає наші плани щодо моніторингу та пом’якшення ризиків, коли ми наближаємося до того, що називається «рекурсивним самовдосконаленням».
Нова формулювання факторів ризику йде далі, ніж Антропік раніше заявляв у своїх публічних документах. Компанія розкриває, що в минулому вона не вміла розпізнавати серйозні стрибки можливостей, коли вони відбувалися: «ми в минулому не визначили і, можливо, не визначимо в майбутньому, значне прискорення темпів нашого розвитку, доки воно не відбулося».
Потім йде заява, яка привертає увагу галузі. Відповідно до заявки: «наші внутрішні оцінки та наші очікування щодо майбутніх моделей, а не наших поточних моделей, вказують на те, що ми можемо неминуче відповідати визначенню нашої Політики відповідального масштабування як «значно прискорений прогрес, пов’язаний зі штучним інтелектом».»
Anthropic додає, що «не визначив жодну з наших поточних моделей як такі, що перевищують цей поріг», і продовжує оцінювати базові дані. Іншими словами: жодна поточна модель Claude не відповідає вимогам, але внутрішні прогнози компанії припускають, що її наступне покоління може.
Тримайте людей в курсі подій
Окрім попередження, Anthropic зобов’язується тримати людей під контролем розробки моделей. «Ми не очікуємо, що ми зможемо безпечно використовувати Claude для повністю автономного проектування та створення послідовних поколінь передових моделей без суттєвого людського нагляду чи розуміння, якщо і коли це стане технічно можливим», — йдеться у заяві. «Відповідно, ми розглядаємо оновлення нашої політики відповідального масштабування, щоб люди могли контролювати розробку передової моделі в Anthropic».
Масштаби ШІ у власних дослідженнях Anthropic швидко зростають. Business Insider повідомив, що штучний інтелект зараз займає приблизно чверть внутрішніх науково-дослідних робіт Anthropic, порівняно з 1 відсотком у березні — діаграму, яку інсайдери галузі назвали однією з найважливіших у сфері ШІ.
Дискурсивна зміна: від модного слова до балансу
Коли термін RSI став популярним на початку цього року, багато хто в галузі відкинули його як модне слово — або, у кращому випадку, як мету, яку надто погано визначено, щоб досягти, довести чи регулювати. Цей скептицизм важче підтримувати тепер, коли ця концепція з’являється разом із точним внутрішнім визначенням у документі, який за законом компанія зобов’язана подати в SEC перед продажем акцій громадськості.
Anthropic також не єдиний, хто розглядає самовдосконалення як припущення для найближчого планування. Співзасновник Google Сергій Брін описав індустрію як рух до «бігової доріжки RSI», в якій моделі допомагають створювати своїх наступників, а колишній співзасновник OpenAI Джон Шульман сказав, що очікує рекурсивного самовдосконалення протягом приблизно трьох-чотирьох років. Те, що відрізняє розкриття Anthropic, це його формальність: визначений поріг, внутрішній процес вимірювання та публічна заява про те, коли компанія очікує його перетнути.
Чому RSI є Tripwire для обох таборів
RSI має різні значення залежно від того, хто його описує. Для дослідників безпеки ШІ це являє собою точку неповернення — сценарій, за яким системи ШІ вдосконалюються швидше, ніж люди можуть зрозуміти, перевірити чи втрутитися, потенційно виходячи за межі людського контролю. Для оптимістів штучного інтелекту головною перевагою є та сама динаміка: системи, які надійно вдосконалюють себе, створять надзвичайну продуктивність і наукові відкриття.
Обрамлення Anthropic визнає обидві можливості. Розкриття міститься в документі, основною аудиторією якого є інвестори, і скептики відзначають, що S-1 функціонує як для розкриття інформації, так і для маркетингу — твердження про те, що компанія близька до створення самовдосконалюючого штучного інтелекту, можна так само легко прочитати як аргумент для її оцінки.
Однак для позову є конкретна підстава. Здібності Клода в кодуванні, математиці та кібербезпеці різко просунулися до 2026 року, а власна політика відповідального масштабування Anthropic визначає стандарт «різко прискореного прогресу, пов’язаного зі штучним інтелектом», якому, за словами компанії, вона може неминуче відповідати.
Тест на управління AI
Розголошення відбувається на тлі загострення політичних дебатів щодо прикордонного нагляду за штучним інтелектом, від структури Білого дому для перегляду прикордонних моделей до міжнародних обговорень управління обчислювальною технікою. Якщо провідна лабораторія штучного інтелекту офіційно визнає модель такою, що відповідає її власному порогу прискореного прогресу, це призведе до виконання зобов’язань згідно з Політикою відповідального масштабування Anthropic — і стане першим реальним тестом того, чи такі галузеві структури можуть уповільнити або сформувати гонку можливостей на практиці.
Наразі Anthropic каже, що жодна модель не перетнула межу. Заявка свідчить про те, що компанія очікує, що ця межа буде перетнута найближчим часом, і просить інвесторів заздалегідь зрозуміти, що вона планує з цим робити.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
