Згідно з незалежним аналізом, оприлюдненим у четвер некомерційною групою METR, Anthropic покращує можливості своїх моделей ШІ приблизно вдвічі швидше, ніж рік тому, і, схоже, це прискорення відбувається завдяки системам ШІ, які допомагають створювати своїх власних наступників.
Висновки, про які повідомляє Associated Press, мають надзвичайну вагу, оскільки базуються на тому, що METR назвав «безпрецедентним доступом» до внутрішніх даних Anthropic. Дослідники з групи з Берклі, штат Каліфорнія, повна назва якої — Model Evaluation and Threat Research, були запрошені в компанію приблизно на 11 тижнів, із середини серпня до кінця жовтня, де вони проаналізували дані внутрішнього дослідження та опитали співробітників.
Для читачів, які слідкують за дискусією про безпеку навколо прикордонних лабораторій, перегляньте наш репортаж надзвичайних новин AI.
Основний висновок: прогрес ускладнюється
Основна оцінка METR полягає в тому, що Anthropic покращує продуктивність своїх моделей у чітко визначених завданнях приблизно вдвічі швидше, ніж роком раніше. У звіті це чітко сказано: «Здається, Anthropic досяг такого ж прогресу в тестах за минулий рік, як і в період з жовтня 2023 по жовтень 2025».
Більш важливим є те, що, на думку METR, сприяє прискоренню. Дослідники заявили, що вони змогли «впевнено» виключити зростання обчислювальної потужності як причину — традиційно змінну, найбільш тісно пов’язану з продуктивністю моделі. Їхній висновок: покращення значною мірою зводиться до використання самого ШІ для проведення досліджень ШІ.
Anthropic визнає, що його чат-бот Claude все більше допомагає компанії розробляти нові, досконаліші версії себе. У звіті METR не виявлено жодних «вузьких місць» — таких як обмеження на обчислення чи дані — які стримують цей процес, і зазначено, що хоча штучний інтелект ще не робить «дуже значущого та повністю автономного внеску» у найважливіші частини навчання моделі, дослідники Anthropic описали значні «ознаки життя», які вказують на те, що незабаром це може змінитися.
Висновки завершилися дебатами про уповільнення
Час незручний для компанії, виконавчий директор якої лобіював стриманість. Саме під час оцінювання METR генеральний директор Anthropic Даріо Амодей 12 вересня опублікував есе, в якому закликав галузь штучного інтелекту «уповільнити темпи, з якими ми вдосконалюємо можливості моделей штучного інтелекту», щоб заходи безпеки могли надолужити згаяне.
METR також переглянув публічний звіт Anthropic про ризики, опублікований у серпні, і приватну версію, і дійшов висновку, що публічний документ «загалом занижує рівень прискорення, яке мало місце».
Відповідь Anthropic: часткова згода, значні редакції
Сем МакКендліш, співзасновник Anthropic і головний архітектор компанії, відповів на звіт у четвер у великій публікації на X, написавши, що багато висновків METR збігаються з його власною точкою зору.
«Штучний інтелект прискорює наші дослідження, але важко точно сказати, наскільки», — написав він, додавши, що Anthropic планує оприлюднити власний аналіз темпів прогресу ШІ всередині компанії найближчими тижнями.
МакКендліш також захищав рішення компанії відредагувати великі частини звіту, що обмежувало те, наскільки точно METR міг повідомити свої оцінки прискорення. Він сказав, що ділитися «саме тим, що сприяє прискоренню», — це неправильно, оскільки ця інформація є комерційно чутливою та «ризикує роздавати дорожню карту для інших, щоб рухатися швидше», — що, на його думку, посилить ризики, про які турбується METR. «Це компроміс», — написав він.
Важливі застереження
Звіт, за описом METR, був приправлений застереженнями. Група заявила, що її висновок може бути перебільшеним: виміряне прискорення може застосовуватися лише до чітко визначених завдань, які можна оцінювати автоматично, а не до більш заплутаної, відкритої роботи, яка визначає передові дослідження. Крім того, Anthropic міг просто занизити свою попередню базову лінію, через що останній стрибок виглядав більшим, ніж він є.
Позицію METR також варто відзначити з міркувань прозорості: некомерційна організація фінансується за рахунок пожертвувань, не приймає компенсацію за свої оцінки та проводить оцінку можливостей для Anthropic, OpenAI та інших лабораторій протягом багатьох років — хоча компанії-партнери надають доступ до моделі та токени, необхідні для проведення своїх досліджень.
Чому це важливо зараз
Аналіз проводиться за кілька тижнів до того, як Anthropic очікує вийти на біржу, що може стати найбільшим первинним публічним розміщенням в історії, де точаться дебати щодо того, чи можуть дедалі ефективніші моделі штучного інтелекту уникнути контролю людини. Прихильники безпеки вже давно стверджують, що незалежна перевірка, а не самозвіти лабораторій, є єдиним надійним показником того, наскільки швидко переміщується кордон, особливо тому, що адміністрація Трампа заохочувала компанії контролювати себе.
METR висловив останнє занепокоєння: якщо дослідження ШІ за допомогою штучного інтелекту почнуть посилюватися, саме прискорення може прискоритися, а ризики від просунутих моделей зростатимуть із темпами, які зовнішні спостерігачі не можуть легко відстежити. У звіті групи випливає, що принаймні для однієї провідної лабораторії цикл зворотного зв’язку, про який хвилювалася галузь, більше не є гіпотетичним — він відображається в контрольних даних.
Регулятори, інвестори та керівники компанії зараз будуть спостерігати за тим, наскільки швидко за ними піде решта галузі.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
