Согласно независимому анализу, опубликованному в четверг некоммерческой оценочной группой METR, Anthropic совершенствует возможности своих моделей искусственного интеллекта примерно в два раза быстрее, чем год назад, и большая часть этого ускорения, по-видимому, происходит за счет систем искусственного интеллекта, помогающих создавать своих собственных преемников.

Выводы, о которых сообщает Associated Press, имеют необычный вес, поскольку они основаны на том, что METR назвал «беспрецедентным доступом» к внутренним данным Anthropic. Исследователи из группы из Беркли, штат Калифорния, полное название которой — Model Evaluation and Threat Research, были приглашены в компанию примерно на 11 недель, с середины августа до конца октября, где они проанализировали данные внутренних исследований и опросили сотрудников.

Читателей, следящих за дебатами по безопасности в пограничных лабораториях, можно найти в нашем репортаже последние новости искусственного интеллекта.

Основной вывод: прогресс усугубляется

По оценкам METR, Anthropic улучшает производительность своих моделей при выполнении четко определенных задач примерно в два раза быстрее, чем годом ранее. В отчете об этом говорится резко: «Похоже, что в прошлом году Anthropic добилась такого же прогресса по контрольным показателям, как и в период с октября 2023 по октябрь 2025 года».

Более важным является то, что, по мнению METR, является движущей силой ускорения. Исследователи заявили, что им удалось «уверенно» исключить рост вычислительной мощности как причину — традиционно переменную, наиболее тесно связанную с производительностью модели. Их вывод: улучшение во многом связано с использованием самого ИИ для исследований ИИ.

Anthropic признала, что ее чат-бот Клод все больше помогает компании разрабатывать новые, более совершенные версии самой себя. В отчете METR не обнаружено никаких «узких мест» — таких как ограничения на вычисления или данные, — сдерживающих этот процесс, и отмечается, что, хотя ИИ еще не вносит «весьма существенного и полностью автономного вклада» в наиболее важные части обучения моделей, исследователи Anthropic описали важные «признаки жизни», подразумевая, что ситуация может скоро измениться.

Результаты привели к дебатам в середине замедления

Время выбрано неподходящее для компании, генеральный директор которой лоббирует ограничения. Именно во время периода оценки METR генеральный директор Anthropic Дарио Амодей опубликовал 12 сентября эссе, призывающее индустрию искусственного интеллекта «замедлить темпы улучшения возможностей моделей искусственного интеллекта», чтобы меры безопасности могли наверстать упущенное.

METR также рассмотрел как публичный отчет о рисках Anthropic, опубликованный в августе, так и частную версию, и пришел к выводу, что публичный документ «в целом занижает уровень происходящего ускорения».

Ответ Anthropic: частичное согласие, серьезные правки

Сэм МакКэндлиш, соучредитель Anthropic и главный архитектор компании, отреагировал на отчет в четверг в длинном посте на X, написав, что многие выводы METR совпадают с его собственной точкой зрения.

«ИИ ускоряет наши исследования, но трудно сказать, насколько именно», — написал он, добавив, что Anthropic планирует в ближайшие недели опубликовать собственный анализ темпов развития ИИ внутри компании.

МакКэндлиш также защищал решение компании отредактировать большую часть отчета, что ограничивало точность METR, сообщающего свои оценки ускорения. Он сказал, что делиться «именно тем, что приводит к ускорению, не правильно», поскольку эта информация одновременно является коммерческой конфиденциальной и «рискует раздать другим дорожную карту для ускорения работы» - что, по его мнению, усугубит те самые риски, о которых беспокоится METR. «Это компромисс», — написал он.

Важные предостережения

Отчет, по словам самого METR, был изобиловал предостережениями. Группа заявила, что ее главный вывод, возможно, преувеличивает ситуацию: измеренное ускорение может применяться только к четко определенным задачам, которые могут быть оценены автоматически, а не к более беспорядочной, открытой работе, которая определяет передовые исследования. В качестве альтернативы, Anthropic, возможно, просто занизила свой предыдущий базовый уровень, из-за чего последний скачок выглядел больше, чем он есть на самом деле.

Позиция METR также заслуживает внимания из соображений прозрачности: некоммерческая организация финансируется за счет пожертвований, не принимает компенсации за свои оценки и уже много лет проводит оценку возможностей Anthropic, OpenAI и других лабораторий — хотя компании-партнеры предоставляют доступ к моделям и токены, необходимые для проведения исследований.

Почему это важно сейчас

Анализ проводится за несколько недель до того, как Anthropic планирует провести публичное размещение акций, которое может стать крупнейшим в истории, при этом продолжаются споры о том, могут ли все более совершенные модели искусственного интеллекта ускользнуть от человеческого контроля. Сторонники безопасности уже давно утверждают, что независимая проверка, а не лабораторная самоотчетность, является единственным заслуживающим доверия показателем того, насколько быстро движется граница, особенно с учетом того, что администрация Трампа поощряет компании самостоятельно контролировать ситуацию.

METR отметил еще одну обеспокоенность: если исследования ИИ с помощью ИИ начнут набирать обороты, само ускорение может ускориться, а риски, связанные с передовыми моделями, будут расти такими темпами, которые сторонние наблюдатели не смогут легко отследить. В отчете группы говорится, что, по крайней мере, для одной ведущей лаборатории петля обратной связи, о которой беспокоится эта область, больше не является гипотетической — она проявляется в контрольных данных.

Насколько быстро за этим последует остальная часть отрасли – вопрос, за которым теперь будут следить регулирующие органы, инвесторы и руководители компании.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →