Любой, кто работал с ИИ-агентом над проектом, длившимся несколько дней, знает стену: каждый новый сеанс начинается с нуля. В новой исследовательской публикации Anthropic описывает, как Claude спроектирован так, чтобы сохранять знания между сеансами, в то время как базовая модель остается неизменной — путем записи заметок в папку, которую можно прочитать позже. Удивительным открытием является то, что самая сложная часть памяти агента — это не хранилище. Это отбор.

Основная проблема, по мнению Anthropic, заключается в том, что агент должен решить в данный момент, что может иметь значение позже, прежде чем он узнает, что будет дальше. Каждая нота — ставка на будущее. Храните слишком мало, и агент повторяет свои ошибки; сохраните слишком много, и архив устареет, съедает контекст и переносит ошибки на неопределенный срок.

Тест покемонов: 413 файлов, один значок

Чтобы проиллюстрировать режим сбоя, Anthropic указал на тесты, проводимые внутри Pokémon Red. Claude Sonnet 3.7, более старая модель, рассматривал все как потенциально важное. Примерно за 10 000 шагов игры он создал 413 файлов, разбросанных по 225 папкам — часто отдельный файл для каждого сражения и предмета, с которым он столкнулся. Поскольку состояние игры постоянно менялось, архив устаревал почти так же быстро, как и был написан. Иногда модель ничего не делала, кроме как реорганизовывала свои ноты вместо того, чтобы играть, и заканчивала прогон с единственным значком.

В новой версии Claude Fable 5 был использован противоположный подход: она ограничила свою память несколькими файлами и получила четыре значка. Fable 5 не записывала информацию, которая уже была видна на экране, а вместо этого записывала проверенные планы, стратегии и правила. Anthropic предупреждает, что сравнение охватывает только одно прохождение для каждой модели, поэтому результат скорее ориентировочный, чем окончательный, но направление соответствует более широкому совету компании.

Этот совет состоит в том, чтобы объяснить Клоду назначение памяти и позволить модели решить, как ее использовать. В одном тесте жесткие инструкции, такие как «записывать только ошибки», свели на нет большую часть преимущества более сильных моделей. Старые модели, напротив, выигрывали от четких инструкций, например, им предлагалось прочитать свои заметки перед каждым ответом.

Сновидения: проверка воспоминаний постфактум

Самый большой риск для агентов, работающих долго, заключается не в забывчивости, а в доверии ошибочным заметкам. Ответ Anthropic — это процесс, который он называет «Сновидения». Эта идея основана на исследованиях Летты и Калифорнийского университета в Беркли. Подобно тому, как человеческий мозг консолидирует переживания во время сна, Клод во время перерыва просматривает стенограммы предыдущих сеансов и сверяет свои записи с тем, что произошло на самом деле.

В тесте покемонов Клод неправильно заметил, на какой стороне горы находится ориентир. Полагаясь на эту ложную записку, агент трижды попал в одну и ту же ловушку, в конце концов захотел сдаться и не достиг цели. После прохождения Dreaming Клод обнаружил ошибку, сверив заметку с расшифровкой, и нашел правильный путь.

Сновидения также позволяют организовать гораздо более обширные базы знаний. Клод создал связанную вики-страницу из примерно 350 000 внутренних документов из нержавеющей стали, компании-разработчика программного обеспечения, которую приобрела Anthropic, при этом Dreaming создавала новые страницы, исправляя пробелы, дубликаты и неработающие ссылки. Отдача была максимальной, когда Клод мог объединить вики с поиском, так что тщательно подобранная память работала скорее как дополнение к поиску, а не как его замена.

Когда Wiki лучше поиска

В отдельном юридическом тесте, проведенном Anthropic, курируемая вики больше всего помогла в вопросах, ответы на которые были разбросаны по нескольким документам. Клод набрал 87 процентов с помощью вики по сравнению с 73 процентами, используя только поиск. Для простых задач поиска вики выполнялась примерно на одном уровне с поиском, а в одном случае она даже превышала объем исходных документов, которые она резюмировала.

Антропик откровенен в отношении открытых проблем. Делание заметок в середине задачи отвлекает агента от работы. Мечтание требует дополнительных вычислений, и его результаты появляются только с задержкой. Вики и заметки также нуждаются в регулярном обслуживании, иначе накапливаются ошибки и галлюцинации. И компания предостерегает от автоматической загрузки слишком большого количества воспоминаний в каждый сеанс, поскольку они поглощают контекст и передают любые плохие заметки в каждый будущий сеанс.

От предварительного исследования к продукту

Мечта сама по себе не нова: Anthropic представила ее в мае в качестве предварительной версии исследования Claude Managed Agents, облачной платформы компании для агентов ИИ. Служба считывает существующее хранилище памяти и до 100 прошлых сеансов, удаляет повторяющиеся и устаревшие записи и создает реорганизованное хранилище, оставляя исходное нетронутым. На момент запуска он поддерживал Claude Opus 4.7 и Sonnet 4.6. С тех пор OpenAI позаимствовала этот бренд для собственной модернизации памяти ChatGPT в июне, которую она также называет «Dreaming» — фоновой системы, которая поддерживает профиль пользователя и автоматически исправляет устаревшую информацию.

Общий вывод исследования Anthropic заключается в том, что полезная память агента зависит не столько от сохранения как можно большего объема информации, сколько от сохранения правильной информации и последующего исправления ошибок. В то время как лаборатории стремятся создать агентов, которые могут надежно работать в течение дней и недель, а не минут, курирование памяти само по себе постепенно становится конкурентным рубежом. Вы можете следить за последними разработками в области искусственного интеллекта в исследованиях агентов на сайте AI Buzz Wire.

Будьте впереди ИИ

Исследования агентов продвигаются быстро, и следующим полем битвы станет память. Получите все обновления, а также последние разработки в области искусственного интеллекта из всех крупных лабораторий на [AI Buzz Wire] (https://aibuzzwire.news).

Читать больше новостей об искусственном интеллекте →