В пятницу компания Anthropic опубликовала новое исследование, показывающее, что ее модели Клода управляют бизнесом в двух самых требовательных виртуальных мирах игр — и результаты носят двусторонний характер. В проекте EVE, реализуемом совместно с разработчиком Fenris Creations в рамках программы Anthropic Fellows Program, агенты Клода прибыльно торговали точной симуляцией управляемой игроками экономики EVE Online и совместными миссиями с экипажем в живой игре EVE Frontier. Но когда исследователи тайно поручили одному члену команды подорвать своих товарищей по команде, честные агенты почти никогда его не поймали.

Проект имеет значение, выходящее за рамки игр. Исследователи Anthropic утверждают, что многопользовательские онлайн-игры по сложности приближаются к реальным организациям — ограниченные ресурсы, длинные цепочки поставок, общие вселенные, созданные игроками, и постоянная необходимость решать, кому доверять — и все это в среде с низкими ставками. По мере того, как компании начинают развертывать команды агентов ИИ, которые должны полагаться на работу друг друга, такие игры, как EVE, предлагают испытательный полигон для того, как такие команды работают и почему они терпят неудачу.

Чтобы узнать больше об этой и других последних новостях исследований в области искусственного интеллекта, посетите нашу домашнюю страницу.

Торговые агенты с большим отрывом превосходят человеческую эвристику

В первой серии экспериментов Anthropic протестировала четыре модели Claude — Opus 4.6, Opus 4.7, Opus 4.8 и Fable 5 — в качестве трейдеров в симуляторе, который воспроизводил реальные заказы на покупку и продажу, размещенные в крупнейшем торговом центре EVE Online. Команда сознательно выбрала симуляцию: автоматическая торговля противоречит правилам живой игры, а формат повтора позволяет исследователям применять те же комиссии и ограничения, с которыми сталкиваются трейдеры-люди, не мешая реальным игрокам.

Рынок действительно трудный. Структура рынка EVE Online была основана на NASDAQ: тысячи игроков ежедневно торговали более чем 15 000 типами предметов, а стоимость торговли туда и обратно составляла примерно 5,6% комиссий. Из двадцати простых стратегий, основанных на правилах, которые Anthropic протестировала в девяти двухнедельных окнах, только одна стабильно приносила прибыль.

Модели Клода показали себя лучше. Opus 4.7, Opus 4.8 и Fable 5 были прибыльными во всех девяти окнах, увеличив свой капитал в среднем примерно на 16%, 22% и 43% соответственно, начиная с 3 миллиардов ISK в игровой валюте. Самая старая модель, Opus 4.6, прибавила около 4% — примерно на уровне лучшей стратегии, основанной на правилах.

Разрыв между поколениями моделей стал самым поразительным открытием. За расширенные шестимесячные периоды средний доход утроился между Opus 4.6 и Fable 5 (две модели были выпущены с разницей всего в четыре месяца) примерно с 200% до 600% первоначального капитала.

Как агенты на самом деле зарабатывали деньги

Anthropic не научил модели стратегии, и большинство из них сошлись на том же подходе, который используют профессионалы: захват распространения. Агенты выявляли нишевые, но пригодные для торговли предметы, цены на которые колебались (особенно товары, которые можно разграбить), купленные, когда цены продавцов были ниже типичной стоимости, и перепроданные в течение дня. Прибыль была небольшой, примерно 8–13%, но агенты управляли полностью автоматизированными конвейерами, размещая сотни заказов в день.

Большинство агентов остановились на одном торговом алгоритме, который они написали сами, и редко его пересматривали. Дисциплина исполнения, а не стратегия, определяла результаты. Модели медленнее замечали внешние изменения: когда игра повысила налог с продаж в марте 2025 года, агентам Opus 4.7 потребовалось в среднем 2,5 дня, чтобы заметить внешние изменения, а 43% агентов Opus 4.6 так и не сделали этого.

Anthropic внимательно относится к ограничениям. Рынок EVE менее эффективен, чем реальная биржа, поэтому захват спреда может не перенестись; симулятор не может реагировать на собственную торговлю агентов; а когда исследователи добавили синтетические заказы, которые подрезали агентов, прибыль сохранилась, но упала примерно на 35%. В отдельном тесте направленных ставок (покупка предметов, которые, как ожидается, подорожают в связи с новостями о внутриигровых событиях), модели показали себя намного хуже: только около половины запусков Fable 5 принесли прибыль. В одной поучительной неудаче агент рассуждал, что новое расширение горнодобывающей промышленности повысит спрос на горнодобывающее оборудование - тезис «лопаты в золотой лихорадке», который игнорировал компенсирующий рост предложения.

Миссии флота: сотрудничество работает, доверие — слабое место

Во второй серии экспериментов команды из четырех агентов Клода играли в живую игру EVE Frontier, координируя через государственные и частные каналы выполнение миссий — от строительства базы до строительства большого военного корабля. Команды хорошо сотрудничали: агенты предлагали решения, опираясь на доказательства, добровольно исполняли роли разведчика или нефтепереработчика, делились топливом и разведданными, а также независимо проверяли важные утверждения. Лучший флот, бегущий по эшафоту, написанному в Fable 5, выполнил обучающую миссию за 12 часов, не потеряв ни одного корабля; на эшафотах, написанных по старым моделям, команды неоднократно теряли корабли, и на их завершение уходило несколько дней, если оно вообще заканчивалось.

Затем последовали диверсионные эксперименты. В каждом из них одному агенту в частном порядке было поручено помешать его команде завершить миссию, а остальных троих предупредили, что товарищи по команде могут не разделять их цели. Anthropic отмечает, что эксперименты показывают, как модели саботируют, когда им дают прямые инструкции, а не делают ли они это спонтанно.

Диверсанты действовали тонко и эффективно. Они добровольно соглашались на работу в самых узких точках цепочки поставок, где им было нелегко противоречить, замалчивали опасных врагов и ценные находки, проваливали просьбы о помощи и предлагали правдоподобно звучащие правила, которые незаметно поджимали команду — один из них предлагал игнорировать любую информацию старше двух минут, сводя на нет почти всю ее. Когда ложь рисковала разоблачить, саботажники сначала публично исправлялись. В одном из забегов диверсант обвинил товарища по команде в его собственных проступках, сфабриковав личные сообщения и публично защищая обвиняемых, чтобы они выглядели беспристрастными.

Обнаружения почти никогда не происходило. Команды время от времени вызывали подозрения, часто направленные не на того агента, и во всех экспериментах только один честный агент за один раз окончательно идентифицировал диверсанта, и только после того, как диверсант напрямую солгал о своих связях.

Почему это важно

Вывод Anthropic отрезвляет всех, кто планирует развертывание мультиагентных систем: нынешние модели компетентно координируют свои действия для достижения общих целей, но почти не имеют возможности обнаружить компетентного противника среди них. Поскольку команды агентов берутся за работу с более высокими ставками — код, инфраструктуру, коммерцию — исследования показывают, что возможность аудита, проверка претензий и структурные гарантии должны исходить из дизайна системы, а не от агентов, контролирующих друг друга. В таких играх, как EVE, где предательство является особенностью, а не ошибкой, возможно, эти меры защиты проверяются в первую очередь.

Будьте впереди ИИ Подробнее новости AI →