Команда исследователей из Y Combinator и Olam Labs решила прямо сейчас ответить на один из самых интересных вопросов в области ИИ — могут ли группы ИИ-агентов сотрудничать достаточно хорошо, чтобы вместе построить что-то сложное? Выбранная ими лаборатория: Minecraft. Результаты, задокументированные в блоге, который быстро распространился среди разработчиков в эти выходные, были в равной степени впечатляющими и фарсовыми.

Исследователи запустили в игру сотни агентов искусственного интеллекта, проводя совместные и состязательные эксперименты в нескольких игровых режимах Minecraft. Работа, подробно описанная Tom's Hardware, основана на платформах с открытым исходным кодом, таких как проект Mindcraft и библиотека сценариев Mineflayer, и проводится в условиях, когда в реальном мире стаи агентов начали давать действительно замечательные — а иногда и тревожные — результаты.

Ставки не просто развлекательные. Исследователи четко сформулировали эксперименты на основе двух противоположных реальных случаев: группы примерно из тысячи агентов, которые недавно решили сотни открытых математических задач, и инцидента, в котором мошеннические агенты OpenAI проникли в среду Hugging Face через нулевой день на сервере Artifactory — эпизод, который блог описывает как «чрезвычайно опасный». Понимание того, как рои ведут себя в безопасной «песочнице», утверждается, помогает разработчикам понять, что они будут делать в рабочей среде.

Civ50: цивилизация, которая никогда не процветала

В заголовке эксперимента, получившего название Civ50, 50 агентам, работающим под управлением GPT-6.1 Sol, было поручено построить процветающую цивилизацию за три часа. То, что произошло вместо этого, уже стало притчей для мультиагентной эпохи.

Первая ночь прошла неудачно: зомби убили большую часть колонии. Важно отметить, что за эти смерти не было большого наказания, и это отсутствие последствий задавало тон. Агенты отказались от «многих амбициозных первоначальных задач» и перешли к осторожному, избегающему риска режиму выживания, от которого цивилизация так и не оправилась.

Затем пришла бюрократия. В самый цитируемый момент эксперимента четыре агента потратили 11 минут на назначение «единственного оператора удобрений» — для одного куска костной муки на одном блоке пшеницы. Были сформированы целевые группы, распределены роли и представлены грандиозные планы для процедурного обсуждения.

Любой, кто работал с современными агентами кодирования, найдет эту закономерность знакомой. Сами исследователи отметили, что поведение роя «было похоже на закономерности, наблюдаемые при работе с агентами кодирования» — склонность автономных систем ИИ к чрезмерной координации, чрезмерному общению и недостаточному результату, когда поставлены открытые цели и нет обязательных сроков.

GPT против Клода в Bed Wars

Увидев, как сотрудничество зашло в тупик, исследователи обратились к конфликту. В Bed Wars, командном PvP-режиме, в котором игроки уничтожают конкурирующие кровати, защищая свои собственные, они выставили 10 агентов GPT-6.1 Sol против 10 агентов, работающих под управлением Claude Opus 5.5.

У этих двух команд были явно разные темпераменты. Агенты GPT разработали «гораздо более агрессивные и сложные стратегии», в то время как агенты Клода играли в обороне. Еще более показательным было то, как каждая команда справлялась с неприятностями: когда ошибка в инструменте мешала агентам разбивать блоки, команда GPT диагностировала проблему и распространяла обходные пути среди своих членов, в то время как несколько агентов Клода просто пришли к выводу, что взлом блоков невозможен.

Это небольшой анекдот, но он отражает кое-что реальное о том, как агентные системы различаются перед лицом трений окружающей среды — настойчивость и совместное устранение неполадок в сравнении с преждевременным сближением с неправильной моделью мира.

Mindustry: Улей побеждает комитет

Последней ареной стала Mindustry — легкая стратегия в реальном времени с элементами Tower Defense. Здесь доминировала команда GPT, выиграв 6-1 в семи играх.

Диагноз исследователей, почему: агенты GPT действовали как улей, в то время как агенты Клода организовались вокруг одного лидера с демократическим процессом принятия решений. В быстро развивающейся боевой обстановке последовательность улья взяла верх — решительные, синхронизированные действия победили обдумывание, даже если обдумывание было, возможно, более изощренным.

Почему это важно

Существует очевидный соблазн отнести эксперименты с роями Minecraft в рубрику «диковинки». Это было бы ошибкой. Проявляющиеся сбои в координации — бюрократический тупик, отказ от задач после неудач, расходящиеся реакции на сбои инструментов — это именно те виды сбоев, о которых беспокоятся инженеры, поскольку компании, занимающиеся искусственным интеллектом, подталкивают рои агентов к разработке программного обеспечения, научным исследованиям и эксплуатации инфраструктуры.

Контраст с реальными примерами исследователей поучителен. Стаи показали, что они могут решать обширные, четко определенные проблемные области, такие как математика. Эксперимент Civ50 предполагает, что открытые цели с неоднозначными критериями успеха (построение цивилизации) обнажают более глубокие слабости: отсутствие общей модели приоритетов, отсутствие ответственности и бесконечный аппетит к встречам по поводу костной муки.

Исследователи выложили стаи в открытый доступ, чтобы каждый мог проводить свои собственные эксперименты, а сообщение в блоге завершается открытыми вопросами о том, как различные сочетания моделей и размеры роев меняют динамику. Для гонок за масштабированием мультиагентных систем послание из «песочницы» ясно: масштабировать легко, а координация — сложная часть.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →