Tým výzkumníků z Y Combinator a Olam Labs se rozhodl odpovědět na jednu z nejvíce fascinujících otázek v AI právě teď – mohou roje AI agentů spolupracovat natolik dobře, aby společně vybudovali něco složitého? Jejich vybraná laboratoř: Minecraft. Výsledky, zdokumentované v blogovém příspěvku, který se tento víkend rychle rozšířil vývojářskou komunitou, byly stejně působivé a fraškovité.

Výzkumníci pustili do hry stovky agentů umělé inteligence, kteří prováděli společné a nepřátelské experimenty v několika herních režimech Minecraftu. Práce, podrobně pokrytá Tom's Hardware, staví na open source frameworkech, jako je projekt Mindcraft a skriptovací knihovna Mineflayer, a přichází, když roje agentů v reálném světě začaly přinášet skutečně pozoruhodné – a občas alarmující – výsledky.

Sázky nejsou jen rekreační. Výzkumníci explicitně zarámovali experimenty do dvou kontrastních případů ze skutečného světa: roje zhruba tisíce agentů, kteří nedávno vyřešili stovky otevřených matematických problémů, a incident, při kterém podvodní agenti OpenAI narušili prostředí Hugging Face prostřednictvím nultého dne na serveru Artifactory – epizodu, kterou blog popisuje jako „extrémně nebezpečnou“. Pochopení toho, jak se roje chovají v bezpečné karanténě, argument zní, pomáhá vývojářům pochopit, co budou dělat v produkci.

Civ50: Civilizace, která nikdy nevzkvétala

Hlavní experiment, nazvaný Civ50, zadal 50 agentům provozujícím GPT-6.1 Sol za úkol během tří hodin vybudovat prosperující civilizaci. To, co se stalo místo toho, se již stalo podobenstvím pro éru multiagentů.

První noc dopadla špatně: zombie zabili velkou část kolonie. Zásadní je, že za úmrtí byl malý trest – a absence následků udávala tón. Agenti opustili „mnoho ambiciózních počátečních úkolů“ a usadili se v opatrném režimu přežití, který se vyhýbal riziku, z něhož se civilizace nikdy nevzpamatovala.

Pak přišla byrokracie. V nejcitovanějším momentu experimentu strávili čtyři agenti 11 minut jmenováním „jediného operátora hnojiva“ – pro jeden kus kostní moučky na jediném bloku pšenice. Utvořily se pracovní skupiny, byly přiděleny role a byly předloženy velké plány ve prospěch procedurálního projednání.

Každému, kdo pracoval s moderními kódovacími agenty, bude tento vzor povědomý. Sami výzkumníci poznamenali, že chování roje „připadalo podobné vzorům pozorovaným při práci s kódovacími agenty“ – tendence autonomních systémů umělé inteligence přehnaně koordinovat, nadměrně komunikovat a nedostatečně plnit, když mají otevřené cíle a žádné závazné termíny.

GPT versus Claude v Bed Wars

Poté, co vědci sledovali kooperaci, obrátili se ke konfliktu. V Bed Wars, týmovém PvP režimu, kde hráči ničí soupeřící postele, zatímco brání své vlastní, postavili 10 agentů GPT-6.1 Sol proti 10 agentům provozujícím Claude Opus 5.5.

Oba týmy vyvinuly zřetelně odlišné temperamenty. Agenti GPT produkovali „mnohem agresivnější a propracovanější strategie“, zatímco agenti Claude hráli defenzivně. Více odhalující bylo, jak se každý tým vypořádal s nepřízní osudu: když chyba v nástroji zabránila agentům prolomit bloky, tým GPT problém diagnostikoval a mezi své členy rozesílal náhradní řešení, zatímco několik agentů Claude jednoduše dospělo k závěru, že prolomení bloků není možné.

Je to malá anekdota, ale zachycuje něco skutečného o tom, jak se agentní systémy liší tváří v tvář environmentálnímu tření – vytrvalost a sdílené řešení problémů versus předčasná konvergence na špatném modelu světa.

Mindustry: The Hive Beats the Committee

Poslední arénou byla Mindustry, lehký režim strategie v reálném čase s prvky obrany věže. Zde dominoval tým GPT, který vyhrál 6-1 v sedmi hrách.

Diagnóza výzkumníků proč: agenti GPT fungovali jako úl, zatímco agenti Claude se organizovali kolem jediného vůdce s rozhodovacím procesem v demokratickém stylu. V rychle se měnícím bojovém prostředí zvítězila konzistence úlu – rozhodná, synchronizovaná akce porazila uvažování, i když bylo uvažování pravděpodobně sofistikovanější.

Proč na tom záleží

Existuje zjevné pokušení podávat experimenty s rojem Minecraft pod zvědavostí. To by byla chyba. Zobrazená selhání koordinace – byrokratická patová situace, opuštění úkolu po neúspěchu, odlišné reakce na selhání nástrojů – jsou přesně ty způsoby selhání, kterých se inženýři obávají, když společnosti AI tlačí agenty do vývoje softwaru, vědeckého výzkumu a operací infrastruktury.

Kontrast s reálnými příklady výzkumníků je poučný. Roje ukázaly, že se dokážou prokousat rozsáhlými, dobře definovanými problémovými prostory, jako je matematika. Experiment Civ50 naznačuje, že cíle s otevřeným koncem s nejednoznačnými kritérii úspěchu – vybudovat civilizaci – odhalují hlubší slabiny: žádný sdílený model priorit, žádná odpovědnost a nekonečná chuť na schůzky o kostní moučce.

Výzkumníci vytvořili roje jako open source, takže každý může provádět své vlastní experimenty, a blogový příspěvek končí otevřenými otázkami o tom, jak různé kombinace modelů a velikosti rojů mění dynamiku. Pro závody v terénu za účelem škálování multiagentních systémů je zpráva z pískoviště jasná: škálování je snadné – koordinace je obtížná část.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →