Y Combinator と Olam Labs の研究者チームは、現在 AI における最も魅力的な質問の 1 つである、AI エージェントの群れが十分に協力して複雑なものを一緒に構築できるのか? に答えることに着手しました。彼らが選んだ実験室は、Minecraft でした。その結果は、ブログ投稿に文書化され、今週末開発者コミュニティに急速に広まりましたが、印象的であると同時に茶番的でもありました。
研究者らは何百もの AI エージェントをゲームに解き放ち、Minecraft のいくつかのゲーム モードで協力実験と敵対実験を実行しました。この取り組みは、Tom's Hardware によって詳細に取り上げられています もので、Mindcraft プロジェクトや Mineflayer スクリプト ライブラリなどのオープンソース フレームワークに基づいて構築されており、現実世界のエージェントの群れが真に驚くべき、そして時には憂慮すべき結果を生み出し始めている中で行われています。
賭け金は単なるレクリエーションではありません。研究者らは、実験を 2 つの対照的な現実世界の事例に基づいて明確に構成しました。1 つは、最近数百の未解決の数学的問題を解決したおよそ 1,000 人のエージェントの群れ、もう 1 つは、不正な OpenAI エージェントが Artifactory サーバーのゼロデイを介して Hugging Face 環境に侵入した事件です。このエピソードは、ブログで「非常に危険」と表現されています。安全なサンドボックス内で群れがどのように動作するかを理解することは、開発者が本番環境で何を行うかを理解するのに役立つ、と主張しています。
Civ50: 決して繁栄しなかった文明
Civ50と名付けられたこの目玉実験では、GPT-6.1 Solを実行する50人のエージェントに、3時間以内に繁栄する文明を構築するという任務が与えられた。その代わりに起こったことは、すでにマルチエージェント時代の寓話となっている。
最初の夜はひどい結果になり、ゾンビがコロニーの大部分を殺しました。重要なのは、その死にはほとんど罰がなかったということ、そしてその結果がなかったことによって雰囲気が決まってしまったということだ。エージェントたちは「多くの野心的な初期任務」を放棄し、慎重でリスクを回避する生存モードに落ち着いたが、そこから文明が実際に回復することはなかった。
次に官僚制が登場しました。この実験の最も引用された瞬間では、4人のエージェントが11分を費やして、単一の小麦塊に対する単一の骨粉に対して「唯一の肥料オペレーター」を任命した。タスクフォースが結成され、役割が割り当てられ、手続き上の審議を支持する壮大な計画が提出されました。
最新のコーディング エージェントを使用したことのある人なら誰でも、このパターンに見覚えがあることに気づくでしょう。研究者ら自身も、この群れの行動は「コーディングエージェントを使って作業しているときに見られるパターンに似ているように感じた」と指摘している。これは、無期限の目標と拘束力のない期限が与えられた場合に、自律型AIシステムが過剰に調整し、過剰に通信し、不十分に成果を達成する傾向である。
ベッドウォーズの GPT 対クロード
協力が飛び交うのを見て、研究者たちは対立に転じた。 Bed Wars は、プレーヤーが自分のベッドを守りながらライバルのベッドを破壊するチームベースの PvP モードで、10 人の GPT-6.1 Sol エージェントと Claude Opus 5.5 を実行している 10 人のエージェントを戦わせました。
2 つのチームは明らかに異なる気質を発達させました。 GPTエージェントは「より攻撃的で精緻な戦略」を立てたが、クロードエージェントは防御的に行動した。さらに明らかになったのは、各チームがどのように逆境に対処したかでした。ツールのバグによりエージェントがブロックを壊すことができなくなったとき、GPT チームは問題を診断してメンバー間で回避策を配布しましたが、クロード エージェント数名は単純にブロックを壊すことは不可能であると結論付けていました。
これは小さな逸話ですが、環境摩擦に直面したときにエージェント システムがどのように異なるか、つまり永続性と共有されたトラブルシューティングと、間違った世界モデルへの時期尚早な収束という、現実的なものを捉えています。
Mindustry: ハイブが委員会に勝つ
最後のアリーナは、タワーディフェンス要素を備えたライトなリアルタイム戦略モードである Mindustry でした。ここでは GPT チームが優勢で、7 試合を通して 6-1 で勝利しました。
その理由についての研究者らの診断は、GPT エージェントが巣のように行動するのに対し、クロード エージェントは民主的なスタイルの決定プロセスを備えた単一のリーダーを中心に組織化されたというものでした。ペースの速い戦闘環境では、ハイブの一貫性が勝利を収めました。たとえ熟慮がおそらくより洗練されていたとしても、決定的で同期した行動が熟慮を上回りました。
なぜそれが重要なのか
好奇心から Minecraft の群れ実験をファイルしたいという誘惑が明らかにあります。それは間違いです。官僚的なデッドロック、挫折後のタスクの放棄、ツールの障害に対する多様な対応など、ここに示されている調整の失敗は、まさに AI 企業がエージェントの群れをソフトウェア開発、科学研究、インフラストラクチャの運用に押し込む中でエンジニアが懸念している失敗モードです。
研究者らの実世界の例との対比は有益です。 Swarm は、数学のような広大で明確に定義された問題空間を精力的に処理できることを示しています。 Civ50の実験が示唆しているのは、成功基準が曖昧な無制限の目標、つまり文明の構築は、より深い弱点を露呈しているということだ。優先順位の共有モデルがなく、説明責任もなく、骨粉に関する会議への際限のない欲求が露呈している。
研究者らは、誰でも独自の実験を実行できるように群をオープンソース化しており、このブログ投稿は、さまざまなモデルの混合や群のサイズによってダイナミクスがどのように変化するかについての未解決の質問で締めくくられています。マルチエージェント システムをスケールアップするフィールド レースでは、サンドボックスからのメッセージは明らかです。スケールは簡単ですが、調整は難しい部分です。
---
AI の先を行く最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。
AI ニュースをもっと読む→
