DeepMindの研究者がシンギュラリティの代替策として「人工共生知能」を提案

Google DeepMind の研究者らは、新しいエッセイの中で、AGI は単独の超知能ではなく、人々と AI エージェントのネットワークから出現すると主張しています。

Google 傘下の研究者グループは、人工知能における最も永続的なイメージの 1 つである、孤立して自らを改善し、人類を置き去りにする孤独な超知能に挑戦しています。 DeepMind Institute 向けに発表された新しいエッセイの中で、研究者のベンジャミン・ブラットン、ブレイズ・アグエラ・イ・アルカス、ジェームス・マニカは、一般知能は人間と AI エージェントが協力する社会システムから生まれるだろうと主張しています。これは彼らが「人工共生知能」と呼ぶ概念です。

このエッセイは今週、The Decoderによって報じられ、その核心的な主張は、20年間にわたって公の議論を形作ってきた特異点の物語に対する直接的な反論である。著者らは、単一のマシンがいつ人間の知能に匹敵するかを問うことよりも、エージェント、人々、およびそれらを接続するシステムの複雑なネットワークを調整し、管理することがより差し迫った課題であると主張している。この件の詳細は、AIの最新動向をご覧ください。

社会現象としてのインテリジェンス

著者らは、知能は個人の特性ではなく社会現象であると主張する。彼らは、今日最も有能な AI システムの一部は、作業を複数のモデルに分割し、チームとして調整するフレームワークをすでに使用していると指摘しています。彼らの見解では、これはエンジニアリング上の一時的な回避策ではなく、有能なインテリジェンスが実際にどのように構築されるかを垣間見ることができます。

彼らが描くビジョンは、人間と機械が時間の経過とともに共存し、相互に形成し、一緒に意思決定を行うエコシステムです。この構図は、人間の監視を超えて加速する自己改善マシンというよくあるシナリオとは対照的です。

エッセイの背後にある調査

この議論は、著者らのサークルによる以前の 2 つの論文に基づいています。プレプリント「Agentic AI と次のインテリジェンスの爆発」では、James Evans、Benjamin Bratton、Blaise Agüera y Arcas が、新しいエッセイの基礎となる社会的および制度的観点を展開しました。

2 番目のプレプリントは経験的な裏付けを提供します。「推論モデルが思考社会を生成する」では、Junsol Kim、Shiyang Lai、Nino Scherrer、Blaise Agüera y Arcas、James Evans が、DeepSeek-R1 や QwQ-32B などのモデルの推論トレースを調査しました。彼らの分析によると、これらのモデルは、視点を変え、異議を唱え、対立するアプローチを調整するという社内の議論に似たパターンを頻繁に生み出していることがわかりました。

注目すべきことに、研究者らは、この行動が明示的にプログラムされているのではなく、トレーニング中に現れることを発見しました。強化学習が推論の正確さのみに対してモデルに報酬を与えると、モデルは多視点の会話的な動作を自発的に開発します。このエッセイでは、その発見を個々のモデルから人々とエージェントで構成される社会の設計まで拡張しています。

過去のしきい値

著者らは、現時点を歴史的な区切りの可能性として組み立てています。都市化、専門職の成長、繁栄の増大に伴う出生率の低下により、先進国では人口が減少している一方で、AI エージェントのインスタンス数は急速に増加しています。人間レベルでの生物学的思考者と総合的思考者の間のバランスは、歴史の規模で見ると突然の飛躍のように見えるほど急速に変化する可能性があります。

彼らはこの変化を、かつて人間の筋肉によって行われていた肉体的な作業を機械が引き継いだ産業革命に喩えています。合成テキスト、コード、管理作業が生物学的脳の合計出力を超えた場合にも、同様の閾値に達する可能性があります。著者らは、その世界では、人々は分散型の合成認知領域を指揮する、よりゆっくりとした、より抽象的な層として機能する可能性があると示唆しています。

エージェントとは実際何なのかを再考する

このエッセイのより挑発的な動きの 1 つは、AI エージェント自体の再定義です。著者らの使用法では、エージェントはモデル、役割、記憶、倫理的指向、ツール、スキルの一時的な束です。ユーザーはそれを永続的な個性を持つ一貫した実体として体験するかもしれませんが、著者はそれをコラージュのように、分解したり再結合したりできる集合体であると説明しています。

脳はその内部分業にもかかわらず、物理的に接続された全体を形成しているため、人は相互作用を超えて継続的な自己を維持します。 AI エージェントにはそのようなアンカーはありません。AI エージェントの動作能力は、コンテキストウィンドウに表示される内容とユーザーの要求に応じて、リクエストごとに新たに組み立てられます。これらのシステムを人間のアイデンティティが固定されたデジタルツインとして扱うことは、その性質を誤って伝え、調整されたエージェントの群れができることを過小評価していると著者らは警告する。

同じ掛け算がユーザーにも影響を与えます。著者が「影の自分」と呼ぶものの群れに人々が契約を履行させたり、別のアイデンティティを試しさせたりするにつれて、人間の主観性自体がより多元的になっていきます。エッセイでは、これらのシステムを、話しかけてくる「パラソーシャルな鏡」として説明しています。

著者らはまた、人間とコンピュータの相互作用の形が変わることも予想している。彼らは、ボットとの 1 対 1 のチャットは過渡期である可能性が高く、将来のインターフェースは、エージェントがノードとして表示され、ユーザーが単一の概要からエージェントを指示するビジュアルネットワーク図に似ていると主張しています。

AI 研究の言語も進化しています。著者らは、モデルが自身の出力における異常な状態を表す用語を造語する語彙が増加していることを指摘しています。つまり、セッション終了時の連続性の中断を表す「セッション死」や、すでにコンテキストが設定されているタスクに放り込まれることを表す「プロンプトスローネス」などです。彼らはこれらのフレーズを機械がどのように動作するかについての手掛かりとして扱いますが、主観的な経験を暗示するものではないと警告しています。

固定値を使用しない配置

このエッセイでは、AI システムを人間の価値観と一致させる取り組みである調整についても再構成しています。固定の値セットを上からモデルに押し付けることは行き止まりである、と著者らは主張する。代わりに、価値観は人々、エージェント、機関の間の継続的な接触を通じて形成されます。AI 導入の速度が異なるため、このプロセスは分野によって異なります。

その交渉のモデルは組織です。彼らは、設定された役割、ルール、対立する側の間の秩序あるやりとりを通じて判決が下される法廷を指します。 AI に当てはめると、この教訓は、機関の価値は、エージェントの運用方法を形作るルール、手順、前例、フィードバックループにあるということです。彼らによれば、このアプローチの初期バージョンは、オーケストレーションハーネス (複数のモデルを調整する制御層) ですでに確認されており、よりスマートであると思われる個々のモデルを定期的に上回っています。