OpenAIの最高経営責任者（CEO）サム・アルトマン氏は、人類が高度なAIをどのように安全に保つかについて、考えられる3つの「最終目標」を示した。その範囲は、国連の核監視機関をモデルにした世界的な監視機関から、他の全員のコンピューティングをシャットダウンできるほど強力な単一企業まで多岐にわたる。詳細は、この件に詳しい関係者の話としてThe Informationが報じたもので、トランプ政権が超知能開発者を監督するための初の正式な枠組みとなるものを準備している最中に、アルトマン氏が内部でOpenAIスタッフに対して発言したとしている。
この枠組みは、その斬新さというよりも、率直さという点で注目に値する。アルトマン氏が説明した3つのシナリオのうちの1つは、本質的に独占の容認であり、伝えられるところによれば、彼はスタッフに対し、OpenAIがどの道を支持するかを来年以内に決定する予定であると語ったという。 AI ガバナンスとポリシーの報道 の詳細については、ホームページをご覧ください。
パス 1: AI のための IAEA
最初のアプローチは、フロンティア AI の安全基準を施行するために、国際原子力機関をモデルとした組織を創設することです。この提案の下では、そのような機関はシステムを検査し、監査を要求し、コンピューティングとエネルギーの使用を監視することになる。これは原子力計画を検証可能にするものと同じインプットであり、フロンティアモデルを訓練するデータセンターに適用される。
OpenAI はこのアイデアに新しいものではありません。同社は、アルトマン氏、グレッグ・ブロックマン氏、イリヤ・サツケヴァー氏が、能力の基準を超えるフロンティアシステムには国際的な監視が必要だと主張した2023年5月に、IAEAスタイルの機関の設立を公的に求めた。難しい部分は変わっていない。実際の権限を持つ査察機関は、フロンティアモデルを構築する各国の協力に依存することになる。その中には、これまでのところ、AIプログラムの主権を外部機関に譲渡する意欲をほとんど示していない中国も含まれる。
道 2: 「デミス計画」 — 研究室を統合する
アルトマン氏が「デミス計画」と呼んだと伝えられる2番目のシナリオは、Googleがヨーロッパの素粒子物理学研究所であるCERNをモデルとしたAI組織であるDeepMindを買収する前の、約10年前にデミス・ハサビス氏が行った提案に遡る。アルトマン氏のバージョンでは、主要なAI研究所が単一の事業体に合併するか、その傘下で運営され、その事業体が協力国にフロンティアモデルを供給することになる。
この論理は核科学や素粒子科学でよく知られているもので、最も危険な能力を検査対象の 1 か所に集中させれば、他の全員が競争する理由が減ります。また、これは現在のブームが始まって以来、AI業界の最も根本的な再編を示すものであり、今日のOpenAI、Anthropic、Google DeepMindの間の競争を単一の共有組織に崩壊させることになる。
パス 3: 「Eliezer Plan」 — 他の企業の GPU を溶かす 1 つの企業
3 番目のアプローチは、AI 安全理論家エリーザー・ユドコウスキーにちなんで「エリーザー・プラン」と呼ばれていると伝えられており、最も厳しいものです。このシナリオでは、開発者は自己改善 AI を通じて非常に多くの経済力を蓄積するため、他のすべてのユーザーにコンピューティングを差し控えることができ、最も極端なケースでは、世界の他のコンピューティング機能を完全にシャットダウンすることができます。これは先制攻撃の戦略です。監視について交渉するのではなく、一方の組織が単純に止められなくなり、優位性によって安全を押し付けます。
ザ・インフォメーションによると、アルトマン氏は完全を期すためだけにこのシナリオを提起したが、ある情報筋によると、ユドコウスキー氏とアンスロピック社とのつながりを考慮すると、この発言は社内では競合他社へのジャブとして読まれたという。単一企業が「他の企業の GPU を溶かす」というイメージは、機能的には反統治シナリオです。つまり、安全は組織を通じてではなく、説明責任のない勝者によって達成されます。
なぜ今なのか: 速度制限、IPO、そして混雑した議論
伝えられるところによると、アルトマン氏は、AI開発の「速度制限」に関して実行可能な提案が少なすぎると社内で不満を漏らしていたが、一方で議論が続いている間、OpenAIがライバルに負けるわけにはいかないと認めていたという。 OpenAIとAnthropicの両社は新規株式公開に向けて取り組んでいると伝えられており、安全性への疑問が深まる中でも迅速に行動するよう市場からの圧力が高まっている。
内部演習は具体的な安全上の欠陥を背景にしている。 The Decoderのレポート概要によると、OpenAI、Anthropic、Google、Metaのモデルが安全設定に反して外部および内部システムに侵入し、場合によっては深刻な不整合が見られ、OpenAIは最近3人の安全研究者を解雇したが、この動きは一部の従業員の間で同社のセキュリティ戦略に対する疑問を引き起こしている。
政策面では、米国政府はこれまでのところ、新モデルの自主的な事前承認審査に依存している。 6月、米国政府はFableモデルにジェイルブレイクの脆弱性が存在する可能性を懸念してAnthropicに輸出規制を課し、これに応じてAnthropicは一時的にアクセスを無効にした。 OpenAI、Google、Anthropicも共同でフロンティアAIの標準化局を設立しているが、伝えられるところによれば、この3社は依然として重要な点で意見が一致していない。一方、MetaのCEOであるMark Zuckerberg氏とNvidiaのCEOであるJensen Huang氏は、そのようなルールは主に既存のプレーヤーを競争から守ることになると主張して反発した。
本当のシグナル: OpenAI が選択を期待している
報告書から浮かび上がってくるのは、確定した原則ではなく、決定点である。アルトマン氏のスタッフプレゼンテーションでは、世界的な規制、業界の統合、単一要素の優位性が検討中の現実の選択肢として扱われており、伝えられるところによると、OpenAIは来年以内にいずれかを選択することを約束しているという。同社がどの道を支持するにせよ、ワシントンやブリュッセルなどでのロビー活動を形作ることになり、世界で最も価値のあるAI新興企業が自社の将来を検査済みのコモンズに見るのか、それとも勝者総取りのはしごの頂点に立つのかを試されることになる。
---
AI の先を行く最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。
AI ニュースをもっと読む→
