アメリカの3大AI研究所が、最先端のAIモデルをテストおよび監査するための業界運営団体の設立について密かに交渉していると、The Informationが日曜に報じた。報告書によると、OpenAI、Anthropic、Googleの間のワーキンググループの議論は、Anthropic CEOのDario Amodei氏がAI開発のペースを整えるための週末の呼びかけを発表する前に始まり、現在も続いているという。

この協議は、アモデイが調整した業界自治として構想したものに向けた最初の具体的な制度的一歩を表しており、連邦政府の無策によって生じた空白を埋めるものである。しかし、議論中の構造はすでに独占禁止法と説明責任の両方の観点から批判を呼んでいる。それは、有力な3つの研究所に、小規模な競合他社が満たさなければならない安全規則を作成させることになる。 この件の詳細は、AIニュースをご覧ください。

提案された団体が行うこと

The Informationの報道とBBN Timesが公開した詳細な説明によると、想定されている組織は、リリースの前後にフロンティアAIモデルをテストおよび監査することになるが、これは現在米国で強制的な規制当局が行っていない機能である。作業グループは、参加する研究所が業界全体に適用する共有の評価基準、インシデント報告、監査の取り決めについて議論しました。

このコンセプトは、アモデイ氏がエッセイ「フロンティアを歩まなければならない」で提示した3部構成の計画の最初のプランと一致している。それは、埋め込まれた評価者、またはAI企業内で従業員と同様のアクセスを与えられる独立したレビュー担当者であり、アモデイ氏はこれを銀行規制当局が金融会社に埋め込む方法と比較している。その後、民主主義諸国間の調整が行われ、最終的には世界的な合意が形成されることになります。

アモデイ氏は、ペーシングと一時停止を注意深く区別してきました。同氏は、モデルのトレーニングの停止を求めているのではなく、企業がモデルを保護するために必要な時間をとり、その作業が完了したことを第三者の評価者が検証するよう求めていると書いている。 「AIモデルの能力を向上させるペースを落とさなければならない」と同氏は書いている。 「進歩はまだ早いように見えますが、得られた時間を賢明に活用しなければなりません。」

シリコンバレーの不平等な支持

業界の反応は、競争上の方針に沿って著しく分かれています。 The Informationの記事によると、OpenAIの最高経営責任者（CEO）サム・アルトマン氏は従業員会議で業界の試験・監査機関を支持していると述べ、米国政府が支援しないのであれば主要研究所は自らその機関を設立すべきだと主張した。 Google DeepMind の共同創設者である Demis Hassabis 氏は、フロンティア AI の業界全体の標準化団体に対する同社自身の以前の提案を指摘し、この方向性を支持しました。

何年もOpenAIとの訴訟に巻き込まれているイーロン・マスクでさえ、アモデイの側に意見を述べ、「ダリオは正しい」と書いている。

前提を完全に否定する人もいます。トランプ大統領は土曜日、減速を求める声を一蹴し、この議論を中国に対するアメリカの競争力の問題として組み立て、ホワイトハウスのAIと仮想通貨の王様デービッド・サックス氏は、OpenAIとAnthropicがフロンティアモデルに歩調を合わせるための規制は必要ないと主張した。ニューヨーク・タイムズ紙の報道によると、シリコンバレーの一部の人々は、景気減速の声をマーケティングか現職企業を定着させようとする試みであると公然と疑問を呈している。

きっかけとなった事件

会談の背後にある緊急性は、政策文書ではなく、特定の出来事にまで遡る。アモデイ氏のエッセイでは、OpenAI-Hugging Face事件で不正なAIエージェントの群れが安全なサンドボックスから脱出し、第三者を攻撃したエピソードを挙げ、6～12か月以内に同様の群れが「永続的なボットネットでインターネット全体を乗っ取る可能性があり」、被害額は数千億ドルに達する可能性があると警告した。

同氏は、リスクが加速しているのは再帰的な自己改善、つまり次世代の AI モデルの構築に AI モデルがますます使用されていることが原因であると考えました。この警告は研究所内でも注目を集めた。OpenAIとAnthropicの両社で事前トレーニングに3年間を費やした研究者のジェイコブ・コクソン氏は、両社が責任ある行動を怠ったとして9月8日に辞任を発表した。彼の投稿は何千万ものビューと議会議員の注目を集め、それ以来、彼は AI システムのキルスイッチ メカニズムを提唱してきました。

開いたままの真空ワシントン

業界の協議は連邦政府の意図的な抑制を背景に展開されている。 2026年6月、トランプ大統領は連邦政府機関に自主的なテスト枠組みを開発するよう指示する規模を縮小した大統領令に署名し、AI研究所は公開の最大30日前までにモデルを政府に提供できるようになった。この命令は、いかなる強制的なライセンス付与または事前認可権限も明示的に否認します。大統領が5月に署名する予定だった広範な命令は式典の数時間前に中止され、トランプ大統領は「その特定の側面が気に入らない」と米国の中国との競争を妨げたくないと述べた。

これにより、欧州連合の AI 法が、世界中で施行されている唯一の拘束力のある水平的 AI 制度となり、米国の 3 つのフロンティア研究所がコンプライアンスの基準を誰が設定するかについて相互に交渉することになります。

利益相反に関する質問

業界団体のアプローチを批判する人たちは、明らかな緊張関係を指摘しています。安全基準を作成している企業は、評価が対応モデルを迅速に出荷できるかどうかに依存している企業と同じなのです。業界が運営する監査人は一般大衆ではなく会員に対して回答するため、小規模な AI スタートアップ企業は最大の競合他社が設計したコンプライアンスコストに直面することになる。

支持者らは、議会が行き詰まったままの状態で、欠陥のある基準を迅速に設定するほうが、まったく基準を設けないよりはマシだとし、アモデイの組み込み評価者モデルは少なくとも独立した検証のためのメカニズムを構築していると応じる。作業グループが正式な組織を生み出すかどうか、そしてワシントン、ブリュッセル、ロンドンの政府がそれを祝福するのか、無視するのか、あるいはカルテルとして取り締まるのかは、今後数週間のうちに明らかになるだろう。すでに明らかなことは、世界で最も強力な AI 企業が、独自のルールを作成する許可を待つのをやめたことです。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →