OpenAIは、人工知能の安全性のフレームワークを考案するために、数週間にわたってライバルのAnthropicやGoogle DeepMindと緊密に協力してきたと上級幹部が火曜日に認め、他のほぼすべての分野で熾烈な競争を繰り広げる企業間での異例の協力関係を明らかにした。

OpenAIのグローバル政策責任者、クリス・ルヘイン氏はワシントンでの記者会見で記者団に対し、3つの研究所が安全性への取り組みについて連携していると語った。ブルームバーグが会見を報じたところによると、ルヘイン氏は「安全を優先するために協力しようとする方が良い」と語った。同氏のコメントは、業界最大手の研究所を離れた研究者らによる大々的な絶滅警告の数日後に発表された。 この件の詳細は、AIニュースをご覧ください。

協力の実際の内容

ルヘイン氏は作品の具体的な性質について詳しくは述べなかったが、今回の開示は、業界の大手企業による注目に値する公の位置付けに続くものだった。アンスロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は土曜日、同氏が「壊滅的なリスク」と呼ぶものを回避するため、フロンティアモデル開発のペースを緩めることに協力するようＡＩ業界に呼び掛けるエッセイを発表した。

この呼びかけは、競争の分かれ道を超えて驚くべき支持を獲得した。OpenAIのサム・アルトマン氏、グーグルのデミス・ハサビス氏、イーロン・マスク氏は全員、この意見を支持した。アルトマン氏はさらに踏み込んで、AIの安全性を内部から監視するために開発チーム内にサードパーティの評価者を組み込むアンスロピック社の取り組みにOpenAIも喜んで参加すると述べた。一方、Anthropicの共同創設者であるジャック・クラーク氏はNPRに対し、AIの速度低下は基本的に「集団行動の問題」であり、単一の研究室だけでは解決できないと語った。

ただし、OpenAI 社内の全員がペース調整の議論を緊急なものとして捉えているわけではありません。最高財務責任者のサラ・フライアー氏はCNBCに対し、AI開発の減速については心配していないと語った。これは、同社が同時に1兆ドルを超える評価額で投資家に求愛していることを思い出させるものだ。

協力を覆う独占禁止法の影

支配的な AI 研究所間の調整は、米国の独占禁止法という明らかな法的問題に直面します。法律専門家らは、自社製品の機能を制限する競合他社間の協定は「生産制限」とみなされる可能性があり、シャーマン法に違反すると警告している。

その懸念はすでに国会議事堂に移っている。インディアナ州のジム・バンクス上院議員とカリフォルニア州のアダム・シフ上院議員は、たとえ反トラスト問題を引き起こす可能性がある場合でも、AI研究所が安全に基づいて行動できるようにする法案「敵対的脅威およびセキュリティリスクに関する協力法」を提案した。アモデイ氏の論文では、政府は安全協力に対する企業への免除を検討すべきだと主張したが、ルヘイン氏は記者団に対し、そのような措置は不必要だと考えていると述べた。

Nvidiaのジェンセン・ファン氏は、さらに率直な態度をとった。 CNBCによると、同氏は火曜日にDreamforceで講演し、Anthropicの独禁法免除提案は「まったく不必要」だと述べ、抑制を求める研究所と加速を求めるハードウェア大手との間の溝が深まっていることを強調した。

「別の名前のカルテル」

この協力に対する批判者たちは痛烈に批判している。 Cohereの最高経営責任者、エイダン・ゴメス氏は、アモデイ氏のエッセイに応えたブログ投稿で、安全性に関する呼びかけは、フロンティアモデル開発における自社の優位性を維持し、「市場を支配する」研究所が他の研究所のルールを定義できるようにする反競争スキームを隠蔽するためのトップAI研究所による取り組みのように見える、と書いた。

ゴメス氏は、「国民を守るという名目で再び恐怖を利用し、これらの寡占企業が競争ルールを曲げ、他の企業の条件を決定する許可を求めている」と書き、この取り決めを「羊の皮をかぶった狼、別名カルテル」と呼んだ。

ドナルド・トランプ大統領はアモデイ氏の減速要求を真っ向から拒否し、Truth Socialへの投稿で、減速すれば中国がAI競争で米国を追い越すことになると主張した。ホワイトハウスの主要AI顧問デービッド・サックス氏は、AIが実存的な脅威をもたらす可能性があるという懸念は誇張されていると述べた。

CNBCのアナリストらは、AIの安全性と規制をめぐる議論では現在、2つの陣営が本格的に浮上していると観察した。1つは何か問題が起きる前にフロンティアに速度を緩めるよう促し、もう1つはNVIDIA、ホワイトハウス、オープンモデル支持者が多数を占め、ためらうことこそがより大きな危険であると主張する。

OpenAI のキャピトルヒル推進

ルヘイン氏の発言は、議員らとの会談が予定されていたワシントンでの記者会見で行われた。同社の公式声明やロイター通信とポリティコの報道によると、OpenAIは2つの超党派の法案を支持しているという。

1 つ目は FRONTIER 法で、AI の安全性に関する連邦政府の枠組みを要求し、独立した評価者による監査のために AI 研究所に新しいモデルを提出することを要求します。 CBS Newsの報道によると、OpenAIはAIモデルの独立監査を義務付ける措置を支持しているという。 2番目の提案はまだ策定中だが、ジョン・チューン上院多数院内総務が共和党のテッド・クルーズ上院議員、民主党のエイミー・クロブシャー上院議員らとともに作成しているものである。ロイター通信によると、この法案は商務長官に新モデルの発売前に安全監査を受ける権限を与えるもの。 OpenAIはAI生物脅威に対処する超党派の計画を別途支持しているとポリティコが報じた。

この収束は顕著だ。AIの暴走について警告している同じ企業が自主的に独立監査に参加している一方で、その企業を批判する人たちは、提携自体がより大きな危険になる可能性があると警告している。カルテルのライセンスを必要とせずに安全協力を可能にするという議会の方針が、今後何年にもわたって AI 政策を定義する可能性がある。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →