OpenAIは、同社とAnthropic、Google DeepMindがAIの安全性の調整について数週間にわたり協議を行ってきたことを認め、フロンティアラボに独立した検証機関への門戸の開放を強制する法案を支持していると述べた。

TechCrunchによると、OpenAIの最高国際問題責任者であるChris Lehane氏が火曜日の会議でこの事実を明らかにした。ロイターとブルームバーグは同じ発言を引用し、OpenAIがAIの安全性に関してAnthropicおよびGoogleと協力していると報じた。この確認は、サム・アルトマンが他のAIリーダーとの個人的な議論を認めたフォーチュンのインタビューを含む、数週間にわたるヒントを、世界の3つの主要なフロンティア研究所が、どの程度の速度で移動し、どのようにモデルをチェックするかについて調整しているという明確な認めに変えた。

AI の減速を巡る広範な政治的銃撃戦を追いかけている読者のために、今週の 人工知能の最新情報 に関する報道は、Anthropic 共同創設者のジャック クラーク氏による強制キルスイッチの支持から、NVIDIA のジェンセン ファン氏とのステージ上での電話会談で安全への懸念はでっち上げであると発言したトランプ大統領まで多岐にわたりました。

数週間かけて確認作業を行う

この会談は、Anthropic CEOのDario Amodeiが土曜日に発表したエッセイに続き、壊滅的なリスクを回避するためにフロンティアAI開発のペースを遅らせるために業界に協力するよう呼びかけた。この書簡は業界全体から支持を集め、アルトマン氏、グーグルのデミス・ハサビス氏、イーロン・マスク氏の全員がこの行動喚起を支持し、アルトマン氏はOpenAIもこの取り組みに参加すると述べた。

その後、The Information は、3 社が AI 業界の標準化団体の設立に取り組んでいると報じました。ハサビス氏にはこのアイデアに関する実績がある。7月には米国に対し、世界最先端のモデルを審査し、危険が進行した場合には業界全体の減速を調整する権限を持つ、AIの監視機関として機能する新たな標準化団体を設立するよう求めた。

ルヘイン氏の発言で付け加えられたのは、公式の確認だ。これまで、研究所の広報担当者は主に非公式な対話でジェスチャーをしてきた。 OpenAIのグローバル担当責任者は現在、この調整を記録に残している。

独占禁止法の影

直接の競合企業間で開発を遅らせるという合意は、明らかな独占禁止法違反の疑いを招くものであり、研究所もそれを承知しています。アルトマン氏自身は、このような協議が競争を抑制するものであることが判明した場合、両社が独占禁止法に違反する危険にさらされる可能性があると指摘している。アモデイ氏のエッセイは、競争法を発動せずに安全調整を可能にする政府による狭い免除を提案しており、企業内でこの問題がどれほど真剣に受け止められているかの表れだ。

批評家たちはこの協定の中心にある緊張をすぐに指摘している。フロンティアAIで最大の市場シェアを誇る3社が共同で進捗状況を配給することを決定したのは、懐疑論者にとっては、安全包装紙を使ったカルテル行為のように見えるからだ。支持者らは、破滅的リスクこそまさに競合他社が一方的に解決できない類の問題であり、単独でペースを落とした研究室は競合他社にフロンティアを譲るだけであると反論する。

OpenAI はサードパーティのチェックを採用

ルヘイン氏の発言の中で最も具体的な政策ニュースは立法に関するものだ。同氏は、OpenAIは、モデルが安全に開発されていることを保証するために、トップフロンティア研究所に「独立検証機関」の社内参入を許可することを義務付けるFRONTIER法の規定を支持していると述べた。ポリティコは、OpenAIが第三者による安全性評価を中心に構築された超党派の下院計画を支持していると報じた。

自発的なコミットメントと社内のレッドチームが業界標準だった 2 年前のこの分野では、このような立場は考えられなかったでしょう。これにより、Anthropic が長年推進してきた監査第一の姿勢と OpenAI が連携することになり、研究所と、法的強制力のある監視を求めて 1 年を費やしてきた政策議論の翼との間に稀な合意点が生まれることになります。

ホワイトハウスとの衝突も引き起こす。トランプ大統領は、安全性への懸念はでっち上げだと一蹴し、景気減速があればAI競争で中国が有利になると主張した。同氏のAI顧問であるデイビッド・サックス氏は、業界全体に個人的な利害関係を持つ長年の投資家であり、存続リスクへの懸念は行き過ぎだと主張した。英国では同じ問題をめぐって閣僚の意見が公然と分かれており、ある派閥は専門家の警告に従うよう政府に求めている一方、レイノルズ商務長官は先進システム向けのキルスイッチに関する議論を拒否している。

中立地帯のない政策闘争

今後数週間は、競争当局や懐疑的な政権との接触を乗り越えて研究所の連携が保てるかどうかが試されることになる。このフロンティアを支配する3社によって設立された標準化団体は、独立取締役を含めること、基準を公表すること、政府の審査に提出することなどの要求に直面するだろう。さもなければ、公の装いをした民間カルテルとして却下されるだろう。

FRONTIER法に関しては、OpenAIの承認により、この法案のスポンサーは大々的に支持されることになるが、同時に最大規模の研究機関が単に規制によってこの分野を占領し、自分たちだけが従うことができるルールを作成していると主張する反対派にとっては新たな攻撃手段となる。小規模な研究機関や、協議に席を持たない無差別級コミュニティーは、注意深く監視している。どのような検証体制が出現しても、フロンティアの背後にある全員のコンプライアンスコストが決定されることになる。

もはや争点になっていないのは、調整の事実そのものである。 AIの最先端を定義する3社は現在、どれくらいの速度で走るかについて公然と議論しており、審判の協力を政府に求めている。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→