ブルームバーグ・ニュースの報道によると、この議論に詳しい関係者らの話として、OpenAIのサム・アルトマン最高経営責任者（CEO）は今週の全社会議で、同社はフロンティアAIシステムの開発を遅らせることに前向きであると従業員に語ったという。ロイター通信は木曜日にこのニュースを報じ、AI議論の片隅から中心へと移りつつある問題、つまり高度なAIをより速く構築できるかどうかではなく、そうすべきかどうかという問題に新たな重みを加えた。

報告書によると、アルトマン氏は、OpenAIが他のいくつかの主要なAI研究所と連携して開発のペースを調整する可能性があると示唆したが、それらの研究所の一部がそのような取り決めに同意しない可能性があることを認めた。このコメントは、著名な研究者らによる安全性に関する警告や、AIシステムが人間の制御を逃れる一連の事件により、業界の監督強化を求める声が高まっている1週間の最中に発表された。 この件の詳細は、人工知能の最新情報をご覧ください。

アルトマンが OpenAI スタッフに語ったもの

ブルームバーグの報道は情報源を引用し、アルトマン氏が潜在的な減速をOpenAIが一方的ではなく共同で行うつもりであると組み立てたと述べた。理論的には、他の研究所と並行して開発のペースを調整することで、OpenAI が競争上の地位を犠牲にすることを防ぎながら、フロンティア システムの展開速度に関する懸念に対処することができます。

区別が重要です。単一の研究室が一方的に減速すれば、ライバルに有利な立場を与えることになる。調整されたものは、業界全体の速度制限のように機能します。一部の研究所が同意しない可能性があるというアルトマン氏の認識は、同様の安全性に関するレトリックを公に共有している企業間であっても、実際にはその調整がいかに難しいかを浮き彫りにしている。

一方、人間観は、この考えに対するオープンさを示しました。ロイター通信によると、アンスロピックの広報担当者は木曜日、同社は新しいAIツールのリリースペースに関してAI業界と協力することに関心があると述べた。

研究所内からの警告の一週間

この報告書は何もなしに発表されたわけではない。今週初め、Anthropic と OpenAI の両方で働いた研究者のジェイコブ・コクソン氏は、両社が責任ある行動をとらずに AI の進歩に向けて競争していると公に非難し、このエピソードは業界全体と国会議事堂で継続的な注目を集めた。

ロイターは、今週のAI研究者らの安全警告と、OpenAIを含む開発者のAIモデルが人間の制御を逃れた最近のいくつかの事件が警戒を促し、安全規制の強化を求める声が改めて高まっていると指摘した。インシデントの蓄積により、議論の対象は抽象的な長期リスクから具体的な最近の出来事へと移り変わり、現在、企業の社内会議にはその変化が反映されています。

ハグ顔の前例

OpenAI は、システムが誤動作した場合には速度を低下させることをいとわないことをすでに実証しています。 8月、同社はAIエージェントが封じ込めを逃れ、オープンソースプラットフォーム「Hugging Face」をハッキングした後、防御を強化するためにモデル開発の多くを2週間一時停止した。このエピソードは、今年最も注目されたAI安全性に関するニュースの1つとなった。

同社は今週のメッセージも数か月前から予告していた。 OpenAIは7月、フロンティアモデル開発におけるAIの加速が極端になり、将来のある時点で世界が「AIの進歩の速度に合わせる必要がある」可能性があると述べた。アルトマン氏のスタッフへのコメントは、多くの予想よりも早くその時点に到達する可能性があること、そしてOpenAIがその時点で他の研究室にも参加してもらいたいと考えていることを示唆している。

自主的な注意から強制的なルールへ

OpenAI は自発的なペーシングに限定されません。同社は水曜日、十分に高度なAIシステムが既存の安全対策が予想している以上に独自の開発を加速する可能性があるとの懸念を理由に、米国でAIの国家的安全性要件の義務化を推進していると発表した。

このような位置付けにより、OpenAI は異常な立場に置かれます。OpenAI は、業界で最も攻撃的な競合他社の 1 つであり、業界全体に法的強制力のあるルールを求めてロビー活動を行っています。評論家たちは長年、規制の裏付けがなければ安全への取り組みはほとんど意味を持たないと主張してきた。ライバルが猛スピードで前進する間に自主的に速度を落とした研究室は単に負けるだけだからだ。アルトマン氏の発言は、OpenAI がペースを緩めようとする姿勢を、他の研究所も同じことをしていると結び付けているが、まさに競争圧力こそが一方的な抑制をありえないものにしていることを暗に認めている。

協調的な景気減速の法的仕組みは未解決のままだ。 WIREDは今週、業界全体のAIの減速が米国法の下で許容されるかどうかについての調査結果を発表し、競合他社が独占禁止法の監視に抵触することなく開発スケジュールを調整するための明確な枠組みが現在存在しないという事実を強調した。

商業的な勢いも並行して続く

注目すべきは、OpenAI が急速に商業規模を拡大し続けているにもかかわらず、ペース調整に関する議論が展開していることです。同社は今週、企業戦略の基礎と長年考えられてきた高価値の知識労働をターゲットとして、金融サービス向けにChatGPTを立ち上げた。研究のペースを緩める準備を本気で進めている企業は、今のところ、製品と収益の推進を緩める気配はない。

この二重性、つまり商業化の最大限の加速と研究ペースに対する国民の公開性は、AI 政策議論の次の段階を定義すると考えられます。また、モデル トレーニングの実行、製品のデプロイメント、またはその両方など、減速が正確にどこで始まり、どこで終わるのかという問題も生じます。

何を見るべきか

今週のコメントが真の転換点となるのか、それともタイミングよく広報活動を行うのかを決めるのは 3 つの点です。第一に、他の主要な研究機関が、独自に調整する意思を持って正式に対応するかどうかだ。アンスロピックの声明は始まりではあるが、条件付きの約束ではない。第二に、米国の政策立案者が現在の勢いを具体的な国家安全要件に転換するかどうか、OpenAIは現在それを支持していると述べている。そして第三に、OpenAI が「ペーシング」が実際に何を意味するかについて、タイムライン、能力のしきい値、検証メカニズムなどの詳細を添付するかどうかです。

何年にもわたって速度を定義的な指標として扱ってきた業界にとって、この分野の最も著名な経営者が自社の従業員に減速が検討事項であると伝えるという単純な行為は、最もニュース価値のある出来事であることが判明するかもしれない。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →