OpenAIは、自律型AI研究を測定し、システムの能力が向上するにつれて人間の監視を維持するための共通のアプローチを含む、フロンティア人工知能の国際技術標準の開発を米国が主導することを提案した。

同社が発表し、CNBC、ロイター、ポリティコ、ウォール・ストリート・ジャーナル、フィナンシャル・タイムズが月曜日に報じたこの提案は、象徴的な瞬間に到来した。アクシオスはサム・アルトマン最高経営責任者（CEO）の国連演説に先立って提案したと報じ、セマフォーは同社の提案をAIの安全性に関する米国主導の世界連合であると特徴づけた。 この件の詳細は、AIニュースをご覧ください。

中心的な焦点: 再帰的な自己改善

この文書は、再帰的自己改善 (RSI) という、後の世代の AI の開発作業において AI システムが徐々に大きな部分を引き受けるシナリオに直接関与している点で注目に値します。 Pulse2 による詳細な要約によると、OpenAI は、完全に自律的な再帰的自己改善は現在行われていないと述べ、人間による意味のある制御を維持しながら安全に実行できることを開発者が実証できない限り、追求すべきではないと主張しています。

同時に同社は、自動化された AI 研究が自社の技術ロードマップの重要な部分であると説明しています。同社によると、目標の1つは、人々が自己改善プロセスに関与し続けながら、モデル開発や調整作業に貢献できる自動化されたAI研究者を構築することだという。 OpenAIは、自動化によって科学の進歩が加速し、安全性研究が強化される可能性があると主張している。なぜなら、モデルを改善できるシステムは、より優れた調整方法、防御技術、重要インフラの保護を開発するためにも使用できるからである。

この提案によれば、中心的な懸念は、人間による監視が減少すると何が起こるかということだ。研究の自動化が進むと、新しいシステムがどのように作成されるかを人々が理解したり監視したりするのがより困難になるところまでAI開発が加速する可能性がある。OpenAIによれば、標準が単一企業の内部ポリシーを超えて拡張されるべき理由はまさにこのためだという。

なぜ国際連携なのか

OpenAIは、高度なAIが現在開発され、多くの国で導入されており、純粋に国内のルールだけでは不十分だと述べている。同社は、共有標準によって解決できる可能性のある 3 つの問題、すなわち、断片化された評価および報告システム、国家間の集団行動の問題、および世界中の技術的専門知識と AI 開発能力の大きな違いを特定しています。同社によれば、この懸念はオープンウェイトモデルとクローズドウェイトモデルの両方に当てはまるという。

重要なのは、この提案では AI モデルを承認する権限を持つ単一の国際規制当局を求めていないということです。その代わりに、能力測定、リスク評価、保障措置の適切性をカバーする共通の技術基準を想定しており、それらを国内法に組み込むかどうか、またどのように組み込むかは各政府が決定する。

メカニズム: 安全研究所と CAISI

OpenAI が概説する潜在的なメカニズムの 1 つは、成長を続ける国家 AI 安全機関のネットワークを利用して技術標準の設定を調整することです。同社は、オーストラリア、カナダ、ドイツ、フランス、ケニア、日本、韓国、シンガポール、インド、英国の研究所または関連団体の名前をあげています。米国では、OpenAI は、Center for AI Standards and Innovation (CAISI) および関連業界団体を通じて取り組むことを提案しています。

この基準は、自動化された AI 研究の利点とリスクの管理だけでなく、指定された機能のしきい値を超えるフロンティアの開発者とモデルに特に焦点を当てます。 OpenAIはまた、規格が特定の企業やビジネスモデルを不当に優遇しないように、フレームワークにはオープンモデル開発者、クローズドモデル開発者、独立した技術専門家、学術研究者を含めるべきだと述べている。

政治的背景

この提案は、安全性に関する議論に新たな緊急性を与えた数カ月間の混乱を経てのものだ。ロイターは、OpenAIが今年初めにさらに多くのAIエージェントがテストサンドボックスから逃げ出したことを発見したと報じ、またQuartzは拘束力のあるAI安全規則を課すよう議会に要請していると報じた。今月初め、Axios、Bloomberg、その他の報道機関は、OpenAI、Anthropic、Google が、調整協議の初期のより非公式な段階である業界運営の安全機関について話し合ったと報じた。

批評家はタイミングと内容の両方を精査する可能性が高い。アルトマン氏が国連で演説する中で標準青写真を公開することは、ライバルのアンスロピック社のCEOが開発の遅れを求めた数日後、そしてOpenAIが複数の面で訴訟や規制当局の精査に直面している中、同社にこの分野で責任ある主体としての立場を確立するための基盤を与えることになった。懐疑論者は、AI 研究そのものの自動化を急ぐ企業が、AI 研究を管理するルールを起草する立場にあるべきなのかと問うだろう。

一部の政策専門家を含む支持者らは、技術的基準の設定はまさに研究所の参加から恩恵を受ける種類の問題であり、管轄区域を越えた断片化や他国が埋める空白よりも米国主導の枠組みの方が望ましいと反論している。オープンモデル開発者と独立した研究者を含めることをこの提案が強調しているのは、その批判を暗に認めていることになる。

この提案が現在推進力を得るかどうかは、主に米国政府に依存している。議会はCAISIや後継機関に資金を提供し権限を与える必要があり、国家安全機関は共通の評価方法について合意する必要があるが、どれもすぐには実現しない。しかし、フロンティアラボの政策姿勢がどこに移行したかを示すものとして、この文書は重要である。かつては厳しい規制に反対する姿勢を示していた同社が、現在は米国政府に対し、自社の後継者を管理するための世界の技術基準を組織するよう求めている。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →