PYMNTSの報道によると、OpenAIは、フロンティアAIの安全性に関する専門知識を持ち、効果的な第三者評価を提供できる企業の数を増やすために、複数の独立した評価機関と協議していると同社は9月22日火曜日に公開したブログ投稿で述べた。

この投稿では、サードパーティによる効果的な監視のために OpenAI が提案する優先事項と原則が示されており、このフレームワークは、ますます高機能なモデルをトレーニング、評価、デプロイする際にすべてのフロンティア AI ラボに適用されるべきであると述べられています。この発表は、AIの安全性政策に異例の費用がかかる月の半ばに行われ、批判者への譲歩であると同時に、政府がルールを策定する前にルールを形成しようとする試みとも読み取れる。 AI ニュース速報 をフォローしている人にとって、これはフロンティア モデルの安全性を誰が検証するかをめぐって研究所、その批判者、規制当局の間で数週間に及ぶ争いの最新の動きである。

OpenAI が提案しているもの

PYMNTSによると、OpenAIは投稿の中で、「私たちは、効果的な第三者評価のために、独立した評価機関を支援し、将来の法律と民間統治イニシアチブを通じて、より明確な共通の国際基準を確立することに尽力している」と述べた。

OpenAI が説明する中心的な問題は市場の失敗です。フロンティア モデルを監査するための技術的な深さを備えた組織が単に少なすぎるのです。有意義な安全性評価には、未リリースのシステムへのアクセス、サイバーセキュリティからバイオセキュリティまでの分野の専門知識、そして望ましくない調査結果を公表するための組織の独立性が必要です。 OpenAIは、1人の特権的な監査人ではなく複数の評価者を採用しサポートすることで、第三者による評価が1回限りの広報活動ではなく、フロンティアシステム導入の日常的な部分となるエコシステムを構築したいと述べている。

同社は協議中の評価者の名前は明らかにしていないが、その結果得られる取り決めによって、安全性研究者が意味があると考える評価者へのアクセス、資金提供の独立性、出版権が与えられるかどうかはまだ分からない。

AI 政策に関する 1 週間のむち打ち

この提案は、9 月の AI 議論を定義する一連の急速な政策展開の中で発表されました。

  • 9月21日月曜日: OpenAIは、AIシステムが自己改善するポイントである再帰的自己改善を含む、フロンティアAIの世界的な技術標準を開発するための国際的な取り組みを主導するよう米国に求めた。同社は、完全自律型のAI開発は人間の理解・制御能力を上回る可能性があると警告し、進めるかどうか、そしてどのように進めるかについて今すぐ決断する必要があると述べた。
  • 9月18日金曜日: カリフォルニア州知事ギャビン・ニューサムは、州のAI安全法を強化するために全国の専門家を招集する大統領令に署名した。これは、AIシステムにおける安全性とセキュリティのリスクに対する新たな第三者による監視の導入を加速することを明確に目的としている。
  • 9月19日土曜日: ドナルド・トランプ大統領は、Truth Socialへの投稿で業界の安全性への懸念を否定し、次のように書いた。「我々は、この素晴らしい産業の成長を決して妨げたり、抑圧したりするつもりはない。AIは次の産業革命、つまりインターネットだが、さらに規模が大きく影響力が大きくなり、おそらく我が国のGDPの25%にも達するだろう。」

今週初めに報告したように、OpenAI の米国主導の標準提案は、何年も拘束力のある監視に抵抗してきた企業にとって、驚くべき変化を示しました。そして、新しい第三者評価原則は、その姿勢をプライベート ガバナンスの最前線にまで拡張します。

独立性の問題

OpenAI が外部ウォッチドッグを採用することは、最大のライバルからの並行提案に従っている。その約1週間前、AnthropicのCEO、ダリオ・アモデイ氏は、大手AI企業内に組み込まれた独立した評価者を中心に構築されたAI安全計画、民主主義国の企業間の調整、そして最終的には中国を含む国際協定を提案するエッセイを発表した。

どちらの提案も、専門家から即座に懐疑的な見方をされています。 CNBCは、100人を超えるAI専門家の連合が、評価を実施するAnthropic、OpenAI、その他の基盤モデルラボからの独立性と透明性を求めており、監査対象の企業に組み込まれている、または監査対象の企業から報酬を得ている評価者は避けられない利益相反に直面していると警告していると報じた。 AIのパイオニア、ジェフリー・ヒントン氏が支援する監視団体は両社に安全計画の詳細を迫っており、解説者らはAI安全性評価組織と研究所自体の間の回転ドアに警告を発している。安全性の宿題を採点している人たちも、それを書いている可能性がある。

この緊張は、OpenAIの新しいポストが和らげようとしている議論の核心だ。同社の答えは、より多くの評価者、共通の国際基準、将来の法律と民間の取り組みの両方を通じて強制される監視であるが、これは枠組みであり、まだ保証されていない。批評家は、ルールを提案している研究所がルールの対象となる研究所と同じであり、自己形成ガバナンスが歴史的に形成を行っている企業に有利に働いてきたと指摘するだろう。

なぜそれが重要なのか

次のフロンティア モデルはすでにトレーニング中であり、展開前に設計を監視できる期間は終了しつつあります。 OpenAIによる独立した評価者の採用によって、実際のアクセスと真の独立性を備えた監査人が誕生すれば、それがフロンティアAIが世界中でどのように統治されるか、つまりワシントンやブリュッセルなどの議員がこれまで自ら構築できなかった私的体制をどのように統治するかのテンプレートとなる可能性がある。 NDAを結んだ提携コンサルタント会社を設立すれば、懐疑論者の最悪の見方が裏付けられることになる。

いずれにせよ、OpenAIが誰が最も信頼できる監視体制を提案できるかについてAnthropicと競争しているという事実自体が新しい。 1年前、研究室は主に規制に反対することで団結した。彼らは今、それを定義しようと競い合っています。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AIニュースをもっと読む→