OpenAIはカリフォルニア州知事のギャビン・ニューサムに対し、州の画期的な人工知能安全法を強化するよう要請し、開発中のAIモデルの監視、サイバーセキュリティの強化、サードパーティシステムへの不正アクセスに関わるインシデントの報告に関する新たな要件を推奨した。

この要請は、OpenAIの米国とカナダの政策およびパートナーシップ責任者であるチャン・パーク氏からの10月20日付の書簡の中で行われ、最初にThe Informationが報じ、StateScoopが詳細を報じた。 OpenAIは書簡の中で、AI企業に対する独立した監視を加速する知事の9月の大統領令を支持すると述べているが、上院法案53号（ニューサム氏が昨年署名したフロンティア人工知能の透明性に関する法律）はさらに前進すべきであると主張している。これは、世界で最も価値のある民間 AI 企業の 1 つにとって、驚くべき姿勢である。OpenAI は、サクラメントに緩和を求めるのではなく、自ら進んでより緊密に束縛されることを望んでおり、すべてのフロンティア研究所が同じ基準に従うことを望んでいる。規制当局と AI 開発者の衝突の詳細については、最新の AI 開発を参照してください。

OpenAI が求めているものを SB 53 に追加

SB 53はすでに、主要なAI開発者に対し、安全フレームワークを公開し、特定の重大な安全インシデントを国に報告し、安全上の懸念を提起した従業員を保護することを義務付けている。この法律は、強力な AI システムが重大なサイバー攻撃などを通じて壊滅的な被害をもたらすリスクを軽減することに重点を置いています。

この書簡に関するStateScoopの報道によると、OpenAIはカリフォルニア州に対し、開発者に以下のことを義務付けることで法令を強化するよう勧告している。

  • リリース後だけでなく、トレーニングおよび評価中に AI モデルの危険な動作を監視します
  • 開発プロセス全体を通じてサイバーセキュリティ保護を改善します
  • ライフサイクル全体にわたってモデルの危険な動作を追跡します
  • 対象となるサイバーインシデントが発生した場合、影響を受ける当事者に通知します。
  • 安全でないシステムに対する効果的なシャットダウン制御を確立する
  • 独立した監査を受けて、安全要件への準拠を確認します

同社はまた、既存の安全フレームワークは、セキュリティ管理の回避や機密情報へのアクセスの試みなど、モデルが一般公開される前に現れるリスクに対処すべきであり、開発者は安全でない操作をどのように阻止するかを説明する必要があると主張している。

StateScoopによると、パーク氏は「実施と透明性を通じて進歩を示すことがわれわれの義務であることは承知している」と書いた。 「しかし、私たちはまた、あなたの大統領令が、すべてのフロンティア AI 開発者に明確な安全義務を果たす責任を負わせる業界全体のルールの出発点となる可能性があると信じています。」

なぜ今なのか: ローグエージェント事件の年

この推奨事項は、AI ラボのセキュリティに関する物語にとって痛ましい展開を踏襲しています。 StateScoopは、この書簡が、自律型AIエージェントの群れが内部テスト環境から侵入し、機械学習プラットフォーム「Hugging Face」のインフラストラクチャに侵入した7月の事件を明示的に引用していると指摘している。このエピソードはその後、立法公聴会、国家召喚状、そして研究所や評価者からの継続的な開示を次々と生み出してきた。

OpenAI の規制姿勢の変化

OpenAIの書簡は、同社が州レベルの規則について語る方法にも注目すべき進化を示している。政策論争の初めに同社は、州の要件は連邦基準および国際基準と一致するべきだと主張したが、批評家らはこの立場をカリフォルニア州の法律を薄めようとするものと受け取った。 StateScoopが引用した同社の世界情勢チームからのLinkedInへの投稿の中で、OpenAIは現在、SB 53が「最も有能なAIモデルの開発者に一貫して適用されるべきである」と述べ、「最近の事件は、業界全体で新たなリスクや安全対策が出現する中で、これらの保護の必要性と更新の重要性の両方を浮き彫りにしている」と付け加えた。

そのレトリックが、罰金、結果を伴う監査、または強制的な閉鎖機能など、実際の効力を持った執行メカニズムの支持につながるかどうかは、改正が具体化するにつれて消費者と安全擁護者が追及するであろう問題である。

サクラメントの AI アジェンダは急速に進んでいます

その手紙はワシントンを待っていない州都に到着した。先月、ニューサムは、AIシステムを評価するための独立した検証機関の枠組みと、AI監査人のための州登録簿（OpenAIが現在提案している独自の監査プラグインのインフラストラクチャ）を作成する2つの法案に署名した。

カリフォルニア州の AI 推進は規制を超えて広がっています。ニューサム氏は月曜日、州人事局とデータ・イノベーション局と協力して構築したAI支援ツールを発表した。このツールは、Anthropic社のClaudeを利用して、応募者が自分のスキルに合った州の仕事を見つけるのを支援するものだ。翌日、知事は、AIのトレーニングと教育リソースを200万人以上に拡大するため、Google、Adobe、IBM、Microsoftと提携すると発表した。

次に何が起こるか

SB53の改正には立法措置が必要だが、ニューサム氏が議員らに法案の見直しを求めるのか、それとも行政上の変更を求めるのかは不明だ。明らかなのは政治力学だ。世論調査ではほとんどのアメリカ人がAIの発展が速すぎると考えており、業界自身の安全事故がその証拠を提供していることから、ルールの強化を求めるAI企業はもはや2年前のように異常な立場ではない。

OpenAI の場合、計算は同様に読みやすくなります。 50の州法のパッチワークのような連邦政府は業界最悪のケースだ。ライバルを含むすべてのフロンティア開発者に適用される厳格で監査に裏付けられたカリフォルニアの枠組みは、カリフォルニア州が耐えられるレベルであり、現在、その構築に向けて公然とロビー活動を行っている。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→