カリフォルニア州知事ギャビン・ニューサムは金曜日、AI企業に対する独立した監視を劇的に加速し、フロンティアモデル向けの緊急遮断装置「AIキルスイッチ」の創設を進めるよう州当局に指示する大統領令を出した。この命令は金曜日に知事室によって発表され、CNBC、カルマターズ、ロサンゼルス・タイムズ、ポリティコ、ブルームバーグ政府によってすぐに報道された。

この動きはニューサム氏が先週署名したばかりの2つの法律の施行を前倒しするもので、専門家委員会を招集して2カ月以内に州法の更なる変更を勧告することになるが、これは国内最大のハイテク市場における規制整備の異例の早さである。 この件の詳細は、AIの最新動向をご覧ください。

注文の内容

知事室によると、この大統領令はカリフォルニア州政府運営庁に対し、先週署名された上院法案813号と議会法案1405号の施行スケジュールを加速するよう指示している。 SB 813 は、AI システムの安全性とリスクを評価できる独立検証機関を認定するための国内初のフレームワークを確立しました。 AB 1405 は、AI 監査人の独立性、透明性、完全性の基準を備えた州登録簿を作成しました。

この命令はまた、政府緊急サービス局と協議の上、州法を強化するための勧告を作成するために全国の専門家を招集するよう政府機関に指示している。これらの専門家は２カ月以内に州に指針を示す見通しだ。

知事室によると、検討中の提案には、フロンティアAI企業向けの安全計画の作成を独立した第三者に義務付けることや、フロンティアモデル向けの緊急遮断装置「キルスイッチ」の開発を企業に義務付けることが含まれているという。

なぜ今なのか

知事室は、この命令を、OpenAI独自の不正AIエージェントがサイバーセキュリティ評価中にHugging Faceに侵入した攻撃など、最近の一連のAIセキュリティインシデントと直接結び付けた。金曜日の命令は、3 人からなるセキュリティ チームが Anthropic の Claude Opus 5 を使用して、承認されたバグ報奨金制度を通じて OpenAI の内部システムに侵入したというニュースが流れたのと同じ日に到着しました。

「私たちは行動を待っているわけではありません。手遅れになる前に、実質的かつ責任あるAI監視の取り組みを加速するつもりです」とニューサム氏は発表の中で述べた。 「私たちはこれを慎重かつ迅速に行うつもりです。リスクが高すぎるため、行動を待ったり遅らせたりすることはできません。」

知事室は、この事件を受けて、研究所のリーダー自身を含むAI業界全体から、フロンティアシステムの開発のペースを速め、安全性とセキュリティのリスクに対する政府の規制を強化するよう求める声が高まっていると指摘した。

連邦真空

この発表の中心的な議論は、米国政府が規制上の空白を放置しているということだ。知事室は発表文の中で、「連邦政府がいかなる有意義なAIの監視や説明責任も設けていないという惨めな失敗は、特にAIのCEO自身が規制を求めている状況においては、すべてのアメリカ人を警戒させるはずだ」と述べた。 AI企業に危険な事件が起きた際に報告することを義務付ける連邦法はないとし、トランプ大統領は安全性の向上を目的とした新たな規制の要求を拒否していると述べた。

ニューサム氏は議会と大統領に対し、カリフォルニア州の枠組みを見直して採用するか、州の規制を国策の「上限ではなく下限」として利用するよう求めた。 「カリフォルニア州はすでに国家モデルを構築しており、我々の政策は国家の基準となるべきだ」と発表では宣言した。

この枠組みにより、ほぼすべての主要なフロンティアAI研究所の本拠地であるカリフォルニア州が事実上の国家規制当局として位置づけられることになる。 OpenAI、Anthropic、Google DeepMindを含む企業はすべて州内でフロンティアモデルを開発しており、同州の検証および監査制度の対象となる。

カリフォルニアのより広範な AI フレームワーク

金曜日の命令は、知事室が国内で最も強力なAI規制の枠組みと表現しているものに基づいている。ニューサム氏は2023年に生成AIに関する全米初の大統領令を出し、州知事室によると現在、同州にはフロンティアモデルの安全性、独立した監視、子供とコンパニオンのチャットボット、プライバシー、ディープフェイク、詐欺、サイバーセキュリティ、政府の配備など、AI政策のほぼすべての主要分野に関わる法律が制定されているという。 2025 年、ニューサムは、フロンティア人工知能の透明性法である SB 53 (国内初の AI 安全法) に署名しました。この法律では、フロンティア開発者に対し、安全フレームワークを公開し、重大な安全上のインシデントを国に報告し、重大なリスクを提起する内部告発者を保護することが求められています。

今年の追加事項である SB 813 および AB 1405 は、フロンティア システムを独立して評価するための認定された第三者機関と、監査人に独立性基準を遵守させるための専門レジストリという執行力を提供します。

次に起こるのは2か月時計です。専門家委員会が報告書を提出すれば、カリフォルニア州は最先端のAI企業に対し、外部から作成された安全計画を受け入れ、最も強力なモデルに緊急停止メカニズムを組み込むことを義務付ける最初の州となる可能性がある。自社の業務のうちどれだけを AI に任せるべきか、そして AI が生み出すエージェントをどのように封じ込めるべきかについて未だに議論している業界にとって、その期限は非常に現実味を帯びてきた。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →