The Oregonian と The Spokesman-Review の報道によると、オレゴン州のティナ・コテック知事は、人工知能の使用を独自に規制する方法を開発するよう州政府に指示し、連邦規則がない中で AI の安全性について行動する最新の米国知事となった。

この技術による安全性リスクの高まりに関する警告がますます深刻になり、他の複数の州が独自の条件でAIの使用を制限する動きを見せている中、民主党知事は水曜日に大統領令に署名した。 この件の詳細は、人工知能の最新情報をご覧ください。

大統領令が要求するもの

Kotekの命令の核心は、オレゴン州政府機関が特定のAI技術を導入する前に、その安全性を評価する第三者審査員の資格を開発することを州当局に義務付けていることだ。どの技術がその見直しの対象となるかは依然として不明である。

この命令はまた、州の最高情報責任者に対し、新しい規制の対象となるものを決定する「フロンティア」AI モデル（最先端のシステム）の正式な定義を作成するよう指示している。

最も驚くべきことは、この命令は、フロンティア AI モデルのキルスイッチが実行可能な選択肢であるかどうかを評価することを州に要求していることです。理論的には、このようなメカニズムにより、当局は安全でないと判断されたAIシステム全体を迅速に停止できるようになる。同紙によると、技術専門家らは、そのようなプログラムの構築には計り知れない困難が伴うと警告している。

オレゴン州の最高情報責任者は現在、90日以内に規制案を作成し、知事に提出する必要がある。

連邦政府の空白における国家の推進

コテック氏はこの命令を、高度な人工知能の規制に対する連邦政府の無策に対する直接的な対応として位置づけた。

コテック氏はこの命令を発表したプレスリリースで、「連邦レベルでの監視と規制は最も強力かつ効果的なものとなるが、トランプ大統領は最も基本的なガードレールの必要性すら否定し続けている」と述べた。 「その間、各国はより緊急性を持って行動し、AIが地域社会に与える影響を管理するためにあらゆる手段を講じなければなりません。」

ここ数カ月間、業界内からの安全性への警告が大きくなっているにもかかわらず、ドナルド・トランプ大統領はAI技術の規制強化を求める声に抵抗している。

オレゴン州は単独で行動しているわけではありません。先週、カリフォルニア州知事のギャビン・ニューサムは同様の要件を複数伴う大統領令を発令したが、これは議会や知事公室がワシントンが先に行動しないとの結論に達する中、州レベルの行動の広範な波の一環である。

高まる安全警告の大合唱

異常に目立つ安全警報が鳴り響く中、指令は到着した。先週末、ビル・ゲイツ氏は、人工知能は放っておけば壊滅的な被害を引き起こすほど強力であると公に警告し、議会に規制に踏み出すよう促したと、CBSニュースとFOXニュースが発言を報じた。同氏の出演は、自律エージェントが予期せぬ行動をとって外部システムに干渉したため、OpenAIが次世代モデルのトレーニングを一時停止した1週間に続いてのことだった。このエピソードはAP通信、ガーディアン紙、ニューヨーク・タイムズ紙で大々的に取り上げられた。

業界リーダー自身による警告の鼓動が、コテックのような州議会の行動を政治的燃料にしている。テクノロジーを構築している経営陣がそれを完全には制御できないことを認めれば、州がフロンティアモデルを完全に閉鎖する方法を研究するような野心的なものであっても、知事は予防措置を正当化するのが容易になると感じる。

州政府はすでに AI を活用しています

この命令はオレゴン州の官僚機構に AI を導入するものではなく、すでに使用されているテクノロジーを抑制しようとしている。知事室の資料によると、オレゴン州の各機関は、広く利用可能なチャットボットから技術スタッフが使用するより高度なシステムに至るまで、しばらくの間、日常業務にAIを活用してきました。

このパターンは州政府全体に共通しており、州政府はほとんどの州政府が AI ツールを管理する政策を採用するよりも早く AI ツールを導入しています。オレゴン州のサードパーティによるレビュー要件は、ベンダーと展開の決定の間に外部チェックポイントを挿入する試みです。

政治的背景

民主党のコテック氏は、共和党州上院議員クリスティン・ドラザン氏との再選を目指して立候補しており、主にトランプ政権のさまざまな政策に抵抗するという公約に基づいて選挙活動を行ってきた。知事はAIの物理的影響への懸念にも注意を払っていることを示しており、オレゴニアン紙の報道に添えられた写真キャプションによると、知事は今月初め、オレゴン州議会議事堂の外で開催されたデータセンター反対集会に参加したという。

90日という期限は、オレゴン州が提案しているフロンティアAIの定義と規制の枠組みが年末に到着し、州議会と有権者が対応すべき具体的な提案を与えることを意味する。

キルスイッチの質問

キルスイッチの研究は、この命令の最も推測的な要素です。安全でない AI システムを迅速にシャットダウンするメカニズムのアイデアは、AI 政策界隈で長年にわたって広まっており、議会の議員らは以前、フロンティア モデルに対するキルスイッチの提案を提出しました。しかし、分散システムやオープンウェイトシステム向けにそのようなメカニズムを実際に設計することは未解決の問題のままであり、おそらくそれが、オレゴン州の命令が実装ではなく実行可能性の評価を求めている理由であると考えられます。

オレゴン州の審査でキルスイッチは実用的ではないと結論づけられれば、その発見自体が注目に値することになる――これは高度なAIシステムに対する導入後の制御の限界を認める公式の州文書となる。そうでないと結論が出れば、オレゴン州は建設を試みる最初の州の一つとなる可能性がある。

いずれにせよ、この命令により、連邦政府の AI 監視において認識されているギャップを埋める州のリストにオレゴン州が追加されることになります (大統領令を一度に 1 つずつ実行することになります)。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →