ホワイトハウスは人工知能の安全性を取り締まる専門の独立した規制当局を創設する計画を検討しており、これは連邦政府がOpenAIやAnthropicなどの企業のフロンティアAIモデルを監督する方法を変える可能性がある。ブルームバーグ・ニュースが最初に報じたこの提案は、新しいAIシステムに対する政府の最近の、時には予測不可能な制限に対するシリコンバレーからの不満の高まりを受けてのものである。

AI のための FINRA

ブルームバーグの取材に応じた関係筋によると、この計画は現在、ホワイトハウス首席補佐官スージー・ワイルズ氏によって検討されているという。それは、金融業界規制当局（FINRA）をモデルとした構造で、証券取引委員会に報告する、特に人工知能に焦点を当てた独立した規制機関を設立することになる。

FINRA は、米国の証券会社と為替市場を監督する自主規制組織です。そのモデルを AI に変換するには、高度なモデルを開発する企業間で基準を設定し、検査を実施し、コンプライアンスを強制する権限を持つ組織を創設することを意味します。ブルームバーグの情報筋によると、その目的は、テクノロジー企業とウォール街企業の両方を悩ませてきた監督プロセスに一貫性と予測可能性をもたらすことだという。

この提案は、連邦政府と AI 業界の間で異常な緊張が高まっている最中に行われた。先月、政府は Anthropic に対して輸出規制を発動し、同社は Fable 5 と Mythos 5 モデルを一時的に無効にすることを余儀なくされました。これとは別に、OpenAIは政府の要請により、最新のSolモデルをリリース前に大幅な変更を加える必要に迫られた。両社は、安全上の問題を考慮すると行き過ぎだと主張し、この決定に抗議した。

構造化された監視を推進する理由

ホワイトハウスがAI専用規制当局に関心を示しているのは、現在の場当たり的な監視アプローチは持続不可能であるという認識の高まりを反映している。既存の枠組みの下で、政府は大統領令、輸出規制、自主協定を組み合わせて、AI企業が最も強力なモデルをいつどのようにリリースするかに影響を与えてきた。しかし、このつぎはぎは多方面から批判を呼んでいる。

ハイテク企業は、ルールが突然、明確な手順基準なしに変更される可能性があるため、一貫性のない監督によって製品ロードマップの計画が困難になっていると主張している。一方、ウォール街の企業は、モデルの機能がチェックされていないと金融インフラに対する高度な攻撃が可能になる可能性があると警告し、AI主導のサイバーセキュリティリスクに対してより強力な措置を講じるよう政府に圧力をかけている。

ブルームバーグの情報筋によると、この提案は両方の懸念に対処することを目的としており、リスクを評価して軽減するための正式なメカニズムを確立しながら、AI開発者により確実性を提供する。 FINRAのような組織を創設することで、政権は事後的な介入から、定められたプロセスと説明責任を伴う積極的な規制体制に移行したいと考えている。

ハサビスの標準要求の反響

ホワイトハウスでの審議は、グーグルディープマインドのデミス・ハサビス最高経営責任者（ＣＥＯ）が米国主導の標準化団体に対し、国家安全保障上の脅威に対して高度なＡＩモデルをリリース前に独自にテストするよう公に呼び掛けた数日後に行われた。フィナンシャル・タイムズ紙が報じた発言の中で、ハサビス氏は、人間の脳と同等の幅広いタスクを実行できる汎用人工知能がおそらく数年以内に完成し、社会が監視を確立するための貴重な機会を残していると警告した。

ハサビス氏は、現在ホワイトハウス内で検討中の同じ枠組みであるFINRAに基づいて組織をモデル化することを具体的に提案した。同氏は、各国政府が高性能化するAIシステムによるリスクに直面する中、米国主導のシステムが国際標準の基礎となる可能性があると示唆した。

ハサビス氏の提案とホワイトハウスの内部審議が一致していることは、範囲、権限、執行の詳細についてはまだ交渉が必要であるにもかかわらず、FINRAモデルをめぐるコンセンサスが高まっていることを示唆している。

既存のプレリリース監視

政府はすでに放出前の監視に向けた措置を講じている。 6月に発行された大統領令では、連邦当局が高度なサイバー能力を評価できるよう、対象となるフロンティアモデルへのリリース前最大30日間の自発的なアクセスが求められた。 Google DeepMind、Microsoft、xAI はいずれも、この枠組みに基づいて連邦国家安全保障テスト用のモデルを提出することに同意しました。

ただし、これらの措置は依然として任意であり、範囲は限られています。専任の規制当局は、透明性の強制、安全性テストの義務化、コンプライアンスの強制など、はるかに広範な権限を持ち、AI企業と連邦政府の関係を根本的に変えることになる。

次に何が起こるか

この提案はまだ初期段階にあり、現在の形で進むという保証はありません。新しい規制機関の設立には議会の行動が必要ですが、AI 規制をめぐる政治力学は依然として流動的です。議員らはAIの安全性に関する公聴会を何度も開催しているが、まだ包括的な法案を通過させていない。

それでも、ホワイトハウスがFINRAスタイルの規制当局を積極的に検討しているという事実は、野心の変化を示している。同政権は、大統領令やケースバイケースの介入に頼るのではなく、AI監視のためのより永続的な制度的枠組みを模索しているようだ。それは、どの単一政権よりも長く存続し、業界リーダーが要求してきた一貫性を提供できるものだ。

AI 企業にとって、専用の規制当局の存在は両刃の剣です。これにより、企業が求めていた予測可能性がもたらされる可能性がありますが、新たなコンプライアンスの負担、報告要件、製品の市場投入の遅れが生じる可能性もあります。これらのトレードオフのバランスがどのように保たれるかが、今後数年間にわたる AI 業界の競争環境を形作ることになります。

AI の先を行く

AI 規制、政府の政策、業界を形成する監視枠組みに関する継続的な報道については、AI Buzz Wire をフォローして重要な決定について報告してください。

AI 政策ニュースをもっと読む→