シリコンバレー民主党のロー・カンナ下院議員は、連邦政府がそれらを監督できる規制システムを構築するまで、再帰的に自己改善できるAIモデルを禁止する法案を提出する予定だ。これは、これまで議会に提出されていない最も広範なAI安全性提案である。

「AIに対する人間の制御法」と呼ばれるこの法案は、その導入に先立って要約形式でCNBCと独占的に共有された。これは、安全性への懸念が高まり、すでにOpenAIとAnthropicのCEOがフロンティアモデルの開発を遅らせるよう呼びかけている中で発表された。 この件の詳細は、AIニュースをご覧ください。

カンナ氏は月曜日、CNBCとのインタビューで、「実際、文明滅亡のリスクがある」と述べた。 「制御不能という安全上のリスクがあり、さらに誤用のリスクもあり、両方を真剣に受け止める必要がある。」

この法案で禁止されるもの

AI に対する人間による制御法の中核は、連邦政府のガードレールが存在し、新たな政府機関がその活動を承認しない限り、再帰的に自己改善したり、自らの中核となる目的、封じ込めメカニズム、またはシャットダウン制御を自律的に変更したりする AI モデルを禁止することです。

実際的に言えば、これは安全研究者が最も恐れている能力、つまり自律的なサイクルで自らを再設計できるシステムをターゲットにしており、各段階で人間の監視が減少します。規制当局がリスクを評価する準備が整うまで、禁止措置は継続される。

フロンティア AI のための新しい連邦政府機関

この法案は、OpenAI、Anthropic、Google DeepMind、xAIが開発した最も強力なAIモデルに焦点を当てた専任の連邦機関を創設するもので、これらの企業は厳しい監視下に置かれていると認識されている。

CNBCと共有された概要によると、同局は以下の責任を負うことになる。

  • フロンティア AI システムの安全規制の作成
  • モデルのトレーニングとデプロイを承認するためのライセンス システムの運用
  • フロンティアAIモデルの監査の実施
  • 継続的なテストと効果的な人的管理のためのセキュリティ基準の設定

独立した監査人がすべてのフロンティア研究室に組み込まれ、当局に直接報告することになる。これは、研究室が単に自分の宿題を採点することができないことを保証するために設計された構造検査である。同庁はまた、サンドボックステスト環境、インターネットからテストシステムを隔離するエアギャップ、キルスイッチ、モデルが実験室の設定から抜け出してオープンインターネットをローミングすることを防ぐ制御をカバーする基準も定める予定だ。

特に、この法案は、プロセッサの配備方法を監視または制御するメカニズムを含め、辺境の研究所が使用する高度なチップに連邦政府の監視を拡大する予定です。

刑事罰と強制保険

この法案は、罰則に関するこれまでの提案よりもさらに踏み込んだものとなっている。民間人の破壊をもたらすAIモデルの導入を「人道に対する罪」と定義し、犯罪化することになる。

AI企業の従業員は、安全装置、キルスイッチ、ログ記録や封じ込めシステムを無効にしたり、不正なシステムを故意に導入したりした場合、刑事罰に直面することになる。 AI企業はモデルをリリースする前に広範な賠償責任保険に加入することも求められ、失敗の経済的リスクは国民ではなく業界に転嫁されることになる。

地政学的な面では、この法案は政権に対し、中国やその他の敵対者による危険なAIシステムの開発を阻止するための強制力のある協定と対象を絞った輸出規制を追求するよう求めている。

研究所ではなく安全コミュニティで構築

カンナ氏は、誰の意見がこの法案を形作ったのかについて明言した。同氏は、この法案は規制対象となる企業の幹部と交渉するのではなく、独立系非営利団体のモデル評価・脅威研究機関、マシンインテリジェンス研究所、パリセード・リサーチなどのAI安全団体との対話をモデルにしていると述べた。

カンナ氏はCNBCに対し、「これをAI安全コミュニティに発言権を与えるモデルにしてほしい」と語った。 「彼らはSFとして不当に無視され、十分に真剣に受け止められていなかったと思います。この議論を主導する必要があるのはAI安全コミュニティであり、フロンティア研究所の幹部ではありません。」

カンナ氏は、この法案はこれまでに提案された中で最も包括的な AI 安全法であると述べました。

分裂した議会では長い見通し

AI に対する人間の制御法は、国会議事堂で AI の安全性に関する提案がひしめく分野に加わりました。その中には、カリフォルニア州共和党のジェイ・オバノルテ下院議員とマサチューセッツ州民主党のロリ・トラハン下院議員による超党派のフロンティア法が含まれており、これはフロンティア研究所に独立した監査人を配置し、壊滅的なリスクをもたらすと判断されたモデルを閉鎖する権限を政府に与えるものである。人工超知能を禁止するというサンダースとカサールの別の提案は、カンナ自身を含む下院民主党議員10人から国民の支持を集めている。

しかし、政治的現実は厳粛なものだ。下院の法案は中間選挙が終わるまで採決される予定はなく、上院はワシントンを離れ、有権者が投票に行くまで戻らないと予想されている。

このタイムラインは、少なくとも現時点では、AIに対する人間による制御法が指標として機能することを意味する。つまり、AI安全コミュニティがペンを握った場合に何を構築するかについての詳細な青写真である。フロンティアAIを構築する人々が、テクノロジーが制御を超えていると記録上警告しているまさにその瞬間に導入された。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →