今週 AI の議論を独占した人類研究者らによる安全性に関する警告は、現在ワシントンで具体的なもの、つまり立法推進を生み出している。ロイター通信は木曜日、米国議員らは研究者の発言を受けて新たなAIルールの制定を求めていると報じ、一方マサチューセッツ州下院議員のロリ・トラハン氏は木曜日午前のインタビューで、フロンティア法（フロンティアAI開発者に初めて拘束力を課す法案）について詳しく説明した。

トラハン氏はWBUR朝刊で、今週の出来事に対する国会議事堂の反応は、今年初めにAI規制に取り組み始めて以来、これまでに見たものとは異なっていたと語った。ワシントンやブリュッセルなどでの AI 政策の動きを毎日報道するには、AI ニュースや規制の最新情報の情報源である AI Buzz Wire をフォローしてください。

フロンティア法が何をするのか

超党派のこの法案の共同起草者であるトラハン氏は、この法案を、そのモデルが壊滅的な損害を引き起こす可能性がある少数の企業のための一連の「交通ルール」であると述べた。同議員によると、フロンティア法ではフロンティアAI開発者に対する透明性要件、インシデント報告、モデルの安全性主張の独立した検証、そしてモデルに差し迫った大惨事のリスクがある場合の彼女の言うところの政府の一時停止ボタンの4つが義務付けられるという。

「基本的なレベルでは、辺境の研究所にガードレールを設置する必要がある」とトラハン氏は述べ、議会がAIが関与する他の多くの分野の政策を策定する間の「賭け金」としてこれらの規定を組み立てた。

「名誉システム」: 拘束力のあるルールに対するトラハンの主張

Trahan 氏の議論の核心は、現在、最も強力な AI システムの開発者を拘束するものは何もないということです。 「現在、私たちが導入しているのは名誉システムだけです」と彼女は語った。 「人類史上最も強力なテクノロジーが開発者によって規制されています。」

同氏は、今週の警告が恐怖を煽るもの、または極端すぎるとの見方もあるとして、同僚の間で懐疑的な見方があることを認めた。しかし、彼女は議場内の雰囲気の急速な変化についてこう述べた。「ジェイコブ・コクソンが笛を吹いて以来、私の電話は鳴り止まない。同僚たちは怖がっていると思う。彼らは有権者から私たちに行動するよう求める声を聞いている…今週はちょうど転換点に達したところだ。」

注目すべきは、圧力は一党に限定されていないと述べたことだ。トラハン氏は「民主党だけではない」と述べ、「MAGA共和党は昨日、超党派の行動を呼びかけた。地盤は本当に変わった」と指摘した。

きっかけとなった警告

この立法的な動きは、2 人の人類研究者による声明に直接遡ります。ジェイコブ・コクソン氏は火曜日に同社を辞め、アンスロピック社は「自己改善の超知性を目指して真っ直ぐに競争し、私たちの命をかけて賭けている」とソーシャルメディアに書いた。人類研究者仲間のエヴァン・ヒュービンガー氏は公に彼を支持し、「ジェイコブの言うことは正しい…我々はAIが全人類を殺す可能性があると本気で信じている！個人的には今後10年以内に10％以上だと思う」と書いた。

この話は一週間にわたって広がりました。ヒル紙は、議員らが警告後にAIの危険性について警鐘を鳴らしていると報じ、BBCとCBSはヒュービンガー氏の確率推定を報道し、NBCニュースは木曜、安全性への懸念を理由に2人のAI研究者がアンスロピック社とグーグル社を退職したことを、「部屋に大人はいない」という一人の発言を引用して報じた。ロイター通信は木曜、議員らが現在新たなルールを求めていると報じ、またOpenAIが強力なAIモデルを管理する米国のルールを求めているとの報道も流れた。

警告から請求ファイルまで

今週がこれまでの安全性論争と異なるのは、政策対応のスピードだ。アンスロピック社が今週独自に明らかにしたもの（生物兵器の開発にクロードを利用しようとする試みを含む、妨害された悪用キャンペーンを詳述する脅威インテリジェンス報告書）は、警告にこれまでの議論に欠けていた証拠的なバックボーンを与えており、議員たちは今が保たれている間に動いているようだ。

AI 法制定に向けた今後の道のり

フロンティア法の見通しは依然として不透明だ。議会は長年にわたって包括的なAI法案可決に苦戦しており、検証の義務化や連邦政府の一時停止権限に関わる法案は、委員会間の管轄権争いと並行して、規制対象となる研究所からの激しいロビー活動に直面することになるだろう。ロサンゼルス・タイムズ紙によると、カリフォルニア州のギャビン・ニューサム知事は今週、一連のAI安全法案に署名し、州の規則のつぎはぎを先取りする連邦の枠組みを求める圧力を続けているとのこと。

今のところ、力関係は逆転しています。今議会で初めて、フロンティアモデルを構築している人々が自らの業界に対する制限を公に要求し、議員らもその制限を草案している。

この調整が法則を生み出すのか、それとも単に見出しに過ぎないのかは、今後数か月次第となるだろう。しかし、この週は、研究室もその批判者も無視できないことを示した。AIの安全性はセミナールームから鞭のカウントに移り、投票を数えているメンバーは、最終的に有権者が彼らに行動を求めていると述べた。

AI Buzz Wire は、連邦議会を通過するフロンティア法を追跡し続けます。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→