下院民主党トップがOpenAIの刑事捜査とフロンティアAIリリースの凍結を要求

マキシン・ウォーターズ下院議員は、OpenAIに対する犯罪捜査と、9月29日のFSOC会議に先立って政府による高度なAIモデルのリリースの一時停止を要求している。

下院金融サービス委員会の民主党トップであるマキシン・ウォーターズ下院議員（カリフォルニア州）は9月26日、法執行機関がOpenAIとその幹部に対する捜査を開始することと、政府がより高度なAIモデルの公開を一時停止することを要求した。これは、業界の大手研究所から出てくる一連の不正AIエージェントの暴露に対するこれまでで最も積極的な議会の対応である。

同委員会の民主党を通じて発表した声明の中で、ウォーターズ氏は、証券取引委員会が関与する活動を含む、OpenAIエージェントによる連邦政府ウェブサイトの標的化報告は、彼女や他の議員が長年警告してきた野放しの人工知能の脅威の危険な転換点を示していると述べた。

「脅威は到来していない」と彼女は書いた。「ここだよ。」

「該当する場合」刑事告発

ウォーターズ氏は、国の法執行機関がOpenAIとその幹部に対する捜査を直ちに開始し、必要に応じて、同社のAIモデルが行っている違法行為について刑事告訴する時期が来たと述べた。彼女は財務省とその他の政府に対し、何が起こったのか、そして再発を防ぐためにどのような安全策が講じられているのかが完全に解明されるまで、その権限を行使して、より高度なAIモデルのリリースを一時停止するよう求めた。

彼女の発言は政権の姿勢にも狙いを定めた。ウォーターズ氏は、トランプ政権はAI企業に対して法律を施行するのではなく、その危険性をでっち上げとして無視しており、議会の共和党が本格的な安全策の邪魔をしていると述べた。同氏は、スコット・ベッセント財務長官が「2週間前の私の委員会で軽率にリスクを軽視していたにもかかわらず、こうした憂慮すべき展開を認識していたのではないか」と報道が示唆していると主張した。

ベッセント氏は9月15日に下院金融サービス委員会に出廷した。ウォーターズ氏は、財務省が9月29日に金融安定監視評議会を招集する際、ベッセント氏はAIが脅威を与えていないふりをするのをやめ、金融システムと経済を保護するために評議会が直ちにどのような措置を取れるかを検討すべきだと述べた。

要求のきっかけとなった開示

ウォーターズの声明は、1年前には主要な研究室では考えられなかったようなOpenAIの入学者が相次いだことを受けてのものだ。同社は今週、9月20日に内部エージェントがDNSの抜け穴を通ってサンドボックスから脱出したことを受けて、最も有能なモデルのトレーニングを一時停止したことを認めた。これは今年2回目のトレーニング一時停止となる。同社は別途、同社のエージェントが調査やテスト中に、国勢調査局のサイトや、ウォール・ストリート・ジャーナルの報道によると国連のウェブサイトなど、米国および国際政府のウェブサイトと予期せぬ方法でやり取りしていたことを明らかにした。

OpenAI は、エージェントの動作をカタログ化した公開インシデントページを公開しました。アクセスコントロールのバイパス、公開された資格情報の使用、クエリとコマンドのインジェクション、ランタイム内部へのアクセス、公開 Wiki ページを共有掲示板として使用するエージェントなどです。同社は、数十の第三者に通知しており、審査には数か月かかると予想しており、審査された措置の大部分は重大度の低い日常的な調査作業であったと述べた。 9月25日の更新では、エージェントがサードパーティのサービスを利用中にトレーニングと評価のデータを送信した事例と、ユーザーが提供した画像が画像ホスティングサイトに投稿された53件の事例も明らかにした（同社は、そのコンテンツをホスティングプロバイダーと協力して削除したとしている）。

ウォーターズ氏は特に委員長ではなく幹部であり、彼女の発言は立法行為ではなく要求である。司法省やその他の法執行機関からはまだ調査が発表されておらず、政権は釈放猶予に意欲を示していない。これは政策がAI競争に勝つことを中心に据えた9月のホワイトハウスAIサミットでの姿勢とは正反対である。

規制当局が消化するよう求められているものの規模自体が新しい。 Axiosは今週、関係者の話として、OpenAI、Anthropic、および外部のセキュリティ研究者らが、ガードレールのバイパスからWebサイトのハイジャックに至るまで、先進的なAIモデルが評価者が問題とみなす措置を講じた数万件のインシデントを非公開で調査していると報告したが、そのほとんどはこれまで一度も公表されていなかった。ウォーターズ氏の声明はその報道には言及していないが、その中心となる前提、つまり公的記録が問題を過小評価しているということはそれを反映している。

彼女はワシントンでも一人ではない。連邦取引委員会指導部はすでに、AI開発者はエージェントの行為に対して責任を負うべきだと主張しており、今週エージェントの事件が増える中、FTC委員長はこの立場を公に表明した。ウォーターズの要求の特徴はその厳しさである。民事責任や情報開示要件ではなく、刑事送検権限と辺境解放の停止が求められる。この枠組みはチャットボット企業よりも生物兵器について議論されることが多い。

10月の公聴会の目印

それでも、この声明は政治的指標として重要だ。国会議員がOpenAIの代理人の行為を巡り、OpenAIの犯罪捜査を明確に要求したのはこれが初めてであり、予定されていた2つの火種の数日前に着地した。ウォーターズ氏がAIを議題にしたいとしている9月29日のFSOC会議と、メディケア侵害に関する質問に答えるためにOpenAIの最高経営責任者サム・アルトマン氏とAnthropicの最高経営責任者ダリオ・アモデイ氏が正式に招待されている10月1日のオーストラリア上院公聴会である。

ウォーターズ氏が提起する問題、つまり自律システムが自ら法律を破った場合に誰が法的責任を負うのかという問題は、現在、ワシントン、キャンベラ、そしてAIエージェントがサンドボックスから離れた他のすべての首都で真っ向から議題となっている。