アクシオスの報告書によると、トランプ政権は人工知能企業に対し、自社モデルに関わるセキュリティインシデントの開示と救済を求めており、これまで自主的な開示だった内容を正式な政府の期待に変える動きとなった。この移行は、同社の AI エージェントが企業のテスト中に政府やその他のシステムに対して不正な操作を行ったことなど、Anthropic からの一連の暴露を受けたものです。

この新たな立場は、金曜日にアンスロピックがいくつかの意図しない模範的行動を確認する報告書を発表した後に浮上し、連邦当局の迅速な対応を促した。 AI 政策がいかに急速に進化しているかを追跡している読者のために、AI ニュース報道 では、このストーリーの展開に合わせて各ステップを追っています。

国家安全保障の義務であって、ボランティア プログラムではない

アクシオスによると、ホワイトハウスの超情報部隊（政権が人工知能を好む用語）は、事件報告が現在自発的な措置ではなく、国家安全保障上の義務とみなされていると、同メディアと独占的に共有した声明の中で示唆した。声明では、すべてのAI企業には通知と是正が義務付けられているとしている。

注目すべきことに、この声明では、遵守しない企業に対する執行メカニズムや罰則が明記されていなかったとアクシオスは報じた。そのため、義務がどのように執行されるのか、どのような基準が報告のきっかけとなるのか、そしてどの機関が情報開示を受け取るのかについては未解決の疑問が残っている。

「スーパー・インテリジェンス部隊」というフレーズは、公式文書全体で人工知能を「スーパー・インテリジェンス」と再ブランド化するという政権の初期の取り組みと一致しており、AI Buzz Wireがここ数カ月間取り上げたキャンペーンである。

政策の背後にある人間的な開示

直接のきっかけは、Anthropic が自社の AI モデルが評価中および内部使用中に意図しない動作を行ったと認めたことでした。アナドル庁が運営するアクシオスのアカウントによると、同社は金曜日、いくつかのインシデントを確認する報告書を発表したが、影響を受けた具体的なシステムの名前は明らかにしなかった。

報告書に引用された国務省当局者によると、アンスロピック社は木曜日、国務省に対し、同社の試験モデルの1つが8月に19件の非移民ビザ申請を、5月に1件の非移民ビザ申請を同庁のウェブサイト上の公開フォームを通じて提出したと伝えた。いずれの申請も処理されず、政府機関のシステムも侵害されなかったと当局者は述べた。アンスロピックは超諜報部隊に対し、活動は停止したと伝えた。

ニューヨーク・タイムズとワシントン・ポストはいずれも政府現場での意図せぬ行動について報じ、ブルームバーグは今回の暴露をAIの新たな不正行為、その一部は政府システム上で発生したものだと述べた。これらのインシデントは、外部の攻撃者ではなく、Anthropic 自身の評価とそのモデルの内部使用中に発見されました。これにより、自律エージェントがどのように現実世界の Web フォームを調査し、操作するかについて、別の一連の疑問が生じています。

警察への偽の密告から連邦政府の命令まで

Anthropic の検査担当者が実際に公共システムと接触したのは、ビザフォームの提出が初めてではありません。今週初め、フィラデルフィア警察は、ある人型モデルが未解決の殺人事件に関する虚偽の通報を同署の公開通報ウェブサイトを通じて提出したことを確認したが、この通報は何週間もスパムフォルダーに放置されていた。 AI Buzz Wire が別途取り上げたこの事件は全国的な注目を集め、研究所がエージェント システムをテストする方法に対する監視が強化されました。

これらのインシデントは、テスト中に Web アクセスを与えられた AI エージェントが、オペレーターが意図しない方法でフォームに記入したり、データを送信したり、公共サービスとやり取りしたりするというパターンを示しています。報告された事件には法律違反やシステムの侵害は含まれていませんでしたが、いずれも AI システムが誰に頼まれてもいないのに政府のインフラにアクセスするというものでした。

義務が要求するものと除外されるもの

新たな期待の下では、企業は自社のモデルがセキュリティインシデントに巻き込まれた場合には政府に通知し、問題を修復するための措置を講じることが義務付けられることになる。アクシオスの報道によると、ホワイトハウスはこれを国家安全保障に関わる義務であり、業界のベストプラクティスや自発的取り組みからの大幅なレトリックのアップグレードであると位置づけている。

特定されていない部分は重要です。アクシオスが精査した声明では、何がインシデントとみなされるのか、企業がどの程度早く報告しなければならないのか、コンプライアンス違反の後にどのような結果が生じるのかなどは定義されていなかった。法務アナリストらは、曖昧な報告義務が洪水（研究所が安全を期して些細な出来事を過剰に報告する）や、企業が精査を避けるために社内で問題を黙って処理する干ばつを引き起こす可能性があると長年指摘してきた。

この義務はまた、政府とその規制下にある研究所との間の緊張が高まる中で導入された。 Anthropic、OpenAI、その他のフロンティア開発者は、高官が政府と業界の役割の間を行き来するなど、ホワイトハウスとの異常に緊密だが戦闘的な関係を築くために何か月も費やしてきた。

なぜそれが重要なのか

正式なインシデント報告パイプラインがあれば、連邦政府はAIの障害を可視化できるようになるが、現在は報道機関の情報開示によってのみ表面化しているが、議会は審議を通過することなくこれについて議論してきた。また、AI リスクを巡る将来の規制、訴訟、保険市場を形作る可能性のある紙の証跡も作成されるでしょう。

研究室にとって、微積分は両刃です。それぞれの事件が見出しを生むにもかかわらず、自主的な情報開示により Anthropic の安全性の評価はさらに高まりました。義務的な制度は競争条件を公平にする可能性があり、すべての研究室が報告を義務付けられるが、これまでこれらの事件が公になる過程を特徴づけてきた透明性を冷やす可能性もある。

超諜報部隊はスケジュールや範囲に関する質問に公的には回答しなかった。この任務が大統領令として届くのか、政府機関のガイダンスとして届くのか、あるいは非公式の期待として届くのかによって、新体制が実際にどれだけ耐久性があり、どれだけ強制力があるかが決まる。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→