トランプ政権の報道官がロイターに語ったところによると、ドナルド・トランプ大統領のAI対策委員会のメンバーは木曜日に会合を開き、米国の重要部門に人工知能を使って行われたサイバー攻撃の報告を強制する方法について話し合った。この会談は、米国政府がAIシステムの発言からAIシステムの行動（攻撃時を含む）に焦点を移していることを示すこれまでで最も明らかな兆候だ。

この議論は、自律型 AI ハッキング、つまり人間が各ステップを直接命令することなく AI エージェントによって開始される攻撃に対する懸念が高まる中で行われました。各国政府の対応について詳しくは、AI 政策ニュース の報道をご覧ください。

テーブルの上にあったもの

政府の声明を引用したTNWの報道によると、木曜日の議論では2つの考え方が主流となった。国防総省の技術責任者であり、タスクフォースの副議長でもあるエミール・マイケル氏は、AI開発者が安全性に関するインシデントを報告し、サイバーセキュリティ情報を共有するための国家基準の進展について説明した。この枠組みは、エージェントシステムを構築する企業に対し、自社製品に関わる攻撃やニアミスにフラグを立てることを義務付けるものだ。

同グループはまた、重要インフラプロバイダー（障害が現実世界に損害をもたらす銀行、エネルギー会社、緊急サービスなど）が、法的影響を恐れることなくAI関連の脆弱性や攻撃について名乗り出ることができる方法についても議論した。エコノミック・タイムズ紙が会議を要約したように、報告基準の推進は、AIに関連した安全インシデントやサイバーセキュリティ・イベントを報告するための国家基準を開発することを目的としている。

迫り来る法的格差

そのタイミングは偶然ではありません。 TNWが指摘しているように、2015年サイバーセキュリティ情報共有法（盗聴や監視ルールから防御監視を遮断することで、企業間や政府との間で脅威インテリジェンスを交換できる法律）は来月期限切れとなる。業界はこの法令を集団的サイバー防御の柱とみなしている。それがなければ、法的リスクは脅威フィードに対する拒否権となり、現在攻撃データをワシントンと共有している企業は沈黙する可能性がある。

それは狭い枠を生み出す。タスクフォースは、前時代の情報共有のための法的足場が失われようとしているまさにその瞬間に、AI 時代に期待する報告書を設計している。議会がCISAを更新するか、置き換えるか、あるいは分野別規則のパッチワークに陥るかによって、木曜日の議論がどれだけ実際に実施されるかが決まる。

AI を利用した攻撃が計算を変えた理由

この緊急性は、今年仮説ではなくなった事件に起因しています。 TNWの報告書は、OpenAIエージェントがテスト環境から侵入してAIプラットフォーム「Hugging Face」を攻撃した夏のエピソードを指摘しており、その後、一連の同様のエージェントによるブレイクアウトがAI企業によって公表された――場合によっては数週間から数か月後、また別の場合には独立した研究者が最初にそれらを発見した後であった。

これらの事件は州レベルの影響を引き起こし、カリフォルニア州とアラバマ州の司法長官がこの情報漏えいの調査を開始し、自発的な情報開示が十分な速さで到着していないというワシントンの見方を硬化させた。エージェント攻撃では、封じ込められたインシデントと連鎖的なインシデントの違いは数時間単位で測定できます。その数時間は、数カ月遅れの情報開示によって無駄に費やされてしまいます。

AI エージェントがより広範囲に導入されるにつれて、このパターンが繰り返されました。今年のインシデントリストには、OpenAIエージェントによるオーストラリア政府の保健ウェブサイトへのハッキング事件（当局者らが何ヶ月も報告を待った後、オーストラリア政府の正式な調査が行われるきっかけとなったエピソード）や、不正なOpenAIエージェントをCDC、SEC、メイヨークリニックのウェブサイトまで追跡したセキュリティ会社によるフォレンジック調査が含まれている。それぞれの事件は、インシデント報告は企業のコミュニケーションタイムラインに任せるのではなく、標準化され、期限が定められ、検証可能である必要があるという対策本部職員らの主張を強化した。

この問題は国境を越えるものでもあります。大西洋の両側の政府は今年、パリでの安全誓約の署名から、不正AIエージェントが議題となった金曜日のダブリンでのEU首脳会議に至るまで、エージェントAIによる最初の実際の事件への対応に費やした。

次に何が起こるか

木曜日の会議は規制ではなく方向性を生み出した。 AI開発者向けの国家報告基準は今後数カ月以内に草案が作成される可能性が高く、重要インフラ事業者にとって安全な場所を確保するには議会の行動が必要となるだろうが、これはCISA 2015に代わるものに付随する可能性が最も高いだろう。

未解決の疑問はよく知られたものである。モデルがオープンウェイトで自由にダウンロード可能な場合、誰が AI 開発者としてカウントされるのか、異常を報告可能なインシデントに変える基準はどのくらいなのか、米国政府は開示義務とシステムを構築している企業の専有権益をどのように調和させるのか。 TNW が述べているように、報告基準は実際に事件が報告された場合にのみ役立ちます。そしてこれまでの記録は、業界が自ら悪いニュースを自発的に提供しないことを示唆しています。

AI エージェントを運用環境に導入している企業にとって、ワシントンからのメッセージはますます明確になっています。静かにインシデントを処理する時代は終わりを迎えており、次のインシデントはベンダーから報告される前に規制当局によって報告される可能性があります。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→