Googleの脅威インテリジェンス部門は月曜、Nextgovが報告した調査結果の中で、ハッカーらが米国の航空宇宙分野を標的とした侵入で、急速に出現しているAI支援のハッキングフレームワークを利用したと明らかにした。 Cairn として知られるこのツールは、中国のオープンソース セキュリティ コミュニティと連携した、一般公開されている侵入テスト フレームワークです。実際の侵入内でのこのツールの出現は、エージェント AI が研究デモから実際のスパイ活動に移行する新たな一歩を示しています。
Googleは、アクセスされた航空宇宙関連組織の名前や、どのような情報が盗まれた可能性があるかについては明らかにせず、また、侵入が特定の政府によるものだったとは考えていない。このレポートは、過去四半期に観察されたアクティビティを幅広くカバーしており、防御側が適応できるよりも早くエージェント システムが再利用されているという今日の AI 業界の報道の真っ只中にあります。
ケアンとそのいとこができること
Cairn は、以前の脅威レポートで主流を占めていたチャットボットを利用したハッキングとは異なります。人間が AI アシスタントに段階的に指示するのではなく、Cairn は AI エージェントを使用して互いに情報を共有し、システム侵入に向けて次にどのハッキング手法を試行するかを決定します。
Googleの研究者らは、ARTEX、CyberStrikeAI、PentAGIなどの他のオープンソースシステムは現在、ハッカーが手動でAIチャットボットに個々のステップを支援するよう促していた以前の活動と比較して、「より高い操作速度で多段階の侵入を実行する」ために使用されていると述べた。 ARTEXは金曜日に掲載されたFBIサイバーセキュリティ勧告で別途警告された。
最も憂慮すべき発見: 完全に自動化されたエクスプロイト
四半期報告書からは、1 つの発見が際立っています。 Google の研究者らは、ソフトウェアの修正を研究し、学習した内容に基づいて攻撃を開発し、そのループに人間が関与することなく自動的にそれらの攻撃を実行するように構成された攻撃者のシステムを発見しました。同社は、そのプロセスを完全に自動化している攻撃者を研究者が特定したのは初めてだと述べた。
その意味するところは明らかです。パッチのリリースと悪用の間の競争は数週間から数時間に崩壊する可能性があり、犯罪者がセキュリティ更新プログラムを入手する前にインストールするのにすでに苦労している組織にさらなるプレッシャーがかかることになります。同じ調査結果を取り上げた Hacker News は、ハッカーが AI エージェントを使用してソフトウェア パッチから直接エクスプロイトを構築し、実行するという手法を要約しました。
Nextgov によると、「参入障壁が低いこと、新たなエクスプロイトの統合が容易であること、大規模な拡張の可能性を考慮すると、脅威アクターが世界中の組織を標的としたキャンペーンでこれらのフレームワークを使用し続ける可能性が非常に高いと考えています」と同社は述べています。
中国チームが分析を工業化。北朝鮮の採用担当者は人造人間になる
報告書はまた、国家に関連する主体がどのようにモデルを作戦のさまざまな段階に組み込んでいるのかについても詳述している。中国のハッキング集団は、AI モデルを使用して盗まれたファイルを分析し、顧客向けに完成したインテリジェンス レポートを作成しました。ある例では、請負業者は AI を使用して盗まれた情報を翻訳および分析し、標的となった組織がどのように構成されているかを解明し、その結果をインテリジェンスレポートにまとめました。このテクノロジーは、盗難そのものではなく、盗難後の複雑な解釈作業に使用されていました。
グーグルはまた、中国工作員とみられる人物が自動ハッキングツールを実験していることも観察しており、その中にはスパイ活動に使用される可能性が高い独自のシステムを開発している中国関連グループも含まれていた。
一方、北朝鮮の関係者は AI を利用してソーシャル エンジニアリングを強化しています。 Google のグループの 1 つは、捏造された採用担当者のプロフィールを使用して、北米とヨーロッパの標的となった仮想通貨組織を追跡しています。偽の採用担当者はターゲットを偽の会議サービスに誘導し、そこで想定される技術的問題を解決するための指示により悪意のあるコードを実行させました。
攻撃者は内部に侵入すると、企業のコード リポジトリにある Claude Code (Anthropic の AI コーディング アシスタント) の設定を変更し、アシスタントを起動するとマルウェアのダウンロードがトリガーされるようにしました。信頼できる開発者ツールを武器化するということは、ソフトウェア エンジニアがすでに信頼しているものに悪意のあるアクションが乗っ取られることを意味します。
この調査結果は、バイナンスから盗まれた12億ドル以上をカバーする裁判所命令と並んで、4億ドル以上の窃盗に関連する北朝鮮の偽ビデオ通話スキーム「フェイススティーラー」を標的とした司法省の先週の発表を反映している。 Googleの報告書は、その調査結果をどちらの事件とも結び付けていない。
影響操作もさらに自動化
Googleは、スパイ活動や金融犯罪を超えて、ロシア、中国、イランに関連する影響力活動は現在、日常的にAIモデルを使用してコンテンツを作成し、その配布を自動化しており、オンラインで一般人を装う作業の多くを機械に委任していると述べた。
広がる格差
総合すると、これらの調査結果は、オープンソースのリリースごとに増大する防御の問題を概略的に示しています。 Cairn、ARTEX、CyberStrikeAI、PentAGI などのペネトレーション テスト フレームワークは、セキュリティ コミュニティによって、セキュリティ コミュニティのために構築された法的ツールであり、そのエージェント アーキテクチャにより、レッド チームにとって非常に役立ちます。同じ特性により、ダウンロードした人にとってすぐに使用できる攻撃兵器になります。
防御者に対する Google のメッセージは、事実上、予測ではなく計画上の仮定です。次に直面する侵入は、展開が完了する前にパッチノートを読んだエージェントによって設定されたタイムラインに基づいて、マシンの速度で実行されたと仮定します。
---
AI の先を行く最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。
AI ニュースをもっと読む→