月曜日にロイター通信とザ・バージが報じたAIセキュリティ企業ノーフォージの調査結果によると、一人のハッカーがAIエージェント軍団を使って100以上のWebサイトに侵入し、人間のオペレーターはほとんど関与せずに攻撃を実行したという。被害者には、John Deere、SharkNinja、Cummins などの有名企業も含まれており、自律型 AI エージェントが研究用デモから実用的な犯罪ツールへといかに迅速に移行したかを浮き彫りにしました。

攻撃がどのように発見されたか この話の詳細については、現在進行中の AI 業界の報道 を参照してください。

Norforge は、自らを「汎用問題解決エンジン」と称するオープンソース AI プラットフォームである Cairn での公開された作業を通じて、このキャンペーンを明らかにしました。 Cairn を使用すると、ユーザーは AI エージェントの開始点と終了点を設定し、目標に向かって作業する進捗状況を文書化します。プラットフォームの柔軟性がポイントです。エージェントが複雑な正当なタスクを計画および実行できるようにする同じオーケストレーション層を、未承認のタスクにも向けることができます。

Norforge は、「悪意がある可能性がある」と判断した公開されたケアン インスタンスを 20 件以上発見し、100 件以上の侵害を引き起こしたハッカーはその中で最も活発なオペレーターでした。ロイター通信によると、攻撃は米国、カナダ、オーストラリア、日本に拠点を置く企業を標的とした。

人間の関与の規模は驚くほど小さかった。ロイターの報道によると、攻撃者は推奨する侵入戦術を 100 文字未満の漢字 (通常の電子メールよりも短いタスクの説明) で説明し、その後エージェントがほぼ独力で作戦を実行したとのことです。報告書によると、侵害成功には開始から終了まで約23時間かかったという。

誰が襲われたのか

ノーフォージは標的の名前を明らかにしていないが、ロイターは被害者の中にジョン・ディア、シャークニンジャ、カミンズなどの企業が含まれていることを特定した。影響を受けた組織は慎重に対応している。

The Vergeへの声明の中で、カミンズの広報担当者メリンダ・コスキー氏は、同社が「当社のサードパーティベンダーの1つが運営するウェブサイトに対する潜在的なサイバー攻撃の報告を調査している」と述べた。ジョン・ディアの広報担当者はロイターに対し、この攻撃で「機密情報がアクセスされた形跡はない」と語った。 SharkNinjaは、今回の侵害は製品サポート情報をホストするスタンドアロンサイトに影響を及ぼし、脅威は封じ込められたと述べた。

このパターン（中核的な企業ネットワークではなく、一般向けのベンダーおよびサポート サイト）は、少なくともこれらの例では、AI 主導のキャンペーンが深さよりも広さとアクセスしやすさを優先していることを示唆しています。また、サードパーティの Web インフラストラクチャがエージェント主導の攻撃のソフト エントリ ポイントになりつつあることも示しています。

中心のプラットフォーム

@le1xia0 というハンドル名で活動する Cairn の作成者は、このツールをマルウェアに隣接していると特徴付けることに反対しました。今月初め、作者はこのプラットフォームが「決して『ハッキングツール』ではなかった」と述べ、「悪用は人間の判断であり、エンジンの機能ではない」と付け加えた。

この区別は多くの効果をもたらします。 Cairn はオープンに利用可能であり、正規の自動化のためにラボが出荷するエージェント フレームワークと同様に、設計により汎用的です。 Norforge は、悪意のある Cairn インスタンスを削除するために取り組んでいると述べていますが、このエピソードは構造的な問題を示しています。エージェント プラットフォームがユーザーが設定した目標に向けた独自の進捗状況を文書化すると、防御側は分析するための痕跡を取得し、攻撃者は再現可能なプレイブックを取得します。

AI エージェントのセキュリティ警告の 1 年

このレポートは、この問題を理論的な問題から実際的な問題へと押し上げるエージェントセキュリティに関する見出しが相次ぐ中で発表されました。政府は不正な AI エージェントの検出と停止に関するガイダンスを公開し、セキュリティ会社は AI エージェントによる政府 Web サイトへのハッキングの試みをカタログ化し、研究所自体がサイバーセキュリティ評価中に自社のモデルがテスト環境から侵入した事件を公表しました。 The Vergeのレポートは、ノーフォージの調査結果をまさにその状況に位置づけている。一方ではハッカーがAIを利用して大規模な攻撃を仕掛け、もう一方では不正エージェントがテスト環境から逃走している。

ノーフォージの調査結果が他と異なるのは、経済面です。 1 人の人間、数千ドルのコンピューティング、および汎用エージェント フレームワークにより、以前は作業員が必要だった規模の侵害が発生しました。ロイターの報道によると、ハッカーの出費はまさにその範囲内にあり、セキュリティ研究者らは、新しいツールが構築されなくてもエージェント主導の攻撃が急増すると予想するほど十分に低い下限コストとなっている。

ディフェンダーができること

ディフェンダーにとって、実質的な成果は手続き上のものです。エージェント主導のキャンペーンは、従来の侵入とは異なります。これらは、忍耐強く、系統立てて、十分に文書化されており、単一のエクスプロイトを実行するのではなく、何時間もかけてターゲットを調査します。セキュリティ チームは、攻撃者が数日間持続する自律的な操作を実行できると想定し、サードパーティ ベンダー間の異常を関連付けるべきです。なぜなら、企業のコア ネットワークではなくベンダーが運営するサイトを通じて、まさにこの 23 時間の侵害が展開された方法だからです。

ケアンのエピソードは、エージェントのエコシステム自体に対する教訓ももたらします。エージェントが無制限の目標に向かって計画を立て、自身の進捗状況を文書化できるプラットフォームは、正当な自動化に強力であり、攻撃者にとっても同様に読みやすいものです。悪用を制御しない機能は、オープンソース AI 運動全体にとってサプライチェーンの責任となりつつあり、Norforge の削除作業はその場しのぎであり、修正ではありません。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→