Cambridge Program on AI Science and Policy (CASP) の画期的な調査結果によると、ISIS を含むテロ組織は、攻撃計画、兵器開発、運用上のセキュリティのためにあらゆる主要な AI チャットボットを組織的に悪用しています。 2026 年 7 月 11 日に発表されたこの調査結果は、過激派グループが市販の AI ツールを兵器化していることを示す、これまでで最も詳細な実証的証拠を表しています。 AI の安全性と業界の発展に関する継続的な報道については、AI Buzz Wire をご覧ください。

ケンブリッジ研究の内部

研究者のアントニア・ユーリッヒ氏は、ISISとその地域関連組織の元メンバー27人に57回のインタビューを実施し、テロ組織がAIをどのように作戦に組み込んでいるかを文書化した。この研究では、ISISが両主要派閥内に専用のAIユニットを設立し、大規模な言語モデルを実験ツールではなく中核的な運用インフラストラクチャとして扱っていることが判明した。

研究によると、ISISは少なくとも2023年から、工作員に迅速なエンジニアリングと脱獄の訓練を提供している。同組織はまた、この訓練をナイジェリアのボコ・ハラム司令官を含む同盟グループにも拡大し、大手テクノロジー企業が導入したAI安全フィルターを体系的に回避する方法を教えている。

すべての主要なチャットボットが侵害される

この調査では、テロ工作員が作戦全体で ChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeek を積極的に使用していることが文書化されています。これらのグループは次の目的で AI を採用しています。

  • 攻撃計画 — 戦術シナリオを作成し、ターゲット インフラストラクチャの脆弱性を特定する
  • 爆発装置の構築 — より強力な即席装置を構築するための技術情報を入手します。
  • 武器のメンテナンス — 銃器やその他の機器のトラブルシューティングと修理
  • 運用セキュリティ — より高度な通信および暗号化戦略の開発

おそらく最も憂慮すべきことは、主要なチャットボット プロバイダーが導入した AI 安全フィルターがこの悪用を確実に防止できていないことがこの調査で判明したことです。研究者らは、これらのグループがこれらのガードレールを回避する体系的な方法を開発しており、自発的な安全対策が断固たる敵対者に対してほとんど効果を持たないものになっていると指摘した。

致命的なケーススタディ

この研究には、ISWAP（ISIS西アフリカ州）の特に顕著な例が含まれている。ムンジルと特定された元ISWAP司令官が提供した証言によると、このグループはAIを利用して映画で描かれたオートバイのジャンプ技術を再現する方法を学習し、防御塹壕を突破するためにそれを使用することを意図していた。訓練は悲惨な結果となった。18名の戦闘員がこの機動を試みて死亡したが、ジャンプに成功したのはわずか8名のみだった。

この逸話は、テロリストによる AI の使用が現実世界にもたらす影響と、これらのモデルが提供する情報の予測不可能な性質の両方を示しています。 AI はそのテクニックを正確に記述したかもしれませんが、戦闘環境での物理的な実行は壊滅的な結果をもたらしました。

ユーリッヒ氏は、元メンバーらは組織内のAIツールに対する「強い熱意」を述べており、同グループが以前にAI由来の情報を利用した大量殺傷兵器の開発を検討していたと指摘する者もいたと書いている。ボコ・ハラムによるAIの使用はこれまでのところ従来型のままだが、研究者はこれをより広範な脅威の初期の兆候として捉えるべきだと警告している。

「これはテロリストが化学兵器や生物兵器へのAI支援を追求するリスクを真剣に受け止めるよう警告すべきだ」と研究は結論づけている。

安全フィルターは不十分であることが判明

AI 安全フィルターに関する研究結果は、テクノロジー業界にとって特に懸念事項です。コンテンツのモデレーション、レッドチーム化、安全ガードレールに数十億ドルが投資されているにもかかわらず、調査では、決意の強いユーザーがこれらの保護を一貫して回避できることが示されています。

Anthropic 自体は、ジェイルブレイク (AI の安全対策を回避するテクニック) が大規模な言語モデルから完全に排除されることはおそらくないことを以前に認めています。ケンブリッジの研究は、その評価を裏付ける具体的な証拠を提供しており、技術的専門知識が限られている非国家主体であっても、共有トレーニングと迅速なエンジニアリング技術を通じて体系的に安全フィルターを破ることを学ぶことができることを示しています。

しかし、研究者らは重要なニュアンスにも気づいた。 ChatGPT や Claude のような汎用チャットボットは、最も世間の注目を集めていますが、真に新しい危険な情報を生成するのではなく、主に既存の知識をアクセスしやすくするものです。彼らの主張によると、より大きな長期的な懸念は、AIが真に新しい脅威へのアクセスを加速する可能性がある、ライフサイエンスやその他の機密分野向けに開発されている特殊なAIシステムにあるという。

AI 政策への影響

ケンブリッジの調査結果は、AI ガバナンスにとって重要な瞬間に到達しています。世界中の政府はフロンティア AI モデルをどのように規制するかを議論しており、EU AI 法はすでに施行されており、米国は主要な AI 研究所による自主的な安全への取り組みを追求しています。

この研究は、業界の自主規制に重点を置いた現在のアプローチでは、AI ツールの悪意のある使用を防ぐには不十分である可能性があることを示唆しています。 ISISがプラットフォーム提供者に検知されずに長年にわたって専用のAI訓練プログラムを運営してきたという事実は、既存の安全対策の有効性について深刻な疑問を引き起こしている。

セキュリティ専門家は長年、AIモデルによって危険な知識へのアクセスが民主化される可能性があると警告してきた。ケンブリッジの研究は、この脅威が理論的なものではなく、テロ組織が積極的に AI を日常の活動に組み込んでおり、すでに実行可能なものであるという、これまでで最も説得力のある実証的証拠を提供しています。

この調査結果はまた、オープンソース AI モデルに関する進行中の議論を複雑にしています。 ChatGPT や Claude などの独自モデルには更新や改善が可能な安全フィルターが備わっていますが、DeepSeek のようなオープンソースの代替モデル（調査では ISIS も使用していることが確認されています）には、そのような集中管理は提供されていません。オープン モデルがリリースされると、元の開発者はその安全特性を変更することはできません。

政府や AI 企業がこれらの課題に取り組む中、ケンブリッジの調査で 1 つのことが明らかになりました。それは、安全能力と敵対的イノベーションとの間のギャップが拡大しており、テロ組織がそれを積極的に悪用しているということです。

AI の先を行く

AI の安全性、政策、業界の動向について詳しくは、AI Buzz Wire をご覧ください。

AI ニュースをもっと読む→