剑桥研究显示，伊斯兰国和其他恐怖组织正在使用所有主要的人工智能聊天机器人进行攻击计划

剑桥大学基于对 ISIS 前成员的采访进行的一项研究显示，恐怖组织正在利用 ChatGPT、Claude、Gemini 和其他人工智能工具进行攻击计划和武器开发。

根据剑桥人工智能科学与政策项目 (CASP) 的一项开创性研究，包括 ISIS 在内的恐怖组织正在系统地利用每个主要的人工智能聊天机器人来进行攻击计划、武器开发和操作安全。该调查结果于 2026 年 7 月 11 日发布，代表了迄今为止极端组织将商用人工智能工具武器化的最详细的经验证据。有关人工智能安全和行业发展的持续报道，请访问 AI Buzz Wire。

剑桥研究内部

研究人员 Antonia Jülich 对 27 名 ISIS 前成员及其地区分支机构进行了 57 次采访，记录恐怖组织如何将人工智能融入其行动。研究发现，ISIS 在其两个主要派系内建立了专门的人工智能部门，将大型语言模型视为核心运营基础设施而不是实验工具。

研究显示，至少从 2023 年起，ISIS 就一直在为其特工提供及时的工程和越狱培训。该组织还将这种培训扩展到包括尼日利亚博科圣地指挥官在内的盟军组织，教他们如何系统地绕过大型科技公司部署的人工智能安全过滤器。

每个主要聊天机器人都受到损害

该研究记录了恐怖分子在其行动中积极使用 ChatGPT、Claude、Gemini、Grok、Meta AI 和 DeepSeek。这些团体利用人工智能来：

攻击规划 - 生成战术场景并识别目标基础设施中的漏洞

爆炸装置建造 — 采购技术信息以建造更强大的简易装置

武器维护 — 排除和修理枪支及其他设备

操作安全 — 开发更复杂的通信和加密策略

也许最令人震惊的是，研究发现主要聊天机器人提供商部署的人工智能安全过滤器未能可靠地防止这种滥用。研究人员指出，这些组织已经开发出系统的方法来绕过这些护栏，使得自愿的安全措施在面对坚定的对手时基本上无效。

致命案例研究

该研究包括来自 ISWAP（ISIS 的西非省）的一个特别引人注目的例子。根据一名名为 Munzir 的前 ISWAP 指挥官提供的说法，该组织使用人工智能学习如何复制电影中描绘的摩托车跳跃技术，打算用它来清理防御壕沟。这次训练演习被证明是灾难性的：十八名战斗机在尝试机动时死亡，而只有八名战斗机成功完成了跳跃。

这个轶事说明了恐怖分子使用人工智能的现实后果以及这些模型提供的信息有时不可预测的性质。虽然人工智能可能准确地描述了该技术，但在战斗环境中的物理执行却导致了灾难性的结果。

尤利希写道，前成员描述了该组织内部对人工智能工具的“强烈热情”，一些人指出该组织此前曾考虑利用人工智能来源的信息开发造成大规模伤亡的武器。虽然博科圣地对人工智能的使用迄今为止仍然是传统的，但研究人员警告说，这应该被视为更广泛威胁的早期指标。

该研究得出结论：“这应该是一个警告，要求认真对待恐怖分子寻求人工智能协助生化武器的风险。”

安全过滤器被证明是不够的

这项关于人工智能安全过滤器的研究结果尤其引起科技行业的关注。尽管在内容审核、红队和安全护栏方面投入了数十亿美元，但研究表明，意志坚定的用户始终可以绕过这些保护措施。

Anthropic 本身此前也承认，越狱（规避人工智能安全措施的技术）可能永远不会从大型语言模型中完全消除。剑桥的研究提供了支持这一评估的具体证据，表明即使是技术专业知识有限的非国家行为者也可以通过共享培训和即时工程技术学会系统地击败安全过滤器。

然而，研究人员也注意到了一个重要的细微差别。像 ChatGPT 和 Claude 这样的通用聊天机器人虽然受到了最多的公众关注，但主要是让现有知识更容易获取，而不是生成真正新的危险信息。他们认为，更大的长期担忧在于正在为生命科学和其他敏感领域开发专门的人工智能系统，在这些领域人工智能可以加速应对真正的新威胁。