谷歌威胁情报部门周一在 Nextgov 报告的调查结果中表示,黑客使用了快速出现的人工智能支持的黑客框架对美国航空航天领域进行了入侵。该工具名为 Cairn,是一个与中国开源安全社区相关的公开可用的渗透测试框架,它在实时入侵中的出现标志着代理人工智能从研究演示向真正的间谍活动迁移又迈出了一步。

谷歌没有透露被访问的航空航天组织的名称,也没有透露可能被盗取的信息,也没有将此次入侵归咎于特定政府。该报告广泛涵盖了上个季度观察到的活动,并且它处于当今人工智能行业的覆盖范围内,代理系统的重新利用速度快于防御者的适应速度。

凯恩及其表兄弟可以做什么

Cairn 与早期威胁报告中主导的聊天机器人辅助黑客攻击不同。 Cairn 不是由人类一步一步地提示人工智能助手,而是使用人工智能代理,这些代理相互共享信息,并在他们努力渗透系统时决定下一步要尝试哪些黑客技术。

谷歌研究人员表示,与早期黑客手动提示人工智能聊天机器人协助执行各个步骤的活动相比,包括 ARTEX、Cyber​​StrikeAI 和 PentAGI 在内的其他开源系统现在被用来“以更高的操作速度执行多阶段入侵”。 ARTEX 在 FBI 周五发布的网络安全咨询中被单独标记。

最令人震惊的发现:全自动利用

季度报告中有一项引人注目的发现。谷歌研究人员发现攻击者的系统被配置为研究软件修复,根据所学到的知识开发攻击,并自动执行这些攻击 - 没有人参与循环。该公司表示,这是其研究人员首次发现攻击者完全自动化了该过程。

其含义是显而易见的:补丁发布和利用之间的竞争可能会从几周缩短到几个小时,这给那些已经很难在犯罪分子到达之前安装安全更新的组织带来进一步的压力。 《黑客新闻》报道了相同的发现,将该技术总结为黑客使用人工智能代理直接从软件补丁构建和运行漏洞利用程序。

据 Nextgov 报道,该公司表示:“鉴于进入门槛较低、易于集成新漏洞以及巨大的扩展潜力,我们认为威胁行为者很可能会继续在针对全球组织的活动中使用这些框架。”

##中国团队产业化分析;朝鲜招聘人员采用合成材料

该报告还详细介绍了与国家相关的参与者如何将模型纳入其运营的不同阶段。中国黑客团体已使用人工智能模型来分析被盗文件并为客户生成完整的情报报告。在一个例子中,一名承包商使用人工智能来翻译和分析被盗信息,弄清楚目标组织的结构,并将调查结果组织成情报报告——使用该技术进行盗窃后的复杂解释工作,而不是盗窃本身。

谷歌还观察到可疑的中国特工正在试验自动黑客工具,其中包括一个与中国有联系的组织开发自己的系统,可能用于间谍活动。

与此同时,朝鲜演员正在利用人工智能来加强他们的社会工程。谷歌的一组人使用捏造的招聘人员资料来追踪北美和欧洲的目标加密货币组织。假冒招聘人员将目标定向到假冒会议服务,其中修复所谓技术问题的指示导致他们运行恶意代码。

进入内部后,攻击者更改了公司代码存储库中 Claude Code(Anthropic 的 AI 编码助手)的设置,以便启动该助手会触发恶意软件下载。将值得信赖的开发工具武器化意味着恶意行为依赖于已经信任的软件工程师。

这些调查结果与司法部上周宣布的针对 FaceStealer 的声明相呼应,FaceStealer 是朝鲜的一个虚假视频通话计划,与超过 4 亿美元的盗窃案有关,法院还下令涵盖币安被盗的超过 12 亿美元的案子。谷歌的报告没有将其调查结果与这两种情况联系起来。

影响力运营也变得更加自动化

谷歌表示,除了间谍活动和金融犯罪之外,与俄罗斯、中国和伊朗有关的影响力行动现在通常使用人工智能模型来制作内容并自动化其分发——将更多在网上冒充普通人的工作委托给机器。

差距不断扩大

总而言之,这些发现勾勒出了一个随着每个开源版本的发布而出现的防御问题。 Cairn、ARTEX、Cyber​​StrikeAI 和 PentAGI 等渗透测试框架是由安全社区构建并为其服务的合法工具,其代理架构使它们对红队真正有用。相同的特性使它们成为任何下载它们的人的交钥匙进攻性武器。

谷歌向防御者传达的信息实际上是一种规划假设,而不是预测:假设您面临的下一次入侵是以机器速度执行的,在由代理设置的时间线上执行,该代理在您完成部署之前读取您的补丁说明。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →