思科 Talos 的安全研究人员详细介绍了一种 Windows 信息窃取程序,它将窃取的信息交给一个大型语言模型,并要求它做人类犯罪分析师曾经做过的事情:找出哪些受害者值得追捕。该恶意软件自称为 VOLTA-AUTODOXER,使用 LLM 支持的受害者分析阶段将原始凭证日志转换为机器背后人员的优先档案。
在 Talos 研究员 Ryan Fetterman 于 10 月 31 日发布的分析中,该恶意软件(Talos 追踪为 VOLTA)被描述为具有可选 AI 集成层的成熟窃取程序植入程序。在收集凭证、浏览器会话和加密货币钱包后,VOLTA 收集有关受害者的结构化证据包,并将其发布给法学硕士提供商,并附上充当法医分析师的说明。这一发展标志着网络犯罪中人工智能滥用的发展方向:不仅是网络钓鱼文本生成,还包括自动化情报工作。有关此类故事的持续报道,请参阅我们的最新人工智能发展。
偷走一切,然后让 AI 来解决
VOLTA 最初是通过 CAIRN 研究工作出现的,Talos 将其描述为一种自我删除的 Windows 信息窃取程序,没有攻击者拥有的基础设施,这些特征使其更难归因,也更难破坏。即使按照窃取者的标准,其收集阶段也是详尽无遗的:浏览器密码、cookie 和支付卡;加密货币钱包种子短语; Discord、Telegram、Steam 和 Roblox 会话代币;微软 OAuth 令牌; SSH 和云提供商密钥; Wi-Fi 配置文件;和屏幕截图。
盗窃发生后,新鲜感就开始了。 VOLTA 构建了 Talos 所说的结构化证据包,其中包含地理位置和家庭地址、雇主和雇主域名、推断的出生年份、支付卡的最后四位数字、Slack 工作区、文档作者元数据、iPhone 备份指标,甚至是受害者 Roblox 帐户的实时估值。
然后,它使用受害者自己被盗的会话来丰富该捆绑包。据 Talos 称,该恶意软件会搜索受害者的 Gmail 中的购买收据以证实其家庭住址,提取 UberEats 和 DoorDash 订单历史记录,并通过窃取的令牌丰富 Discord 帐户。结果是一个人的肖像几乎完全由他们自己的登录帐户组成。
提示:“充当法医情报分析师”
组装好的捆绑包被序列化并发送到通过 OpenRouter 访问的 LLM,OpenRouter 是一种将请求路由到多个模型提供者的服务。系统提示指示模型充当“起草目标评估的法医情报分析师”。
所需的产出非常具有企业性。它必须包括一个标题为“他们的价值”的部分,根据低、中、高级别的货币化潜力对受害者的贵重物品进行排名,以及一个关于“他们的 OPSEC”的部分,评估受害者的安全状况和密码卫生。该模型实际上成为运营商的分类分析师,生成一份有引用支持的档案,告诉犯罪分子钱在哪里。
Talos 还发现了操作员围绕人工智能安全护栏进行设计的证据。如果一个模型拒绝执行目标评估,VOLTA 就会故障转移到一个三模型链,并尝试下一个模型——研究人员将其描述为建立在模型拒绝的期望之上的直接工程工作。从恶意软件中恢复的人工智能配置提示甚至带有风格指令:“深入,而不是广泛......要直率、具体、准确。”
为什么它很重要
Talos 精确地描述了创新:这里的人工智能不支持传统的恶意软件功能,例如混淆或诱饵生成。它代表运营商充当情报分析师。该公司写道,进入网络犯罪世界的想法是撒下一张大网,窃取一切,然后让人工智能来整理细节。
这所产生的影响超出了这一恶意软件家族的范围。信息窃取者已经为犯罪经济提供了很大一部分来源——原木被批量出售,买家手动挑选。模型驱动的分类阶段可实现拣货自动化,让低技能操作员从大批量盗窃中获取最大价值,并将后续攻击(例如勒索或账户接管)集中在真正能够付款的受害者身上。
对于模型提供商和路由服务来说,这个案例提醒我们,滥用行为不仅限于公共聊天界面。通过经销商和聚合商进行的基于 API 的访问为犯罪工具创造了一条货币化路径,而拒绝行为(VOLTA 运营商明确预期到了这一点)仍然是第一道防线。
对于用户来说,实用指南没有改变,但更加紧迫:针对可以询问您整个数字生活的信息窃取者,最安全的防御方法是首先拒绝其访问,使用唯一的密码、防网络钓鱼的多因素身份验证以及提示浏览器和凭据卫生。
Talos 表示,VOLTA 是一个成熟的植入程序,这表明人工智能集成可能已经在野外运行了一段时间。与之前的窃取者创新一样,复制者和模仿者往往会很快跟进。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →