根据 11 月 9 日在其网站上发布的更新安全公告，Nvidia 支持的推理初创公司 Fireworks AI 已通知客户，之前披露的安全事件比首次报道的范围要广泛得多，攻击者访问帐户和账单信息，以及一组有限的帐户、机密、数据集和不完整的模型权重。彭博社和福布斯周一报道了这一披露，福布斯将网络攻击描述为暴露客户数据和人工智能模型。

该公司于 10 月 9 日首次披露了这一事件，当时称只有 Fireworks 存储的用于评估工作的机密信息被访问。新的更新大大扩大了评估范围，并将此次入侵与一个出于经济动机的网络犯罪集团联系起来，该犯罪集团正在追求业界所谓的“LLMJacking”——窃取大型语言模型的访问权限并将代币转售给非法路由网关。对于追踪人工智能行业安全新闻的公司来说，该案例正在成为针对人工智能基础设施的新型攻击的参考事件。

第二次违规是如何展开的

根据该公告，托管 Fireworks 研发机器的第三方云提供商于 10 月 23 日遭遇了自己的安全事件。第二天，未经授权的一方利用该立足点到达 Fireworks 开发机器并运行未经授权的工作负载，导致额外的客户数据影响。 Fireworks 表示，它在同一天检测到了该活动并采取了补救措施，并且截至 10 月 25 日，它尚未发现客户使用的平台上存在成功的未经授权访问的进一步证据。

该公司正在与 Palo Alto Networks 的 Unit 42 合作进行取证分析，并表示在最初的事件发生后已通知执法部门。 Google 威胁情报小组和 Mandiant 于 11 月 2 日发表了一篇博文，记录了 LLMJacking 的兴起、其背后的动机以及所使用的技术——Fireworks 在其自己的披露中引用了上下文。

获取了什么数据

根据公告，受影响的内部应用程序暴露了几类信息：

  • 资源元数据，包括 Fireworks 资源标识符、显示名称、描述和创建时间。
  • 账单信息，包括账单和送货地址、发票和付款历史记录、帐户余额和信用使用情况。
  • 模型权重和数据集：对于某些客户，访问了不完整模型权重和数据集的子集。

Fireworks 表示，支付卡号并未存储在其系统中，因此并未受到影响。它还表示，它没有检测到其核心推理、训练 SDK 和 Nexus 服务受到任何影响，这些服务默认情况下以零数据保留运行，这意味着不会静态存储客户训练或推理数据。该公司表示，正在直接通知数据受到影响的客户，并提供有关影响的详细信息和建议的应对措施。

遏制和开放性问题

Fireworks 表示，作为应对措施的一部分，它与 Unit 42 合作，撤销并更换了凭据和服务帐户，删除了不必要的提升权限、限制网络路径和隔离受影响的系统，加强了对数据存储和分析系统的访问，并加强了日志记录和监控。在调查继续期间，它还禁用了批量推理和基于数据集的训练使用的自助数据集上传和下载。

有两个重要问题仍然悬而未决。首先，所访问的“不完整模型权重”中有多少实际上可用——从训练管道中窃取的部分或正在进行的权重可能仍会泄露有关正在开发的客户模型的竞争信息，Fireworks 尚未透露哪些客户或有多少客户受到影响。其次，专有数据集被暴露的客户需要承担哪些义务。该公司表示调查正在进行中，并可能透露更多信息。

为什么LLM劫持正在增长

LLMJacking 攻击的目标是云托管的 AI 服务，以获取可用的模型访问权限，而不是传统数据。然后，被盗的凭证或令牌通过影子路由网关转售，这些网关提供对商业模型的降价访问。 Google 的威胁情报小组和 Mandiant 于 11 月 2 日针对这一趋势发布了一份报告，随着企业对托管推理的采用呈爆炸式增长，安全研究人员对此趋势进行了大约两年的跟踪。

Fireworks 的披露是首批确认的案例之一，攻击者似乎将该剧本与盗窃人工智能基础设施提供商的客户模型工件结合起来。它发生在整个人工智能生态系统中更广泛的安全事件浪潮中，给推理提供商带来了更大的压力，要求他们证明多租户平台可以隔离客户工作负载。评估推理供应商的初创公司可能会提出有关租户隔离、凭证卫生和第三方云依赖性的更棘手的问题——这正是这里利用的途径。

Fireworks 表示，它正在全天候监控其系统，并将随着调查的进展发布进一步的更新。有疑虑的客户将被指示回复事件通知电子邮件或联系公司的安全通知地址。

该事件还说明了人工智能公司的披露规范如何日趋成熟。 Fireworks 在 10 月初首次入侵后的几天内发布了第一份公告，然后随着取证扩大了情况，对其进行了两次修改——安全团队将从最近的企业软件泄露事件中识别出这一序列，但这在人工智能基础设施提供商中仍然不常见，其中许多提供商从未处理过公共事件。选择禁用自助数据集功能同时保持核心推理产品运行表明暴露集中在辅助系统而不是客户服务路径本身。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →