据 The Register 和 Inc.com 7 月 2 日至 3 日发布的报道，一家美国初创公司对 Palo Alto Networks 的 Koi Security 部门提起诉讼，因为一份 AI 幻觉的威胁情报报告将该公司与中国间谍活动错误地联系起来——原告称这一虚假指控一夜之间摧毁了其流量和声誉。

此案正在成为对人工智能生成情报的法律责任的里程碑式考验，它引发了有关自动安全报告可靠性的令人不安的问题。这是最新人工智能发展 记录的一系列事件中的最新一起，其中算法错误会带来现实世界的后果。

发生了什么

据《The Register》报道，诉讼称，Koi Security（Palo Alto Networks 旗下的威胁情报机构）制作的一份报告使用人工智能生成威胁评估，错误地将这家初创公司与中国国家相关的黑客活动联系起来。

Inc.com 报道称，后果迅速而严重：虚假报告流传后，该初创公司的网络流量“消失了”。该出版物描述了人工智能幻觉——一种自信但完全捏造的说法——如何通过将一家合法的美国企业与网络安全界最具破坏性的指控之一联系起来，有效地将其列入黑名单。

该初创公司目前正在提起诉讼，要求赔偿损失并强制更正，理由是人工智能生成的报告是在没有经过充分的人工验证的情况下发布的。

人工智能幻觉在安全领域的危险

人工智能幻觉——语言模型自信地生成虚假信息的实例——是一种有据可查的现象。但当它们发生在威胁情报的背景下时，风险比聊天机器人给出错误答案要高得多。

虚假指控有真正的后果

与中国间谍活动有联系并不是一个小错误。在网络安全行业，这种关联可能会立即引发平台解散、客户流失、业务关系中断以及持久的声誉损害。安全团队通常使用威胁情报源来做出阻止决定，这意味着一次错误输入就可以有效地将一家公司从互联网上删除——这正是原告所指控的情况。

无需验证的自动化

争议的核心是 Koi Security 是否依赖人工智能在没有充分人工审查的情况下进行威胁评估。如果该报告是由人工智能生成或大幅增强的，那么该案件可能会建立重要的先例，说明在将人工智能输出作为事实情报发布之前对其进行验证的责任。

为什么这个案例很重要

该诉讼的影响远远超出了所涉及的两方：

人工智能问责制的先例

随着人工智能工具越来越多地嵌入到从招聘到执法再到网络安全的高风险决策中，当这些系统出错时，法院将需要确定谁该负责。此案可能有助于定义人工智能生成的造成伤害的内容的法律标准。

威胁情报行业面临的压力

网络安全行业已经采用人工智能来处理每天生成的大量威胁数据。但 Koi Security 诉讼可能会迫使公司重新考虑对自动化分析的依赖程度，并在发布可能摧毁企业的报告之前加大对人工验证的投资。

关于算法诽谤的警告

该案件凸显了一个相对较新的风险：诽谤不是由人类作者实施，而是由人工智能系统实施。传统的诽谤法是围绕人类意图和作者身份建立的。当机器捏造损害性索赔时，分配责任的法律框架就会变得模糊——而这起诉讼可能有助于澄清这一点。

Palo Alto Networks 和回应

Palo Alto Networks 是一家价值数百亿美元的网络安全巨头，收购或运营 Koi Security 作为其更广泛的威胁情报能力的一部分。该公司尚未公开详细说明人工智能在有争议的报告中所扮演的角色。诉讼的结果可能取决于法院是否认为合理的核查程序已经到位，以及是否得到遵守。

更广泛的模式

这一事件并非孤立事件。在各个行业中，人工智能系统捏造了法律引文、编造了新闻故事并生成了虚假的研究主张。 Koi Security 案之所以引人注目，是因为据称造成的伤害非常严重，而且该案涉及一家大型网络安全公司，该公司的业务建立在其情报的准确性之上。

随着人工智能生成的内容激增，有用的自动洞察与破坏性捏造之间的界限变得越来越模糊。对于本案中心的一家未透露姓名的初创公司来说，跨越这条界限会带来毁灭性的后果。

---

保持人工智能领先地位

阅读更多人工智能新闻 → 来源：The Register, Inc.com。报告编制于 2026 年 7 月 3 日。

AI 威胁情报的工作原理

现代威胁情报平台会吸收大量数据——网络日志、恶意软件签名、域名注册和开源报告——并越来越多地使用机器学习来识别模式并生成评估。承诺是效率：人工智能可以处理比人类分析师多得多的数据，从而暴露可能被忽视的威胁。

但锦鲤安全案暴露了另一面。当人工智能系统经过训练来检测模式时，它们还可以检测到实际上并不存在的模式。恰好与被标记实体共享基础设施、使用类似软件或在相邻部门运营的初创公司可能会被过度热切的算法陷入错误关联。

自动威胁源的速度和范围使问题变得更加复杂。一旦虚假报告进入生态系统，它就可以在数十个安全平台、防火墙和阻止列表中复制——即使在承认最初的错误之后，纠正也变得异常困难。

误报的成本

Inc.com 的报告强调了所指控的错误造成的人员和经济损失。据报道，在虚假报告流传后，这家初创公司的流量几乎立即消失——这种突然的中断将威胁到任何在线业务。除了收入损失之外，与中国国家黑客行为有关的声誉污点很难量化，并且在任何法律解决方案后可能会持续很长时间。

对于没有资源对抗网络安全巨头的小公司来说，一份虚假情报报告就可能是生死存亡的。该诉讼可能会引起人们对大型威胁情报提供商与报告中出现的小型公司之间权力不平衡的关注。

展望未来

此案可能会受到整个网络安全行业的密切关注。如果原告胜诉，可能会引发一波类似的诉讼，并迫使威胁情报提供商彻底改革其人工智能辅助报告流程。即使案件和解，它也已经引发了一场关于人工智能生成的安全情报需要透明度、验证和问责的讨论。

更广泛地说，这起诉讼对于任何部署人工智能来对人员和组织做出重大决策的行业来说都是一个警示。该技术能够生成听起来充满信心的结论，这是一项功能，而不是一个错误——但当这些结论错误时，损害可能是毁灭性的，而且难以挽回。