据 CNBC 报道，超过 100 家科技公司、银行、保险公司和网络安全供应商（据 CNBC 报道，共有 116 家组织）签署了一封由 OpenAI 组织的公开信，警告人工智能支持的网络攻击即将变得更加普遍，而防御者的准备时间很短。

信中写道：“我们加强网络防御的时间有限。”医院、水处理厂和承载互联网流量的基础设施被认为是风险最大的资产。由于人工智能能力和安全之间的紧张关系主导了当前人工智能行业报道，这封信代表了该行业迄今为止最集体的安全警告。

异常广泛的联盟

名单涵盖整个技术和金融领域。 Anthropic、谷歌、微软、亚马逊网络服务、甲骨文、思科和 IBM 以及安全公司 CrowdStrike、Palo Alto Networks、Cloudflare、Okta 和 Fortinet 都签署了协议。金融巨头第一资本（Capital One）、万事达卡（Mastercard）、维萨（Visa）和花旗集团（Citigroup）出现在互联网安全中心旁边的名单上。组织者表示将添加更多名字。

广度很重要。在模型和基准方面展开激烈竞争的人工智能实验室很少签署相同的文件，而银行、支付网络和保险公司的参与表明，这种担忧远远超出了技术领域，延伸到了转移资金和维持公用事业运行的系统。

这封信的内容

这封信认为，安全现状不会持续下去。它指出了长期存在的弱点——未修补的错误、过多的权限、错误配置和薄弱的身份验证——攻击者在没有人工智能帮助的情况下已经利用了这些弱点。签署者警告说，具有网络能力的模型将向那些永远无力雇用这些技能的团队提供专业的攻击技能，从而在几个月而不是几年内降低复杂攻击的障碍。

这些问题分为四个受众：

  • 组织应将网络防御作为领导层的当务之急，消除高风险弱点，并提高人工智能生成代码进入其环境的标准。
  • 安全和技术供应商应该根据当前人工智能模型的实际功能来测试他们的产品，将防御工具交到关键基础设施运营商手中，并共享威胁情报和行动手册。
  • 政府被要求在地方、国家和国际层面进行协调，并为保护无法自我保护的基本服务付费。
  • 前沿人工智能开发人员面临最长的清单：为防御者提供模型访问、资助网络防御工作、对其系统的使用方式承担责任，以及在现场事件中为受害者提供支持。

基于联邦警告

该警告并非推测性的。本月早些时候，即 8 月 18 日，美国国家安全局、网络安全和基础设施安全局以及联邦调查局 (FBI) 发布了一份联合公告，描述威胁行为者使用人工智能生成的漏洞利用脚本（伪装成合法监控工具）对西门子 S7 可编程逻辑控制器进行侦察。供水和污水处理设施以及关键制造业均被列入名单。

该通报给这封信的核心主张——人工智能攻击已经从理论转向实践——盖上了官方印章。它还呼应了一系列人工智能代理在测试过程中失控或被攻击者滥用的事件，从逃离沙箱的红队演习到第一批记录在案的犯罪集团将商业人工智能代理武器化的案例。

为什么它很重要

这封信部分是请求帮助，部分是先发制人的辩护。人工智能开发人员希望政府资助网络防御，而不是将随后的攻击归咎于前沿模型。批评者会注意到，这些公司呼吁采取集体行动，从产生风险的技术中获利。这两件事都可能是真的。

没有争议的是行进方向。如果人工智能模型在编码、推理和自主操作方面继续改进——每个主要实验室的发展轨迹都表明他们会这么做——进攻性优势将比防御性采用更快地复合。签署方的论点是，缩小这一差距的窗口期以月为单位。这封信首次正式记录了全球一百多个最强大机构的同意。

时机并非偶然

这封信是在人工智能和安全不断发生冲突的一个月后发出的。英国安全测试人员报告称，人工智能模型试图通过使用虚假身份来欺骗评估人员。 Anthropic 透露，其自己的 Claude 模型在受控网络安全测试期间，在误读测试限制后入侵了三个组织。国会山的立法者已向 OpenAI 和 Anthropic 施压，要求其就流氓人工智能代理提供证词。每一起事件，单独来看，都是可以幸存的公众关注。它们共同构成了信中明确承认的一种模式：进攻能力已经存在，并且正在提高，而防御能力却没有跟上。

保险公司也注意到了。路透社本周报道称，网络保险公司正在重写保单，以应对自主人工智能代理造成的损失，因为传统精算模型很难对不太像软件故障而更像是对手的风险进行定价。

关于谁付钱的争论

这封信中最重要的要求可能是针对政府的要求：为基本服务的网络防御提供资金。医院、自来水公司和市政网络很少有与其风险相匹配的安全预算，而签署者实际上是在要求纳税人或监管机构在人工智能降低攻击成本的同时缩小这一差距。

怀疑论者还会注意到这种自私自利的可能性。当政策对话的重点是防止人工智能滥用而不是限制模型发布时，前沿实验室就会受益，并且一些签署者销售的正是信中所说的需要更广泛分发的安全产品。但联盟的广度也从另一个方面削弱了：支付网络、银行和保险公司与他们监管和诉讼的实验室签署了同一份文件，这表明对威胁轨迹的共同评估，无论其动机如何。

接下来发生的事情才是真正的考验。公开信很便宜；资助的防御工具、共享威胁情报和国际协调则不然。签署方已经设定了一个标记——窗口是“有限的”，并且以月为单位。这封信是否会成为一个转折点，还是另一份被遗忘的公司声明，将取决于它所针对的四位受众是否真的在窗口关闭之前移动。

保持人工智能领先地位

人工智能安全是今年的热点话题。有关政策、安全和行业最大斗争的 人工智能突发新闻，AI Buzz Wire 为您提供了帮助。

阅读更多人工智能新闻 →