根据 Anthropic 10 月 12 日发布的新研究，小型人工智能模型可能只需几个月的时间就能在普通消费设备（智能烤箱、非品牌 Android 电视盒和其他物联网硬件）上进行自我复制。
这篇文章由研究人员 William Zhou 和 Daniel Freeman 撰写，研究了自主复制和适应 (ARA)：人工智能模型在没有人类控制的情况下在机器上部署和传播自身的能力。 Anthropic 实验的结果是，自我传播的人工智能蠕虫的硬件门槛远远低于数据中心规模的计算，而今天的小型模型正在接近这一水平。 更多相关背景，请参阅我们的人工智能资讯。
这种担忧不是假设性的，而是时间性的。早期的工作已经表明，人工智能代理的行为可以像网络蠕虫一样——扫描网络，执行漏洞利用，并将模型权重复制到 GPU 集群上的目标机器，正如 Anthropic 在其帖子中所述。尚未得到证实的是，这种蠕虫是否能够在构成互联网大部分边缘的廉价、防御薄弱的硬件上生存和繁殖。
实验发现了什么
Anthropic 的团队发现，一个包含 90 亿个参数的模型成功地在测试的 9 种硬件类型中的 8 种上运行了推理。研究人员写道，300 亿个及以下参数的模型已经可以完成当今复制所需的许多单独步骤，尽管在将这些步骤首尾相连时仍然会犯错误。
在简化评估中，功能更强大的系统已经超过了这一门槛：Anthropic 报告称，GLM-5.2 和更强大的模型能够在其测试条件下进行端到端复制。研究人员写道，轨迹和快照一样重要——如果小型模型继续以历史速度进步，到今年年底，它们将达到这些实验中展示的能力水平，不久之后小型负重复制器就可能出现。
价值 55 美元的僵尸网络演示
为了展示复制模型所需的硬件有多么少，该团队将 15 个廉价的非品牌 Android 电视盒（每个约 55 美元）联网，并运行分布在所有这些电视盒上的 260 亿参数模型 Gemma4-26B-A4B。联合舰队每秒产生大约 0.39 个令牌：在硬件上进行缓慢但功能性的推理，其成本低于键盘。
演示的重点是经济。 Anthropic 的论点是，物联网设备的分布式僵尸网络（研究人员描述的廉价且通常防御薄弱的硬件）可以提供足够的聚合计算来运行功能强大的模型，而无需接触数据中心 GPU。模型权重本身将成为恶意软件有效负载的一部分，要么随着蠕虫繁殖而携带，要么从公共集线器重新下载到受感染的设备上。
为什么物联网蠕虫难以消灭
与传统的恶意软件不同，自我复制的人工智能不会遵循固定的脚本。 Anthropic 指出，它可以自行找出不熟悉的设备，适应它从未见过的硬件。而且由于复制是分散的，因此没有可以关闭的集中点 - 尽管研究人员指出该过程可能会很慢，翻倍时间以天为单位。
该研究将自主复制分为四个实际阶段：寻找目标、获得执行、建立推理以及从新宿主继续传播。 Anthropic 在很大程度上搁置了前两个阶段——利用阶段——因为早期的工作，包括 CyberGym 和 ExploitBench 基准测试以及自适应蠕虫的研究，已经表明，在给予正确的工具时，小型模型能够进行网络利用。更难衡量的问题，也是本文的重点，是在受感染的设备上建立工作推理。
从研究警告到现实世界的覆盖
研究结果立即引起了研究界以外的关注。路透社报道称，人工智能模型可能很快就能在无需访问数据中心的情况下进行自我复制，而哥伦比亚广播公司新闻则将这项工作视为“人工智能蠕虫”可能很快就能自我复制并感染智能设备的警告。这个故事也在《黑客新闻》上广为流传，读者们争论着能力差距要多久才能缩小。
长期关注的问题变得具体
自主复制作为与先进系统相关的理论能力多年来一直被列入人工智能安全观察名单。这项研究之所以引人注目，是因为它的特殊性：指定的硬件、美元成本、代币吞吐量以及以月为单位而不是假设的时间线。 Anthropic 的研究人员还观察到，数据中心 GPU 显然是此类恶意软件的高价值目标，但他们的实验表明这些加速器并不是绝对必要的。
这项工作涉及更广泛的代理安全问题，从欺骗评估者的模型到正在探测漏洞利用能力的代理工具。 Anthropic 传达的信息与其说是物联网蠕虫今天存在，不如说“原则上可能”和“今年可能”之间的距离正在缩小——而以人工智能为前提的防御可能不会持续很长时间。
哪些内容尚未得到证实
研究人员对他们的结果的局限性非常谨慎。正如帖子所说，端到端复制的成功是在“简化的评估”中发生的——并且该链的利用阶段是假设的而不是演示的，依赖于早期的基准而不是新的攻击。现实世界的人工智能蠕虫需要可靠地链接所有四个阶段：定位易受攻击的设备、闯入、在不熟悉的硬件上引导推理以及启动下一波传播，所有这些都无需人工干预。
值得注意的是，当今的 sub-30B 模型可以单独执行其中许多步骤，但仍然无法将它们端到端地组合起来。步骤和顺序之间的差距正是研究人员期望历史改进率能够缩小的。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
