任何与人工智能代理合作过数天项目的人都知道这堵墙:每个新会话都从头开始。在一篇新的研究文章中,Anthropic 描述了 Claude 的设计如何在底层模型保持不变的情况下保留跨会话的知识——通过将注释写入文件夹以便稍后读回。令人惊讶的发现是,智能体记忆中最困难的部分不是存储。是选择。

根据 Anthropic 的说法,核心问题是智能体必须在知道接下来会发生什么之前立即决定稍后可能重要的事情。每一个音符都是对未来的赌注。存储太少,代理会重蹈覆辙;存储太多,归档就会变得陈旧,消耗上下文,并无限期地向前传递错误。

神奇宝贝测试:413 个文件,一枚徽章

为了说明故障模式,Anthropic 指出了在 Pokémon Red 中运行的测试。 Claude Sonnet 3.7 是一个较旧的模型,将一切都视为潜在的重要因素。在大约 10,000 个游戏步骤中,它创建了 413 个文件,分布在 225 个文件夹中——通常是针对它遇到的每场战斗和物品的单独文件。由于游戏状态不断变化,存档几乎和写入一样快就过时了。有时,该模型除了重新组织音符而不是演奏之外什么也不做,并且以一个徽章完成了运行。

较新的《克劳德寓言 5》采取了相反的方法:它将内存限制为少量文件,并获得了四个徽章。 《神鬼寓言 5》没有记录屏幕上已经可见的信息,而是写下了它已经测试过的计划、策略和规则。 Anthropic 警告说,比较仅涵盖每个模型的一次游戏,因此结果是指示性的而不是确定性的 - 但方向与公司更广泛的建议一致。

该建议是向克劳德解释记忆的用途,并让模型决定如何使用它。在一项基准测试中,诸如“仅记录错误”之类的严格指令消除了更强大模型的大部分优势。相比之下,较旧的模型受益于明确的指示,例如被告知在每次回答之前实际阅读他们的笔记。

梦想:事后审核记忆

长期运行的代理面临的更大风险不是忘记——而是信任错误的票据。 Anthropic 的答案是一个被称为“梦想”的过程,这个想法建立在莱塔和加州大学伯克利分校的研究基础上。就像人类大脑在睡眠期间巩固经验一样,克劳德在休息期间查看早期会议的记录,并将其记录与实际发生的情况进行核对。

在神奇宝贝测试中,克劳德错误地指出了地标位于山的哪一侧。凭借着那张错误的纸条,特工三度落入同样的陷阱,最终想要放弃,最终未能达到目的。在完成“梦想”关卡后,克劳德通过对照记录检查笔记发现了错误,并找到了正确的路径。

梦想还可以组织更大的知识库。 Claude 利用 Anthropic 收购的软件公司不锈钢的大约 350,000 个内部文档构建了一个链接维基,Dreaming 生成新页面,同时修复空白、重复和损坏的链接。当克劳德能够将维基与搜索结合起来时,回报是最大的,因此策划的记忆可以作为检索的补充而不是替代。

当 Wiki 打败搜索时

在 Anthropic 进行的一项单独的法律测试中,精心策划的维基百科对答案分布在多个文档中的问题帮助最大。克劳德在 wiki 上的得分为 87%,而仅使用搜索得分为 73%。对于简单的查找任务,维基百科的表现与搜索大致相当——在一种情况下,它甚至比它总结的源文档还要大。

Anthropic 对未解决的问题很坦诚。在任务中做笔记会分散座席的注意力。做梦需要额外的计算,并且其结果只有在延迟后才能到达。维基和注释也需要定期维护,否则错误和幻觉就会堆积起来。该公司警告不要在每个会话中自动加载太多记忆,因为它们会消耗上下文并将任何不好的注释传递给未来的每个会话。

从研究预览到产品

梦想本身并不新鲜:Anthropic 在 5 月份推出了它,作为该公司人工智能代理云平台 Claude Managed Agents 的研究预览。该服务读取现有内存存储和最多 100 个过去的会话,删除重复和过时的条目,并创建重新组织的存储,同时保持原始存储不变。发布时它支持 Claude Opus 4.7 和 Sonnet 4.6。此后,OpenAI 在 6 月份借用了这个品牌来进行自己的 ChatGPT 内存检修,它也将其称为“Dreaming”——一个维护用户个人资料并自动更正过时信息的后台系统。

Anthropic 研究的总体结论是,有用的智能体记忆更多地取决于保留正确的信息并在以后纠正错误,而不是尽可能多地存储。随着实验室竞相构建能够可靠工作数天和数周而不是几分钟的代理,内存管理正在悄然成为其自身的竞争前沿。您可以在 AI Buzz Wire 上关注代理研究的最新 AI 进展。

保持人工智能领先地位

智能体研究正在迅速推进,而内存是下一个战场。在 AI Buzz Wire 获取每个更新以及来自每个主要实验室的最新 AI 发展。

阅读更多人工智能新闻 →