Inception Labs 于周一推出了 Mercury 3,将其描述为迄今为止发布的最强大的基于扩散的大型语言模型。根据该公司的公告,Mercury 3 在一系列基准测试中均优于速度优化的前沿模型,包括 GPT-6 Luna 和 Claude Haiku 5.5,同时运行速度提高了 4 至 8 倍,每秒超过 1,000 个代币。
此次发布是对自该类别出现以来一直困扰商业扩散语言模型的问题的最有力答案:文本扩散能否扩展以在复杂工作负载上与自回归架构竞争,或者它仍然是仅针对延迟进行优化的研究好奇心? Inception Labs 由前斯坦福大学和加州大学伯克利分校的研究人员创立,其中包括首席执行官斯特凡诺·埃尔蒙 (Stefano Ermon),该公司表示答案现已解决。该公司报告说,Mercury 3 比 Mercury 1 大 40 多倍,并且在标准基准上测量的智力在 Mercury 1(迷你)和 Mercury 3 之间大约增加了两倍,它认为,推动自回归模型进步的缩放法则也适用于扩散。 更多相关背景,请参阅我们的人工智能资讯。
速度、环境和定价
头条数据非常激进。 Inception Labs 表示,Mercury 3 在 NVIDIA GPU 上每秒生成 1,068 个令牌,保持了扩散方法相对于逐个令牌自回归解码的签名优势。上下文窗口已从 Mercury 2.5 中的 260,000 个令牌增长到 100 万个令牌,该公司于 9 月份发布了该版本,每秒持续输出 1,107 个令牌。
Mercury 3 的定价为每百万个输入代币 0.20 美元,每百万个输出代币 0.70 美元。推出时,该模型有 50% 的折扣,使有效费率达到每百万个输入代币 0.10 美元,每百万个输出代币 0.35 美元,缓存代币的价格比输入费率低 90%。尽管尚未发布对质量声明的独立验证,但这削弱了其基准测试的前沿速度优化模型的典型定价。
基准和代理结果
除了与 GPT-6 Luna 和 Claude Haiku 5.5 的一般基准比较之外,Inception Labs 还发布了其生产网络代理工具在 50 个实时 Mind2Web 导航任务上的结果。 Mercury 3 完成了 50% 的任务,该公司表示,这远远超过了 GPT-6.1-Sol 管理的任务,同时使用与前沿模型相同的代币数量和相同数量的代理步骤,而每个代币成本只是其一小部分。
该公司将延迟敏感的代理工作负载定位为该模型的核心商业案例。由于浏览器使用的代理、语音助手和交互式应用程序在每一步都等待模型,因此小的延迟会迅速复合,而扩散模型的高吞吐量直接转化为更快的任务完成和在固定时间预算内的更多尝试。
早期客户报告生产使用情况
Inception Labs 表示,早期访问合作伙伴已经在生产环境中运行 Mercury 3,以提供语音和聊天支持、实时辅导、数据工程和网络导航。
TinyFish AI 联合创始人 Shuhao 张表示,基于 Mercury 3 构建的代理完成得更快,并且在回答之前有时间尝试更多方法,无论是浏览网站、跨来源研究,还是分析日志和跟踪事件。
运营 RevisionDojo 的 General Learning 联合创始人兼首席技术官 Michael Tong 表示,Mercury 3 使公司能够在不放弃推理质量的情况下为每个学生提供即时反馈,在大约一秒钟内返回提示、标记答案和定义,并将该模型描述为现有堆栈的直接交换。
搜索初创公司Octen创始人邹宽表示,在该公司的Sense API测试中,其自身的搜索耗时约为80毫秒,而模型生成是瓶颈,而Mercury 3在测试的快速模型中提供了速度和质量的最佳平衡,中位生成时间为0.9秒,中位端到端响应时间为2.2秒。
为什么扩散缩放很重要
自回归转换器按顺序一次生成一个标记的文本,基本上承载了从 GPT 到 Gemini 和 Claude 的所有前沿模型。相反,扩散模型通过迭代去噪并行地细化整个响应,这种特性使生成快速且可控,但直到最近,它在复杂的推理任务上严重滞后。
Mercury 3 的核心主张是这种质量差距已经大规模缩小。如果该公司的数据经受独立评估,实际结果是用于商业推理的可靠的第二架构系列,对大容量代理工作负载的经济性产生影响,其中总代币支出由速度层模型主导。
这些索赔目前仍由供应商报告。 Inception Labs 没有指出第三方对 Mercury 3 的评估,其基准比较来自其自己的工具。然而,该公司的早期型号自 2025 年起已公开提供服务,为买家提供了可核对的跟踪记录。
可用性
Mercury 3 可立即通过 Inception Labs 的 API 以启动折扣价提供,该公司表示缓存的代币按输入价格的 10% 计费。没有宣布公开重量级版本;与其前身一样,Mercury 3 是一个仅使用 API 的商业模型。
如需持续报道新模型发布、扩散架构以及前沿 AI 不断扩大的速度层,请关注 AI Buzz Wire。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →