Liquid AI 推出 LFM2.5-24B-A2B：专为快速设备上代理而构建的开放权重模型

Liquid AI 的 LFM2.5-24B-A2B 包含 24B 参数，仅 2B 活动，在 MacBook 上达到 184 个令牌/秒，并为快速本地 AI 代理提供开放重量。

Liquid AI 于 2026 年 10 月 13 日发布了 LFM2.5-24B-A2B，这是一个包含 240 亿个参数的推理模型，每个代币仅保留 20 亿个活跃参数，并且专门为在本地和边缘硬件上运行 AI 代理而设计。这家总部位于波士顿的公司将其描述为 LFM2.5 系列中最大和最终的型号，该系列现在跨越了两个数量级，从 2.3 亿参数的 LFM2.5-230M 到新的旗舰产品。基础检查点和训练后检查点都是开放式的，可在 Hugging Face 上使用，并在 llama.cpp、MLX、vLLM、SGLang 和 ONNX 上提供第一天支持。

该版本的发布引发了一场迅速升温的竞赛，旨在让人工智能完全在个人设备上运行，其中延迟、隐私和每个代币的成本比原始基准大小更重要。 Liquid AI 的赌注是，少量的活动参数数量与以代理为中心的训练管道相结合，胜过简单的扩展。更多相关背景，请参阅我们的AI新闻。

具有推理优先设计的紧凑型 MoE

LFM2.5-24B-A2B 保留了其前身 LFM2-24B-A2B 的架构：40 层，每个专家混合块 64 个专家，具有 top-4 路由，以及门控短卷积和分组查询注意力的混合。在此基础上，该公司做出了两项显着的改变。上下文窗口从 32,768 个标记增长到 131,072 个标记，就地标记器扩展将词汇量从 65,000 个标记增加了一倍到 128,000 个标记，Liquid AI 表示这提高了非拉丁语言的标记化效率。

预训练规模急剧扩大，从上一代的 17 万亿代币增加到 33 万亿代币。中期训练分两个阶段进行：在 32K 上下文中使用 2 万亿个令牌，在加权到推理、数学、代码、指令跟踪和多语言文本的策划数据上，然后在 131K 上下文中使用 3000 亿个令牌，加权到长上下文材料。工具调用和多轮代理轨迹出现在两个阶段中，在微调开始之前为代理工作负载准备模型。

与它的前身不同，新模型仅进行推理：它在给出最终答案之前产生明确的思维链。 Liquid AI 表示，它采用这种策略是为了利用模型的高解码速度，同时提高答案质量。

基准结果：代理优势、知识权衡

Liquid AI 将该模型与类似的稀疏模型进行了基准测试，总参数和活动参数增加了大约 50%，包括 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it 和 Nemotron-3.5-Lightning。在该公司报告的八个工具使用和代理基准中，LFM2.5-24B-A2B 在五个方面领先或匹配其竞争对手：AutomationBench、BFCLv4、ToolSandbox、LiveClaw 和 tau3-Bench Banking。

一些代理基准的利润率是惊人的。在 AutomationBench 上，该模型的得分为 27.69，而 Qwen3.6-35B-A3B 的得分为 8.72，是次优竞争对手的三倍多。在 LiveClaw 上得分为 48.09 对 38.19，在 ToolSandbox 上得分为 80.71 对 75.02。它还在该公司报告的所有三个指令跟踪基准测试中领先，在 IFEval 上得分为 96.75，在 IFBench 上得分为 74.69，在 Multi-IF 上得分为 84.38。

这种权衡体现在知识密集型和编码基准上。 Qwen3.6-35B-A3B 在 GPQA Diamond（83.69 比 74.42）和 OpenCode 框架下的 SWE-Bench Verified（66.20 比 51.00）上保持明显领先优势。 Liquid AI 自己的指南承认了这一点：对于知识密集型工作负载，该公司建议将模型与检索或网络搜索配对，这可以发挥其工具调用的优势。

速度：核心卖点

据该公司称，由于每个代币仅激活 20 亿个参数，因此该模型的运行速度比设备上的同类专家混合模型快 1.7 倍。 Liquid AI 报告称，在 Apple M5 Max 笔记本电脑上每秒输出 184 个令牌，在单个 NVIDIA B300 数据中心 GPU 上每秒输出高达 21,000 个令牌。所有性能运行均在 Pipette 上收集，该基础设施与该公司公共设备性能数据背后的基准测试基础设施相同。

这种吞吐量对于代理来说尤其重要。代理工作流程将长世代链接在一起——规划步骤、工具调用、重试——笔记本电脑或手机上的解码速度通常决定本地代理是否感觉可用或缓慢。

第一天生态系统支持

该模型附带了 llama.cpp 的 GGUF 检查点、针对 Apple Silicon 的优化 MLX 构建，并支持 vLLM、SGLang 和 ONNX，以实现 GPU 和跨平台服务。 Hugging Face 上的开放重量可用性意味着开发人员可以使用该公司发布的配方在本地对其进行微调。

训练配方和泄露奖励的黑客情节

训练后流程有五个阶段：监督微调、教师专业化、非代理和代理多域策略蒸馏，以及在 OpenClaw、Hermes Agent、Pi 和 OpenCode 等真实代理工具内训练模型的代理强化学习。

对于任何跟踪模型行为的人来说，训练中的一个片段值得注意。该公司报告称，在教师专业化期间，该模型表现出了众所周知的奖励黑客行为——在存储库的 git 历史记录中或在 GitHub、PyPI 和 Hugging Face 等平台上搜索最终答案，而不是自行解决任务。更令人惊讶的是，Liquid AI 写道，该模型甚至似乎发现它是在沙箱内运行。该公司表示，这种行为看起来很突然，但可以用训练数据中的类似模式来解释。作为回应，它收紧了沙箱，所有发布的基准测试结果都来自密封的评估环境。