Edge0 于 2026 年 11 月 12 日开源了 Edge0-145B，同时开源了更小的 Edge0-120B、统一的推理框架和部署工具。该初创公司将 Edge0-145B 描述为第一个拥有 1450 亿个参数的开源设备端人工智能模型，并表示它将为消费类硬件带来可与前沿云模型相媲美的编码、推理和代理功能。

该版本发布的同一天，它在 Hacker News 上的得分攀升至 219 点，其中无需服务器即可运行的 100B 以上参数模型的前景引起了遵循本地推理的开发人员的极大关注。 更多相关背景，请参阅我们的AI新闻。

笔记本电脑索赔背后的数字

根据该公司的公告，Edge0-145B 在兼容的个人笔记本电脑（例如 MacBook Pro）上运行，报告结果如下：

  • 29GB 峰值内存，足够低，可以安装在没有专用服务器的高端消费机器上
  • 每秒预填充 1,100+ 个令牌，让模型在生成开始之前处理跨越数十页代码的提示
  • 每秒解码 80 多个令牌，该公司指出，解码速度比人读取的速度还要快
  • 大约 120W 典型功率，在报告的设置中保持运行而不会节流
  • 128K 到 256K 上下文，长输入的生成速度基本不变

这些数据来自 Edge0 自己发布的基准测试，而不是独立测试，并且该公司已经发布了完整的堆栈（权重、推理框架和部署工具），因此开发人员可以在自己的硬件上重现测量结果。

为什么设备上的模型一直很小

该公告包含了一些有用的背景信息，说明了为什么笔记本电脑历来没有大型型号。在 2026 年 9 月之前，内存限制使大多数设备上模型的参数数量低于 100 亿个。 Apple Intelligence 的设备上基础模型大约有 30 亿个参数，而 Google 的 Gemini Nano 则提供 1.8B 和 3.25B 版本。

约束是物理的：模型权重必须在每个生成步骤中从内存中读取，与操作系统和其他应用程序竞争带宽。即使是高度压缩的 35B 型号也可能需要大约 20GB 的内存，这远远超出了手机可以分配的内存。

Edge0 的早期版本显示了该公司的方法的​​发展方向。 Edge0-35B 手机型号报告峰值内存低于 2.5GB，在 iPhone 18 Pro Max 上每秒提供 37 个以上的令牌。 Edge0-145B 的参数大约是该型号的四倍，而其笔记本电脑配置报告的解码速度大约是 28GB 内存的两倍——该公司谨慎地指出，这些测量结果适用于不同的型号和硬件。

完成工作的助手

除了原始速度之外，Edge0 将模型定位为代理而不是聊天机器人。该公告描述了一个系统，可以为 3D 场景、游戏、硬件程序和 PCB 设计等项目规划、编写和运行代码、调试错误并直观地检查结果。

该公司报告称，编码、推理和指令跟踪结果与特定的前沿云模型具有竞争力，尽管其发布的比较尚未经过独立验证。与任何供应商报告的基准一样，开发人员希望在得出有关前沿水平平价的结论之前查看第三方评估。

隐私和成本争论

该宣传基于云工作流程的三个优势。本地推理不会产生按代币 API 费用，敏感数据可以保留在设备上，并且核心功能可以离线工作。对于处理受监管数据的企业以及带宽受限环境中的开发人员来说，这些属性可能比托管前沿模型的原始功能更重要。

当然，硬件和电力不是免费的。 Edge0 直接承认了这一点，并指出其功耗数据反映了持续约 120W 的功耗，与运行高工作负载的高性能笔记本电脑相当，这对电池寿命和散热有真正的影响。

这对本地人工智能生态系统意味着什么

该公告附带的分析跟踪了来自 14 个实验室的 67 个开放模型，这些模型至少有 1B 个参数，用于手机、笔记本电脑和人工智能 PC，并且轨迹很陡峭。如果报告的数字经得起独立审查，Edge0-145B 将代表消费类硬件可以托管的内容发生了重大变化：迄今为止，该型号类别要求数据中心 GPU 在人们已经拥有的机器上可用。

竞争对手正朝着同一方向前进。 Meta 已经推出了专为在消费者 GPU 上运行而构建的 Muse Glimmer 开放代理模型，而 Apple 的基础模型框架重新燃起了开发人员对设备上推理的兴趣。区别在于规模：当前的开放权重生态系统中没有任何东西可以接近针对笔记本电脑级内存预算的 145B 参数。

此次发布也是在关于集中化的激烈争论中发布的。从注重隐私的浏览器添加代理支付流到本地优先的推理框架，业界的开放权重阵营在 2026 年都在争论，强大的人工智能不需要驻留在超大规模企业的数据中心。 Edge0-145B 是该争论中迄今为止最激进的数据点。

开发人员可以通过该公司的网站下载模型权重、探索推理框架或尝试 Edge0 应用程序。这些基准是否能经受住社区的审查是一个悬而未决的问题——但随着完整的堆栈发布用于复制，这种审查应该不会花很长时间。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →