由前 OpenAI 首席技术官 Mira Murati 创立的人工智能初创公司 Thinking Machines Lab 发布了 Inkling-Small,这是一种开放式重量模型,该公司表示,该模型的性能与其旗舰产品的性能相当,尺寸仅为其旗舰产品的四分之一。此次发布使美国成为开放重量前沿模型竞赛的重要参与者——迄今为止,这一类别一直由中国实验室主导。此次发布是重塑开源人工智能格局的几项快速举措之一,我们在突发人工智能新闻中报道了这一情况。

专家混合设计

根据TestingCatalog AI News,Inkling-Small 是一个混合专家 (MoE) 转换器,包含 2760 亿个总参数,在任何给定的推理过程中都有 120 亿个活跃参数。这种架构——只有一小部分模型会为每个代币“醒来”——同样的效率技巧使得像 DeepSeek 这样的中国开放权重模型的运行成本如此之低。 Thinking Machines 确认完整权重正在 Hugging Face 上发布。

该模型还配备了高达一百万个代币的上下文窗口以及实验室所说的“可变思维工作”,范围从最小到“极高”,让开发人员可以根据任务以计算换取性能。可以通过公司的 Tinker 平台进行微调,并且可以在 Tinker Playground 中访问文本、图像和音频聊天。

在 NVIDIA GB300 系统上接受培训

Thinking Machines 表示,Inkling-Small 在 NVIDIA GB300 NVL72 系统上进行了训练,与 2026 年 7 月 15 日推出的原始 Inkling 模型相比,使用的计算量“少得多”。第一个模型(由 WIREDTechCrunch 作为 Thinking Machines 的首次发布进行报道)几乎在一夜之间使该实验室成为了一个强有力的竞争对手。

通向 Inkling-Small 的道路揭示了一种深思熟虑的效率策略。该实验室在训练 Inkling 后才开始研究较小的模型,利用喘息空间修改其预训练数据组合和机器学习配方。早期的预览检查点部分是通过 on-policy distillation 进行后训练的,由 Inkling 担任老师,随后进行了大约两周的大规模代理编码强化学习。

它在哪里获胜——以及在哪里失败

该配方的结果是显着的。 Thinking Machines 声称 Inkling-Small 在推理和代理编码基准上超越了原始 Inkling,而 Inkling 在知识覆盖率和事实性方面仍然更强。在纯文本的 人类的最后考试 中,这是一项众所周知的困难评估,据报道,较小的模型得分 31.6%,而 Inkling 的得分为 29.7%——尽管活动参数大幅减少,但确实取得了进步。

权衡很明显:Inkling-Small 是更敏锐的编码器和推理器,而其较大的兄弟姐妹则保留了更广泛的知识库。对于开发人员来说,这是一个功能,而不是一个错误——这意味着为工作选择正确的工具,而不是为每项任务购买一个巨大的模型。

一位美国选手在中国领先的公开重量级赛场上

也许最大的影响是地缘政治。正如 CNBC 和其他人指出的那样,开放权重前沿模型已成为中美之间的热点,DeepSeek 和阿里巴巴的 Qwen 等中国实验室放弃了强大的模型并削弱了西方的定价。 Forkast 直言不讳地描述了 Inkling-Small 的发布:“公开重量级比赛现在有一位美国参赛者。”

到目前为止,领先的开放式重量模型几乎全部来自中国,这引起了华盛顿的担忧,担心美国实验室正在放弃整个市场类别。 Thinking Machines 是一家资金雄厚的美国初创公司,由人工智能领域最著名的人物之一领导,它改变了这种计算方式。通过在 Hugging Face 上发布完整权重并支持开放微调,该实验室正在为中国开放权重模型培育的开发者社区做出直接贡献。

为开发人员构建,而不仅仅是基准测试

Thinking Machines 将该版本与专门针对开发人员的工具配对。除了开放的 Hugging Face 权重之外,Databricks 还确认 Inkling 系列可在其平台上使用,并且 Tinker Playground 支持开箱即用的多模式文本、图像和音频聊天。可变的“思考努力”设置(从最小到“极高”)是为真正的工程权衡而设计的:当任务简单时运行成本较低,当问题需要更深入的推理时花费更多计算。这种灵活性对于关注推理费用的初创公司来说很重要,其中许多公司已经转向更便宜的开放权重替代方案,而不是支付高额的 API 费率。

整个行业的效率趋势

Inkling-Small 也适合更广泛的模式。整个行业的前沿正在从越来越大的整体模型转向更小、更智能、超乎寻常的系统。从 DeepSeek 的价格战模型到压缩架构,传达的信息是一致的:原始参数数量的重要性不如模型使用其容量的效率。

对于 Thinking Machines 来说,效率与规模的赌注现在已经深入到两个模型中——早期的基准测试表明该策略正在发挥作用。现在 Inkling-Small 可供下载和微调,开发人员可以自己测试这一说法。

保持人工智能领先地位

每周都会有新的开放重量型号上市,竞争只会愈演愈烈。通过我们的 AI 行业报道 了解每个版本。

阅读更多人工智能新闻 →