OpenAI 推出了首款定制推理处理器,名为 Jalapeo 的芯片,是与 Broadcom 合作设计和制造的。这一公告标志着 ChatGPT 制造商在拥有其 AI 服务背后的完整硬件堆栈方面迈出了最重要的一步,并且加剧了 Nvidia 的竞争压力,Nvidia 的 GPU 目前为大多数大型语言模型部署提供支持。

该处理器于 2026 年 6 月 24 日发布,专为满足 OpenAI 推理系统的需求而设计,即根据用户请求运行预先训练的 AI 模型的过程。据报道此次发布的 TechCrunch 报道,该公司表示,其自己的人工智能模型甚至协助了该芯片的开发。虽然 Jalapeo 仍在测试中,但 OpenAI 声称早期结果显示每瓦性能明显优于当前最先进的替代方案。 更多相关背景,请参阅我们的人工智能资讯

专为推理而不是训练而构建的芯片

训练和推理之间的区别对于理解 OpenAI 为何构建 Jalapeo 至关重要。训练前沿模型——从头开始教授神经网络的长达数月的计算密集型过程——将继续严重依赖 Nvidia 硬件。相比之下,每次用户发送提示时都会发生推理,并且它占运行 ChatGPT 等服务的持续成本的绝大多数。

OpenAI 在其声明中强调了该芯片在运行实时编码模型(它一直通过 Codex 等产品推动的代理工作负载)时的低运营成本。 TechCrunch 报道称,考虑到其平台每天处理的大量请求,即使推理成本的适度降低也可以显着改善公司的经济效益。

与 Broadcom 的设计合作关系于 2025 年 10 月正式宣布,尽管 OpenAI 的芯片野心传闻已久。路透社、彭博社、CNBC 和华尔街日报均独立证实了 6 月 24 日的发布,表明此次发布引起了业界的广泛关注。

全栈赌注

OpenAI 将 Jalapeo 作为控制其基础设施每一层的更广泛战略的一部分。该公司写道,它“不仅开发前沿模型或在其之上构建产品;它还在设计它们下面的基础设施:芯片架构、内核、内存系统、网络、调度、部署系统和产品体验。”

在首次披露与博通的合作伙伴关系后不久,OpenAI 总裁格雷格·布罗克曼 (Greg Brockman) 在内部播客中解释了该公司的基本原理。 “我们对工作量有深入的了解,”布罗克曼说。 “我们确实一直在寻找服务不足的特定工作负载,[并询问]我们如何构建能够加速实现的东西?”

它认为,由于 OpenAI 在整个堆栈上运行,所以每一层都可以针对一个目标进行优化:使其模型更快、更可靠、对用户来说更便宜。

加入谷歌和亚马逊的定制芯片行列

OpenAI 并不是第一家建立自己的加速器的人工智能公司。谷歌长期以来一直设计其张量处理单元(TPU)来为其模型提供服务,而亚马逊则为 AWS 客户开发了 Trainium 和 Inferentia 芯片。这些所谓的 AI 加速器经过硅片专门调整,可加速机器学习工作负载,它们已成为任何以 OpenAI 规模运营的超大规模企业的竞争必需品。

动机很简单:Nvidia 的通用 GPU 功能强大但价格昂贵,并且它们将运营商与单一供应商联系起来,而该供应商的定价和可用性可能会限制增长。定制推理芯片使 OpenAI 能够更好地控制对其利润最重要的工作负载的成本、供应和性能。

Nvidia 还剩下什么

如果将 Jalapeo 视为与 Nvidia 的彻底决裂,那就大错特错了。 AI 管道中性能最密集的任务(尤其是前沿模型的预训练)仍然需要 Nvidia GPU 所擅长的原始通用吞吐量,而 OpenAI 仍然是 Nvidia 的主要客户。 Jalapeo 的目标是更窄但巨大的推理工作负载,专用芯片可以节省大量成本。

这种狭隘的关注点也使得该芯片变得可信。 OpenAI 并没有试图全面取代 Nvidia,而是只在它认为对自身工作负载的深入了解能够为其带来优势的情况下进行竞争——这与当初推动谷歌和亚马逊构建专用加速器的逻辑相同。

半导体格局的转变

此次发布正值人工智能半导体格局发生更广泛的洗牌之际。内存芯片巨头 SK 海力士已申请在美国上市,预计估值 290 亿美元,以利用人工智能内存不断增长的需求,而从亚马逊到高通等公司一直在竞相制造或收购定制芯片。 OpenAI 进军芯片设计领域,为英伟达占据主导地位的市场增添了一位资金雄厚的竞争对手。

目前,Jalapeño 仍处于测试阶段,OpenAI 尚未透露详细的性能基准或部署时间表。但信号很明确:构建 ChatGPT 的公司现在打算构建运行它的硬件,并且愿意花费数十亿美元来这样做。

Jalapeo 是否兑现了其早期的每瓦性能承诺,将决定 OpenAI 对其成本的影响力有多大,以及人工智能基础设施市场最终有多少份额从一家占主导地位的芯片制造商手中转移出去。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →