Meta 揭开了 MTIA 400 的帷幕,这是其首款定制加速器,专门用于训练大型语言模型,但有一个不寻常的转变。该芯片将于本周在年度 Hot Chips 半导体会议上详细介绍,它还将承载深度学习推荐工作负载,为 Meta 的整个人工智能目标提供广告服务。

最先报道了完整技术披露的《The Register》称该设计为“人格分裂”:一侧是前沿训练芯片,另一侧是广告服务引擎。这是迄今为止最明显的迹象,表明 Meta 打算在自己的芯片上运行其人工智能未来。有关塑造芯片行业的最新人工智能发展的更多信息,请关注 AI Buzz Wire。

为什么要在同一芯片上训练人工智能和投放广告?

大多数构建定制人工智能加速器的公司都是从推理开始的。集群更小,芯片更简单,而且工作也很好理解。 Meta 逆势而行,首先瞄准 LLM 培训——这是行业中计算密集程度最高的工作负载,通常需要数万或数十万个加速器。

折衷方案是第二个工作负载。 DLRM 推理(决定用户看到哪些广告和帖子的深度学习推荐模型)主要受内存限制而不是受计算限制,这意味着芯片的大部分训练火力在广告服务期间处于闲置状态。但随着 Meta 在计算上消耗数百亿美元,让一个芯片承担双重任务是一种务实的对冲,特别是当两个用例之一直接产生收入时。

MTIA 400 内部:3nm 小芯片和 Broadcom IP

根据 Meta 的 Hot Chips 演示,以及 The Register 和 ServeTheHome 的分析:

  • 多芯片架构: 两个计算芯片、两个 I/O 芯片和一个处理主机连接和工作负载编排的 SoC 芯片
  • 工艺节点: 计算小芯片基于 3nm 工艺技术构建,可能来自台积电
  • 计算: 每个小芯片具有 6x8 处理元件网格,在 1.7 GHz 下提供总计 12 petaFLOPS 的 MXFP4 计算
  • 内存: 八个 36 GB HBM3e 堆栈 — 总共 288 GB,带宽约为 9.2 TB/s
  • 互连: 通过 RDMA 实现 1.2 TB/s 的芯片间带宽,考虑到 Broadcom 的参与,可能是以太网

博通的指纹无处不在。 The Register 指出,该加速器几乎肯定是使用芯片设计师的 XPU IP 构建的,这是一个务实的选择,让 Meta 能够专注于差异化,同时外包加速器设计中乏味的部分。

它如何与 Nvidia 和 AMD 抗衡

表演画面细致入微。在通常用于训练的较高精度下,MTIA 400 比 Nvidia 的顶级规格 Blackwell 加速器快大约 20%,同时消耗相似的功率。其内存带宽比 Nvidia 和 AMD 的上一代产品提高了约 15%。

但与最新一代相比,差距急剧扩大:MTIA 400 的速度分别比 Nvidia 的 Rubin 和 AMD 的 Instinct MI455X 慢 3 倍到 3.3 倍,而且它提供的内存带宽还不到这些新 GPU 的一半。这种缺陷正是 Meta 将该部件定位为训练芯片而不是推理芯片的原因——对于服务代币,它有更快的选择。

在系统层面,与行业标准机架的相似之处是惊人的。每个计算刀片将四个 MTIA 400 加速器与一个 PCIe 交换机、一个 x86 CPU 和一个横向扩展 NIC 配对。一个完整的机架可容纳 18 个计算刀片和 8 个交换刀片 - 单个统一域中的 72 个加速器,该配置反映了 Nvidia 的 NVL72 和 AMD 的 Helios 机架设计。 Meta 的幻灯片承诺“数千个加速器扩展”,但没有指定集群上限。

路线图:明年 MTIA 450

MTIA 400 并不是该产品线的终点。 Meta 在 3 月份透露,它计划以六个月的频率发布四代新 MTIA,下一站是 MTIA 450——一种推理优化的变体,预计将通过采用 HBM4 使内存带宽加倍。该芯片预计明年投入生产,并且应该非常适合运行基于 LLM 的推荐工作负载。

尽管取得了进展,The Register 的分析还是直言不讳:Meta 的内部芯片不会很快取代 AMD 或 Nvidia GPU。几乎可以肯定,Meta Superintelligence Labs 仍在传统 GPU 上训练前沿模型,而特定于应用程序的硬件仍然最适合易于理解、稳定的工作负载。

为什么它很重要

MTIA 400 之所以重要有两个原因。首先,它表明超大规模企业愿意应对最艰巨的工作负载——前沿训练——而不是选择简单的推理胜利。其次,设计的广告服务方面提醒人们注意经济学:定制芯片上的每一美元资本支出都由历史上最赚钱的广告业务承保。如果 Meta 能够将其训练和推荐工作负载的一小部分从商用 GPU 上转移出来,其节省的规模将达到数十亿美元。

资料来源:Meta 的 Hot Chips 2026 演示、The Register 和 ServeTheHome。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →