NVIDIA 和思科于 10 月 12 日宣布了新型可插拔光学模块的联合规范,称为超密集小型可插拔 (USFP),旨在承载下一代 AI 工厂的网络负载。根据 NVIDIA 的新闻稿,USFP 旨在成为第一个支持每通道 400Gb/s 电信号的模块,使总容量高达 12.8Tb/s——公司表示,密度的飞跃将使运营商能够扩展以太网 AI 结构,而无需增加网络层或增加功率预算。

这一公告是最新迹象,表明数据中心网络长期以来一直是平淡无奇的云计算管道,现已成为人工智能建设的战略战场。随着集群从数千个加速器增长到数十万个加速器,连接它们的光学器件现在大规模地塑造了人工智能的经济学和物理原理。为了了解基础设施供应商如何在代理时代重新定位的更广泛背景,我们的人工智能新闻部分跟踪了他们的行动。

USFP 实际改变了什么

当今的高性能可插拔模块主要以每个电气通道 200Gb/s 的速度运行。 USFP 将其提高一倍,达到每通道 400Gb/s,同时保持运营商知道如何部署和服务的可插拔外形尺寸。根据 NVIDIA 公布的数据,与每通道 200Gb/s 模块相比,USFP 可提供 4 倍的带宽和前面板密度,功率效率大约为 1.3 倍,这意味着每瓦特可传输更多数据。

这种组合解决了人工智能工厂设计中的复合问题。当交换机达到其端口容量时,添加更多计算的唯一方法是添加另一层交换机和光链路,这会增加每一层的延迟、资本成本和功耗。通过将通道数和每通道带宽加倍,USFP 可以让更多 1.6Tb/s 端点通过相同的交换空间进行连接,从而推迟了运营商必须通过更多层来摆脱拥塞的情况。

NVIDIA 高级副总裁吉拉德·谢纳 (Gilad Shainer) 在声明中表示:“建设世界上最大的人工智能工厂首先要重新思考最小的连接。”

OSFP 大小的占用空间中的 16 个通道

第一个计划的基于 USFP 的收发器将把 16 个全双工通道封装到 OSFP 模块大小的封装中(这是 AI 集群部署中已经常见的主力外形尺寸),支持交换机和 SuperNIC。 NVIDIA 表示,该设计未来可以扩展到 32 通道甚至更多,这将使每个模块的容量远远超过当今的上限。

从机械方面来说,更高的信号密度需要新的连接器思维:USFP 使用具有两步插入设计的二维阵列连接器,保留了前面板的可维护性,使可插拔光学器件优于焊接替代品。思科高级副总裁兼光学系统和光学总经理 Bill Gartner 表示:“人工智能构建者需要一种能够扩展性能而不会将其锁定在更复杂的操作模型中的互连架构。”他强调,此次合作的目的是保持“可插拔光学器件的可维护性、部署灵活性和操作简单性”。

一个生态系统,而不仅仅是一个模块

NVIDIA 和思科明确将 USFP 视为一项开放的、多供应商的努力:TE Connectivity 和安费诺已与这两家公司合作,围绕该规范构建多源硬件生态系统。这很重要,因为可插拔光学器件只能作为标准才能成功——运营商会购买数以万计的产品,而且没有任何一家供应商能够单独提供(或定价)如此数量的产品。

多源方法还降低了交换机制造商和超大规模企业考虑采用的风险。如果多个供应商提供 USFP 收发器,则该模块可以遵循与早期可插拔一代相同的轨迹:成本快速下降、广泛的互操作性以及网络边缘层专有或焊接互连的逐渐取代。

电力是新的瓶颈

功效声称值得特别关注。 NVIDIA 对 USFP 的既定目标是缩小“网络在整个 AI 工厂功耗预算中所占的份额”——承认随着计算密度的上升,移动数据的能源成本正在与计算的能源成本竞争。机架之间传输的每千兆位都需要消耗瓦特,而在人工智能工厂规模下,这些瓦特直接转化为有限的电网连接和运营费用。

光学产品的发布并不是孤立的。同一天,NVIDIA 表示正在向开放计算项目社区开放其 Vera Rubin 机架架构设计,SiliconANGLE 和 Wccftech 的报道描述了计算托盘的彻底简化——去掉了电缆、软管和风扇——以及思科的光学工作。 FourWeekMBA 报道称,Meta 正在采用 NVIDIA 的 Spectrum-6 以太网平台。这些举措共同勾勒出协调一致的推动力:开放物理设计、致密光学器件,并使以太网成为超大规模人工智能的首选结构。

看什么

USFP 是一个针对计划产品的规范,而不是运输硬件——NVIDIA 的语言(“第一个计划的基于 USFP 的收发器”)故意放宽了时间表。需要关注的指标包括思科以外的交换机供应商的采用情况、相对于每通道 200G 部件的收发器定价,以及每通道 400Gb/s 电气信号是否满足其批量可靠性目标。

如果它能够实现,USFP 可以为 AI 时代的网络带来类似于连续几代 QSFP 为云数据中心所做的事情:建立整个行业赖以构建的商品互连节奏。在 NVIDIA 专有 NVLink 结构一直是关键锁定论点的市场中,与最大网络供应商思科共同制定的开放、高密度可插拔标准也是关于如何构建 AI 工厂的竞争声明。

保持人工智能领先地位

阅读更多人工智能新闻 →