据彭博社报道,英伟达已告知其一些最大的客户,从 2027 年初开始交付的系统中,包含其人工智能芯片的服务器价格将上涨超过 15%,这是一年内第二次大幅涨价,此前 7 月份几乎所有产品线都涨价了约 30%。

这一警告是通过为大型数据中心运营商组装系统的服务器制造商发出的,它恰逢人工智能行业的一个微妙时刻:企业正在努力应对大规模基础设施建设的成本,而内存市场——所谓的增长驱动因素——没有显示出降温的迹象。 Nvidia 定于 8 月 26 日公布季度业绩,分析师预计将公布有关需求、供应和成本的最新细节。 更多相关背景,请参阅我们的人工智能资讯

哪些系统受到影响

据报道,这一增长将适用于围绕 Nvidia 旗舰 Grace Blackwell 平台及其即将推出的 Vera Rubin 一代构建的服务器。涨幅不会是统一的:调整的幅度取决于所涉及的 Nvidia 芯片的代数以及每个系统中内存的数量和配置。

据报道,为微软、谷歌和甲骨文等主要科技公司提供服务的服务器制造商已开始通知客户,即将于 2027 年初发货的系统价格发生变化。

罪魁祸首是内存

主要驱动因素是内存成本的飙升。高性能人工智能系统需要大量高带宽内存,而数据中心扩张的需求导致 HBM 和 LPDDR5 的价格攀升。随着半导体产能越来越多地转向高带宽内存和其他先进计算产品,内存制造商三星电子、SK 海力士和美光科技都面临着强劲的需求。

Gartner 副总裁兼分析师 Gaurav Gupta 表示,增长反映了整个人工智能供应链的压力,而不仅仅是 RAM。他告诉 CIO.com:“内存价格正在上涨,尤其是 HBM 和 LPDDR5,但还有其他方面的问题,例如领先的代工晶圆、先进封装和其他组件短缺。”他补充说,这些问题会导致交货时间延长,“这通常会转化为更高的价格”。

他预计不会很快得到缓解。古普塔表示:“在当前需求强劲、供应有限的环境下,我们预计这种情况将在中期内持续下去。”这意味着部署自己的服务器和在云中租用计算的组织的成本都会更高。

买家的选择很少

对于首席信息官来说,微积分没有吸引力。顾问和分析师表示,企业别无选择,只能接受人工智能基础设施价格将持续上涨,而更换供应商(即使可能)也无法避免价格上涨,因为内存和组件成本影响整个市场。

信息技术研究小组的顾问斯科特·比克利 (Scott Bickley) 认为,英伟达实际上正在承受部分打击。他的计算表明,该公司可能会消化部分自身上涨的成本,而只将一小部分转嫁给其最大的客户。但他对买家的杠杆作用直言不讳:“每个代币的工作负载成本正在下降,而底层硬件和基础设施成本却在上升,”他说。 “如果你直接构建自己的集群,这将自动提升已经非常昂贵的解决方案。如果你购买自己的硬件,你将不得不忍受它。你不会通过谈判摆脱这种情况。”

比克利指出了一线希望:人工智能模型的每个代币价格似乎正在下降,这为买家提供了一种通过构建更少依赖原始内存容量的工作负载来抑制硬件膨胀的方法。

从你已经拥有的东西中榨取更多

这一策略——从现有硬件中获得更多收益——是一些分析师的共识。 Bickley 指出模型路由、压缩和批处理等技术是提高已投入使用的集群利用率的方法。

LexisNexis Risk Solutions Group 的首席信息安全官 Flavio Villanustre 同意,挤压从根本上来说是一个供需问题,一旦内存产量增加以满足人工智能驱动的需求,这个问题就会趋于稳定,但他认为这种情况不会在未来几个月内发生。与此同时,他指出,一些人工智能模型供应商正在调整他们的模型,以便在内存受限的环境中更好地运行。他提到了 Google 的 Gemma E4B 和类似模型,这些模型使用分层方法,仅将模型的必要部分拉入内存,而不是将整个模型保存在 RAM 中。

Aikido Security 的企业首席信息安全官 Mike Wilkes 认为,如果价格上涨能够推动更严格的架构,那么价格上涨可能会带来一些好处。他说,过去几年来,企业一直将前沿模型代币视为“无限弹性的实用程序”——将工作负载路由到最大的模型,无论任务是否需要前沿级推理。正确的架构越来越混合:为真正需要它们的问题的前沿模型保留大约 10% 的消耗,同时将分类、提取、摘要和常规代理操作推向小型语言模型和在企业控制的基础设施上运行的开放权重模型。

威尔克斯表示:“这使首席信息官能够对抗价格欺诈或单边定价。”

人工智能经济的通胀信号

这一增长也是人工智能热潮成本走向的一个信号。随着内存、晶圆和封装的价格上涨,通货膨胀正在从芯片制造商蔓延到服务器供应商,再到云提供商,最终蔓延到基于人工智能的企业。 Nvidia 的收益报告将于 8 月 26 日发布,买家和投资者都将关注该公司吸收了多少成本压力,以及有多少传递给下游。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →