Nvidia řekla některým ze svých největších zákazníků, že ceny serverů obsahujících její čipy AI vzrostou o více než 15 procent na systémech dodávaných od začátku roku 2027, podle agentury Bloomberg – což je druhé velké zvýšení cen za méně než rok, navrstvené na zvýšení zhruba o 30 procent napříč téměř všemi produktovými řadami v červenci.

Varování, které sdělili výrobci serverů, kteří montují systémy pro velké provozovatele datových center, se dostává do choulostivé chvíle pro průmysl umělé inteligence: podniky zápasí s náklady na masivní budování infrastruktury a trh s pamětí – uváděný hybatel nárůstu – nevykazuje žádné známky ochlazení. Nvidia má ohlásit čtvrtletní výsledky 26. srpna, kde analytici očekávají nové podrobnosti o poptávce, nabídce a nákladech. For more context on this story, see our ongoing more AI stories.

Které systémy jsou ovlivněny

Podle zpráv se zvýšení bude týkat serverů postavených na platformách vlajkové lodi společnosti Nvidia Grace Blackwell a její nadcházející generaci Vera Rubin. Nárůsty nebudou jednotné: velikost úpravy závisí na generaci použitého křemíku Nvidia a množství a konfiguraci paměti v každém systému.

Výrobci serverů obsluhující velké technologické společnosti – včetně Microsoftu, Google a Oracle – údajně začali zákazníky informovat o nadcházejících změnách cen za dodávky systémů na začátku roku 2027.

Paměť je viníkem

Primárním faktorem jsou rostoucí náklady na paměť. Vysoce výkonné systémy umělé inteligence vyžadují enormní množství paměti s velkou šířkou pásma a poptávka po expanzi datových center poslala ceny za HBM a LPDDR5 nahoru. Výrobci pamětí Samsung Electronics, SK Hynix a Micron Technology čelí silné poptávce, protože kapacita polovodičů se stále více zaměřuje na vysokopásmové paměti a další pokročilé počítačové produkty.

Gaurav Gupta, viceprezident a analytik společnosti Gartner, uvedl, že zvýšení odráží tlaky v celém dodavatelském řetězci AI, nejen v RAM. "Ceny pamětí rostou, zejména HBM a LPDDR5, ale jsou tu i další aspekty, jako jsou špičkové slévárenské wafery, pokročilé balení a další nedostatek komponent," řekl CIO.com a dodal, že tyto problémy vedou k delším dodacím lhůtám, "což se obvykle promítá do vyšších cen."

A nečeká brzkou úlevu. "V současném prostředí silné poptávky a omezené nabídky očekáváme, že tato situace bude v blízké až střednědobé budoucnosti pokračovat," řekl Gupta, což znamená vyšší náklady jak pro organizace nasazující vlastní servery, tak pro ty, kteří si pronajímají výpočetní techniku ​​v cloudu.

Malý výběr pro kupující

Pro CIO je tento kalkul nepřitažlivý. Konzultanti a analytici říkají, že podniky nemají na výběr, než se smířit s tím, že ceny infrastruktury AI budou neustále růst, a změna dodavatele – i kdyby to bylo možné – by toto zvýšení nevyhnula, protože náklady na paměť a komponenty ovlivňují celý trh.

Scott Bickley, poradce z Info-Tech Research Group, tvrdil, že Nvidia ve skutečnosti absorbuje část úderu. Jeho výpočty naznačují, že společnost pravděpodobně konzumuje část svých vlastních rostoucích nákladů a svým největším zákazníkům přenáší jen zlomek. Byl však přímočarý, pokud jde o pákový efekt, který mají kupující: „Náklady na pracovní zátěž na token klesají, zatímco náklady na základní hardware a infrastrukturu rostou,“ řekl. "Pokud přímo budujete své vlastní clustery, jedná se o automatické povýšení na již tak nesmírně drahé řešení. Pokud si kupujete vlastní hardware, budete ho muset vysát. Nebudete se z toho vyjednávat."

Bickley poukázal na jednu věc: ceny za token modelů s umělou inteligencí se zdají klesat, což kupujícím poskytuje způsob, jak otupit inflaci hardwaru tím, že vytvoří pracovní zátěž, která méně závisí na hrubé kapacitě paměti.

Vymáčkněte více z toho, co již vlastníte

Tato strategie – získání více najetých kilometrů ze stávajícího hardwaru – je místem, kde se schází několik analytiků. Bickley poukázal na techniky, jako je směrování modelu, komprese a dávkové zpracování, jako způsoby, jak zvýšit využití clusterů, které jsou již v provozu.

Flavio Villanustre, CISO ze skupiny LexisNexis Risk Solutions Group, souhlasil s tím, že stlačování je v zásadě problémem nabídky a poptávky, který by se měl ustálit, jakmile výroba pamětí začne uspokojovat poptávku řízenou umělou inteligencí – ale nevidí, že by k tomu v příštích několika měsících došlo. Mezitím, jak poznamenal, někteří prodejci modelů AI přizpůsobují své modely tak, aby fungovaly lépe v prostředích s omezenou pamětí. Poukázal na modely Gemma E4B od Googlu a podobné modely, které používají hierarchický stupňovitý přístup, který stahuje pouze nezbytné části modelu do paměti, místo aby celý model držel v paměti RAM.

Mike Wilkes, podnikový CISO ve společnosti Aikido Security, tvrdil, že zvýšení cen by mohlo být užitečné, pokud by si vynutilo disciplinovanější architektury. Podniky strávily posledních několik let tím, že zacházely s tokeny hraničního modelu jako s „nekonečně elastickou pomůckou,“ řekl – směrováním pracovní zátěže do největšího modelu bez ohledu na to, zda úkol vyžadoval uvažování na hraniční úrovni. Správná architektura je stále více hybridní: vyhradit zhruba 10 procent spotřeby pro hraniční modely na problémy, které je skutečně potřebují, a posouvat klasifikaci, extrakci, sumarizaci a rutinní akce agentů směrem k malým jazykovým modelům a modelům s otevřenou váhou běžících na infrastruktuře, kterou podnik řídí.

"To dává CIO vliv na snižování cen nebo jednostranné stanovování cen," řekl Wilkes.

Inflační signál pro ekonomiku AI

Nárůst je také signálem o tom, kam směřují náklady boomu umělé inteligence. S tím, jak rostou ceny pamětí, waferů a obalů, inflace se šíří od výrobců čipů přes dodavatele serverů až po poskytovatele cloudu a nakonec i na podniky založené na umělé inteligenci. Se zprávou o výdělcích společnosti Nvidia, která má být předložena 26. srpna, budou kupující i investoři sledovat, kolik z tohoto nákladového tlaku společnost absorbuje – a kolik přejde na nižší úroveň.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →