Nvidia le-a spus unora dintre cei mai mari clienți ai săi că prețurile pentru serverele care conțin cipurile sale AI vor crește cu peste 15% la sistemele livrate de la începutul anului 2027, potrivit Bloomberg - a doua creștere majoră de preț în mai puțin de un an, pe lângă creșterile de aproximativ 30% în aproape toate liniile de produse din iulie.
Avertismentul, comunicat prin intermediul producătorilor de servere care asamblează sisteme pentru operatorii mari de centre de date, aterizează într-un moment delicat pentru industria AI: întreprinderile se luptă cu costul dezvoltării masive a infrastructurii, iar piața memoriei – motorul declarat al creșterii – nu arată niciun semn de răcire. Nvidia este programată să raporteze rezultatele trimestriale pe 26 august, unde analiștii se așteaptă la detalii noi despre cerere, ofertă și costuri. For more context on this story, see our ongoing AI news.
Ce sisteme sunt afectate
Potrivit raportului, creșterea se va aplica serverelor construite în jurul platformelor emblematice Grace Blackwell ale Nvidia și viitoarei sale generații Vera Rubin. Creșterile nu vor fi uniforme: dimensiunea ajustării depinde de generația de siliciu Nvidia implicată și de cantitatea și configurația memoriei din fiecare sistem.
Producătorii de servere care deservesc marile companii de tehnologie – inclusiv Microsoft, Google și Oracle – au început să notifice clienții cu privire la viitoarele modificări ale prețurilor pentru livrarea sistemelor la începutul anului 2027.
Memoria este de vină
Principalul factor este creșterea costului memoriei. Sistemele AI de înaltă performanță necesită cantități enorme de memorie cu lățime de bandă mare, iar cererea din partea extinderii centrului de date a determinat creșterea prețurilor pentru HBM și LPDDR5. Producătorii de memorie Samsung Electronics, SK Hynix și Micron Technology se confruntă cu o cerere puternică, deoarece capacitatea semiconductorilor este din ce în ce mai direcționată către memorie cu lățime de bandă mare și alte produse de calcul avansate.
Gaurav Gupta, vicepreședinte și analist la Gartner, a declarat că creșterile reflectă presiunile de-a lungul întregului lanț de aprovizionare AI, nu doar RAM. „Prețurile memoriei sunt în creștere, în special HBM și LPDDR5, dar există și alte aspecte, cum ar fi napolitanele de turnătorie de vârf, ambalajele avansate și lipsa altor componente”, a spus el pentru CIO.com, adăugând că aceste probleme generează timpi de livrare mai lungi, „ceea ce de obicei se traduce prin prețuri mai mari”.
Și nu se așteaptă la ușurare în curând. „În mediul actual de cerere puternică și ofertă limitată, ne așteptăm ca această situație să continue pe termen scurt și mediu”, a spus Gupta – ceea ce înseamnă costuri mai mari atât pentru organizațiile care își desfășoară propriile servere, cât și pentru cele care închiriază calculatoare în cloud.
O mică alegere pentru cumpărători
Pentru CIO, calculul este neatrăgător. Consultanții și analiștii spun că întreprinderile nu au de ales decât să accepte că prețurile infrastructurii AI vor continua să crească, iar schimbarea furnizorilor – chiar dacă este posibil – nu ar evita creșterile, deoarece costurile memoriei și ale componentelor afectează întreaga piață.
Scott Bickley, coleg consultativ la Info-Tech Research Group, a susținut că Nvidia absoarbe de fapt o parte din lovitură. Calculele sale sugerează că compania își consumă probabil o parte din propriile costuri în creștere și trece doar o fracțiune către cei mai mari clienți. Dar a fost direct în privința efectului de pârghie pe care îl au cumpărătorii: „Costul sarcinii de lucru scade pe token, în timp ce costurile de hardware și infrastructură de bază cresc”, a spus el. „Dacă vă construiți în mod direct propriile clustere, aceasta este o creștere automată a unei soluții deja extrem de costisitoare. Dacă vă cumpărați propriul hardware, va trebui să îl absorbiți. Nu veți negocia calea de a ieși din asta.”
Există un argument pe care Bickley a subliniat: prețurile pe token pentru modelele AI par să scadă, ceea ce oferă cumpărătorilor o modalitate de a reduce inflația hardware prin arhitectura de sarcini care se bazează mai puțin pe capacitatea de memorie brută.
Strângeți mai mult din ceea ce aveți deja
Această strategie - obținerea mai multor kilometraj de la hardware-ul existent - este locul în care converg mai mulți analiști. Bickley a indicat tehnici precum rutarea modelului, compresia și procesarea loturilor ca modalități de a crește gradul de utilizare a clusterelor deja în funcțiune.
Flavio Villanustre, CISO pentru LexisNexis Risk Solutions Group, a fost de acord că strângerea este în mod fundamental o problemă de cerere și ofertă care ar trebui să se stabilească odată ce producția de memorie crește pentru a satisface cererea determinată de AI – dar el nu vede că acest lucru se va întâmpla în următoarele câteva luni. Între timp, a remarcat el, unii furnizori de modele AI își adaptează modelele pentru a rula mai bine în medii constrânse de memorie. El a indicat Gemma E4B de la Google și modele similare, care folosesc o abordare ierarhică pe niveluri care trage doar părțile necesare ale unui model în memorie, mai degrabă decât să păstreze întregul model în RAM.
Mike Wilkes, CISO al companiei la Aikido Security, a susținut că creșterile de preț ar putea face ceva bine dacă forțează arhitecturi mai disciplinate. Întreprinderile au petrecut ultimii câțiva ani tratând jetoanele model de frontieră ca pe o „utilitate infinită elastică”, a spus el – direcționând sarcinile de lucru către cel mai mare model, indiferent dacă sarcina a necesitat raționament la nivel de frontieră. Arhitectura potrivită este din ce în ce mai hibridă: rezervând aproximativ 10% din consum pentru modelele de frontieră pentru problemele care au cu adevărat nevoie de ele, în timp ce împinge acțiunile de clasificare, extragere, rezumare și agenți de rutină către modele de limbaj mici și modele deschise care rulează pe infrastructura controlată de întreprindere.
„Aceasta oferă CIO pârghie împotriva creșterii prețurilor sau stabilirii unilaterale a prețurilor”, a spus Wilkes.
Un semnal de inflație pentru economia AI
Creșterea este, de asemenea, un semnal despre unde se îndreaptă costurile boom-ului AI. Pe măsură ce prețul memoriei, napolitanele și ambalajele cresc, inflația se răspândește de la producătorii de cipuri la furnizorii de servere la furnizorii de cloud și, în cele din urmă, la întreprinderile care se bazează pe AI. Cu raportul de câștiguri al Nvidia care urmează să fie afișat pe 26 august, cumpărătorii și investitorii deopotrivă vor urmări cât de mult din această presiune a costurilor absoarbe compania - și cât de mult trece în aval.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
