Nvidia heeft een aantal van zijn grootste klanten verteld dat de prijzen voor servers met AI-chips met meer dan 15 procent zullen stijgen op systemen die vanaf begin 2027 worden geleverd, volgens Bloomberg – de tweede grote prijsstijging in minder dan een jaar, bovenop stijgingen van ongeveer 30 procent voor bijna alle productlijnen in juli.

De waarschuwing, gecommuniceerd via serverfabrikanten die systemen assembleren voor grote datacenterexploitanten, komt op een delicaat moment voor de AI-industrie: bedrijven worstelen met de kosten van enorme infrastructuuruitbreidingen, en de geheugenmarkt – de genoemde aanjager van de toename – vertoont geen teken van afkoeling. Nvidia zal naar verwachting op 26 augustus de kwartaalresultaten rapporteren, waarbij analisten nieuwe details over vraag, aanbod en kosten verwachten. Voor meer context over dit verhaal, zie ons AI-trends.

Welke systemen zijn getroffen

Volgens de rapportage zal de verhoging van toepassing zijn op servers die zijn gebouwd rond Nvidia's vlaggenschip Grace Blackwell-platforms en de komende Vera Rubin-generatie. De verhogingen zullen niet uniform zijn: de omvang van de aanpassing hangt af van de betrokken generatie Nvidia-silicium en de hoeveelheid en configuratie van geheugen in elk systeem.

Serverfabrikanten die grote technologiebedrijven bedienen – waaronder Microsoft, Google en Oracle – zijn naar verluidt begonnen klanten begin 2027 op de hoogte te stellen van de aanstaande prijswijzigingen voor systemen die worden verzonden.

Geheugen is de boosdoener

De belangrijkste oorzaak zijn de stijgende kosten van geheugen. Krachtige AI-systemen vereisen enorme hoeveelheden geheugen met hoge bandbreedte, en de vraag als gevolg van de uitbreiding van datacenters heeft de prijzen voor HBM en LPDDR5 doen stijgen. Geheugenfabrikanten Samsung Electronics, SK Hynix en Micron Technology worden allemaal geconfronteerd met een sterke vraag, omdat de capaciteit van halfgeleiders steeds meer wordt gericht op geheugen met hoge bandbreedte en andere geavanceerde computerproducten.

Gaurav Gupta, vice-president en analist bij Gartner, zei dat de stijgingen de druk weerspiegelen in de hele AI-toeleveringsketen, en niet alleen in RAM. "De prijzen voor geheugen gaan omhoog, vooral voor HBM en LPDDR5, maar er zijn ook andere aspecten, zoals geavanceerde gieterijwafels, geavanceerde verpakkingen en andere tekorten aan componenten", vertelde hij aan CIO.com, eraan toevoegend dat deze problemen langere doorlooptijden genereren, "wat zich doorgaans vertaalt in hogere prijzen."

En hij verwacht niet snel verlichting. "In de huidige omgeving van sterke vraag en beperkt aanbod verwachten we dat deze situatie zich op de korte tot middellange termijn zal voortzetten", aldus Gupta. Dit betekent hogere kosten voor zowel organisaties die hun eigen servers inzetten als voor organisaties die computers in de cloud huren.

Weinig keuze voor kopers

Voor CIO's is de calculus onaantrekkelijk. Consultants en analisten zeggen dat bedrijven weinig andere keus hebben dan te accepteren dat de prijzen voor AI-infrastructuur zullen blijven stijgen, en dat het overstappen van leverancier – zelfs als dat mogelijk zou zijn – de stijgingen niet zou omzeilen, omdat geheugen- en componentkosten de hele markt beïnvloeden.

Scott Bickley, een adviserende collega bij Info-Tech Research Group, betoogde dat Nvidia feitelijk een deel van de klap opvangt. Uit zijn berekeningen blijkt dat het bedrijf waarschijnlijk een deel van zijn eigen stijgende kosten opslokt en slechts een fractie doorberekent aan zijn grootste klanten. Maar hij was bot over de hefboomwerking die kopers hebben: "De werklastkosten per token dalen, terwijl de onderliggende hardware- en infrastructuurkosten stijgen", zei hij. "Als je rechtstreeks je eigen clusters uitbouwt, is dit een automatische upgrade naar een toch al belachelijk dure oplossing. Als je je eigen hardware koopt, zul je die moeten opzuigen. Je gaat niet onderhandelen om hier uit te komen."

Er is één lichtpunt waar Bickley op wees: de prijzen per token voor AI-modellen lijken te dalen, wat kopers een manier geeft om de hardware-inflatie af te remmen door workloads te ontwerpen die minder afhankelijk zijn van ruwe geheugencapaciteit.

Meer halen uit wat je al bezit

Die strategie – meer rendement halen uit bestaande hardware – is waar verschillende analisten samenkomen. Bickley wees op technieken als modelrouting, compressie en batchverwerking als manieren om het gebruik van clusters die al in gebruik zijn, te vergroten.

Flavio Villanustre, CISO van de LexisNexis Risk Solutions Group, was het ermee eens dat de krapte in wezen een vraag-en-aanbodprobleem is dat zou moeten verdwijnen zodra de geheugenproductie toeneemt om aan de door AI aangedreven vraag te voldoen – maar hij ziet dat de komende maanden niet gebeuren. In de tussentijd, zo merkte hij op, passen sommige leveranciers van AI-modellen hun modellen aan om beter te werken in omgevingen met beperkt geheugen. Hij wees op Google's Gemma E4B en vergelijkbare modellen, die een hiërarchische, gelaagde aanpak gebruiken die alleen de noodzakelijke delen van een model in het geheugen haalt in plaats van het hele model in het RAM-geheugen op te slaan.

Mike Wilkes, enterprise CISO bij Aikido Security, betoogde dat de prijsstijgingen goed zouden kunnen zijn als ze meer gedisciplineerde architecturen afdwingen. Bedrijven hebben de afgelopen jaren tokens uit het grensmodel behandeld als een ‘oneindig elastisch hulpprogramma’, zei hij – waarbij werklasten naar het grootste model worden gerouteerd, ongeacht of de taak redenering op grensniveau vereiste. De juiste architectuur wordt steeds meer hybride: grofweg 10 procent van de consumptie wordt gereserveerd voor frontiermodellen voor problemen die deze echt nodig hebben, terwijl classificatie, extractie, samenvatting en routinematige acties van agenten worden verschoven naar kleine taalmodellen en open-weight-modellen die draaien op de infrastructuur die de onderneming beheert.

"Dat geeft CIO's houvast tegen prijsopdrijving of eenzijdige prijszetting", aldus Wilkes.

Een inflatiesignaal voor de AI-economie

De stijging is ook een signaal over waar de kosten van de AI-boom naartoe gaan. Terwijl geheugen, wafers en verpakkingen allemaal in prijs stijgen, verspreidt de inflatie zich van chipfabrikanten naar serverleveranciers, naar cloudproviders en uiteindelijk naar bedrijven die op AI voortbouwen. Nu het winstrapport van Nvidia op 26 augustus verschijnt, zullen zowel kopers als investeerders in de gaten houden hoeveel van die kostendruk het bedrijf op zich neemt – en hoeveel deze stroomafwaarts doorgeeft.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →