Nvidia ha detto ad alcuni dei suoi maggiori clienti che i prezzi per i server contenenti i suoi chip AI aumenteranno di oltre il 15% sui sistemi consegnati dall’inizio del 2027, secondo Bloomberg – il secondo grande aumento di prezzo in meno di un anno, sommato agli aumenti di circa il 30% su quasi tutte le linee di prodotti a luglio.
L’avvertimento, comunicato attraverso i produttori di server che assemblano sistemi per grandi operatori di data center, arriva in un momento delicato per il settore dell’intelligenza artificiale: le imprese sono alle prese con i costi di massicce costruzioni di infrastrutture e il mercato delle memorie – il motore dichiarato dell’aumento – non mostra segni di raffreddamento. Nvidia pubblicherà i risultati trimestrali il 26 agosto, dove gli analisti si aspettano nuovi dettagli su domanda, offerta e costi. Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.
Quali sistemi sono interessati
Secondo il rapporto, l'aumento si applicherà ai server costruiti attorno alle piattaforme Grace Blackwell di punta di Nvidia e alla sua prossima generazione Vera Rubin. Gli aumenti non saranno uniformi: l'entità dell'aggiustamento dipende dalla generazione di silicio Nvidia coinvolta e dalla quantità e configurazione della memoria in ciascun sistema.
Secondo quanto riferito, i produttori di server che servono le principali aziende tecnologiche, tra cui Microsoft, Google e Oracle, hanno iniziato a informare i clienti sulle imminenti variazioni di prezzo per la spedizione dei sistemi all’inizio del 2027.
La memoria è la colpevole
Il fattore principale è l’aumento del costo della memoria. I sistemi di intelligenza artificiale ad alte prestazioni richiedono enormi quantità di memoria con larghezza di banda elevata e la domanda derivante dall’espansione dei data center ha fatto salire i prezzi per HBM e LPDDR5. I produttori di memorie Samsung Electronics, SK Hynix e Micron Technology si trovano tutti ad affrontare una forte domanda poiché la capacità dei semiconduttori è sempre più indirizzata verso memorie a larghezza di banda elevata e altri prodotti informatici avanzati.
Gaurav Gupta, vicepresidente e analista di Gartner, ha affermato che gli aumenti riflettono le pressioni sull’intera catena di fornitura dell’intelligenza artificiale, non solo sulla RAM. "I prezzi delle memorie stanno aumentando, soprattutto HBM e LPDDR5, ma ci sono altri aspetti, come wafer di fonderia all'avanguardia, imballaggi avanzati e altre carenze di componenti", ha detto a CIO.com, aggiungendo che questi problemi generano tempi di consegna più lunghi, "che in genere si traducono in prezzi più alti."
E non si aspetta un sollievo immediato. "Nell'attuale contesto di forte domanda e offerta limitata, ci aspettiamo che questa situazione continui nel breve e medio termine", ha affermato Gupta, il che significa costi più elevati sia per le organizzazioni che distribuiscono i propri server sia per quelle che noleggiano computer nel cloud.
Poca scelta per gli acquirenti
Per i CIO il calcolo non è allettante. Consulenti e analisti affermano che le aziende non hanno altra scelta se non quella di accettare che i prezzi delle infrastrutture AI continueranno ad aumentare e che cambiare fornitore, anche se possibile, non eviterebbe gli aumenti, perché i costi della memoria e dei componenti influiscono sull’intero mercato.
Scott Bickley, consulente presso Info-Tech Research Group, ha affermato che Nvidia sta effettivamente assorbendo parte del colpo. I suoi calcoli suggeriscono che l’azienda probabilmente si farà carico di parte dei costi in aumento e ne trasferirà solo una frazione ai suoi clienti più grandi. Ma è stato schietto riguardo alla leva finanziaria degli acquirenti: "Il costo del carico di lavoro sta diminuendo per token mentre i costi dell'hardware e dell'infrastruttura sottostante stanno aumentando", ha detto. "Se stai costruendo direttamente i tuoi cluster, questo è un passaggio automatico a una soluzione già egregiamente costosa. Se stai acquistando il tuo hardware, dovrai succhiartelo. Non negozierai per uscire da tutto questo."
C’è un lato positivo sottolineato da Bickley: i prezzi per token per i modelli di intelligenza artificiale sembrano essere in calo, il che offre agli acquirenti un modo per attenuare l’inflazione dell’hardware architettando carichi di lavoro che si basano meno sulla capacità di memoria grezza.
Spremi di più da ciò che già possiedi
Questa strategia, ovvero ottenere più chilometri dall’hardware esistente, è il punto su cui convergono diversi analisti. Bickley ha indicato tecniche come il model routing, la compressione e l'elaborazione batch come modi per aumentare l'utilizzo dei cluster già in servizio.
Flavio Villanustre, CISO di LexisNexis Risk Solutions Group, concorda sul fatto che la compressione è fondamentalmente un problema di domanda e offerta che dovrebbe stabilizzarsi una volta che la produzione di memoria aumenterà per soddisfare la domanda guidata dall’intelligenza artificiale, ma non prevede che ciò accada nei prossimi mesi. Nel frattempo, ha osservato, alcuni fornitori di modelli di intelligenza artificiale stanno adattando i propri modelli per funzionare meglio in ambienti con vincoli di memoria. Ha indicato Gemma E4B di Google e modelli simili, che utilizzano un approccio gerarchico a più livelli che inserisce in memoria solo le parti necessarie di un modello anziché conservare l'intero modello nella RAM.
Mike Wilkes, CISO aziendale di Aikido Security, ha sostenuto che gli aumenti dei prezzi potrebbero fare del bene se imponessero architetture più disciplinate. Le aziende hanno trascorso gli ultimi anni a considerare i token del modello di frontiera come una "utilità infinitamente elastica", ha affermato, instradando i carichi di lavoro al modello più grande indipendentemente dal fatto che l'attività richiedesse un ragionamento a livello di frontiera. L’architettura giusta è sempre più ibrida: riservare circa il 10% del consumo per modelli di frontiera su problemi che ne hanno realmente bisogno, spingendo al contempo la classificazione, l’estrazione, il riepilogo e le azioni di routine degli agenti verso modelli linguistici di piccole dimensioni e modelli a peso aperto in esecuzione su infrastrutture controllate dall’azienda.
"Ciò offre ai CIO una leva finanziaria contro le manipolazioni dei prezzi o la fissazione unilaterale dei prezzi", ha affermato Wilkes.
Un segnale di inflazione per l'economia basata sull'intelligenza artificiale
L’aumento è anche un segnale sulla direzione in cui si stanno dirigendo i costi del boom dell’intelligenza artificiale. Mentre i prezzi delle memorie, dei wafer e degli imballaggi aumentano, l’inflazione si sta diffondendo dai produttori di chip ai fornitori di server, ai fornitori di servizi cloud e, infine, alle imprese che si affidano all’intelligenza artificiale. Con il rapporto sugli utili di Nvidia in scadenza il 26 agosto, acquirenti e investitori staranno attenti a quanta pressione sui costi assorbirà l'azienda e quanto passerà a valle.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
