OpenAI ha pubblicato i primi risultati del benchmark per Jalapeño, il suo chip di inferenza personalizzato, e i numeri sono sorprendenti: sul benchmark InferenceX di SemiAnalysis, il nuovo silicio ha registrato sia più token per utente che più throughput per kilowatt rispetto ai processori di inferenza all'avanguardia attualmente disponibili, un confronto che include i sistemi Blackwell di Nvidia. I risultati sono stati presentati martedì alla conferenza Hot Chips di Palo Alto, insieme a uno sguardo tecnico dettagliato su come è stato costruito il chip. Per i lettori che seguono la corsa al calcolo che è alla base di ogni versione del modello AI, si tratta di uno dei dati hardware più importanti dell'anno.

"La conclusione è che i risultati mostrano un progresso prestazionale molto, molto significativo rispetto allo stato dell'arte", ha affermato Richard Ho, responsabile hardware di OpenAI, in una conferenza stampa riportata da TechCrunch. "Jalapeño può fornire più lavoro di intelligenza artificiale per unità di potenza, restituendo allo stesso tempo risposte più rapidamente. È molto efficiente per servire molti clienti, ma può anche avere una latenza molto bassa."

Un chip creato per l'intera pipeline di inferenza

Jalapeño è stato presentato nel giugno 2026 come il primo silicio personalizzato di OpenAI, sviluppato in stretta collaborazione con Broadcom, con i modelli AI di OpenAI che assistono nel processo di sviluppo del chip. La partnership stessa risale all’ottobre 2025, quando OpenAI ha delineato i piani per un programma di accelerazione personalizzato multigenerazionale insieme al gigante del networking.

Ciò che rende Jalapeño diverso da una GPU generica, secondo OpenAI, è che è stato progettato di concerto con i modelli che servirà. Poiché l’azienda controlla l’intero stack – prodotti di intelligenza artificiale, modelli, chip e memoria – i suoi ingegneri sono stati in grado di attaccare fasi specifiche del processo di inferenza che spesso causano attriti.

In particolare, Jalapeño è progettato per ridurre al minimo i ritardi durante le fasi di elaborazione di precompilazione e comunicazione, che secondo OpenAI spesso fungono da colli di bottiglia quando si servono modelli linguistici di grandi dimensioni su larga scala.

"Abbiamo progettato Jalapeño per ridurre al minimo lo spostamento dei dati e i ritardi di comunicazione", ha scritto l'azienda in un post sul blog in cui presenta i risultati. "Ciò significa che lo stato del modello, inclusa la cache KV utilizzata durante la generazione di una risposta, può essere esplicitamente posizionato e mantenuto locale mentre il sistema attiva la giusta combinazione di elaborazione, memoria e rete per ogni fase di inferenza."

Quest'ultimo punto è importante per chiunque esegua carichi di lavoro IA di produzione. La cache KV, ovvero il contesto accumulato che un modello conserva durante la generazione di una risposta, è uno dei maggiori grattacapi in termini di memoria e larghezza di banda nell'inferenza moderna. Mantenerlo locale e gestito in modo esplicito, anziché distribuirlo in un cluster, è un modo classico per recuperare latenza e potenza.

Meglio di Blackwell – Per ora

Il confronto principale è con un sistema Nvidia Blackwell, attualmente il cavallo di battaglia dell'inferenza AI di frontiera. Un'analisi indipendente pubblicata lo stesso giorno da SemiAnalysis, intitolata "OpenAI Jalapeño: Better than Nvidia Blackwell", è giunta a una conclusione simile sui primi risultati del chip e la storia è diventata rapidamente uno degli elementi più discussi su Hacker News.

Ma sia i dirigenti che gli analisti di OpenAI invitano alla cautela. Ho stimato che Jalapeño verrà distribuito alla fine del 2026 "in volumi molto piccoli", con una distribuzione più significativa prevista per il 2027. Quando Jalapeño raggiungerà la piena scala, la concorrenza potrebbe essere avanzata in modo significativo: la tabella di marcia di Nvidia continua a muoversi e altri hyperscaler tra cui Google, Amazon e Microsoft stanno tutti spingendo il proprio silicio personalizzato.

Come ha osservato TechCrunch, i benchmark misurati rispetto allo stato dell'arte odierno sono un'istantanea, non una garanzia. Un chip che vince in termini di efficienza nel 2026 deve continuare a vincere contro qualsiasi cosa Nvidia e i suoi rivali lanceranno l’anno prossimo.

Perché OpenAI sta costruendo il proprio silicio

La logica strategica è semplice: l'inferenza è il principale costo ricorrente di OpenAI. Ogni query ChatGPT, ogni chiamata API e ogni attività dell'agente brucia calcolo e il noleggio di tale calcolo da Nvidia a prezzi di mercato riduce i margini man mano che l'utilizzo aumenta. Un chip personalizzato sintonizzato sui modelli di OpenAI, progettato insieme a Broadcom e modellato dagli stessi modelli di OpenAI, offre all'azienda un modo per servire più utenti per watt e per dollaro.

Jalapeño è inoltre concepito come una piattaforma multigenerazionale piuttosto che come un pezzo unico. OpenAI ha affermato che intende sviluppare insieme prodotti, modelli, chip e memoria IA, in modo che ogni generazione di silicio sia co-ottimizzata con i modelli che verrà eseguita. Se i risultati della prima generazione reggono nella produzione, Jalapeño diventa il modello per tutto ciò che segue.

La posta in gioco va oltre OpenAI. Il dominio di Nvidia sugli acceleratori AI è stato il collo di bottiglia più stretto del settore da tre anni, e ogni alternativa credibile – sia dal team TPU di Google, da Amazon o ora da OpenAI – cambia il panorama negoziale per tutti coloro che costruiscono infrastrutture AI. Secondo quanto riferito, Nvidia stessa sta avvertendo i clienti di aumenti di prezzo del 15% o più sui server AI a causa dell'aumento dei costi di memoria, il che non fa altro che aumentare l'attrattiva delle alternative interne.

Cosa verrà dopo

Per ora, Jalapeño rimane una parte di pre-produzione con numeri promettenti. Il vero test arriverà alla fine del 2026, quando verranno distribuiti i primi piccoli volumi, e soprattutto nel 2027, quando OpenAI si aspetta una scala significativa. Le domande chiave rimangono senza risposta: affidabilità nel mondo reale su scala di data center, costo totale di proprietà rispetto alla capacità affittata di Blackwell e se il vantaggio in termini di efficienza sopravvive rispetto alla prossima generazione di Nvidia.

Tuttavia, i primi benchmark segnano una pietra miliare: la prima volta che uno dei grandi laboratori di intelligenza artificiale ha dimostrato pubblicamente un silicio per inferenza personalizzato che sembra battere il migliore dell'operatore storico in termini di efficienza. Per un settore che ha trattato l'offerta di Nvidia come un'ancora di salvezza strategica, questo è un vero punto di svolta.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →