Qualcomm a lancé le Cloud AI 100 Ultra, un accélérateur d'inférence de centre de données qui offre jusqu'à 870 TOPS de performances INT8 et 288 TFLOPS de calcul FP16 tout en consommant seulement 150 watts, soit une fraction de l'enveloppe de puissance des GPU qui dominent actuellement l'inférence générative de l'IA.
La carte, répertoriée sur la page produit officielle du centre de données de Qualcomm et détaillée dans la couverture du lancement, est conçue spécifiquement pour l'IA générative et les charges de travail de modèles de langage étendus. Cela positionne le géant des puces mobiles comme un challenger direct sur le marché de l'inférence, où la demande augmente à mesure que les entreprises déploient à grande échelle des agents d'IA, des copilotes et des applications de récupération augmentée. Pour plus de contexte sur la course au matériel IA, consultez notre Couverture de l'actualité sur l'IA.
Les spécifications : SRAM d'abord, DRAM ensuite
Au cœur du Cloud AI 100 Ultra se trouvent 64 cœurs AI et 576 Mo de SRAM intégrée. Le pari de Qualcomm est que garder les poids et les activations des modèles physiquement proches des unités de calcul – plutôt que de transférer chaque jeton vers la mémoire externe – est payant pour les modèles basés sur des transformateurs, qui vivent et meurent sur la bande passante mémoire.
La carte embarque toujours 128 Go de mémoire LPDDR4x avec 548 Go/s de bande passante pour les modèles plus grands et les contextes plus longs, connectés via PCIe Gen4 avec 16 voies. Cette combinaison – une grande SRAM sur puce et une modeste consommation d'énergie de 150 W – est le différenciateur de la carte. Les GPU des centres de données de Nvidia vont généralement de 300 W à 700 W, et chaque watt compte lorsque l'inférence est facturée par jeton et que la puissance du centre de données est la ressource la plus contestée du secteur.
"Le Cloud AI 100 Ultra est une solution d'inférence d'IA optimisée en termes de performances et de coûts", a déclaré la société dans ses documents produits, mettant l'accent sur la programmabilité sur des charges de travail allant de la vision par ordinateur au traitement du langage naturel.
Logiciel : une rampe d'accès compatible avec OpenAI
Le matériel n'a jamais été le problème de Qualcomm dans les centres de données ; le logiciel a. La société résout ce problème avec sa suite AI Inference, une couche logicielle qui expose des API compatibles OpenAI pour créer des chatbots, des copilotes et des agents IA.
La suite prend en charge les workflows de chat, de génération d'images, de modèles multimodaux et de génération augmentée de récupération (RAG), et se déploie via Kubernetes ou des conteneurs nus. Qualcomm propose également des outils de gestion et d'administration des utilisateurs – un ajout peu glamour qui manque souvent aux offres d'accélérateurs bruts, mais qui pèse lourdement sur les équipes informatiques des entreprises lorsqu'elles déplacent les charges de travail en interne.
La surface de l'API compatible OpenAI est stratégique : elle permet aux développeurs de pointer les pipelines existants liés à OpenAI vers le matériel Qualcomm avec un changement de configuration plutôt qu'une réécriture, réduisant ainsi le coût de commutation qui a protégé l'opérateur historique sur ce marché.
Un terrain bondé avec un leader clair
Qualcomm entre sur un marché d'inférence qui est devenu le champ de bataille du cycle matériel de l'IA. Les L40S et H100 de Nvidia dominent ; Le MI300X d'AMD et le Gaudi 3 d'Intel ciblent les mêmes charges de travail ; et le silicium spécialisé de Groq et Cerebras s'est taillé une niche dans la vitesse d'inférence brute.
La demande explique cette ruée. Servir les agents IA et les pipelines RAG multiplie le nombre d'appels de modèle générés par une seule session utilisateur, et chacun de ces appels est un problème d'inférence à résoudre au coût par jeton le plus bas possible. Les hyperscalers achètent des racks de GPU phares pour le gérer ; les entreprises qui les sous-tendent recherchent du matériel adapté à un serveur standard, sur un circuit électrique standard, sans renégocier leurs contrats d'électricité.
L'argument de Qualcomm est le coût total de possession plutôt que les performances maximales. Pour les entreprises exécutant l'inférence à grande échelle, la consommation d'énergie se répercute directement sur les coûts d'exploitation, et une carte offrant un débit compétitif de 150 W compromet l'économie des GPU par force brute. La formation reste le domaine de Nvidia – l'Ultra ne revendique rien là-dessus – mais l'inférence est le domaine où les aspects économiques unitaires du secteur sont réellement décidés, et c'est la charge de travail que la plupart des entreprises géreront elles-mêmes, que ce soit dans un cluster sur site ou dans une cage de colocation.
L’écosystème logiciel reste une bataille difficile. La plate-forme CUDA de Nvidia reste le choix par défaut pour la plupart des développeurs d'IA, et bien que les API compatibles OpenAI réduisent la barrière à l'entrée, elles n'éliminent pas les retouches requises pour les pipelines d'inférence personnalisés.
Où il se situe dans la gamme de Qualcomm
L'Ultra se situe au sommet de la gamme d'inférence de Qualcomm, qui comprend également le Cloud AI 80 Ultra (jusqu'à 618 TOPS d'INT8 avec les mêmes 576 Mo de SRAM), le Cloud AI 100 Pro et le Cloud AI 100 Standard, qui cible les déploiements périphériques et à plus petite échelle avec des enveloppes de puissance de 75 W.
Ce lancement représente la génération actuelle de la feuille de route du centre de données Dragonfly de Qualcomm, que la société a développée pour les charges de travail d'IA à l'échelle du cloud, et qui donne désormais à Qualcomm un argument pour les entreprises qui souhaitent exécuter une inférence d'IA générative sur site plutôt que dans le cloud public, que ce soit pour des raisons de coût, de latence ou de gouvernance des données.
Le pari, en une phrase
Qualcomm parie qu’à mesure que l’IA passe d’une poignée d’hyperscalers à des milliers d’entreprises, la carte d’inférence gagnante n’est pas la plus rapide mais la plus efficace. Le Cloud AI 100 Ultra est cet argument en silicium ; La question de savoir si les développeurs suivent les watts reste la question ouverte.
---
Gardez une longueur d'avance sur l'IARecevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.
Lire plus d'actualités sur l'IA →
