Qualcomm heeft de Cloud AI 100 Ultra gelanceerd, een inferentieversneller voor datacenters die tot 870 TOPS aan INT8-prestaties en 288 TFLOPS aan FP16-rekenkracht levert, terwijl hij slechts 150 watt verbruikt – een fractie van het vermogensbereik van de GPU's die momenteel de generatieve AI-inferentie domineren.
De kaart, vermeld op de officiële datacenterproductpagina van Qualcomm en gedetailleerd in de lanceringsdekking, is specifiek ontworpen voor generatieve AI en grote taalmodelworkloads. Het positioneert de mobiele chipgigant als een directe uitdager op de inferentiemarkt, waar de vraag stijgt naarmate bedrijven AI-agenten, copiloten en ophaal-verbeterde applicaties op grote schaal inzetten. Voor meer context over de AI-hardwarerace, zie onze AI-nieuwsverslaggeving.
De specificaties: SRAM eerst, DRAM tweede
De kern van de Cloud AI 100 Ultra bestaat uit 64 AI-kernen en 576 MB on-die SRAM. De weddenschap van Qualcomm is dat het fysiek dicht bij de rekeneenheden houden van modelgewichten en activeringen – in plaats van elk token naar extern geheugen te sturen – de moeite waard is voor op transformatoren gebaseerde modellen, die leven en sterven op geheugenbandbreedte.
De kaart heeft nog steeds 128 GB LPDDR4x-geheugen met 548 GB/s bandbreedte voor grotere modellen en langere contexten, verbonden via PCIe Gen4 met 16 rijstroken. Die combinatie – grote on-die SRAM plus een bescheiden stroomverbruik van 150 W – is de onderscheidende factor van de kaart. Nvidia's datacenter-GPU's variëren doorgaans van 300 W tot 700 W, en elke watt is van belang wanneer de gevolgtrekking wordt gefactureerd door het token en het vermogen van het datacenter de meest omstreden hulpbron in de sector is.
"De Cloud AI 100 Ultra is een prestatie- en kostengeoptimaliseerde AI-inferentieoplossing", zei het bedrijf in zijn productmaterialen, waarbij de nadruk werd gelegd op programmeerbaarheid voor workloads variërend van computervisie tot natuurlijke taalverwerking.
Software: een OpenAI-compatibele oprit
Hardware is nooit het probleem van Qualcomm geweest in het datacenter; software heeft. Het bedrijf pakt dit aan met zijn AI Inference Suite, een softwarelaag die OpenAI-compatibele API's beschikbaar stelt voor het bouwen van chatbots, copiloten en AI-agents.
De suite ondersteunt chat, het genereren van afbeeldingen, multimodale modellen en retrieval-augmented generation (RAG) workflows, en wordt geïmplementeerd via Kubernetes of bare-metal containers. Qualcomm levert ook gebruikersbeheer- en administratietools – een niet-glamoureuze toevoeging die vaak ontbreekt in raw accelerator-aanbiedingen, maar wel een die IT-teams van ondernemingen zwaar wegen als ze werklasten intern verplaatsen.
Het OpenAI-compatibele API-oppervlak is van strategisch belang: het stelt ontwikkelaars in staat bestaande OpenAI-gebonden pipelines op Qualcomm-hardware te richten met een configuratiewijziging in plaats van een herschrijving, waardoor de overstapkosten worden verlaagd die de gevestigde positie in deze markt hebben beschermd.
Een druk veld met één duidelijke leider
Qualcomm betreedt een inferentiemarkt die het slagveld is geworden van de AI-hardwarecyclus. Nvidia's L40S en H100 domineren; AMD's MI300X en Intel's Gaudi 3 richten zich op dezelfde werklast; en gespecialiseerd silicium van Groq en Cerebras heeft niches gecreëerd op het gebied van ruwe inferentiesnelheid.
De vraagzijde verklaart de problemen. Het bedienen van AI-agents en RAG-pijplijnen vermenigvuldigt het aantal modeloproepen dat een enkele gebruikerssessie genereert, en elk van deze oproepen is een gevolgtrekkingsprobleem dat moet worden opgelost tegen de laagst mogelijke kosten per token. Hyperscalers kopen rekken met vlaggenschip-GPU's om dit aan te kunnen; de bedrijven onder hen zijn op zoek naar hardware die in een standaardserver past, op een standaard stroomcircuit, zonder opnieuw over hun elektriciteitscontracten te onderhandelen.
De pitch van Qualcomm gaat over de totale eigendomskosten in plaats van over topprestaties. Voor bedrijven die op grote schaal inferentie uitvoeren, vloeit het energieverbruik rechtstreeks door in de bedrijfskosten, en een kaart die een concurrerende doorvoersnelheid van 150 W levert, ondermijnt de economie van brute-force GPU's. Training blijft het domein van Nvidia – de Ultra maakt daar geen aanspraak op – maar de gevolgtrekking is waar de eenheidseconomie van de sector feitelijk wordt bepaald, en het is de werklast die de meeste ondernemingen zelf zullen uitvoeren, of het nu in een on-premises cluster is of in een colocatiekooi.
Het software-ecosysteem blijft een zware strijd. Het CUDA-platform van Nvidia is nog steeds de standaardkeuze voor de meeste AI-ontwikkelaars, en hoewel OpenAI-compatibele API's de toetredingsdrempel verlagen, elimineren ze niet het herwerk dat nodig is voor aangepaste inferentiepijplijnen.
Waar het past in de line-up van Qualcomm
De Ultra staat aan de top van Qualcomm's inferentiereeks, die ook de Cloud AI 80 Ultra (tot 618 TOPS van INT8 met dezelfde 576 MB SRAM), de Cloud AI 100 Pro en de Cloud AI 100 Standard omvat, die zich richt op edge- en kleinschalige implementaties met een vermogen van 75 W.
De lancering vertegenwoordigt de huidige generatie van Qualcomm's Dragonfly datacenter-roadmap, die het bedrijf heeft ontwikkeld voor AI-workloads op cloudschaal – en die Qualcomm nu een argument geeft voor ondernemingen die generatieve AI-inferentie on-premise willen uitvoeren in plaats van in de publieke cloud, of dit nu om kosten-, latentie- of data-governance-redenen is.
De weddenschap, in één zin
Qualcomm durft te wedden dat naarmate AI zich verplaatst van een handvol hyperscalers naar duizenden ondernemingen, de winnende gevolgtrekkingskaart niet de snelste is, maar de meest efficiënte. De Cloud AI 100 Ultra is dat argument in silicium; of ontwikkelaars de watts volgen blijft de open vraag.
---
Blijf AI een stap voorOntvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.
Lees meer AI-nieuws →
