De CEO van Qualcomm zegt dat de grootste AI-bedrijven hem om iets vragen waar de huidige smartphones niet in de buurt kunnen komen: modellen met 100 miljard parameters continu op de telefoon zelf draaien tegen 2028.
In een interview op 8 oktober dat werd gerapporteerd door Fortune en deze week werd opgepikt door onder meer TOKENPOST en Startup Fortune, zei Cristiano Amon dat meerdere AI-bedrijven – waarvan hij de namen weigerde te geven – aandringen op smartphones die een model met 100 miljard parameters de klok rond kunnen laten draaien. Voor lezers die de verschuiving van AI van de cloud naar zakken en polsen volgen, is dit het duidelijkste vraagsignaal tot nu toe, en onze sectie AI-hardwarenieuws geeft aan waar die impuls vervolgens naartoe gaat.
De vraag komt van AI Labs, niet van de routekaart van Qualcomm
Het aantal is belangrijk vanwege waar het vandaan komt. Amon maakte Qualcomm's eigen productdoel niet bekend; hij gaf door wat AI-laboratoria de grootste mobiele chipmaker ter wereld vertellen die ze willen bouwen. De vlaggenschipchips van vandaag de dag liggen ver onder dat cijfer: de Snapdragon 8 Elite Extreme Gen 6, het hoogste mobiele platform van Qualcomm, kan mix-of-expertmodellen op het apparaat uitvoeren met meer dan 30 miljard parameters, met een contextvenster van ongeveer 32.000 tokens.
Een model met 100 miljard parameters dat non-stop draait, is meer dan het drievoudige van dat plafond, en het verandert het technische probleem in natura, en niet alleen in gradatie. Zoals het rapport van Startup Fortune opmerkt, gaat het niet om een grotere versie van de assistent die mensen al gebruiken. Het is voor agentische AI: software die namens een gebruiker toekijkt, redeneert en handelt in plaats van te wachten op een prompt, wat betekent dat het model in het geheugen moet blijven en de hele dag op de achtergrond gevolgtrekkingen moet blijven maken zonder dat de batterij of het chassis overbelast raken.
Waarom geheugen het knelpunt is
De kloof tussen 30 miljard en 100 miljard parameters is fundamenteel een geheugenprobleem. Modelgewichten op het apparaat moeten in RAM leven, en door het aantal parameters te verdrievoudigen en tegelijkertijd de inferentie continu te laten draaien, worden de geheugenbandbreedte en het stroomverbruik vermenigvuldigd op een manier waarop de huidige vlaggenschiphardware nooit is ontworpen om te absorberen.
Amon erkende dat het aanbod van geheugenchips voor smartphones onder een ‘tijdelijke beperking’ staat – hetzelfde tekort dat dit jaar de telefoonprijzen in de hele sector heeft opgedreven – maar hij omschreef dit als druk die tot meer geheugenefficiënte chipontwerpen zal leiden in plaats van alleen maar meer geheugen. Dat komt overeen met de recente siliciumkeuzes van Qualcomm: de 8 Elite Extreme Gen 6 koppelt zijn Hexagon NPU aan een nieuwe Element Accelerator en een grotere gedeelde geheugenpool, specifiek om de latentie en het stroomverbruik onder controle te houden voor gevolgtrekkingen van deskundigen op het apparaat.
De chips die de kloof moeten overbruggen
De huidige vlaggenschipgeneratie van Qualcomm – de Snapdragon 8 Elite Gen 6 en 8 Elite Extreme Gen 6, gebouwd op een 2nm-proces – zal in 2027 de vlaggenschiptelefoons van Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, vivo en Xiaomi aandrijven, waarbij apparaten als de Samsung Galaxy S27-klasse naar verwachting aan de top van het assortiment zullen staan. Als aan het verlanglijstje van de AI-industrie voor 2028 moet worden voldaan, zijn het deze chipcyclus en de cyclus erna die de geheugenarchitectuur, de thermische eigenschappen en de batterij-efficiëntie moeten leveren om een model op grensschaal in de zak van een overhemd levend te houden.
Amon zei ook, volgens de rapportage van Fortune, dat Qualcomm met bijna alle grote AI-spelers werkt aan niet bekendgemaakte hardwareprojecten, inclusief apparaatcategorieën buiten telefoons. Dat komt overeen met de recente houding van het bedrijf om Snapdragon-silicium te positioneren als de standaard inferentielaag voor edge-AI, waar deze ook terechtkomt: telefoons, auto's, pc's en brillen.
Wat continue AI op het apparaat eigenlijk zou betekenen
Als AI-bedrijven krijgen waar ze om vragen, zou de verandering eerder structureel dan cosmetisch zijn. Een model dat de hele dag op de achtergrond draait, kan de context observeren, op behoeften anticiperen en handelen zonder heen en weer te hoeven reizen naar een datacenter. Dit impliceert een lagere latentie, betere privacy en geen cloudkosten per query. Het impliceert ook telefoons met een groter, sneller en energievreter geheugen dan de huidige vlaggenschepen, in een markt waar de prijzen voor geheugen al hoog zijn.
Hier past een gezonde scepsis. Chipbestuurders hebben al eerder gedurfde AI-voorspellingen op apparaten gedaan, en 2028 is ver genoeg verwijderd dat de claim gedeeltelijk als onderhandelingspositie functioneert met geheugenleveranciers, telefoonfabrikanten en de AI-laboratoria zelf. Maar de richting van het verzoek is opmerkelijk: AI-bedrijven vragen deze keer niet om snellere cloud-GPU's. Ze vragen om een telefoon die nooit stopt met nadenken.
Of de klanten van Qualcomm dat apparaat nu in 2028 of later verzenden, het knelpunt om in de gaten te houden zijn niet de parameters, maar de geheugenbandbreedte per watt. Het bedrijf dat dit oplost, in Redmond, San Diego of Taipei, zal de volgende definitie van een vlaggenschiptelefoon bezitten.
Blijf AI een stap voor
Chipoorlogen, modellanceringen en doorbraken op het gebied van edge-AI – gedekt zonder de hype.
Lees meer AI-nieuws →
