Generální ředitel společnosti Qualcomm říká, že největší společnosti zabývající se umělou inteligencí po něm žádají něco, čemu se současné smartphony nemohou přiblížit: provozování modelů se 100 miliardami parametrů na samotném telefonu, nepřetržitě, do roku 2028.

Cristiano Amon v rozhovoru z 8. října, o kterém informovala Fortune a který tento týden převzaly prodejny včetně TOKENPOST a Startup Fortune, řekl, že několik společností zabývajících se umělou inteligencí – jejichž jména odmítl uvést – tlačí na smartphony, které udrží model se 100 miliardami parametrů nepřetržitě v provozu. Pro čtenáře, kteří sledují přesun AI z cloudu do kapes a zápěstí, je to zatím nejjasnější signál poptávky a naše sekce AI hardware news sleduje, kam bude tento tlak pokračovat.

Poptávka pochází z laboratoří AI, nikoli z plánu Qualcommu

Na čísle záleží, odkud pochází. Amon neoznámil vlastní produktový cíl Qualcommu; předal to, co laboratoře umělé inteligence říkají největšímu světovému výrobci mobilních čipů, že chtějí postavit. Dnešní vlajkové čipy dosahují hluboko pod tímto číslem – Snapdragon 8 Elite Extreme Gen 6, nejvyšší mobilní platforma Qualcommu, dokáže na zařízení provozovat modely různých odborníků nad 30 miliard parametrů, s kontextovým oknem zhruba 32 000 tokenů.

Model se 100 miliardami parametrů, který běží nonstop, je více než trojnásobkem tohoto stropu a mění inženýrský problém v druhu, nejen ve stupni. Jak uvádí zpráva Startup Fortune, požadavek se netýká větší verze asistentů, které již lidé používají. Je to pro agentní umělou inteligenci: software, který sleduje, zdůvodňuje a jedná jménem uživatele místo čekání na výzvu, což znamená, že model musí zůstat uložený v paměti a celý den vyvozovat závěry na pozadí, aniž by ohříval baterii nebo šasi.

Proč je paměť úzkým hrdlem

Rozdíl mezi 30 miliardami a 100 miliardami parametrů je v zásadě problémem paměti. Hmotnosti modelů na zařízeních musí zůstat v paměti RAM a ztrojnásobení počtu parametrů a zároveň nepřetržitý provoz odvození znásobuje šířku pásma paměti a požadavky na napájení způsobem, který by současný vlajkový hardware nikdy nebyl navržen tak, aby absorboval.

Amon uznal, že dodávky paměťových čipů pro smartphony jsou pod „dočasným omezením“ – stejným nedostatkem, který letos vyhnal ceny telefonů v celém odvětví –, ale označil to za tlak, který si vynutí více paměťově úsporných návrhů čipů, spíše než jednoduše více paměti. To je v souladu s nedávnými volbami Qualcommu v oblasti křemíku: 8 Elite Extreme Gen 6 spáruje svůj Hexagon NPU s novým Element Accelerator a větším sdíleným paměťovým fondem speciálně pro udržení latence a odběru energie pod kontrolou pro různé závěry ze směsi odborníků na zařízení.

Čipy, které musí překonat propast

Současná generace vlajkových lodí společnosti Qualcomm – Snapdragon 8 Elite Gen 6 a 8 Elite Extreme Gen 6, postavená na 2nm procesu – má pohánět vlajkové telefony pro rok 2027 od Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, vivo a Xiaomi, se zařízeními jako je Samsung Galaxy S2 třídy nejvyšší třídy. Má-li být splněn seznam přání odvětví AI pro rok 2028, je to tento čipový cyklus a následující cyklus, které musí poskytnout architekturu paměti, tepelné vlastnosti a účinnost baterie, aby udržely model v hraničním měřítku naživu v kapse košile.

Amon také řekl, podle zpráv Fortune, že Qualcomm spolupracuje s téměř všemi hlavními hráči AI na nezveřejněných hardwarových projektech, včetně kategorií zařízení mimo telefony. To je v souladu s nedávným postojem společnosti k umístění křemíku Snapdragon jako výchozí inferenční vrstvy pro edge AI, ať se dostane kamkoli – telefony, auta, počítače a brýle.

Co by vlastně znamenala průběžná umělá inteligence na zařízení

Pokud společnosti s umělou inteligencí dostanou to, co požadují, změna by byla spíše strukturální než kosmetická. Model, který běží celý den na pozadí, dokáže pozorovat kontext, předvídat potřeby a jednat bez zpáteční cesty do datového centra – což znamená nižší latenci, lepší soukromí a žádné náklady na cloud na jeden dotaz. Znamená to také telefony s větší, rychlejší a energeticky náročnější pamětí, než mají dnešní vlajkové lodě, na trhu, kde je cena pamětí již natažená.

Zde je třeba uplatnit zdravý skepticismus. Vedoucí čipů již dříve učinili odvážné předpovědi umělé inteligence na zařízení a rok 2028 je dostatečně daleko na to, aby tvrzení fungovalo částečně jako vyjednávací pozice s dodavateli paměti, výrobci telefonů a samotnými laboratořemi umělé inteligence. Ale směr požadavku je pozoruhodný: společnosti AI tentokrát nepožadují rychlejší cloudová GPU. Žádají telefon, který nikdy nepřestane myslet.

Ať už zákazníci Qualcommu dodají toto zařízení v roce 2028 nebo později, překážkou, kterou je třeba sledovat, nejsou parametry – je to šířka pásma paměti na watt. Společnost, která to vyřeší v Redmondu, San Diegu nebo Taipei, bude vlastnit další definici vlajkového telefonu.

Udržujte si náskok před AI

Války čipů, uvedení modelů a průlomové objevy umělé inteligence – pokryty bez humbuku.

Přečtěte si další zprávy o AI →