CEO-ul Qualcomm spune că firmele de inteligență artificială doresc telefoane care să ruleze modele cu 100 de miliarde de parametri până în 2028

Directorul executiv al Qualcomm spune că cele mai mari companii de inteligență artificială îi cer ceva ce smartphone-urile actuale nu pot fi aproape de a face: să ruleze modele cu 100 de miliarde de parametri pe telefonul însuși, în mod continuu, până în 2028.

Vorbind într-un interviu din 8 octombrie, care a fost raportat de Fortune și preluat săptămâna aceasta de magazine, inclusiv TOKENPOST și Startup Fortune, Cristiano Amon a spus că mai multe companii de inteligență artificială – ale căror nume a refuzat să le dea – fac eforturi pentru smartphone-uri care pot menține un model cu 100 de miliarde de parametri să funcționeze non-stop. Pentru cititorii care urmăresc trecerea AI din cloud în buzunare și încheieturi, este cel mai clar semnal de cerere de până acum, iar secțiunea noastră știri despre hardware AI urmărește unde urmează această împingere.

Cererea vine din laboratoarele AI, nu din foaia de parcurs Qualcomm

Numărul contează din cauza de unde provine. Amon nu anunța propriul produs țintă al Qualcomm; el transmitea ceea ce laboratoarele de inteligență artificială îi spun celui mai mare producător de cipuri mobile din lume pe care doresc să-l construiască. Cipurile emblematice de astăzi se ridică cu mult sub această cifră - Snapdragon 8 Elite Extreme Gen 6, cea mai înaltă platformă mobilă Qualcomm, poate rula modele mixte de experți peste 30 de miliarde de parametri pe dispozitiv, cu o fereastră de context de aproximativ 32.000 de jetoane.

Un model de 100 de miliarde de parametri care rulează non-stop reprezintă mai mult de trei ori plafonul respectiv și schimbă problema inginerească în natură, nu doar în grad. După cum notează raportul Startup Fortune, cererea nu este pentru o versiune mai mare a asistentului pe care îl folosesc deja oamenii. Este pentru AI agentic: software care urmărește, motivează și acționează în numele unui utilizator în loc să aștepte un prompt, ceea ce înseamnă că modelul trebuie să rămână rezident în memorie și să continue să facă inferențe în fundal toată ziua, fără a găti bateria sau șasiul.

De ce memoria este gâtul de sticlă

Diferența dintre 30 de miliarde și 100 de miliarde de parametri este în principiu o problemă de memorie. Greutățile modelelor de pe dispozitiv trebuie să trăiască în RAM, iar triplarea numărului de parametri, menținând, de asemenea, rularea continuă a inferenței, înmulțește lățimea de bandă a memoriei și cererile de energie în moduri pe care hardware-ul emblematic actual nu a fost conceput niciodată pentru a le absorbi.

Amon a recunoscut că furnizarea de cipuri de memorie pentru smartphone-uri se află sub o „constrângere temporară” – aceeași lipsă care a dus la creșterea prețurilor telefoanelor în industrie în acest an – dar a considerat-o ca o presiune care va forța proiecte de cip mai eficiente din punct de vedere al memoriei, mai degrabă decât pur și simplu mai multă memorie. Acest lucru se bazează pe alegerile recente ale Qualcomm de siliciu: 8 Elite Extreme Gen 6 împerechează NPU-ul Hexagon cu un nou Element Accelerator și un grup de memorie partajat mai mare, special pentru a menține latența și consumul de energie sub control pentru inferența amestecului de experți pe dispozitiv.

Chips-urile care trebuie să depășească decalajul

Actuala generație emblematică a Qualcomm - Snapdragon 8 Elite Gen 6 și 8 Elite Extreme Gen 6, construite pe un proces de 2 nm - este programată să alimenteze telefoanele emblematice din 2027 de la Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, vivo și Xiaomi, cu dispozitive ca Samsung Galaxy la topul clasei S2 așteptate. Dacă lista de dorințe din 2028 a industriei AI trebuie îndeplinită, acest ciclu de cip și cel de după el trebuie să ofere arhitectura memoriei, termica și eficiența bateriei pentru a menține în viață un model la scară de frontieră în buzunarul unei cămăși.

Amon a mai spus, conform rapoartelor Fortune, că Qualcomm lucrează cu aproape toți jucătorii importanți de AI la proiecte hardware nedezvăluite, inclusiv categorii de dispozitive dincolo de telefoane. Acest lucru este în concordanță cu postura recentă a companiei de a poziționa siliciul Snapdragon ca strat de inferență implicit pentru AI de vârf oriunde aterizează - telefoane, mașini, computere și ochelari.

Ce ar însemna de fapt IA continuă pe dispozitiv

Dacă companiile AI obțin ceea ce cer, schimbarea ar fi mai degrabă structurală decât cosmetică. Un model care rulează toată ziua în fundal poate observa contextul, anticipa nevoile și poate acționa fără o călătorie dus-întors la un centru de date - ceea ce implică o latență mai mică, o confidențialitate mai bună și niciun cost pentru fiecare interogare în cloud. De asemenea, implică telefoane cu memorie mai mare, mai rapidă și mai consumatoare de energie decât cele de astăzi, pe o piață în care prețul memoriei este deja întins.

Există un scepticism sănătos de aplicat aici. Directorii de cipuri au mai făcut previziuni îndrăznețe pentru AI pe dispozitiv, iar 2028 este suficient de departe încât afirmația funcționează parțial ca o poziție de negociere cu furnizorii de memorie, producătorii de telefoane și laboratoarele de AI în sine. Dar direcția solicitării este notabilă: companiile AI nu cer de data aceasta GPU-uri cloud mai rapide. Ei cer un telefon care nu încetează să gândească.

Indiferent dacă clienții Qualcomm livrează acel dispozitiv în 2028 sau mai târziu, blocajul de urmărit nu sunt parametrii, ci este lățimea de bandă a memoriei per watt. Compania care rezolvă asta, în Redmond sau San Diego sau Taipei, va deține următoarea definiție a unui telefon emblematic.

Rămâi înaintea AI

Războaie de cipuri, lansări de modele și descoperiri de vârf ale AI - acoperite fără hype.

Citiți mai multe știri AI →