Dyrektor naczelny Qualcomma twierdzi, że największe firmy zajmujące się sztuczną inteligencją proszą go o coś, czego nie mogą osiągnąć obecne smartfony: ciągłe uruchamianie w telefonie modeli o 100 miliardach parametrów do 2028 roku.
W wywiadzie udzielonym 8 października magazynowi „Fortune” i odebranemu w tym tygodniu przez takie sklepy, jak TOKENPOST i Startup Fortune, Cristiano Amon powiedział, że wiele firm zajmujących się sztuczną inteligencją – których nazw nie chciał podać – naciska na smartfony, które będą w stanie utrzymać model o 100 miliardach parametrów działający przez całą dobę. Dla czytelników śledzących przeniesienie sztucznej inteligencji z chmury do kieszeni i nadgarstków jest to jak dotąd najczystszy sygnał popytu, a nasza sekcja Wiadomości dotyczące sprzętu AI śledzi, dokąd zmierza ten impuls.
Popyt pochodzi z laboratoriów AI, a nie z planu działania Qualcomm
Liczba ma znaczenie ze względu na to, skąd pochodzi. Amon nie ogłaszał własnego celu produktowego Qualcomm; przekazywał informacje, które laboratoria AI mówią największemu na świecie producentowi chipów mobilnych, który chcą zbudować. Dzisiejsze flagowe chipy plasują się znacznie poniżej tej wartości – Snapdragon 8 Elite Extreme Gen 6, najwyższej klasy platforma mobilna Qualcomm, może uruchamiać na urządzeniu złożone z modeli ekspertów ponad 30 miliardów parametrów, z oknem kontekstowym obejmującym około 32 000 tokenów.
Model zawierający 100 miliardów parametrów działający bez przerwy to ponad trzykrotnie więcej niż pułap i zmienia problem inżynieryjny w naturze, a nie tylko w stopniu. Jak zauważa raport Startup Fortune, prośba nie dotyczy większej wersji asystenta, z którego ludzie już korzystają. Jest przeznaczony dla agentycznej sztucznej inteligencji: oprogramowania, które obserwuje, uzasadnia i działa w imieniu użytkownika, zamiast czekać na monit, co oznacza, że model musi pozostać w pamięci i przez cały dzień wnioskować w tle, bez obciążania akumulatora i obudowy.
Dlaczego pamięć jest wąskim gardłem
Różnica między 30 miliardami a 100 miliardami parametrów jest zasadniczo problemem związanym z pamięcią. Waga modelu urządzenia musi mieścić się w pamięci RAM, a potrojenie liczby parametrów przy jednoczesnym ciągłym wnioskowaniu zwielokrotnia przepustowość pamięci i zapotrzebowanie na energię w sposób, do którego nie był w stanie sprostać obecny flagowy sprzęt.
Amon przyznał, że podaż układów pamięci do smartfonów znajduje się pod „tymczasowym ograniczeniem” – tym samym niedoborem, który w tym roku spowodował wzrost cen telefonów w branży – ale określił to jako presję, która wymusi projektowanie chipów bardziej wydajnych pod względem pamięci, a nie po prostu większej ilości pamięci. Jest to zgodne z najnowszymi wyborami krzemowymi Qualcomm: 8 Elite Extreme Gen 6 łączy swoją Hexagon NPU z nowym akceleratorem Element i większą pulą pamięci współdzielonej, specjalnie po to, aby kontrolować opóźnienia i pobór mocy na potrzeby wniosków złożonych przez ekspertów na urządzeniu.
Żetony, które muszą wypełnić lukę
Obecna flagowa generacja Qualcomma – Snapdragon 8 Elite Gen 6 i 8 Elite Extreme Gen 6, zbudowane w procesie 2 nm – ma zasilać flagowe telefony firm Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, vivo i Xiaomi w 2027 roku, a urządzenia takie jak Samsung Galaxy S27 mają być na szczycie gamy. Jeśli lista życzeń branży AI na rok 2028 ma zostać spełniona, to właśnie ten cykl chipów i kolejny muszą zapewnić architekturę pamięci, temperaturę i wydajność baterii, aby utrzymać pionierski model przy życiu w kieszeni koszuli.
Amon powiedział także, według doniesień „Fortune”, że Qualcomm współpracuje z niemal wszystkimi głównymi graczami zajmującymi się sztuczną inteligencją nad nieujawnionymi projektami sprzętowymi, obejmującymi kategorie urządzeń inne niż telefony. Jest to zgodne z niedawnym stanowiskiem firmy, zgodnie z którym pozycjonuje się krzem Snapdragon jako domyślną warstwę wnioskowania dla brzegowej sztucznej inteligencji, gdziekolwiek się pojawi – w telefonach, samochodach, komputerach stacjonarnych i okularach.
Co właściwie oznaczałaby ciągła sztuczna inteligencja na urządzeniu
Jeśli firmy zajmujące się sztuczną inteligencją otrzymają to, o co proszą, zmiana będzie mieć charakter strukturalny, a nie kosmetyczny. Model działający przez cały dzień w tle może obserwować kontekst, przewidywać potrzeby i działać bez konieczności podróży do centrum danych — co oznacza mniejsze opóźnienia, lepszą prywatność i brak kosztów chmury za zapytanie. Oznacza to również telefony z większą, szybszą i bardziej energochłonną pamięcią niż dzisiejsze flagowce, na rynku, gdzie ceny pamięci są już napięte.
Należy tu zastosować zdrowy sceptycyzm. Menedżerowie układów scalonych już wcześniej odważnie przewidywali zastosowania sztucznej inteligencji w urządzeniach, a rok 2028 jest na tyle odległy, że to twierdzenie pełni częściowo funkcję stanowiska negocjacyjnego z dostawcami pamięci, producentami telefonów i samymi laboratoriami sztucznej inteligencji. Jednak kierunek żądania jest godny uwagi: tym razem firmy zajmujące się sztuczną inteligencją nie proszą o szybsze procesory graficzne w chmurze. Proszą o telefon, który nigdy nie przestaje myśleć.
Niezależnie od tego, czy klienci Qualcomm dostarczą to urządzenie w 2028 r., czy później, wąskim gardłem nie są parametry – lecz przepustowość pamięci na wat. Firma, która rozwiąże ten problem w Redmond, San Diego lub Tajpej, będzie właścicielem kolejnej definicji flagowego telefonu.
Wyprzedź sztuczną inteligencję
Wojny chipowe, premiery modeli i przełomowe przełomy w sztucznej inteligencji – omawiane bez szumu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
