Генеральний директор Qualcomm каже, що компанії, що займаються штучним інтелектом, хочуть, щоб до 2028 року телефони використовували моделі зі 100 мільярдами параметрів

Виконавчий директор Qualcomm каже, що найбільші компанії штучного інтелекту вимагають від нього чогось, до чого не можуть наблизитися сучасні смартфони: безперервного запуску моделей зі 100 мільярдами параметрів на самому телефоні до 2028 року.

Виступаючи в інтерв’ю від 8 жовтня, яке було опубліковане Fortune і підібрано цього тижня в торгових точках, включаючи TOKENPOST і Startup Fortune, Кріштіану Амон сказав, що кілька компаній зі штучним інтелектом, назви яких він відмовився назвати, наполягають на смартфонах, які можуть цілодобово підтримувати модель із 100 мільярдами параметрів. Для читачів, які спостерігають за переміщенням штучного інтелекту з хмари в кишені та зап’ястя, це найчіткіший сигнал попиту, і наш розділ Новини апаратного забезпечення штучного інтелекту відстежує, куди цей поштовх піде далі.

Попит походить від лабораторій штучного інтелекту, а не від дорожньої карти Qualcomm

Кількість має значення через те, звідки вона походить. Amon не оголошував власну ціль Qualcomm щодо продукту; він передавав те, що лабораторії штучного інтелекту кажуть найбільшому у світі виробнику мобільних мікросхем, який вони хочуть створити. Сучасні флагманські чіпи значно нижчі за цю цифру — Snapdragon 8 Elite Extreme Gen 6, наймобільніша мобільна платформа Qualcomm, може запускати суміші експертних моделей із понад 30 мільярдами параметрів на пристрої з контекстним вікном приблизно в 32 000 токенів.

Модель зі 100 мільярдами параметрів, що працює безперервно, більш ніж утричі перевищує цю межу, і вона змінює інженерну проблему не лише в міру, але й у сутності. Як зазначається у звіті Startup Fortune, запит не стосується більшої версії помічника, який люди вже використовують. Це для агентного штучного інтелекту: програмного забезпечення, яке спостерігає, міркує та діє від імені користувача замість того, щоб чекати підказки, що означає, що модель має залишатися резидентною в пам’яті та продовжувати робити висновки у фоновому режимі цілий день, не готуючи батарею чи шасі.

Чому пам'ять є вузьким місцем

Розрив між 30 мільярдами та 100 мільярдами параметрів є фундаментальною проблемою пам’яті. Вагові коефіцієнти моделі на пристрої повинні зберігатися в оперативній пам’яті, а потроєне підрахунок параметрів, а також безперервна робота логічного висновку збільшує пропускну здатність пам’яті та вимоги до потужності так, як нинішнє флагманське апаратне забезпечення ніколи не було розроблено для цього.

Амон визнав, що постачання чіпів пам’яті для смартфонів перебуває під «тимчасовим обмеженням» — тим самим дефіцитом, який цього року підвищив ціни на телефони в галузі, — але він назвав це тиском, який змушуватиме більш ефективні конструкції чіпів, а не просто більше пам’яті. Це відповідає останнім рішенням Qualcomm: 8 Elite Extreme Gen 6 поєднує свій Hexagon NPU з новим прискорювачем елементів і більшим пулом спільної пам’яті, спеціально для контролю затримки та енергоспоживання для висновків експертів на пристрої.

Фішки, які повинні подолати розрив

Поточне флагманське покоління Qualcomm — Snapdragon 8 Elite Gen 6 і 8 Elite Extreme Gen 6, створені за 2-нм техпроцесом — планується використовувати у флагманських телефонах 2027 року від Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, vivo та Xiaomi, а такі пристрої, як Samsung Galaxy S27, очікуються на вершині асортименту. Якщо список побажань індустрії штучного інтелекту до 2028 року має бути виконаний, саме цей цикл чипів і наступний за ним мають забезпечити архітектуру пам’яті, термічні характеристики та ефективність батареї, щоб зберегти модель передового масштабу в кишені сорочки.

Згідно зі звітом Fortune, Амон також сказав, що Qualcomm працює майже з усіма основними гравцями зі штучного інтелекту над нерозкритими апаратними проектами, включаючи категорії пристроїв, крім телефонів. Це узгоджується з нещодавньою позицією компанії про позиціонування Snapdragon як базового рівня для периферійного штучного інтелекту, куди б він не потрапляв — телефонів, автомобілів, ПК і окулярів.

Що насправді означав би безперервний ШІ на пристрої

Якщо компанії штучного інтелекту отримають те, про що просять, зміни будуть структурними, а не косметичними. Модель, яка працює цілий день у фоновому режимі, може спостерігати за контекстом, передбачати потреби та діяти без повернення до центру обробки даних, що означає меншу затримку, кращу конфіденційність і відсутність витрат на хмару за запит. Це також передбачає телефони з більшою, швидшою та енергоємнішою пам’яттю, ніж сьогоднішні флагмани, на ринку, де ціни на пам’ять вже розтягнуті.

Тут можна застосувати здоровий скептицизм. Керівники чіпів раніше робили сміливі прогнози щодо штучного інтелекту на пристроях, і 2028 рік досить далекий, щоб ця заява частково функціонувала як позиція в переговорах з постачальниками пам’яті, виробниками телефонів і самими лабораторіями штучного інтелекту. Але напрямок запиту помітний: цього разу компанії ШІ не вимагають швидших хмарних графічних процесорів. Вони просять телефон, який ніколи не перестає думати.

Незалежно від того, чи поставлять клієнти Qualcomm цей пристрій у 2028 році чи пізніше, вузьким місцем, на яке слід звернути увагу, є не параметри, а пропускна здатність пам’яті на ват. Компанія, яка вирішить цю проблему в Редмонді, Сан-Дієго чи Тайбеї, отримає наступне визначення флагманського телефону.

Будьте попереду ШІ

Війни чіпів, випуски моделей і передові прориви в області штучного інтелекту — без шуму.

Читати більше новин AI →