Qualcomm CEO는 AI 기업이 2028년까지 1000억 매개변수 모델을 실행하는 휴대폰을 원한다고 말합니다.

Cristiano Amon은 AI 회사들이 100B 매개변수 모델을 지속적으로 실행하는 스마트폰을 위해 Qualcomm을 추진하고 있다고 말했습니다. 이는 현재 기기 상한선의 3배가 넘는 수치입니다.

Qualcomm의 최고 경영자는 가장 큰 AI 회사들이 현재 스마트폰이 할 수 없는 일, 즉 2028년까지 휴대폰 자체에서 1000억 개의 매개변수 모델을 지속적으로 실행하는 것을 그에게 요구하고 있다고 말합니다.

Fortune이 보도하고 이번 주 TOKENPOST 및 Startup Fortune을 포함한 매체에 의해 포착된 10월 8일 인터뷰에서 Cristiano Amon은 이름을 밝히기를 거부한 여러 AI 회사가 1000억 매개변수 모델을 24시간 내내 실행할 수 있는 스마트폰을 추진하고 있다고 말했습니다. 클라우드에서 주머니와 손목으로 AI가 이동하는 것을 따르는 독자들에게는 이는 아직까지 가장 명확한 수요 신호이며, AI 하드웨어 뉴스 섹션에서는 이러한 추진이 다음 단계로 나아갈 방향을 추적합니다.

수요는 Qualcomm의 로드맵이 아닌 AI 연구소에서 나옵니다

숫자는 그것이 어디서 왔는지에 따라 중요합니다. Amon은 Qualcomm의 자체 제품 목표를 발표하지 않았습니다. 그는 AI 연구소가 그들이 만들고 싶어하는 세계 최대의 모바일 칩 제조업체에 말하는 내용을 전달하고 있었습니다. 오늘날의 주력 칩은 이 수치보다 훨씬 낮습니다. Qualcomm의 최고급 모바일 플랫폼인 Snapdragon 8 Elite Extreme Gen 6는 장치에서 약 32,000개 토큰의 컨텍스트 창을 사용하여 300억 개 이상의 매개변수가 넘는 전문가 혼합 모델을 실행할 수 있습니다.

논스톱으로 실행되는 1,000억 개의 매개변수 모델은 그 한도의 3배 이상이며, 이는 단지 정도가 아닌 현물적으로 엔지니어링 문제를 변화시킵니다. Startup Fortune의 보고서에 따르면 요청은 사람들이 이미 사용하고 있는 비서의 더 큰 버전에 대한 것이 아닙니다. 프롬프트를 기다리는 대신 사용자를 대신하여 관찰하고, 추론하고, 행동하는 소프트웨어인 에이전트 AI용입니다. 즉, 모델은 배터리나 섀시를 요리하지 않고 하루 종일 메모리에 상주하고 백그라운드에서 계속 추론을 수행해야 함을 의미합니다.

메모리가 병목 현상을 일으키는 이유

300억에서 1000억 개의 매개변수 사이의 차이는 근본적으로 메모리 문제입니다. 온디바이스 모델 가중치는 RAM에 있어야 하며, 추론 실행을 계속 유지하면서 매개변수 수를 3배로 늘리면 현재의 주력 하드웨어가 결코 흡수하도록 설계되지 않은 방식으로 메모리 대역폭과 전력 수요가 증가합니다.

Amon은 스마트폰용 메모리 칩 공급이 "일시적인 제약"(올해 업계 전반에 걸쳐 휴대폰 가격을 상승시킨 동일한 부족)에 직면해 있음을 인정했지만, 이를 단순히 메모리를 늘리는 것이 아니라 메모리 효율성이 높은 칩 설계를 강요해야 한다는 압박으로 규정했습니다. 이는 Qualcomm의 최근 실리콘 선택과 일치합니다. 8 Elite Extreme Gen 6는 Hexagon NPU를 새로운 Element Accelerator 및 더 큰 공유 메모리 풀과 결합하여 기기 내 전문가 혼합 추론을 위해 대기 시간과 전력 소모를 확인합니다.

격차를 해소해야 하는 칩

Qualcomm의 현재 주력 세대인 Snapdragon 8 Elite Gen 6 및 2nm 공정을 기반으로 하는 8 Elite Extreme Gen 6은 Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, vivo 및 Xiaomi의 2027년 주력 휴대폰에 탑재될 예정이며 Samsung Galaxy S27 클래스와 같은 장치가 제품군의 최상위에 있을 것으로 예상됩니다. AI 업계의 2028년 위시리스트를 충족하려면 셔츠 주머니에 최첨단 규모 모델을 유지하기 위해 메모리 아키텍처, 열 및 배터리 효율성을 제공해야 하는 것은 이 칩 주기와 그 이후의 칩 주기입니다.

Amon은 또한 Fortune의 보고에 따르면 Qualcomm이 휴대폰 이외의 장치 범주를 포함하여 공개되지 않은 하드웨어 프로젝트에서 거의 모든 주요 AI 플레이어와 협력하고 있다고 말했습니다. 이는 휴대폰, 자동차, PC, 안경 등 어디에 있든 Snapdragon 실리콘을 엣지 AI의 기본 추론 레이어로 포지셔닝하려는 회사의 최근 자세와 일치합니다.

지속적인 온디바이스 AI가 실제로 의미하는 것

AI 기업이 원하는 것을 얻는다면 변화는 외관상이라기보다는 구조적일 것입니다. 하루 종일 백그라운드에서 실행되는 모델은 데이터 센터를 왕복하지 않고도 상황을 관찰하고 요구 사항을 예측하고 조치를 취할 수 있습니다. 이는 대기 시간이 짧고 개인 정보 보호가 향상되며 쿼리당 클라우드 비용이 없음을 의미합니다. 이는 또한 메모리 가격이 이미 책정된 시장에서 오늘날의 주력 제품이 가지고 있는 것보다 더 크고, 더 빠르며, 더 많은 전력을 소비하는 메모리를 탑재한 휴대폰을 의미합니다.

여기에는 건전한 회의론이 적용됩니다. 칩 경영진은 이전에 과감한 온디바이스 AI 예측을 내놓은 적이 있으며, 2028년은 이 주장이 부분적으로 메모리 공급업체, 휴대폰 제조업체 및 AI 연구소 자체와의 협상 위치로 기능할 만큼 충분히 멀었습니다. 그러나 요청의 방향은 주목할 만하다. AI 기업들은 이번에는 더 빠른 클라우드 GPU를 요구하지 않는다. 그들은 결코 생각을 멈추지 않는 휴대폰을 요구하고 있습니다.

Qualcomm의 고객이 2028년 이후에 해당 장치를 출시하는지 여부에 관계없이 주목해야 할 병목 현상은 매개변수가 아니라 와트당 메모리 대역폭입니다. 레드먼드나 샌디에이고, 타이페이에서 이 문제를 해결하는 회사는 차세대 플래그십 휴대폰 정의를 소유하게 될 것입니다.