Apple, 기기 내 iPhone 처리를 위한 대규모 AI 모델 축소를 위해 PrismML과 논의 중

Khosla Ventures의 지원을 받는 Caltech 스핀아웃 PrismML은 Alibaba의 Qwen 3.6을 압축하여 15배 적은 메모리를 사용하여 iPhone 17 Pro에서 실행합니다. 애플은 기술을 평가하고 있다.

Apple은 iPhone에서 직접 실행할 수 있을 만큼 강력한 AI 모델을 축소하여 잠재적으로 Apple Intelligence가 기기에서 요청을 처리하는 방식을 변화시킬 수 있는 기술을 평가하기 위해 Khosla Ventures가 지원하는 Caltech 분사인 PrismML과 적극적으로 논의하고 있습니다.

CNBC는 2026년 7월 14일에 Apple이 PrismML의 모델 압축 기술을 평가하고 있다고 처음 보도했습니다. 이 기술은 초저비트 정밀도 아키텍처를 사용하여 AI 모델 크기를 몇 배로 줄일 수 있다고 주장합니다. PrismML은 같은 날 AppleInsider에 보낸 성명을 통해 이러한 논의를 확인했습니다.

최신 AI 산업 발전 및 기술 분석을 위해 AI Buzz Wire는 환경을 재편하는 도구를 다룹니다.

혁신: iPhone에서 Qwen 3.6 실행

Seeking Alpha에 따르면 PrismML은 Alibaba의 오픈 소스 Qwen 3.6 대규모 언어 모델을 iPhone 17 Pro에서 실행하기 위해 성공적으로 압축했습니다. 이는 소비자 스마트폰에서 사상 최대 규모의 AI 모델을 실행하는 것으로 설명되는 이정표입니다. 스타트업은 자사 기술이 기존 모델 아키텍처보다 최대 15배 적은 메모리를 사용한다고 밝혔습니다.

PrismML의 접근 방식은 1비트 및 삼항 신경망 아키텍처에 중점을 둡니다. 기존 AI 모델에서는 각 가중치 매개변수가 16비트 또는 32비트 부동 소수점 숫자로 저장됩니다. 대신 PrismML은 매우 낮은 비트 정밀도로 가중치를 이진 값(+1, -1) 또는 삼항 값(+1, 0, -1)으로 저장하여 추론이나 생성 기능을 심각하게 희생하지 않고도 메모리 공간을 크게 줄입니다.

이는 이미 훈련된 모델의 정밀도를 낮추기 위해 널리 사용되는 기술인 단순 양자화가 아닙니다. PrismML의 아키텍처는 처음부터 낮은 비트 작업을 위해 설계되었으며, 회사에서는 훈련 후 압축 방법보다 모델 품질을 훨씬 더 잘 보존한다고 말합니다.

Apple이 온디바이스 AI를 원하는 이유

보고된 혁신은 회사가 Apple Intelligence 플랫폼을 확장함에 따라 Apple의 관심을 끌었습니다. 더 큰 AI 모델을 iPhone에서 직접 실행하면 현재 복잡한 AI 요청을 처리하는 Apple의 프라이빗 클라우드 컴퓨팅 서버를 통하지 않고 기기에서 더 많은 기능을 작동할 수 있습니다.

이점은 두 가지입니다. 첫째, 온디바이스 처리는 데이터를 클라우드 서버로 전송하는 대신 휴대폰에 보관함으로써 사용자 개인 정보 보호를 강화합니다. 이는 Apple Intelligence 출시 이후 Apple이 강조한 핵심 차별화 요소입니다. 둘째, 수억 명의 iPhone 사용자에게 서비스를 제공하는 데 필요한 값비싼 클라우드 인프라와 데이터 센터 용량에 대한 의존도를 줄여 Apple의 운영 비용을 절감합니다.

MacRumors는 이 기술을 통해 Apple이 네트워크 연결이 필요하지 않거나 배터리 수명을 크게 소모하지 않고도 고급 텍스트 생성, 복잡한 추론 작업, 풍부한 Siri 상호 작용과 같은 보다 정교한 AI 기능을 제공할 수 있다고 지적합니다.

AI 칩 시장에 미칠 잠재적 영향

PrismML의 주장이 실제 테스트에서도 유효하다면 그 의미는 Apple을 훨씬 뛰어넘을 수 있습니다. CNBC는 더 많은 AI 처리가 클라우드에서 소비자 장치로 이동함에 따라 이 기술이 메모리 칩 및 데이터 센터 컴퓨팅에 대한 수요를 재편할 수 있다고 보고했습니다.

현재 AI 업계는 대규모 언어 모델을 훈련하고 제공하기 위해 데이터 센터 인프라, Nvidia GPU 및 고대역폭 메모리에 수천억 달러를 지출하고 있습니다. 온디바이스 사용을 위해 모델을 극적으로 압축할 수 있다면 해당 수요 중 일부는 중앙 집중식 데이터 센터에서 엣지 컴퓨팅 칩으로 이동할 수 있습니다.

그러나 분석가들은 AI 모델을 훈련하려면 추론을 위해 얼마나 효율적으로 압축할 수 있는지에 관계없이 여전히 막대한 컴퓨팅 리소스가 필요하다고 경고합니다. 압축 기술은 AI 파이프라인에서 가장 컴퓨팅 집약적인 부분인 훈련 단계가 아닌 배포 및 추론을 다룹니다.

PrismML의 배경과 자금

PrismML은 캘리포니아 공과대학(California Institute of Technology)에서 분사한 AI 스타트업이자 연구실입니다. 이 회사는 학문적으로 상당한 관심을 받았지만 지금까지 상업적 배포가 제한되어 있는 분야인 상업적으로 실행 가능한 낮은 비트 신경망 아키텍처를 개척했습니다.

이 스타트업은 혁신적인 기술 기업에 대한 초기 투자로 유명한 저명한 벤처 캐피탈 회사인 Khosla Ventures의 지원을 받고 있습니다. The Information은 7월 9일 PrismML의 획기적인 성과에 대해 처음 보도했으며, PrismML이 iPhone에서 사상 최대 규모의 AI 모델을 실행한다고 설명했습니다.

Caltech와의 연관성은 중요합니다. 이진 및 삼진 신경망에 대한 학문적 연구는 수년 동안 활발해졌지만 이러한 기술을 표준 모델의 성능과 일치하는 생산 품질 시스템으로 변환하는 것은 매우 어려운 것으로 입증되었습니다. 소비자 하드웨어에서 Qwen 3.6만큼 큰 모델을 실행하여 검증된 PrismML의 상업적 생존 가능성 주장은 의미 있는 진전을 나타냅니다.

경쟁 환경

온디바이스 AI를 추구하는 기업은 애플만이 아닙니다. Qualcomm은 Snapdragon 프로세서를 통해 온디바이스 AI 기능을 발전시켜 왔으며, Google은 온디바이스 모델을 Pixel 휴대폰에 통합했으며, 삼성은 Google과 제휴하여 Gemini Nano를 Galaxy 디바이스에 도입했습니다. 그러나 대부분의 최신 온디바이스 모델은 상대적으로 작습니다(일반적으로 10억~30억 개의 매개변수 범위).

PrismML의 기술이 규모 면에서 입증된다면 훨씬 더 큰 모델(잠재적으로 수백억 개의 매개변수 포함)을 스마트폰에서 실행하여 경쟁 역학을 근본적으로 변화시킬 수 있습니다. 이는 Apple이 클라우드 기반 AI 처리에 더 많이 의존하는 경쟁사에 비해 상당한 이점을 제공할 것입니다.

TrendForce는 PrismML의 이정표가 "클라우드 인프라에 의존하지 않고 기기에서 직접 AI를 실행하려는 Apple의 광범위한 노력을 반영합니다"라고 지적합니다. 시장 조사 회사는 성공적인 온디바이스 압축이 가전 산업 전반에서 엣지 AI로의 전환을 가속화할 수 있다고 제안합니다.

다음에 나올 내용

Apple과 PrismML의 협상은 평가 단계에 있는 것으로 알려졌습니다. 이는 두 회사가 해당 기술이 Apple의 성능 및 신뢰성 표준을 충족하는지 평가하고 있음을 의미합니다. 파트너십으로 인해 상용 제품이 탄생할 것이라는 보장은 없으며 Apple은 해당 논의에 대해 공개적으로 언급하지 않았습니다.

이 기술이 향후 Apple 제품에 통합되면 iOS 업데이트나 새로운 하드웨어 세대에 나타날 수 있습니다. PrismML이 시연에 사용한 iPhone 17 Pro는 이미 Apple의 Neural Engine을 통해 상당한 신경 처리 기능을 갖추고 있습니다.

더 넓은 질문은 낮은 비트 AI 아키텍처가 업계 표준이 될지 아니면 틈새 최적화로 남을지 여부입니다. 현재 PrismML의 결과는 이 접근 방식이 중요한 임계점을 넘었음을 시사하며, Apple의 관심은 이 기술이 소비자 가전 업계의 최고 수준에서 심각하게 받아들여지고 있다는 신호입니다.