Apple i samtal med PrismML för att krympa stora AI-modeller för iPhone-bearbetning på enheten

Apple är i aktiva samtal med PrismML, en Caltech spinout som stöds av Khosla Ventures, för att utvärdera teknik som kan krympa kraftfulla AI-modeller tillräckligt för att köras direkt på en iPhone, vilket potentiellt förändrar hur Apple Intelligence behandlar förfrågningar på sina enheter.

CNBC rapporterade först den 14 juli 2026 att Apple utvärderar PrismML:s modellkompressionsteknik, som startupen hävdar kan reducera AI-modellstorlekar med storleksordningsfaktorer med hjälp av extrema lågbitars precisionsarkitekturer. PrismML bekräftade diskussionerna i ett uttalande till AppleInsider samma dag.

För den senaste AI-branschens utveckling och teknikanalys, täcker AI Buzz Wire verktygen som omformar landskapet.

Genombrottet: Kör Qwen 3.6 på en iPhone

Enligt Seeking Alpha komprimerade PrismML framgångsrikt Alibabas öppen källkod Qwen 3.6 stora språkmodell för att köras på iPhone 17 Pro - en milstolpe som beskrivs som att köra den största AI-modellen någonsin på en konsumentsmartphone. Uppstarten säger att dess teknik använder upp till 15 gånger mindre minne än konventionella modellarkitekturer.

PrismML:s tillvägagångssätt fokuserar på 1-bitars och ternära neurala nätverksarkitekturer. I traditionella AI-modeller lagras varje viktparameter som ett 16-bitars eller 32-bitars flyttal. PrismML lagrar istället vikter med extremt låg-bitars precision - som binära värden (+1, -1) eller ternära värden (+1, 0, -1) - vilket dramatiskt minskar minnesfotavtrycket utan att allvarligt offra resonemang eller generativa möjligheter.

Detta är inte enkel kvantisering, den allmänt använda tekniken för att minska precisionen på en redan utbildad modell. PrismMLs arkitekturer är designade från grunden för drift med låga bitar, vilket företaget säger bevarar modellkvaliteten mycket bättre än komprimeringsmetoder efter träning.

Varför Apple vill ha AI på enheten

Det rapporterade genombrottet har väckt Apples uppmärksamhet när företaget utökar sin Apple Intelligence-plattform. Att köra större AI-modeller direkt på iPhones skulle tillåta fler funktioner att fungera på enheten snarare än via Apples Private Cloud Compute-servrar, som för närvarande hanterar komplexa AI-förfrågningar.

Fördelarna är tvåfaldiga. För det första förbättrar bearbetning på enheten användarnas integritet genom att behålla data på telefonen snarare än att överföra dem till molnservrar – en central skillnad som Apple har betonat sedan lanseringen av Apple Intelligence. För det andra minskar det Apples driftskostnader genom att minska beroendet av dyr molninfrastruktur och den datacenterkapacitet som krävs för att betjäna hundratals miljoner iPhone-användare.

MacRumors noterar att tekniken kan göra det möjligt för Apple att erbjuda mer sofistikerade AI-funktioner – såsom avancerad textgenerering, komplexa resonemangsuppgifter och rikare Siri-interaktioner – utan att kräva en nätverksanslutning eller förbruka betydande batteritid.

Potentiell påverkan på AI-chipmarknaden

Om PrismML:s påståenden håller i verkliga tester, kan konsekvenserna sträcka sig långt bortom Apple. CNBC rapporterar att tekniken kan omforma efterfrågan på minneschips och datacenterberäkningar, eftersom mer AI-bearbetning skiftar från molnet till konsumentenheter.

För närvarande spenderar AI-industrin hundratals miljarder dollar på datacenterinfrastruktur, Nvidia GPU:er och högbandbreddsminne för att träna och betjäna stora språkmodeller. Om modeller kan komprimeras dramatiskt för användning på enheten, kan en del av den efterfrågan skifta mot edge computing chips och bort från centraliserade datacenter.

Men analytiker varnar för att träning av AI-modeller fortfarande kommer att kräva enorma beräkningsresurser oavsett hur effektivt de kan komprimeras för slutledning. Kompressionstekniken adresserar distribution och slutledning, inte träningsfasen, som fortfarande är den mest beräkningsintensiva delen av AI-pipelinen.

PrismML:s bakgrund och finansiering

PrismML är ett AI-start- och forskningslaboratorium utvunnet från California Institute of Technology. Företaget har varit banbrytande för kommersiellt gångbara lågbitars neurala nätverksarkitekturer, ett område som har sett stort akademiskt intresse men begränsad kommersiell utbyggnad fram till nu.

Startupen stöds av Khosla Ventures, det framstående riskkapitalföretaget känt för tidiga investeringar i transformativa teknikföretag. Informationen rapporterade först om PrismML:s genombrott den 9 juli, och beskrev den som att köra den största AI-modellen någonsin på en iPhone.

Caltech-kopplingen är betydande. Akademisk forskning om binära och ternära neurala nätverk har varit aktiv i flera år, men att översätta dessa tekniker till produktionskvalitetssystem som matchar prestanda hos standardmodeller har visat sig vara utomordentligt svårt. PrismML:s påstående om kommersiell lönsamhet – validerat genom att köra en modell så stor som Qwen 3.6 på konsumenthårdvara – representerar ett meningsfullt steg framåt.

Konkurrenskraftigt landskap

Apple är inte ensamma om att sträva efter AI på enheten. Qualcomm har utvecklat AI-kapacitet på enheten genom sina Snapdragon-processorer, Google har integrerat enheter på enheter i Pixel-telefoner och Samsung har samarbetat med Google för att ta Gemini Nano till Galaxy-enheter. De flesta nuvarande modellerna på enheten är dock relativt små - vanligtvis i intervallet 1-3 miljarder parameter.

PrismMLs teknologi, om den bevisas i stor skala, skulle kunna göra det möjligt för mycket större modeller – potentiellt i tiotals miljarder parametrar – att köras på smartphones, vilket i grunden förändrar konkurrensdynamiken. Detta skulle ge Apple en betydande fördel gentemot konkurrenter som är mer beroende av molnbaserad AI-behandling.

TrendForce noterar att PrismML:s milstolpe "reflekterar Apples bredare push för att köra AI direkt på enheter snarare än att förlita sig på molninfrastruktur." Marknadsundersökningsföretaget antyder att framgångsrik komprimering på enheten kan påskynda övergången mot avancerad AI inom konsumentelektronikindustrin.

Vad kommer härnäst

Apples samtal med PrismML är enligt uppgift i utvärderingsfasen, vilket innebär att företagen bedömer om tekniken uppfyller Apples prestanda- och tillförlitlighetsstandarder. Det finns ingen garanti för att partnerskapet kommer att resultera i en kommersiell produkt, och Apple har inte kommenterat diskussionerna offentligt.

Om tekniken integreras i framtida Apple-produkter kan den dyka upp i iOS-uppdateringar eller nya hårdvarugenerationer. IPhone 17 Pro, som PrismML använde för sin demonstration, har redan betydande neurala bearbetningsmöjligheter genom Apples Neural Engine.

Den bredare frågan är om lågbitars AI-arkitekturer kommer att bli en industristandard eller förbli en nischoptimering. För nu tyder PrismML:s resultat på att tillvägagångssättet har passerat en kritisk tröskel – och Apples intresse signalerar att tekniken tas på allvar på de högsta nivåerna inom hemelektronikindustrin.

Ligg före AI

Besök AI Buzz Wire för omfattande täckning av AI-hårdvara, modelloptimering och industriutveckling.

Läs mer AI-nyheter →