Qualcomm'un CEO'su, en büyük yapay zeka şirketlerinin kendisinden mevcut akıllı telefonların yaklaşamayacağı bir şey istediğini söylüyor: 2028 yılına kadar sürekli olarak telefonda 100 milyar parametreli modeller çalıştırmak.
8 Ekim'de Fortune tarafından bildirilen ve bu hafta TOKENPOST ve Startup Fortune gibi yayın organlarının haber verdiği bir röportajda konuşan Cristiano Amon, isimlerini vermeyi reddettiği çok sayıda yapay zeka şirketinin 100 milyar parametreli bir modeli günün her saati çalıştırabilen akıllı telefonlar için baskı yaptığını söyledi. Yapay zekanın buluttan ceplere ve bileklere geçişini takip eden okuyucular için bu şimdiye kadarki en net talep sinyalidir ve AI donanım haberleri bölümümüz bu ilerlemenin bir sonraki adımını takip ediyor.
Talep Qualcomm'un Yol Haritasından Değil, Yapay Zeka Laboratuvarlarından Geliyor
Sayı nereden geldiği nedeniyle önemlidir. Amon, Qualcomm'un kendi ürün hedefini açıklamıyordu; yapay zeka laboratuvarlarının dünyanın en büyük mobil çip üreticisine kurmak istedikleri şeyleri aktardığını aktarıyordu. Günümüzün amiral gemisi çipleri bu rakamın çok altında kalıyor; Qualcomm'un en üst düzey mobil platformu olan Snapdragon 8 Elite Extreme Gen 6, kabaca 32.000 tokenlik bir bağlam penceresiyle cihazda 30 milyar parametrenin üzerinde uzman karışımı modelleri çalıştırabiliyor.
Durmaksızın çalışan 100 milyar parametreli bir model bu tavanın üç katından fazladır ve mühendislik problemini sadece derece olarak değil, tür olarak da değiştirir. Startup Fortune'un raporunda belirtildiği gibi talep, insanların halihazırda kullandığı asistanın daha büyük bir versiyonu için değil. Ajansal yapay zeka içindir: Bir istemi beklemek yerine kullanıcı adına izleyen, mantık yürüten ve hareket eden yazılım; bu, modelin pili veya kasayı pişirmeden tüm gün boyunca bellekte kalması ve arka planda çıkarım yapmaya devam etmesi gerektiği anlamına gelir.
Bellek Neden Darboğazdır
30 milyar ile 100 milyar parametre arasındaki boşluk temelde bir hafıza sorunudur. Cihaz üzerindeki model ağırlıklarının RAM'de olması gerekir ve parametre sayısını üç katına çıkarırken aynı zamanda çıkarımları sürekli olarak çalışır durumda tutmak, bellek bant genişliğini ve güç taleplerini mevcut amiral gemisi donanımının hiçbir zaman absorbe etmek üzere tasarlanmadığı şekillerde çoğaltır.
Amon, akıllı telefonlar için bellek yongası tedariğinin "geçici bir kısıtlama" altında olduğunu kabul etti - bu yıl sektörde telefon fiyatlarını artıran aynı kıtlık - ancak bunu, yalnızca daha fazla bellek yerine daha fazla bellek verimli yonga tasarımlarını zorlayacak bir baskı olarak çerçeveledi. Bu, Qualcomm'un son zamanlardaki silikon seçimleriyle uyumludur: 8 Elite Extreme Gen 6, Hexagon NPU'sunu yeni bir Element Hızlandırıcı ve daha büyük bir paylaşılan bellek havuzuyla eşleştirerek özellikle cihazdaki uzman karışımı çıkarımı için gecikmeyi ve güç tüketimini kontrol altında tutuyor.
Boşluğu Kapatması Gereken Çipler
Qualcomm'un mevcut amiral gemisi nesli (2 nm'lik bir süreç üzerine inşa edilen Snapdragon 8 Elite Gen 6 ve 8 Elite Extreme Gen 6), Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, vivo ve Xiaomi'nin 2027'nin amiral gemisi telefonlarına güç sağlayacak ve Samsung Galaxy S27 sınıfı gibi cihazların serinin en üstünde yer alması bekleniyor. Yapay zeka endüstrisinin 2028 istek listesi karşılanacaksa, sınır ölçeğinde bir modeli gömlek cebinde canlı tutmak için bellek mimarisini, termalleri ve pil verimliliğini sağlayan şey bu çip döngüsü ve ondan sonraki döngüdür.
Amon ayrıca Fortune'un raporuna göre Qualcomm'un telefonların ötesindeki cihaz kategorileri de dahil olmak üzere açıklanmayan donanım projelerinde neredeyse tüm büyük AI oyuncularıyla çalıştığını söyledi. Bu, şirketin Snapdragon silikonunu, nereye giderse gitsin (telefonlar, arabalar, PC'ler ve gözlükler) uç yapay zeka için varsayılan çıkarım katmanı olarak konumlandırma konusundaki son duruşuyla tutarlıdır.
Sürekli Cihaz İçi Yapay Zeka Aslında Ne Anlama Geliyor?
Yapay zeka şirketleri istediklerini elde ederse değişim kozmetik olmaktan ziyade yapısal olacaktır. Arka planda tüm gün çalışan bir model, bağlamı gözlemleyebilir, ihtiyaçları tahmin edebilir ve bir veri merkezine gidiş-dönüş olmadan harekete geçebilir; bu da daha düşük gecikme süresi, daha iyi gizlilik ve sorgu başına bulut maliyetinin olmaması anlamına gelir. Bu aynı zamanda, bellek fiyatlarının zaten gergin olduğu bir pazarda, günümüzün amiral gemilerinin taşıdığından daha büyük, daha hızlı ve daha fazla güç tüketen belleğe sahip telefonları da ima ediyor.
Burada uygulamak için sağlıklı bir şüphecilik var. Chip yöneticileri daha önce cihaz üzerinde cesur yapay zeka tahminleri yapmıştı ve 2028 yılı, bu iddianın kısmen bellek tedarikçileri, telefon üreticileri ve yapay zeka laboratuvarlarının kendisi ile bir müzakere pozisyonu olarak işlev göreceği kadar uzak görünüyor. Ancak talebin yönü dikkat çekici: Yapay zeka şirketleri bu sefer daha hızlı bulut GPU'ları istemiyor. Düşünmeyi hiç bırakmayan bir telefon istiyorlar.
Qualcomm'un müşterileri bu cihazı 2028'de veya sonrasında gönderse de, izlenmesi gereken darboğaz parametreler değil, watt başına bellek bant genişliğidir. Redmond, San Diego veya Taipei'de bunu çözen şirket, amiral gemisi telefonun bir sonraki tanımına sahip olacak.
Yapay Zekanın Önünde Olun
Çip savaşları, model lansmanları ve son teknoloji yapay zeka atılımları, abartılmadan ele alınıyor.
Daha fazla AI haberini okuyun →
