Google, Dört Sistemli Sekizinci Nesil Yapay Zeka Çip Serisini Tamamlayan TPU 8tx ve TPU 8i Max'i Piyasaya Sürüyor

Google, sekizinci nesil TPU portföyünü iki yeni sistemle (güvenli, gizli çıkarım için TPU 8tx ve büyük bağlam pencereleri için TPU 8i Max) genişletti; bu, şirketin tek bir yıl içinde ilk kez dört TPU sistemi göndermesi anlamına geliyor.

Google, Pazartesi günü yayınlanan bir blog yazısında, bu iki eklemenin, on yıl önce ilk TPU piyasaya sürüldüğünde zar zor var olan bir iş yükü profili için tasarlandığını söyledi: muazzam bağlam pencereleri üzerinde akıl yürüten ve hassas kurumsal verileri işleyen otonom aracı filoları. Şirket, "Bilgi işlemin insan ölçeğinden aracı ölçeğine doğru ilerlemesiyle birlikte, işletmeler yapay zeka modellerinin devasa bağlam pencereleri arasında mantık yürütebilecek hızlandırıcılar istiyor" diye yazdı. "Ayrıca, sıkı denetime tabi bazı müşteriler, benzersiz iş yükleri için özel şifreleme yetenekleri talep ediyor." For more context on this story, see our ongoing latest AI developments.

Aracı Yaşam Döngüsünün Her Aşamasına Yönelik Bir Sistem

Sekizinci nesil, Nisan ayında Google Cloud Next'te büyük ölçekli eğitim için tasarlanan TPU 8t ve gerçek zamanlı muhakeme için geliştirilen TPU 8i ile başladı. Google, önceki nesle kıyasla 8t için 2,7 kata kadar daha iyi eğitim performansı ve 8i için %80 daha iyi çıkarım fiyat performansı gösterdi.

İki yeni gelen kalan bölgeyi bölüştü. Google'ın belirttiği gibi, dört sistem bir araya gelerek müşterilere "ajanlı yaşam döngüsünün her aşaması için amaca yönelik tasarlanmış bir hızlandırıcı" sunuyor: ölçek büyütme eğitimi için TPU 8t, düşük gecikmeli akıl yürütme için TPU 8i, gizli bilgi işlem için TPU 8tx ve büyük bağlam pencereleri ve raf başına en yüksek işlem yoğunluğu için TPU 8i Max.

TPU 8tx: Donanımın İçinde Yerleşik Güvenlik

TPU 8tx, güvenli ve gizli çıkarım için optimize edilmiştir ve Google, küçük ölçekli eğitim için de oldukça uygun olduğunu belirtmektedir. Hedef müşteri açıktır: en hassas verilerinin yanı sıra sınır veya özel modeller ve özerk aracılar çalıştıran düzenlemeye tabi kuruluşlar ve hükümetler.

Mühendislik yaklaşımı, güvenli bilgi işlem konusunda uzun süredir devam eden gerilimi ele alıyor. Veriler normalde depolanırken veya aktarılırken şifrelenir, ancak bilgisayar onu işlerken, yani en fazla açığa çıktığı anda bellekteki kilidin açılması gerekir. TPU 8t ile aynı silikon üzerine inşa edilen ve 5. Nesil AMD EPYC CPU ana bilgisayarlarıyla eşleştirilen TPU 8tx, güvenliği doğrudan donanım katmanına yerleştirerek hassas verileri ve model ağırlıklarını aktif kullanım sırasında bile korur ve izole eder.

Sistem, Google'ın gerçek zamanlı muhakeme için oluşturduğu aynı düşük gecikme süreli "Boardfly" ağını kullanıyor; bu, eğitim düzeyinde bilgi işlem ve hızlı çıkarımı aynı anda gerçekleştirebileceği anlamına geliyor. Google, bunun kuruluşların modellere özel verilerle ince ayar yapmasına, büyük modelleri daha küçük modellere ayırmasına ve hassas verileri ayrı kümeler arasında taşımadan tek bir sistem üzerinde pekiştirmeli öğrenme yoluyla aracıları eğitmesine olanak tanıdığını söylüyor.

TPU 8i Max: Hafıza Duvarına Saldırmak

TPU 8i Max tamamen farklı bir kısıtlamayı ele alıyor. Google, "Düzinelerce yapay zeka aracısı tüm bir yazılım kod tabanında veya saatlerce video üzerinde aynı anda birlikte çalıştığında, bellek bant genişliği hızla darboğaz haline geliyor" diye yazdı. Şirketin cevabı mimari: iki adet düşük gecikme süreli TPU 8i yongası tek bir pakette birleştirildi.

Sonuç, işlem ve belleği aynı anda ölçeklendiren, TPU 8i'nin iki kat bilgi işlem, iki kat SRAM ve iki kat HBM bant genişliği sağlayan bir sistemdir. TPU 8i Max, mevcut raf kaplama alanına iki kat daha fazla silikon sığdırdığı için Google, veri merkezlerinin metrekare başına ve watt başına önemli ölçüde daha fazla bilgi işlem gücü dağıtabileceğini söylüyor; güç ve taban alanı, yapay zeka kapasitesinin genişletilmesinde bağlayıcı kısıtlamalar olduğunda anlamlı bir değerlendirme.

Neden Çipler Değil, Sistemler

Pazartesi günkü duyurudaki önemli bir nüans, Google'ın bunları yeni çipler yerine yeni sistemler olarak çerçevelemesidir. Şirket, bir çip tasarlamanın, fizik ve üretim zaman çizelgelerine bağlı milyarlarca transistörün düzenlenmesinden oluşan çok yıllı bir süreç olduğunu açıklıyor. Bilgi işlem, ağ iletişimi, depolama ve paketlemenin bir çip etrafında nasıl düzenlendiği sistemi çok daha hızlı bir şekilde ayarlanabilir.

Bu modülerlik, Google'ın Yapay Zeka Hiper Bilgisayar stratejisinin temelini oluşturur ve dört özel sistemin tek bir nesilde sunulmasına olanak tanıyan da budur. Google ayrıca kendi AI altyapısının ne kadarının artık donanım oluşturmaya geri döndüğünün de altını çizdi: Şirket DeepMind'in AlphaChip takviyeli öğrenme sistemini kullanıyor ve Gemini'nin artık çip düzenlerini "haftalar yerine birkaç saat içinde" sunmaya yardımcı olduğunu söylüyor. Google bunu "gerçek ortak tasarım" ve benzersiz bir fark yaratan unsur olarak adlandırıyor.

Rekabetçi Bağlam

Genişleme, yapay zeka hızlandırıcılarındaki rekabetin yoğunlaştığı bir dönemde gerçekleşti. TPU dağıtımları, Google'ın kendi duvarları dışındaki modelleri sunmadaki rolleriyle dikkat çekti; şirket, TPU'ların artık Gemini modelleri için eğitim ve hizmete, aracı iş yüklerine, Google Cloud müşteri hizmetlerine ve son zamanlarda TPU'ların müşterilerin kendi veri merkezlerine doğrudan dağıtımlarına güç verdiğini belirtiyor. Google, TPU'ları "hızla büyüyen bir işletme" olarak tanımlıyor.

TechPowerUp ve Electronics Weekly'den haberler de dahil olmak üzere duyurunun kapsamı, hareketi açıkça rekabetçi terimlerle çerçeveledi; Google, normalde NVIDIA donanımında çalışabilecek yapay zeka iş yüklerini ön plana çıkarırken özel silikon serisini genişletti. NVIDIA ise kendi raf ölçekli sistemlerini birbirini izleyen nesiller halinde göndermeye devam ederek yapay zeka altyapısı alıcılarına ticari ve özel silikon arasında giderek daha güvenilir bir seçim yapma şansı tanıdı.

Geliştiriciler İçin Ne İfade Ediyor?

Geliştiriciler için pratik önem, herhangi bir tek kriterden ziyade uyumla ilgilidir. Uzun belgeler, büyük kod tabanları veya genişletilmiş video bağlamı üzerinde çalışan aracı ürünler geliştiren ekipler, ham FLOPS'un çözemediği bellek bant genişliği tavanlarına ulaşıyor; bu da 8i Max'in yarattığı sorun. Verilerin işlenmesi sırasında şifresinin çözülmesi gerektiğinden hassas iş yüklerini paylaşılan altyapıya taşıyamayan finans, sağlık ve kamu alanlarındaki ekipler artık 8tx'te donanım destekli bir seçeneğe sahip.

Google, donanım haberlerini yazılım erişilebilirlik mesajlarıyla birleştirerek son PyTorch duyurularına ve TPU'ları "genel amaçlı donanım kadar kullanımı kolay" yapma hedefine işaret etti. Şirket, Pazartesi günü yeni sistemlerin ayrıntılarını içeren bir yayın düzenledi ve müşterilerin Google Cloud web sitesinde tüm altyapı yelpazesini keşfedebileceğini söyledi.

Yapay Zekanın Önünde Olun

Özel silikon, yapay zeka yapısının stratejik savaş alanı haline geliyor. AI Buzz Wire ile yapay zekanın bir adım önünde olun; yapay zeka donanımı, modelleri ve bunları oluşturan şirketlere ilişkin kapsamlı bilgiler edinin.

Daha fazla AI haberini okuyun →