AMD, 96 çekirdekli Threadripper Pro CPU'yu çift sıvı soğutmalı Instinct MI350P hızlandırıcıyla eşleştiren ileri düzey bir yapay zeka iş istasyonu olan Threadripper Halo Station'ı tanıttı. Bu kombinasyon, şirketin trilyonlarca parametreli yapay zeka modellerini yerel olarak çalıştırabilen, dünyanın en güçlü iş istasyonu olarak tanımladığı bir kombinasyon. Makine IFA'da görücüye çıktı ancak AMD henüz fiyatlandırmayı, çıkış tarihini veya OEM ortaklarını duyurmadı.
Duyuru, iş istasyonu sınıfı yapay zeka donanımının hızla ısınmasıyla gerçekleşti. Bu hikaye ve rakiplerinin hamleleri hakkında daha fazla bilgi için devam eden AI donanım haberlerimiz haberimize bakın.
Özellikler: 96 Zen 5 Çekirdek Artı 288 GB HBM3E
Threadripper Halo Station'ın kalbinde, 5,4 GHz'e kadar hızlanan 96 çekirdekli, 192 iş parçacıklı bir Zen 5 çipi olan Threadripper Pro 9995WX yer alıyor. 384 MB L3 önbellek ve 350W TDP ile birlikte gelir. Çip tek başına önemsiz bir ürün değil: bağımsız Threadripper Pro 9995WX birimleri yaklaşık 11.000 ila 12.000 ABD Doları arasında satılıyor.
Hızlanma, her ikisi de sıvı soğutmalı bir çift AMD Instinct MI350P hızlandırıcıdan geliyor. Her kart, TSMC'nin N3 işlemine dayalı 128 CDNA 4 bilgi işlem birimi ve 144 GB HBM3E bellek taşıyor ve bu da sisteme kutudan 288 GB yüksek bant genişlikli bellek sağlıyor. Her hızlandırıcı, 600 W'a kadar güç çekimi için derecelendirilmiştir.
AMD, "dörde giden bir yol" olduğunu söylüyor; bu, platformun sonunda iki hızlandırıcıyı daha destekleyerek toplam GPU belleğini 576 GB'a çıkarabileceği anlamına geliyor. Ancak IFA'da gösterilen ünitede, Threadripper ana bilgisayarının yanında yalnızca iki sıvı soğutmalı kart için fiziksel yer vardı.
Sistem belleği, CPU'nun sekiz kanallı bellek denetleyicisi tarafından desteklenen maksimum değer olan 2 TB DDR5'e ulaşır. Bu başlı başına şaşırtıcı bir rakam: Mevcut piyasa fiyatlarıyla 2 TB DDR5'in maliyeti yaklaşık 50.000 dolar.
Maliyeti Ne Olacak: Altı Rakamı Düşünün
AMD bir fiyat belirlemedi ancak bileşen matematiği hikayeyi anlatıyor. Yapılandırmayı inceleyen Tom's Hardware'e göre, çekirdek bileşenleri (CPU, bellek ve çift GPU) birlikte ele aldığımızda, depolama, güç ve soğutma hesaba katılmadan önce satış fiyatının 100.000 doları aşması gerekiyor. Daha yüksek yapılandırılmış olan çıkış, iş istasyonunun "150.000 doların üzerine kolaylıkla çıkabileceğini" tahmin ediyor.
Makinenin kendisi aslında bir kule muhafazası halinde yeniden yapılandırılmış bir sunucu tepsisi olarak tanımlanıyor. AMD, spesifikasyonların ötesinde ayrıntılı ayrıntılar paylaşmadı ve şirket, tasarımın OEM ortaklarının eninde sonunda üretip göndereceği bir tasarım olduğunu belirtti. Henüz hiçbir ortak açıklanmadı ve AMD, MI350P tabanlı iş istasyonu yapılandırmasını doğrudan kendisi satmayı planlamıyor gibi görünüyor.
AMD'nin İddiası: Masa Üzerinde Trilyon Parametreli Modeller
AMD'nin manşet iddiası, Threadripper Halo İstasyonunun trilyon parametreli modelleri çalıştırabileceği yönünde. Muazzam birleşik bellek öyküsünün işlevi budur: İki hızlandırıcıda 288 GB HBM3E (ve dört GPU yapılandırmasında potansiyel olarak 576 GB) ile normalde bir veri merkezi sunucusu gerektiren modeller teorik olarak yüklenebilir ve yerel olarak çalıştırılabilir.
İddia, donanım meraklılarının anında incelemesine neden oldu. Bir trilyon parametreye sahip büyük dil modelleri, genellikle kullanılabilir belleğe sığması için niceleme gerektirir ve 400-500 GB/sn bant genişliğindeki sistem RAM'i, GPU belleğinden çok daha yavaştır; bu da PCIe aktarım hızlarını, CPU ile hızlandırıcılar arasında veri karıştıran iş yükleri için potansiyel bir darboğaz haline getirir. Uygulamada, modeller muhtemelen çıkarım sırasında GPU belleğinde yerleşik kalacak ve CPU ve 2 TB DDR5, model etrafındaki geliştirme görevlerini destekleyecektir.
Nvidia ve Lenovo'ya Karşı Nasıl Biriktirir?
Threadripper Halo Station, masa başındaki yapay zeka süper bilgisayarları için niş ancak hızla büyüyen bir pazara giriyor. Nvidia'nın GB300 destekli DGX Station masaüstü kulesi çevrimiçi olarak yaklaşık 100.000 $ fiyatla listelendi. Erişilebilir uçta, AMD yakın zamanda 3.999 dolarlık Ryzen AI Halo'yu, trilyon parametreli iş yükleri yerine geliştiricileri hedefleyen bir makine olan Nvidia'nın DGX Spark'ına rakip olarak konumlandırdı.
Bu sınıfta daha da yüksek fiyat etiketlerinin emsalleri var. Ana bilgisayar olarak Threadripper Pro CPU'ları kullanan Lenovo ThinkStation P8, 2 TB DDR5 ve çift Blackwell hızlandırıcıyla maksimuma çıktığında şu anda 334.463 ABD Doları fiyatla listeleniyor. Bu çerçevede, altı rakamlı bir Halo İstasyonu aykırı bir durum olmayacaktır.
Neden Önemlidir
Halo İstasyonu, AMD'nin, üst düzey iş istasyonunu Nvidia'nın DGX serisine bırakmak yerine, 3.999 dolarlık masaüstü bilgisayarlardan veri merkezi GPU'larına kadar AI bilgi işlem yığınının her katmanına karşı mücadele etme niyetinin sinyalini veriyor. Laboratuvarlar, sıkı veri egemenliği gereksinimleri olan kuruluşlar ve güvenlik duvarı arkasında sınır ölçeğinde modellere ihtiyaç duyan araştırmacılar için, 288 GB HBM3E'ye sahip, sıvı soğutmalı, 96 çekirdekli bir masa tarafı sistemi, bulut kiralamaya cazip bir alternatif olabilir.
Açık sorular AMD'nin yanıtlayamadığı sorulardır: nihai fiyatlandırma, çıkış tarihi ve bunu hangi OEM'lerin üreteceği. Makinenin IFA'da ortaklar olmadan tanıtıldığı göz önüne alındığında, bu ayrıntıların önümüzdeki aylarda ortaya çıkması bekleniyor. Zaten açık olan şey, "iş istasyonu" ile "veri merkezi" arasındaki sınırın değişmeye devam ettiği ve AMD'nin bunu daha da ileri götürme niyetinde olduğu.
---
Yapay Zekanın Önünde OlunEn son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
