AMD از Threadripper Halo Station پرده برداری کرده است، یک ایستگاه کاری با سطح فوق العاده هوش مصنوعی که یک CPU 96 هسته ای Threadripper Pro را با دو شتاب دهنده Instinct MI350P خنک کننده مایع جفت می کند - ترکیبی که این شرکت به عنوان قوی ترین ایستگاه کاری در جهان معرفی می کند که قادر به اجرای تریلیون ها مدل AI به صورت محلی است. این دستگاه در IFA به نمایش گذاشته شد، اگرچه AMD هنوز قیمت، تاریخ عرضه یا شرکای OEM را اعلام نکرده است.

این اعلامیه زمانی منتشر می شود که سخت افزار هوش مصنوعی کلاس ایستگاه کاری به سرعت گرم می شود. برای اطلاعات بیشتر در مورد این داستان و حرکات رقبای آن، پوشش مداوم [اخبار سخت افزار هوش مصنوعی] (https://aibuzzwire.news) را ببینید.

مشخصات: 96 Zen 5 Cores Plus 288GB HBM3E

در قلب Threadripper Halo Station Threadripper Pro 9995WX قرار دارد، یک تراشه Zen 5 با 96 هسته و 192 رشته که تا 5.4 گیگاهرتز را تقویت می کند. این دستگاه با 384 مگابایت حافظه نهان L3 و 350 وات TDP عرضه می شود. این تراشه به تنهایی یک آیتم خطی پیش پا افتاده نیست: واحدهای مستقل Threadripper Pro 9995WX تقریباً 11000 تا 12000 دلار به فروش می‌رسند.

این شتاب از یک جفت شتاب دهنده AMD Instinct MI350P می آید که هر دو با مایع خنک می شوند. هر کارت دارای 128 واحد محاسباتی CDNA 4 است که بر اساس فرآیند N3 TSMC و 144 گیگابایت حافظه HBM3E ساخته شده‌اند که به سیستم 288 گیگابایت حافظه با پهنای باند بالا می‌دهد. هر شتاب دهنده دارای توان مصرفی تا 600 وات است.

AMD می گوید یک "مسیری به چهار" وجود دارد - به این معنی که پلتفرم در نهایت می تواند از دو شتاب دهنده دیگر پشتیبانی کند و کل حافظه GPU را به 576 گیگابایت برساند. با این حال، در واحد نمایش داده شده در IFA، تنها فضای فیزیکی برای دو کارت خنک شونده مایع در کنار میزبان Threadripper وجود داشت.

حداکثر حافظه سیستم 2 ترابایت DDR5 است که حداکثر در کنترلر حافظه هشت کانالی CPU پشتیبانی می شود. این رقم به خودی خود رقمی خیره کننده است: با قیمت های فعلی بازار، 2 ترابایت DDR5 تقریباً 50000 دلار قیمت دارد.

چه هزینه ای خواهد داشت: شش رقمی فکر کنید

AMD قیمتی تعیین نکرده است، اما ریاضیات جزء داستان را بیان می کند. طبق گفته Tom's Hardware که پیکربندی را بررسی کرد، اجزای اصلی - CPU، حافظه و GPUهای دوگانه - را در کنار هم قرار داد - قیمت خیابانی باید از 100000 دلار فراتر رود قبل از اینکه فضای ذخیره‌سازی، قدرت و خنک‌کننده در نظر گرفته شود.

خود دستگاه اساساً به عنوان یک سینی سرور توصیف شده است که در یک محفظه برج پیکربندی مجدد شده است. AMD جزئیات گسترده‌ای فراتر از مشخصات را به اشتراک نمی‌گذارد و این شرکت نشان داد که این طرح یکی از طرح‌هایی است که شرکای OEM آن در نهایت خواهند ساخت و ارسال خواهند کرد. هنوز هیچ شریکی اعلام نشده است و به نظر نمی‌رسد که AMD قصد فروش مستقیم پیکربندی ایستگاه کاری مبتنی بر MI350P را ندارد.

ادعای AMD: مدل‌های تریلیون پارامتری روی میز

ادعای اصلی AMD این است که Threadripper Halo Station می تواند مدل های تریلیون پارامتری را اجرا کند. این کارکرد داستان حافظه یکپارچه عظیم است: با 288 گیگابایت HBM3E در دو شتاب دهنده - و بالقوه 576 گیگابایت در پیکربندی چهار GPU - مدل هایی که معمولاً به یک سرور مرکز داده نیاز دارند، در تئوری، می توانند بارگذاری شوند و به صورت محلی اجرا شوند.

این ادعا بلافاصله مورد بررسی دقیق علاقه مندان به سخت افزار قرار گرفت. مدل‌های زبان بزرگ با یک تریلیون پارامتر معمولاً برای قرار گرفتن در حافظه موجود نیاز به کمیت‌سازی دارند و رم سیستم با پهنای باند 400 تا 500 گیگابایت بر ثانیه بسیار کندتر از حافظه GPU است و سرعت انتقال PCIe را به یک گلوگاه بالقوه برای بارهای کاری تبدیل می‌کند که داده‌ها را بین CPU و شتاب‌دهنده‌ها به هم می‌زند. در عمل، مدل‌ها احتمالاً در حین استنتاج در حافظه GPU باقی می‌مانند، با CPU و 2 ترابایت DDR5 آن از وظایف توسعه در اطراف مدل پشتیبانی می‌کند.

چگونه در برابر Nvidia و Lenovo قرار می گیرد

Threadripper Halo Station برای ابررایانه‌های هوش مصنوعی روی میزی وارد بازاری خاص اما در حال رشد سریع می‌شود. برج دسکتاپ DGX Station انویدیا با GB300 با قیمتی نزدیک به 100000 دلار به صورت آنلاین به فروش رسیده است. در پایان در دسترس، خود AMD اخیرا Ryzen AI Halo 3999 دلاری را به عنوان رقیب DGX Spark انویدیا قرار داده است - ماشینی که به جای حجم کاری تریلیون‌ها پارامتر، توسعه‌دهندگان را هدف قرار داده است.

سابقه ای برای برچسب های قیمت حتی بالاتر در این کلاس وجود دارد. Lenovo ThinkStation P8 که از پردازنده‌های Threadripper Pro به‌عنوان میزبان استفاده می‌کند، در حال حاضر با 2 ترابایت DDR5 و شتاب‌دهنده‌های دوگانه بلک‌ول، قیمتی معادل 334463 دلار دارد. در آن پس‌زمینه، یک Halo Station شش رقمی دور از ذهن نخواهد بود.

چرا مهم است

Halo Station نشان‌دهنده قصد AMD برای رقابت با هر لایه از پشته محاسباتی هوش مصنوعی - از دسکتاپ‌های 3999 دلاری تا پردازنده‌های گرافیکی مرکز داده - به جای واگذاری ایستگاه کاری پیشرفته به خط DGX انویدیا است. برای آزمایشگاه‌ها، شرکت‌هایی که الزامات حاکمیت داده‌ای سخت‌گیرانه دارند، و محققانی که به مدل‌های مقیاس مرزی در پشت دیوار آتش نیاز دارند، یک سیستم 96 هسته‌ای خنک‌شونده با مایع روی میز با 288 گیگابایت HBM3E می‌تواند جایگزین قانع‌کننده‌ای برای اجاره ابر باشد.

پرسش‌های باز همان‌هایی هستند که AMD به آن‌ها پاسخ نداده است: قیمت نهایی، تاریخ انتشار و اینکه کدام OEM واقعاً آن را می‌سازد. با توجه به اینکه این دستگاه بدون شرکا در IFA معرفی شد، انتظار می‌رود این جزئیات در ماه‌های آینده آشکار شود. آنچه در حال حاضر واضح است این است که مرز بین «ایستگاه کاری» و «مرکز داده» همچنان در حال حرکت است – و AMD قصد دارد آن را بیشتر پیش ببرد.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →