AMD представила Threadripper Halo Station, робочу станцію зі штучним інтелектом екстремального рівня, яка поєднує 96-ядерний процесор Threadripper Pro з подвійними прискорювачами Instinct MI350P з рідинним охолодженням — комбінацію, яку компанія називає найпотужнішою робочою станцією у світі, здатною локально запускати моделі ШІ з трильйонами параметрів. Машина була представлена ​​на IFA, хоча AMD ще не оголосила ціну, дату випуску чи партнерів OEM.

Оголошення припадає на те, що апаратне забезпечення ШІ класу робочих станцій швидко нагрівається. Щоб дізнатися більше про цю історію та кроки її конкурентів, дивіться наш поточний Новини апаратного забезпечення ШІ.

Характеристики: 96 Zen 5 ядер плюс 288 ГБ HBM3E

У центрі Threadripper Halo Station знаходиться Threadripper Pro 9995WX, 96-ядерний 192-потоковий чіп Zen 5, який підвищує частоту до 5,4 ГГц. Він поставляється з 384 МБ кешу L3 і TDP 350 Вт. Сам по собі чіп не є тривіальним товаром: автономні пристрої Threadripper Pro 9995WX коштували приблизно від 11 000 до 12 000 доларів США.

Прискорення забезпечується парою прискорювачів AMD Instinct MI350P, обидва з рідинним охолодженням. Кожна карта містить 128 обчислювальних блоків CDNA 4, побудованих за процесом N3 від TSMC, і 144 ГБ пам’яті HBM3E, що надає системі 288 ГБ пам’яті з високою пропускною здатністю. Кожен прискорювач розрахований на споживану потужність до 600 Вт.

AMD каже, що існує «шлях до чотирьох» — це означає, що платформа може підтримувати ще два прискорювачі, підвищуючи загальний обсяг пам’яті GPU до 576 ГБ. Однак у пристрої, продемонстрованому на IFA, було лише фізичне місце для двох карток з рідинним охолодженням поряд з хостом Threadripper.

Системна пам'ять досягає 2 ТБ DDR5, максимального обсягу, який підтримується восьмиканальним контролером пам'яті ЦП. Це приголомшлива цифра сама по собі: за поточними ринковими цінами 2 ТБ DDR5 коштують приблизно 50 000 доларів.

Скільки це буде коштувати: подумайте шестизначно

AMD не встановила ціну, але математика компонентів розповідає історію. За даними Tom's Hardware, які досліджували конфігурацію, взявши разом основні компоненти — ЦП, пам’ять і подвійні графічні процесори — вулична ціна повинна перевищувати 100 000 доларів США без урахування пам’яті, живлення та охолодження. За оцінками магазину, якщо конфігурувати вище, робоча станція «може легко піднятися понад 150 000 доларів».

Сама машина описується як по суті серверний лоток, переконфігурований у баштовий корпус. AMD не повідомила докладніші деталі, окрім специфікацій, і компанія вказала, що дизайн є одним із тих, які її OEM-партнери зрештою створять і відправлять. Про партнерів ще не було оголошено, і AMD, здається, не планує продавати конфігурацію робочої станції на базі MI350P безпосередньо.

Претензія AMD: моделі з трильйонами параметрів на столі

Заголовна заява AMD полягає в тому, що Threadripper Halo Station може запускати моделі з трильйонами параметрів. Це функція величезної уніфікованої історії пам’яті: з 288 ГБ HBM3E на двох прискорювачах — і потенційно 576 ГБ у конфігурації з чотирма графічними процесорами — моделі, які зазвичай вимагають сервера центру обробки даних, теоретично можуть бути завантажені та запущені локально.

Претензія негайно викликала пильну увагу ентузіастів обладнання. Великі мовні моделі з трильйоном параметрів зазвичай вимагають квантування, щоб вмістити доступну пам’ять, а системна оперативна пам’ять із пропускною здатністю 400–500 ГБ/с набагато повільніша, ніж пам’ять GPU, що робить швидкість передачі PCIe потенційним вузьким місцем для робочих навантажень, які перемішують дані між ЦП і прискорювачами. На практиці моделі, ймовірно, залишатимуться резидентними в пам’яті графічного процесора під час висновку, а ЦП і його 2 ТБ пам’яті DDR5 підтримуватимуть завдання розробки навколо моделі.

Як це проти Nvidia та Lenovo

Станція Threadripper Halo виходить на нішевий, але швидко зростаючий ринок настільних суперкомп’ютерів зі штучним інтелектом. Настільна версія DGX Station Tower від Nvidia на базі GB300 була виставлена ​​в Інтернеті за ціною майже 100 000 доларів. З точки зору доступності, сама AMD нещодавно позиціонувала Ryzen AI Halo за 3999 доларів як конкурента DGX Spark від Nvidia — машині, орієнтованій на розробників, а не на навантаження з трильйонами параметрів.

Є прецедент навіть вищих цінників у цьому класі. Lenovo ThinkStation P8, який використовує процесори Threadripper Pro як хост, на даний момент коштує 334 463 долари США з максимальним обсягом 2 ТБ DDR5 і подвійними прискорювачами Blackwell. На цьому фоні шестизначна станція Halo не буде винятком.

Чому це важливо

Станція Halo свідчить про намір AMD конкурувати з кожним рівнем обчислювального стеку штучного інтелекту — від настільних комп’ютерів за 3999 доларів США до графічних процесорів центрів обробки даних — замість того, щоб поступитися висококласною робочою станцією лінійці DGX від Nvidia. Для лабораторій, підприємств із суворими вимогами щодо суверенітету даних і дослідників, яким потрібні передові моделі за брандмауером, 96-ядерна настільна система з рідинним охолодженням і 288 ГБ HBM3E може стати переконливою альтернативою оренді хмари.

Відкритими питаннями є ті, на які AMD не відповіла: остаточна ціна, дата випуску та те, які OEM-виробники справді збиратимуть його. Враховуючи, що машина дебютувала на виставці IFA без партнерів, очікується, що ці деталі стануть відомі в найближчі місяці. Уже зрозуміло, що межа між «робочою станцією» і «центром обробки даних» продовжує рухатися — і AMD має намір просувати її далі.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →