AMD представила Threadripper Halo Station, рабочую станцию искусственного интеллекта экстремального уровня, которая сочетает в себе 96-ядерный процессор Threadripper Pro и два ускорителя Instinct MI350P с жидкостным охлаждением — комбинацию, которую компания называет самой мощной рабочей станцией в мире, способной локально запускать модели искусственного интеллекта с триллионом параметров. Машина была продемонстрирована на IFA, хотя AMD еще не объявила цены, дату выпуска и OEM-партнеров.
Это объявление появилось в связи с тем, что оборудование искусственного интеллекта класса рабочей станции быстро нагревается. Дополнительную информацию об этой истории и действиях ее конкурентов можно найти в наших текущих репортажах новости об оборудовании AI.
Характеристики: 96 ядер Zen 5 плюс 288 ГБ HBM3E
В основе Threadripper Halo Station находится Threadripper Pro 9995WX, 96-ядерный 192-поточный чип Zen 5, повышающий частоту до 5,4 ГГц. Он поставляется с 384 МБ кэш-памяти L3 и TDP 350 Вт. Сам по себе чип не является тривиальной статьей: отдельные устройства Threadripper Pro 9995WX продаются по цене примерно от 11 000 до 12 000 долларов.
Ускорение обеспечивается парой ускорителей AMD Instinct MI350P, оба с жидкостным охлаждением. Каждая карта содержит 128 вычислительных блоков CDNA 4, построенных на базе процесса TSMC N3, и 144 ГБ памяти HBM3E, что сразу же дает системе 288 ГБ памяти с высокой пропускной способностью. Каждый ускоритель рассчитан на потребляемую мощность до 600 Вт.
AMD заявляет, что существует «путь к четырем» — это означает, что платформа может в конечном итоге поддерживать еще два ускорителя, увеличивая общий объем памяти графического процессора до 576 ГБ. Однако в устройстве, продемонстрированном на IFA, было только физическое место для двух карт с жидкостным охлаждением рядом с хостом Threadripper.
Максимальный объем системной памяти составляет 2 ТБ DDR5 — максимум, поддерживаемый восьмиканальным контроллером памяти процессора. Это ошеломляющая цифра сама по себе: по текущим рыночным ценам 2 ТБ памяти DDR5 стоят примерно 50 000 долларов.
Сколько это будет стоить: представьте шестизначную сумму
AMD не установила цену, но математика компонентов говорит сама за себя. По данным компании Tom's Hardware, которая исследовала конфигурацию с учетом основных компонентов — процессора, памяти и двух графических процессоров — розничная цена должна превысить 100 000 долларов США без учета хранилища, питания и охлаждения. По оценкам издания, при более высокой конфигурации рабочая станция «очень легко может превысить 150 000 долларов США».
Сама машина описывается как серверный лоток, переконфигурированный в корпус Tower. AMD не поделилась подробностями, кроме спецификаций, и компания указала, что именно эту конструкцию в конечном итоге создадут и поставят ее OEM-партнеры. О партнерах пока не объявлено, и AMD, судя по всему, не планирует продавать конфигурацию рабочей станции на базе MI350P напрямую.
Заявление AMD: модели с триллионом параметров на столе
Заголовок заявления AMD заключается в том, что станция Threadripper Halo может запускать модели с триллионом параметров. В этом суть огромной истории с унифицированной памятью: с 288 ГБ HBM3E на двух ускорителях (и потенциально 576 ГБ в конфигурации с четырьмя графическими процессорами) модели, которым обычно требуется сервер центра обработки данных, теоретически могут быть загружены и запущены локально.
Это заявление сразу же привлекло внимание энтузиастов аппаратного обеспечения. Большие языковые модели с триллионом параметров обычно требуют квантования, чтобы уместиться в доступной памяти, а системная оперативная память с пропускной способностью 400–500 ГБ/с намного медленнее, чем память графического процессора, что делает скорость передачи данных PCIe потенциальным узким местом для рабочих нагрузок, которые перемещают данные между ЦП и ускорителями. На практике модели, скорее всего, будут оставаться в памяти графического процессора во время вывода, а процессор и его 2 ТБ памяти DDR5 будут поддерживать задачи разработки вокруг модели.
Чем он отличается от Nvidia и Lenovo
Станция Threadripper Halo выходит на нишевый, но быстрорастущий рынок настольных суперкомпьютеров с искусственным интеллектом. Настольный компьютер DGX Station с процессором GB300 от Nvidia выставлен на продажу почти за 100 000 долларов. Что касается доступности, сама AMD недавно позиционировала Ryzen AI Halo за 3999 долларов как конкурента Nvidia DGX Spark — машины, ориентированной на разработчиков, а не на рабочие нагрузки с триллионом параметров.
В этом классе есть прецедент еще более высоких цен. Lenovo ThinkStation P8, который использует процессоры Threadripper Pro в качестве хоста, в настоящее время стоит 334 463 доллара при максимальной мощности с 2 ТБ памяти DDR5 и двумя ускорителями Blackwell. На этом фоне шестизначная стоимость Halo Station не будет исключением.
Почему это важно
Halo Station сигнализирует о намерении AMD оспорить каждый уровень вычислительного стека искусственного интеллекта — от настольных компьютеров стоимостью 3999 долларов до графических процессоров для центров обработки данных — вместо того, чтобы уступить высокопроизводительную рабочую станцию линейке DGX от Nvidia. Для лабораторий, предприятий со строгими требованиями к суверенитету данных и исследователей, которым нужны модели передового масштаба за брандмауэром, 96-ядерная настольная система с жидкостным охлаждением и 288 ГБ HBM3E может стать привлекательной альтернативой аренде облака.
Открыты вопросы, на которые AMD не ответила: окончательная цена, дата выпуска и какие OEM-производители действительно будут его выпускать. Учитывая, что машина дебютировала на IFA без участия партнеров, ожидается, что эти подробности появятся в ближайшие месяцы. Уже сейчас ясно, что граница между «рабочей станцией» и «центром обработки данных» продолжает двигаться — и AMD намерена раздвинуть ее еще дальше.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
