AMDは、96コアのThreadripper Pro CPUとデュアル水冷Instinct MI350Pアクセラレータを組み合わせたエクストリームティアAIワークステーションであるThreadripper Halo Stationを発表した。この組み合わせは、同社が世界で最も強力なワークステーションとして宣伝しており、数兆パラメータのAIモデルをローカルで実行できる。このマシンはIFAで披露されたが、AMDは価格、発売日、OEMパートナーなどをまだ発表していない。

この発表は、ワークステーションクラスの AI ハードウェアが急速に加熱する中で行われました。この話とライバルの動きの詳細については、現在進行中の AI ハードウェア ニュース の報道をご覧ください。

仕様: 96 Zen 5 コアと 288GB の HBM3E

Threadripper Halo Station の中心には、最大 5.4 GHz まで高速化する 96 コア、192 スレッドの Zen 5 チップである Threadripper Pro 9995WX が搭載されています。 384 MB の L3 キャッシュと 350W TDP が付属しています。チップだけでも簡単な商品ではありません。スタンドアロンの Threadripper Pro 9995WX ユニットは、およそ 11,000 ドルから 12,000 ドルで小売されています。

加速は、両方とも水冷式の 2 つの AMD Instinct MI350P アクセラレータによって実現されます。各カードには、TSMC の N3 プロセス上に構築された 128 個の CDNA 4 コンピューティング ユニットと 144GB の HBM3E メモリが搭載されており、すぐに使用できるシステムに 288GB の高帯域幅メモリが提供されます。各アクセラレータの消費電力は最大 600 W です。

AMD は、「4 への道」があると述べています。これは、プラットフォームが最終的にさらに 2 つのアクセラレータをサポートし、合計 GPU メモリが 576GB に増加する可能性があることを意味します。しかし、IFA でデモされたユニットには、Threadripper ホストと並んで 2 枚の水冷カードを収容できる物理的なスペースしかありませんでした。

システム メモリは 2TB の DDR5 に達し、CPU の 8 チャネル メモリ コントローラ全体でサポートされる最大値となります。これはそれ自体驚くべき数字です。現在の市場価格では、2TB の DDR5 の価格は約 50,000 ドルです。

費用はいくらか: 6 桁を考えてください

AMDは価格を設定していないが、コンポーネントの計算がそれを物語っている。構成を調査した Tom's Hardware によれば、コア コンポーネント (CPU、メモリ、デュアル GPU) を合わせた場合、ストレージ、電力、冷却を考慮しない実売価格は 100,000 ドルを超えるはずです。構成を高く設定すると、ワークステーションの価格は「いとも簡単に 150,000 ドルを超える可能性がある」と販売店は見積もっています。

マシン自体は、基本的にサーバー トレイをタワー エンクロージャに再構成したものとして説明されています。 AMDは仕様以外の広範な詳細を共有しておらず、同社はこの設計がOEMパートナーが最終的に構築して出荷するものであると示唆した。パートナーはまだ発表されておらず、AMDはMI350Pベースのワークステーション構成を自社で直接販売する計画はないようだ。

AMD の主張: 机の上に数兆パラメータのモデルがある

AMD の見出しの主張は、Threadripper Halo Station は兆パラメータのモデルを実行できるというものです。これが、巨大なユニファイド メモリ ストーリーの役割です。2 つのアクセラレータ全体で 288 GB の HBM3E を搭載し、4 GPU 構成では 576 GB の可能性があります。理論的には、通常はデータセンター サーバーを必要とするモデルをローカルにロードして実行できます。

この主張は、ハードウェア愛好家から即座に厳しい視線を集めました。通常、1兆個のパラメータを持つ大規模な言語モデルでは、使用可能なメモリに収まるように量子化が必要であり、帯域幅 400 ～ 500 GB/s のシステム RAM は GPU メモリよりもはるかに遅いため、PCIe 転送速度が CPU とアクセラレータ間でデータをシャッフルするワークロードの潜在的なボトルネックになります。実際には、推論中モデルは GPU メモリに常駐し、CPU とその 2TB の DDR5 がモデル周辺の開発タスクをサポートすることになるでしょう。

Nvidia や Lenovo との違い

Threadripper Halo Station は、ニッチだが急速に成長しているデスクサイド AI スーパーコンピューター市場に参入します。 Nvidia の GB300 を搭載した DGX Station デスクトップ タワーは、オンラインで約 10 万ドルで出品されています。 AMD 自体は最近、アクセス可能な側として、3,999 ドルの Ryzen AI Halo を Nvidia の DGX Spark への挑戦者、つまり数兆パラメータのワークロードではなく開発者を対象としたマシンとして位置づけています。

このクラスではさらに高い価格が設定された前例があります。 Threadripper Pro CPU をホストとして使用する Lenovo ThinkStation P8 は、2TB の DDR5 とデュアル Blackwell アクセラレータを最大搭載した場合、現在 334,463 ドルで販売されています。このような背景を考えると、6 桁の Halo ステーションも異常値ではありません。

なぜそれが重要なのか

Halo Stationは、ハイエンドのワークステーションをNvidiaのDGXラインに譲るのではなく、3,999ドルのデスクトップからデータセンターのGPUに至るまで、AIコンピューティングスタックのあらゆる層で争うというAMDの意図を示している。厳格なデータ主権要件を持つ研究室、企業、およびファイアウォールの背後にあるフロンティアスケールのモデルを必要とする研究者にとって、288 GB の HBM3E を搭載した水冷 96 コア デスクサイド システムは、クラウド レンタルに代わる魅力的な代替手段となる可能性があります。

未解決の疑問は、最終的な価格、リリース日、そしてどの OEM が実際に開発するのかなど、AMD が答えていないものです。このマシンがパートナーを伴わずにIFAでデビューしたことを考えると、それらの詳細は今後数か月以内に明らかになることが予想される。すでに明らかなことは、「ワークステーション」と「データセンター」の境界は常に移動し続けており、AMD はそれをさらに推し進めようとしているということです。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→