AMD đã tiết lộ Threadripper Halo Station, một máy trạm AI cực cao kết hợp CPU Threadripper Pro 96 lõi với bộ tăng tốc Instinct MI350P kép làm mát bằng chất lỏng – sự kết hợp mà công ty coi là máy trạm mạnh nhất trên thế giới, có khả năng chạy cục bộ các mô hình AI nghìn tỷ thông số. Máy đã được trưng bày tại IFA, mặc dù AMD vẫn chưa công bố giá cả, ngày phát hành hoặc đối tác OEM.

Thông báo được đưa ra khi phần cứng AI cấp máy trạm nóng lên nhanh chóng. Để biết thêm về câu chuyện này và các động thái của đối thủ, hãy xem tin tức tin tức về phần cứng AI đang diễn ra của chúng tôi.

Thông số: 96 Zen 5 Cores Plus 288GB HBM3E

Trung tâm của Threadripper Halo Station là Threadripper Pro 9995WX, chip Zen 5 96 nhân, 192 luồng có khả năng tăng tốc lên tới 5,4 GHz. Nó được trang bị bộ đệm L3 384 MB và TDP 350W. Riêng con chip này không phải là một hạng mục tầm thường: các thiết bị Threadripper Pro 9995WX độc lập đã được bán lẻ ở mức khoảng 11.000 USD đến 12.000 USD.

Khả năng tăng tốc đến từ một cặp bộ tăng tốc AMD Instinct MI350P, cả hai đều làm mát bằng chất lỏng. Mỗi thẻ chứa 128 đơn vị tính toán CDNA 4 được xây dựng trên quy trình N3 của TSMC và 144GB bộ nhớ HBM3E, mang lại cho hệ thống 288GB bộ nhớ băng thông cao ngay khi xuất xưởng. Mỗi máy gia tốc được đánh giá có công suất tiêu thụ lên tới 600W.

AMD cho biết có một "đường dẫn đến bốn" - nghĩa là nền tảng này cuối cùng có thể hỗ trợ thêm hai bộ tăng tốc, nâng tổng bộ nhớ GPU lên 576GB. Tuy nhiên, trong thiết bị được trình diễn tại IFA, chỉ có chỗ vật lý cho hai card làm mát bằng chất lỏng cùng với máy chủ Threadripper.

Bộ nhớ hệ thống đạt mức 2TB DDR5, mức tối đa được hỗ trợ trên bộ điều khiển bộ nhớ tám kênh của CPU. Đó là một con số đáng kinh ngạc: theo giá thị trường hiện tại, 2TB DDR5 có giá khoảng 50.000 USD.

Chi phí sẽ là bao nhiêu: Hãy suy nghĩ sáu con số

AMD chưa ấn định giá, nhưng phép toán thành phần đã kể nên câu chuyện. Theo Tom's Hardware, đơn vị đã kiểm tra cấu hình, gộp các thành phần cốt lõi lại với nhau — CPU, bộ nhớ và GPU kép — giá thị trường sẽ vượt quá 100.000 USD trước khi tính đến bộ nhớ, nguồn và khả năng làm mát. Được cấu hình cao hơn, cửa hàng ước tính máy trạm "có thể rất dễ dàng tăng lên trên 150.000 USD".

Bản thân chiếc máy này được mô tả về cơ bản là một khay máy chủ được cấu hình lại thành một tháp bao quanh. AMD không chia sẻ nhiều thông tin chi tiết ngoài các thông số kỹ thuật và công ty cho biết thiết kế này là một trong những thiết kế mà các đối tác OEM của họ cuối cùng sẽ xây dựng và xuất xưởng. Chưa có đối tác nào được công bố và AMD dường như không có kế hoạch bán trực tiếp cấu hình máy trạm dựa trên MI350P.

Tuyên bố của AMD: Mô hình nghìn tỷ tham số trên bàn làm việc

Tuyên bố tiêu đề của AMD là Threadripper Halo Station có thể chạy các mô hình nghìn tỷ thông số. Đó là chức năng của câu chuyện bộ nhớ hợp nhất khổng lồ: với 288GB HBM3E trên hai bộ tăng tốc - và có khả năng là 576GB trong cấu hình bốn GPU - về mặt lý thuyết, các mô hình thường yêu cầu máy chủ trung tâm dữ liệu có thể được tải và chạy cục bộ.

Tuyên bố này ngay lập tức thu hút sự xem xét kỹ lưỡng từ những người đam mê phần cứng. Các mô hình ngôn ngữ lớn với hàng nghìn tỷ tham số thường yêu cầu lượng tử hóa để phù hợp với bộ nhớ khả dụng và RAM hệ thống ở băng thông 400–500GB/giây chậm hơn nhiều so với bộ nhớ GPU, khiến tốc độ truyền PCIe có thể trở thành nút thắt cổ chai đối với khối lượng công việc xáo trộn dữ liệu giữa CPU và bộ tăng tốc. Trên thực tế, các mô hình có thể vẫn nằm trong bộ nhớ GPU trong quá trình suy luận, với CPU và 2TB DDR5 hỗ trợ các tác vụ phát triển xung quanh mô hình.

Làm thế nào nó có thể chống lại Nvidia và Lenovo

Threadripper Halo Station bước vào một thị trường ngách nhưng đang phát triển nhanh chóng dành cho siêu máy tính AI để bàn. Tháp máy tính để bàn DGX Station chạy GB300 của Nvidia đã được niêm yết trực tuyến ở mức gần 100.000 USD. Ở phân khúc có thể truy cập được, bản thân AMD gần đây đã định vị Ryz AI Halo trị giá 3.999 USD là đối thủ cạnh tranh với DGX Spark của Nvidia - một cỗ máy nhắm đến các nhà phát triển thay vì khối lượng công việc nghìn tỷ thông số.

Đã có tiền lệ về mức giá thậm chí còn cao hơn trong loại này. Lenovo ThinkStation P8, sử dụng CPU Threadripper Pro làm máy chủ, hiện có giá 334.463 USD khi đạt tối đa 2TB DDR5 và bộ tăng tốc Blackwell kép. Trong bối cảnh đó, Halo Station có sáu con số sẽ không phải là ngoại lệ.

Tại sao nó lại quan trọng

Halo Station báo hiệu ý định của AMD trong việc cạnh tranh mọi lớp của ngăn xếp điện toán AI - từ máy tính để bàn trị giá 3.999 USD đến GPU trung tâm dữ liệu - thay vì nhượng lại máy trạm cao cấp cho dòng DGX của Nvidia. Đối với các phòng thí nghiệm, doanh nghiệp có yêu cầu nghiêm ngặt về chủ quyền dữ liệu và các nhà nghiên cứu cần các mô hình quy mô biên phía sau tường lửa, hệ thống để bàn 96 lõi, làm mát bằng chất lỏng với 288GB HBM3E có thể là giải pháp thay thế hấp dẫn cho việc thuê đám mây.

Những câu hỏi mở là những câu hỏi AMD chưa trả lời: giá cuối cùng, ngày phát hành và OEM nào sẽ thực sự sản xuất nó. Vì máy đã ra mắt tại IFA mà không có đối tác đi kèm nên những chi tiết đó dự kiến ​​sẽ xuất hiện trong những tháng tới. Điều đã rõ ràng là ranh giới giữa "máy trạm" và "trung tâm dữ liệu" vẫn tiếp tục thay đổi - và AMD dự định sẽ đẩy xa hơn nữa.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →