AMD zaprezentowało Threadripper Halo Station, stację roboczą AI najwyższej klasy, która łączy 96-rdzeniowy procesor Threadripper Pro z dwoma chłodzonymi cieczą akceleratorami Instinct MI350P — co stanowi połączenie, które firma reklamuje jako najpotężniejszą stację roboczą na świecie, zdolną do lokalnego uruchamiania modeli AI o bilionach parametrów. Maszyna została zaprezentowana na targach IFA, chociaż AMD nie ogłosiło jeszcze ceny, daty premiery ani partnerów OEM.
Ogłoszenie pojawia się w momencie, gdy sprzęt AI klasy stacji roboczej szybko się nagrzewa. Więcej informacji na temat tej historii i posunięć rywali znajdziesz w naszych bieżących relacjach wiadomości dotyczące sprzętu AI.
Specyfikacja: 96 Zen 5 rdzeni plus 288 GB pamięci HBM3E
Sercem stacji Threadripper Halo jest Threadripper Pro 9995WX, 96-rdzeniowy, 192-wątkowy układ Zen 5, który przyspiesza do 5,4 GHz. Jest dostarczany z 384 MB pamięci podręcznej L3 i TDP na poziomie 350 W. Sam chip nie jest trywialnym elementem zamówienia: samodzielne jednostki Threadripper Pro 9995WX są sprzedawane w cenie około 11 000–12 000 dolarów.
Za przyspieszenie odpowiada para akceleratorów AMD Instinct MI350P, oba chłodzone cieczą. Każda karta zawiera 128 jednostek obliczeniowych CDNA 4 zbudowanych w oparciu o proces N3 firmy TSMC i 144 GB pamięci HBM3E, co daje systemowi 288 GB pamięci o dużej przepustowości od razu po wyjęciu z pudełka. Każdy akcelerator może pobierać moc do 600 W.
AMD twierdzi, że istnieje „ścieżka do czterech” – co oznacza, że platforma będzie mogła ostatecznie obsługiwać dwa kolejne akceleratory, zwiększając całkowitą ilość pamięci GPU do 576 GB. Jednak w urządzeniu zademonstrowanym na targach IFA było tylko fizyczne miejsce na dwie karty chłodzone cieczą obok hosta Threadripper.
Maksymalna pojemność pamięci systemowej wynosi 2 TB DDR5, co stanowi maksimum obsługiwane przez ośmiokanałowy kontroler pamięci procesora. To liczba sama w sobie zdumiewająca: przy obecnych cenach rynkowych 2 TB pamięci DDR5 kosztuje około 50 000 dolarów.
Ile to będzie kosztować: pomyśl o sześciu cyfrach
AMD nie ustaliło ceny, ale obliczenia dotyczące komponentów mówią wszystko. Według Tom's Hardware, który zbadał konfigurację, biorąc pod uwagę podstawowe komponenty – procesor, pamięć i dwa procesory graficzne – cena detaliczna powinna przekroczyć 100 000 dolarów, nie licząc przechowywania, zasilania i chłodzenia. Przy wyższej konfiguracji outlet szacuje, że stacja robocza „może z łatwością przekroczyć 150 000 dolarów”.
Sama maszyna jest opisana jako zasadniczo taca serwerowa przekonfigurowana w obudowę typu tower. AMD nie udostępniło szczegółowych szczegółów wykraczających poza specyfikację, a firma wskazała, że projekt zostanie ostatecznie zbudowany i dostarczony przez jej partnerów OEM. Nie ogłoszono jeszcze żadnych partnerów i nie wydaje się, aby AMD planowało bezpośrednią sprzedaż konfiguracji stacji roboczej opartej na MI350P.
Twierdzenie AMD: modele o bilionach parametrów na biurku
Głównym twierdzeniem AMD jest to, że stacja Threadripper Halo Station może obsługiwać modele o bilionach parametrów. Taka jest funkcja ogromnej, zunifikowanej pamięci: dzięki 288 GB pamięci HBM3E w dwóch akceleratorach – i potencjalnie 576 GB w konfiguracji z czterema procesorami graficznymi – modele, które normalnie wymagałyby serwera w centrum danych, teoretycznie mogą być ładowane i uruchamiane lokalnie.
Twierdzenie spotkało się z natychmiastową analizą ze strony entuzjastów sprzętu. Duże modele językowe z bilionami parametrów zazwyczaj wymagają kwantyzacji, aby zmieścić się w dostępnej pamięci, a systemowa pamięć RAM o przepustowości 400–500 GB/s jest znacznie wolniejsza niż pamięć GPU, co sprawia, że prędkości transferu PCIe stanowią potencjalne wąskie gardło dla obciążeń, które przerzucają dane między procesorem a akceleratorami. W praktyce modele prawdopodobnie pozostaną w pamięci GPU podczas wnioskowania, a procesor i jego 2 TB pamięci DDR5 będą wspierać zadania rozwojowe wokół modelu.
Jak to wypada w porównaniu z Nvidią i Lenovo
Stacja Threadripper Halo wkracza na niszowy, ale szybko rozwijający się rynek stacjonarnych superkomputerów AI. Komputer stacjonarny DGX Station firmy Nvidia z procesorem GB300 został wyceniony w Internecie na prawie 100 000 dolarów. Samo AMD umieściło niedawno Ryzen AI Halo za 3999 dolarów jako konkurenta dla DGX Spark firmy Nvidia – maszyny skierowanej raczej do programistów, a nie do obciążeń wymagających bilionów parametrów.
Nie ma precedensu dla jeszcze wyższych cen w tej klasie. Lenovo ThinkStation P8, który wykorzystuje procesory Threadripper Pro jako host, kosztuje obecnie 334 463 dolarów przy maksymalnej pojemności z 2 TB pamięci DDR5 i dwoma akceleratorami Blackwell. Na tym tle sześciocyfrowa stacja Halo nie byłaby wyjątkiem.
Dlaczego to ma znaczenie
Stacja Halo sygnalizuje, że AMD zamierza rywalizować z każdą warstwą stosu obliczeniowego AI – od komputerów stacjonarnych za 3999 dolarów po procesory graficzne dla centrów danych – zamiast oddawać wysokiej klasy stacje robocze liniom DGX firmy Nvidia. Dla laboratoriów, przedsiębiorstw o rygorystycznych wymaganiach dotyczących suwerenności danych i badaczy, którzy potrzebują modeli o najwyższej skali za zaporą ogniową, chłodzony cieczą, 96-rdzeniowy system stacjonarny z 288 GB pamięci HBM3E może stanowić atrakcyjną alternatywę dla wynajmu w chmurze.
Otwarte pytania to te, na które AMD nie odpowiedziało: ostateczna cena, data premiery i którzy producenci OEM faktycznie to zbudują. Biorąc pod uwagę, że maszyna zadebiutowała na targach IFA bez partnerów, oczekuje się, że szczegóły te zostaną ujawnione w nadchodzących miesiącach. Jasne jest już, że granica między „stacją roboczą” a „centrum danych” wciąż się przesuwa — a AMD zamierza ją przesunąć dalej.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
