AMD ने Threadripper Halo Station चे अनावरण केले आहे, एक अत्यंत-स्तरीय AI वर्कस्टेशन जे 96-कोर Threadripper Pro CPU ला ड्युअल लिक्विड-कूल्ड इन्स्टिंक्ट MI350P ऍक्सिलरेटर्ससह जोडते - हे संयोजन कंपनी जगातील सर्वात शक्तिशाली वर्कस्टेशन म्हणून बिल करते, जे ट्रिलियन-लोकल पॅरामीटर चालवण्यास सक्षम आहे. मशीन IFA मध्ये दाखवण्यात आले, जरी AMD ने अद्याप किंमत, प्रकाशन तारीख किंवा OEM भागीदार घोषित करणे बाकी आहे.

वर्कस्टेशन-क्लास एआय हार्डवेअर झपाट्याने गरम होत असताना ही घोषणा उतरते. या कथेबद्दल आणि त्याच्या प्रतिस्पर्ध्यांच्या हालचालींबद्दल अधिक माहितीसाठी, आमचे सध्या सुरू असलेले AI हार्डवेअर न्यूज कव्हरेज पहा.

वैशिष्ट्ये: 96 झेन 5 कोर प्लस 288GB HBM3E

Threadripper Halo स्टेशनच्या मध्यभागी Threadripper Pro 9995WX, 96-कोर, 192-थ्रेड Zen 5 चिप आहे जी 5.4 GHz पर्यंत वाढवते. हे 384 MB L3 कॅशे आणि 350W TDP सह पाठवते. एकटी चिप ही एक क्षुल्लक लाइन आयटम नाही: स्टँडअलोन थ्रेड्रिपर प्रो 9995WX युनिट्स अंदाजे $11,000 ते $12,000 पर्यंत किरकोळ विक्री करत आहेत.

प्रवेग AMD Instinct MI350P प्रवेगकांच्या जोडीतून येतो, दोन्ही द्रव-कूल्ड. प्रत्येक कार्डमध्ये TSMC च्या N3 प्रक्रियेवर तयार केलेली 128 CDNA 4 कॉम्प्युट युनिट्स आणि 144GB HBM3E मेमरी असते, ज्यामुळे सिस्टमला बॉक्सच्या बाहेर 288GB उच्च-बँडविड्थ मेमरी मिळते. प्रत्येक प्रवेगक 600W पर्यंत पॉवर ड्रॉसाठी रेट केला जातो.

एएमडी म्हणते की "चारचा मार्ग" आहे - म्हणजे प्लॅटफॉर्म अखेरीस आणखी दोन प्रवेगकांना समर्थन देऊ शकेल, एकूण GPU मेमरी 576GB वर उचलेल. IFA मध्ये प्रात्यक्षिक केलेल्या युनिटमध्ये, तथापि, Threadripper होस्टच्या बाजूने दोन लिक्विड-कूल्ड कार्ड्ससाठी फक्त भौतिक जागा होती.

सिस्टम मेमरी DDR5 च्या 2TB वर टॉप आउट आहे, CPU च्या आठ-चॅनेल मेमरी कंट्रोलरवर जास्तीत जास्त समर्थित आहे. हे स्वतःच एक आश्चर्यकारक आकडा आहे: सध्याच्या बाजारभावानुसार, DDR5 च्या 2TB ची किंमत अंदाजे $50,000 आहे.

त्याची किंमत काय असेल: सहा आकडे विचार करा

AMD ने किंमत सेट केलेली नाही, परंतु घटक गणित कथा सांगते. टॉमच्या हार्डवेअरनुसार, ज्याने कॉन्फिगरेशनचे परीक्षण केले, मुख्य घटक एकत्र घेऊन — CPU, मेमरी आणि ड्युअल GPU — स्टोरेज, पॉवर आणि कूलिंगचा समावेश होण्यापूर्वी रस्त्यावरील किंमत $100,000 पेक्षा जास्त असावी. जास्त कॉन्फिगर केल्यावर, आउटलेटचा अंदाज आहे की वर्कस्टेशन "अत्यंत सहजतेने, $150 वर चढू शकेल."

मशीनचे वर्णन मुख्यतः टॉवर एनक्लोजरमध्ये पुन: कॉन्फिगर केलेले सर्व्हर ट्रे म्हणून केले जाते. एएमडीने तपशीलांच्या पलीकडे विस्तृत तपशील सामायिक केला नाही आणि कंपनीने असे सूचित केले की डिझाइन हे त्याचे OEM भागीदार शेवटी तयार करेल आणि पाठवेल. अद्याप कोणतेही भागीदार घोषित केले गेले नाहीत आणि AMD MI350P-आधारित वर्कस्टेशन कॉन्फिगरेशन थेट स्वतः विकण्याची योजना आखत नाही.

AMD चा दावा: एका डेस्कवर ट्रिलियन-पॅरामीटर मॉडेल्स

AMD कडून शीर्षकाचा दावा असा आहे की Threadripper Halo Station ट्रिलियन-पॅरामीटर मॉडेल चालवू शकते. हे प्रचंड युनिफाइड मेमरी स्टोरीचे कार्य आहे: दोन प्रवेगकांमध्ये 288GB HBM3E सह — आणि संभाव्यतः 576GB चार-GPU कॉन्फिगरेशनमध्ये — साधारणपणे डेटा-सेंटर सर्व्हरची मागणी करणारी मॉडेल्स, सिद्धांततः, लोड केली जाऊ शकतात आणि स्थानिक पातळीवर चालवू शकतात.

हार्डवेअर उत्साही लोकांकडून दाव्याची त्वरित छाननी झाली. ट्रिलियन पॅरामीटर्ससह मोठ्या लँग्वेज मॉडेल्सना उपलब्ध मेमरीमध्ये बसण्यासाठी सामान्यत: क्वांटायझेशनची आवश्यकता असते आणि 400-500GB/s बँडविड्थची सिस्टम RAM GPU मेमरीपेक्षा खूपच कमी असते, ज्यामुळे PCIe ट्रान्सफर स्पीड वर्कलोड्ससाठी संभाव्य अडथळे बनवते जे CPU आणि प्रवेगक दरम्यान डेटा बदलतात. प्रॅक्टिसमध्ये, अनुमानादरम्यान मॉडेल कदाचित GPU मेमरीमध्ये राहतील, CPU आणि त्याचे 2TB DDR5 मॉडेलच्या आसपासच्या विकास कार्यांना समर्थन देतात.

हे Nvidia आणि Lenovo विरुद्ध कसे स्टॅक करते

थ्रेड्रिपर हॅलो स्टेशन डेस्क-साइड AI सुपरकॉम्प्युटरसाठी एका विशिष्ट परंतु वेगाने वाढणाऱ्या बाजारपेठेत प्रवेश करते. Nvidia चा GB300-चालित DGX स्टेशन डेस्कटॉप टॉवर जवळपास $100,000 वर ऑनलाइन सूचीबद्ध झाला आहे. प्रवेशजोगी शेवटी, AMD ने नुकतेच $3,999 Ryzen AI Halo ला Nvidia च्या DGX Spark चे आव्हानकर्ता म्हणून स्थान दिले - ट्रिलियन-पॅरामीटर वर्कलोड्स ऐवजी डेव्हलपर्सना उद्देशून एक मशीन.

या वर्गात आणखी उच्च किंमत टॅग्जची उदाहरणे आहेत. Lenovo ThinkStation P8, जे Threadripper Pro CPUs एक होस्ट म्हणून वापरते, सध्या $334,463 वर सूचीबद्ध आहे जेव्हा DDR5 च्या 2TB आणि ड्युअल ब्लॅकवेल प्रवेगकांसह कमाल केले जाते. त्या पार्श्वभूमीवर, सहा आकड्यांचे हॅलो स्टेशन हे आउटलायर ठरणार नाही.

हे महत्त्वाचे का आहे

हाय-एंड वर्कस्टेशन Nvidia च्या DGX लाईनला देण्याऐवजी - $3,999 डेस्कटॉपपासून डेटा-सेंटर GPU पर्यंत - AI कंप्युट स्टॅकच्या प्रत्येक स्तरावर स्पर्धा करण्याच्या AMD च्या हेतूला हॅलो स्टेशन सूचित करते. लॅबसाठी, कठोर डेटा-सार्वभौमत्वाची आवश्यकता असलेले उपक्रम आणि ज्या संशोधकांना फायरवॉलच्या मागे फ्रंटियर-स्केल मॉडेलची आवश्यकता आहे, 288GB HBM3E सह लिक्विड-कूल्ड, 96-कोर डेस्क-साइड सिस्टम क्लाउड भाड्याने देणे हा एक आकर्षक पर्याय असू शकतो.

खुल्या प्रश्नांची उत्तरे AMD ने दिलेली नाहीत: अंतिम किंमत, रिलीझची तारीख आणि कोणते OEM ते तयार करतील. भागीदार जोडल्याशिवाय मशीनने IFA मध्ये पदार्पण केले हे लक्षात घेता, ते तपशील येत्या काही महिन्यांत समोर येण्याची अपेक्षा आहे. काय आधीच स्पष्ट आहे की "वर्कस्टेशन" आणि "डेटा सेंटर" मधील सीमा पुढे सरकत राहते - आणि AMD त्यास पुढे ढकलण्याचा मानस आहे.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →