सेरेब्रास ने अपने नए WSE-3 टर्बो वेफर-स्केल प्रोसेसर के आसपास निर्मित एक रैक-स्केल AI अनुमान प्रणाली CS-4 से पर्दा उठाया है, यह दावा करते हुए कि मशीन GPU-आधारित सिस्टम की तुलना में 30 गुना तेज अनुमान प्रदान करती है क्योंकि कंपनी खुद को Nvidia के डेटा सेंटर साम्राज्य के लिए गति विकल्प के रूप में पेश करती है।
लॉन्च की घोषणा मंगलवार को की गई और कंपनी के उत्पाद पृष्ठों और रॉयटर्स, ब्लूमबर्ग और द रजिस्टर से कवरेज की एक लहर के बारे में विस्तार से बताया गया, जो सार्वजनिक होने के बाद सेरेब्रस के सबसे महत्वपूर्ण हार्डवेयर रिफ्रेश को चिह्नित करता है - और उस कंपनी के लिए एक महत्वपूर्ण क्षण है जिसका स्टॉक अपने आईपीओ के बाद से संघर्ष कर रहा है। निवेशक ध्यान दे रहे हैं: इस खबर पर सेरेब्रस (सीबीआरएस) के शेयरों में उछाल आया और इन्वेस्टर्स बिजनेस डेली ने सीईओ की टिप्पणी के हवाले से कहा कि एआई अनुमान बाजार "बहुत तेजी से बढ़ रहा है।"
एआई मॉडल को तेजी से प्रतिक्रिया देने की दौड़ में तेजी लाने वाले पाठकों के लिए, सीएस -4 लॉन्च तिमाही की सबसे परिणामी हार्डवेयर कहानियों में से एक है, और यह एआई उद्योग कवरेज में व्यापक बदलावों के बीच आता है जो कंप्यूटिंग परिदृश्य को दोबारा आकार देना जारी रखता है।
सीएस-4 के अंदर क्या है
मुख्य घटक WSE-3 टर्बो है, जो सेरेब्रस के डिनर-प्लेट-आकार वाले वेफर स्केल इंजन का उन्नत संस्करण है। द रजिस्टर की तकनीकी गहराई के अनुसार, WSE-3T नया सिलिकॉन नहीं है - यह दो साल पुराने WSE-3 के समान TSMC 5nm प्रक्रिया, 46,225 वर्ग मिलीमीटर डाई क्षेत्र, 4 ट्रिलियन ट्रांजिस्टर, 900,000 कोर और 44 जीबी ऑन-वेफर SRAM को बरकरार रखता है।
इसके बजाय, सेरेब्रस ने मौजूदा चिप को और अधिक मजबूती से आगे बढ़ाकर प्रदर्शन को दोगुना कर दिया। WSE-3T विरल FP16 गणना को दोगुना करके 250 पेटाफ्लॉप्स कर देता है, घने FP16 प्रदर्शन को दोगुना करके अनुमानित 25 पेटाफ्लॉप्स कर देता है, मेमोरी बैंडविड्थ को दोगुना करके 43.2 पेटाबाइट प्रति सेकंड कर देता है, और I/O बैंडविड्थ को दोगुना करके 2.4 टेराबिट्स प्रति सेकंड कर देता है। रजिस्टर का अनुमान है कि कंपनी अब सिलिकॉन को लगभग 2.8 गीगाहर्ट्ज़ पर क्लॉक कर रही है, जो पिछली पीढ़ी में लगभग 1.4 गीगाहर्ट्ज़ से अधिक है।
सेरेब्रस के अनुसार, यह ट्रिक एक पुन: डिज़ाइन की गई बिजली वितरण प्रणाली है जो प्रोसेसर से सिर्फ 0.5 मिलीमीटर की दूरी पर है - पारंपरिक जीपीयू बोर्डों के ~50 मिलीमीटर की तुलना में लगभग 100 गुना करीब। यह निकटता बोर्ड-स्तरीय बिजली हानि को लगभग समाप्त कर देती है और वेफर तक दोगुनी बिजली पहुंचाने की अनुमति देती है, जिससे तेज टोकन पीढ़ी के पीछे उच्च परिचालन आवृत्तियों को सक्षम किया जा सकता है।
नेक्सस रैक आर्किटेक्चर
चिप से परे, CS-4 वह परिचय देता है जिसे सेरेब्रस नेक्सस प्लेटफ़ॉर्म आर्किटेक्चर कहता है, इसका पहला वास्तविक रैक-स्केल डिज़ाइन और एनवीडिया के NVL72 और AMD के हेलिओस रैक सिस्टम का सीधा जवाब है। प्रत्येक CS-4 स्व-निहित "वेफर-स्केल बैकपैक्स" में रखे गए तीन WSE-3T प्रोसेसर तक ले जा सकता है - 3D पैकेज जो वेफर को मोड़ते हैं, पावर रूपांतरण, डायरेक्ट लिक्विड कूलिंग, हाई-स्पीड I/O और 50% कम घटकों के साथ एक ही असेंबली में इलेक्ट्रॉनिक्स को नियंत्रित करते हैं।
मॉड्यूलर डिज़ाइन स्थिर पावर, कूलिंग और नेटवर्क परत को गणना से अलग करता है। कंपनी के अनुसार, किसी भी गणना के आने से पहले एक सेरेब्रस पॉवररैक स्थापित किया जा सकता है और सुविधा-योग्य बनाया जा सकता है, और फिर बैकपैक्स जगह पर स्लाइड हो जाते हैं - जिससे तैनाती का समय दिनों से घटकर घंटों में रह जाता है।
बिजली की खपत काफी है. रजिस्टर का अनुमान लगभग 46 किलोवाट प्रति बैकपैक और 120 से 140 किलोवाट का कुल सिस्टम ड्रॉ है - आकर्षक संख्याएं जो फिर भी 240 से 250 किलोवाट रैक सिस्टम एएमडी और एनवीडिया के आगे रूढ़िवादी दिखती हैं, इस साल के अंत में शिप करने की उम्मीद है।
स्विच को ख़त्म करना
शायद सबसे तकनीकी रूप से दिलचस्प विकल्प इंटरकनेक्ट है। स्विच के माध्यम से वेफर-टू-वेफर ट्रैफ़िक को रूट करने के बजाय - एडब्ल्यूएस ने अपने ट्रेनियम 3 एक्सेलेरेटर के लिए जो दृष्टिकोण अपनाया है - सेरेब्रस अपने चिप्स को 2 डी टोरस टोपोलॉजी में तार करता है जहां पड़ोसी वेफर्स एक दूसरे से सीधे बात करते हैं। डिज़ाइन वेफर-टू-वेफर विलंबता को पांच माइक्रोसेकंड से घटाकर केवल दो कर देता है, और सेरेब्रस का कहना है कि जाल 50 ट्रिलियन मापदंडों तक के मॉडल का समर्थन कर सकता है, जो वर्तमान में मौजूद किसी भी चीज़ से परे आराम से है।
गति के परिणाम आश्चर्यजनक हैं. एकल CS-4 प्रणाली पर, बेंचमार्किंग फर्म आर्टिफिशियल एनालिसिस ने gpt-oss-120b पर प्रति उपयोगकर्ता प्रति सेकंड 4,400 टोकन तक मापा - आज उपलब्ध सबसे तेज़ GPU-आधारित अनुमान सेवाओं के ~350 टोकन प्रति सेकंड का लगभग 12 गुना। सेरेब्रस का यह भी दावा है कि सिस्टम 10 ट्रिलियन मापदंडों से अधिक मॉडल पर प्रति सेकंड 1,000 से अधिक टोकन बनाए रखता है।
एक अलग साझेदारी रणनीति
विशेष रूप से, सेरेब्रस अब संपूर्ण अनुमान पाइपलाइन को अपने स्वयं के सिलिकॉन पर चलाने की कोशिश नहीं कर रहा है। कंपनी ने क्रमशः ट्रेनियम एक्सपीयू और इंस्टिंक्ट जीपीयू पर गणना-गहन प्रॉम्प्ट-प्रोसेसिंग चरण को ऑफलोड करने के लिए एडब्ल्यूएस और एएमडी के साथ साझेदारी की है, जिससे इसके वेफर-स्केल इंजन को विलंबता-संवेदनशील डिकोड चरण को संभालने के लिए छोड़ दिया गया है जहां उनके विशाल एसआरएएम रिजर्व चमकते हैं।
CS-4 लॉन्च ओपनएआई के साथ सेरेब्रा के सहयोग को भी बढ़ाता है। याहू फाइनेंस ने नई ओपनएआई और एएमडी साझेदारियों के साथ अनावरण की सूचना दी, जिसका उद्देश्य एआई अनुमान में तेजी लाना है - अल्ट्राफास्ट मोड पर निर्माण जो कंपनियों ने पहले अगस्त में पेश किया था, जिसने उपयोगकर्ताओं के लिए प्रति सेकंड 750 टोकन तक जीपीटी-5.6 सोल लाया।
हेडलाइन नंबरों के पीछे चेतावनी
उद्योग विश्लेषक विपणन आंकड़ों पर कुछ सावधानी बरतने का आग्रह करते हैं। रजिस्टर नोट करता है कि सेरेब्रस की हेडलाइन 250 पेटाफ्लॉप्स स्पार्सिटी पर निर्भर करती है, जो आम तौर पर बड़े भाषा मॉडल अनुमान का लाभ नहीं उठाती है, और पीक मेमोरी बैंडविड्थ के आंकड़े काफी हद तक सैद्धांतिक हैं क्योंकि डब्ल्यूएसई -3 में अपने स्वयं के एसआरएएम को संतृप्त करने के लिए गणना की कमी थी। प्रकाशन ने यह भी सवाल उठाया कि सेरेब्रस ने एसआरएएम क्षमता बढ़ाने के बजाय प्रदर्शन को दोगुना क्यों कर दिया, जो कि पांच साल पहले डब्ल्यूएसई -2 लॉन्च होने के बाद से सार्थक रूप से विकसित नहीं हुआ है - अलग-अलग अनुमान के युग में एक जिज्ञासु विकल्प जहां डिकोड त्वरक मेमोरी से सबसे अधिक लाभान्वित होते हैं।
फिर भी, बाज़ार का अवसर वास्तविक है। चूंकि एआई चैटबॉट और एजेंट तेजी से प्रतिक्रिया समय की मांग करते हैं, अनुमान की गति एक वास्तविक प्रतिस्पर्धी विभेदक बन गई है, और सेरेब्रस ने अब प्रदर्शित किया है कि यह व्यावसायिक ताल पर अपनी अपरंपरागत वेफर-स्केल तकनीक को दोहरा सकता है।
पहला सीएस-4 शिपमेंट इस तिमाही में शुरू होगा, सितंबर के अंत से पहले पहला सिस्टम ऑनलाइन होने की उम्मीद है। यह देखना अभी बाकी है कि एनवीडिया के प्रभुत्व को नुकसान पहुंचाने के लिए यह पर्याप्त है या नहीं - लेकिन कुछ समय में पहली बार, उद्योग में सबसे तेज़ एआई अनुमान को एक नया पता मिला है।
एआई से आगे रहें
हार्डवेयर CS-4 की तरह बाज़ार में लॉन्च होता है और AI सिस्टम क्या कर सकता है, इसे फिर से परिभाषित करता है। अधिक एआई समाचार पढ़ें हर विकास पर नजर रखने के लिए।
नवीनतम एआई कवरेज का अन्वेषण करें →
