सेरेब्रस सिस्टम्स ने कहा कि उसने उत्पादन में अलग-अलग अनुमान लगाया है, पारंपरिक जीपीयू और इसके वेफर-स्केल प्रोसेसर के बीच एआई अनुमान वर्कलोड को एक कॉन्फ़िगरेशन में विभाजित किया है, कंपनी का दावा है कि पीढ़ी की गति का त्याग किए बिना प्रति मेगावाट पांच गुना अधिक टोकन वितरित करता है।
17 नवंबर, 2026 को कंपनी के ब्लॉग पर प्रकाशित घोषणा, उस कंपनी के लिए एक उल्लेखनीय बदलाव का प्रतीक है जिसने अपने वेफर स्केल इंजन को पूरक के बजाय जीपीयू-आधारित अनुमान के विकल्प के रूप में स्थापित करने में वर्षों बिताए हैं। अब, सेरेब्रस का कहना है कि जीपीयू प्रॉम्प्ट-प्रोसेसिंग चरण को संभालते हैं जबकि इसके अपने सिस्टम टोकन-जेनरेशन चरण को संभालते हैं। For more context on this story, see our ongoing more AI stories.
अनुमान को दो भागों में क्यों विभाजित किया गया?
अनुमान दो चरणों में होता है। प्रीफ़िल उपयोगकर्ता के संकेत को संसाधित करता है और एक मध्यवर्ती मॉडल स्थिति उत्पन्न करता है। डिकोड तब उस स्थिति का उपयोग आउटपुट टोकन उत्पन्न करने के लिए करता है, एक समय में एक, एक ऑटोरेग्रेसिव लूप में जो प्रतिक्रिया के प्रत्येक शब्द के लिए दोहराता है।
दोनों चरणों में बहुत भिन्न कम्प्यूटेशनल प्रोफ़ाइल हैं। प्रीफ़िल गणना-भारी और समानांतर है, यहीं पर जीपीयू उत्कृष्टता प्राप्त करता है। डिकोड मेमोरी-बैंडविड्थ-बाउंड और अनुक्रमिक है, जहां सेरेब्रस का तर्क है कि इसका वेफर-स्केल आर्किटेक्चर लाभ रखता है, क्योंकि पूरा मॉडल इंटर-चिप संचार के बिना सिलिकॉन के एक टुकड़े पर बैठ सकता है जो पीढ़ी के दौरान जीपीयू क्लस्टर को धीमा कर देता है।
कंपनी ने कार्यभार बांटने के अन्य तरीकों का प्रयोग किया था। अपने ब्लॉग पोस्ट में, सेरेब्रस ड्राफ्ट-लक्ष्य योजनाओं को सूचीबद्ध करता है, जिसमें एक छोटा मॉडल टोकन का प्रस्ताव करता है और एक बड़ा मॉडल उन्हें सत्यापित करता है, और जिन विकल्पों पर विचार किया जाता है, उनके बीच ध्यान-एफएफएन पृथक्करण होता है। लेकिन इसका तर्क है कि डिकोड से प्रीफिल को अलग करना अत्यधिक इंटरैक्टिव अनुप्रयोगों के लिए विशिष्ट रूप से अनुकूल है, क्योंकि डिकोड चरण सेरेब्रस के हस्ताक्षर अल्ट्राफास्ट पीढ़ी की गति को बरकरार रखता है।
दावे के पीछे के नंबर
घोषणा के अनुसार, अलग-अलग कॉन्फ़िगरेशन अब सेरेब्रस इन्फ़रेंस क्लाउड में लाइव है और उसी पीढ़ी की गति पर प्रति मेगावाट पांच गुना अधिक टोकन वितरित करता है जो कंपनी पहले से ही सेवा दे रही थी। सेरेब्रस का कहना है कि बुनियादी ढांचे के भागीदार अपने स्वयं के डेटा केंद्रों में भी समान विभाजित आर्किटेक्चर को तैनात कर सकते हैं।
आर्थिक तर्क सीधा है. अनुमान प्रदाता प्रति टोकन राजस्व अर्जित करते हैं, और शक्ति क्षमता पर बाध्यकारी बाधा है। यदि एक ही मेगावाट पांच गुना टोकन पैदा करता है, तो वही सुविधा आनुपातिक रूप से अधिक राजस्व क्षमता उत्पन्न करती है, जिसे कंपनी एकत्रित और अलग-अलग सेवा कॉन्फ़िगरेशन की तुलना करने वाली तालिका के साथ दर्शाती है।
यह घोषणा मांग के पूर्वानुमानों पर भी आधारित है ताकि यह तर्क दिया जा सके कि उद्योग को हर संभव दक्षता लाभ की आवश्यकता है। गोल्डमैन सैक्स रिसर्च का हवाला देते हुए, सेरेब्रस का कहना है कि एआई अनुमान की मांग 2030 तक 2026 के स्तर से लगभग 24 गुना बढ़ने का अनुमान है, जबकि इसी अवधि में डेटा सेंटर की क्षमता केवल 2.2 गुना बढ़ती है। यदि दोनों अनुमान सही रहते हैं, तो उपयोगकर्ता क्या चलाना चाहते हैं और कौन सी सुविधाएं बिजली दे सकती हैं, के बीच का अंतर 2020 के अंत में एआई बिल्डआउट की परिभाषित बाधा बन जाता है।
एजेंट एप्लिकेशन संकट को बढ़ाते हैं
कंपनी 2026 में तेजी से बढ़ रहे एजेंटिक अनुप्रयोगों के लिए मांग में वृद्धि का श्रेय देती है, म्यूज़, कोपायलट और कोडेक्स को ऐसे उत्पादों के उदाहरण के रूप में नामित करती है जिन्हें उपयोगकर्ताओं को जोड़े रखने के लिए अत्यधिक इंटरैक्टिव अनुमान की आवश्यकता होती है। संवादात्मक एजेंट जो प्रतिक्रियाओं को टोकन दर टोकन स्ट्रीम करते हैं, वे बिल्कुल वर्कलोड होते हैं जहां पीढ़ी की गति बैक-एंड मीट्रिक के बजाय उपयोगकर्ता-सामना करने वाली सुविधा होती है।
सेरेब्रस लॉन्च को व्यापक क्षमता के दायरे में रखता है। कंपनी अपनी हाल ही में घोषित CS-4 प्रणाली, अपने विनिर्माण उत्पादन के नाटकीय विस्तार और लगभग 700 मेगावाट की योजनाबद्ध डेटा सेंटर क्षमता की ओर इशारा करती है, जो इसे और इसके भागीदारों को 2027 और उसके बाद काफी अधिक ट्रैफ़िक प्रदान करने में सक्षम बनाएगी।
वेफर-स्केल के लिए एक व्यावहारिक मोड़
रणनीतिक रूप से, घोषणा को GPU प्रभुत्व के व्यावहारिक समायोजन के रूप में पढ़ा जाता है। ग्राहकों से संपूर्ण अनुमान पाइपलाइनों को विदेशी सिलिकॉन पर स्थानांतरित करने के लिए कहने के बजाय, सेरेब्रस श्रम के विभाजन का प्रस्ताव कर रहा है: जीपीयू को वह करने दें जिसके लिए वे अनुकूलित हैं, और वेफर-स्केल हार्डवेयर को वह करने दें जो वह सबसे अच्छा करता है। बढ़ती मांग और बिजली की कमी के बीच फंसे अनुमान प्रदाताओं के लिए, पिच वह क्षमता है जिसे वे नई पीढ़ी के हार्डवेयर की प्रतीक्षा किए बिना जोड़ सकते हैं।
क्या पांच-गुना दक्षता का दावा विभिन्न मॉडल आर्किटेक्चर और वास्तविक दुनिया के ट्रैफ़िक मिश्रणों पर खरा उतरता है, यह केवल तभी स्पष्ट हो जाएगा जब भागीदार बड़े पैमाने पर कॉन्फ़िगरेशन को तैनात करेंगे। लेकिन पूरे उद्योग में यात्रा की दिशा स्पष्ट है। जैसा कि अनुमान ने प्रशिक्षण को प्रमुख गणना कार्यभार के रूप में प्रतिस्थापित कर दिया है, प्रत्येक प्रमुख हार्डवेयर विक्रेता फिर से जांच कर रहा है कि पीढ़ी के दो चरणों को कैसे विभाजित, संचालित और मूल्य निर्धारण किया जाना चाहिए।
इसकी तुलना जीपीयू-मूल दृष्टिकोण से कैसे की जाती है
प्रमुख हाइपरस्केल अनुमान प्रदाताओं ने अपनी स्वयं की पृथक्करण रणनीतियों को अपनाया है, आमतौर पर प्रत्येक उद्देश्य के लिए जीपीयू परिवारों पर दोनों चरणों को ध्यान में रखते हुए। सेरेब्रस का संस्करण विक्रेता लाइनों को पार करने में विशिष्ट है: कंपनी ने पुष्टि की है कि एएमडी जीपीयू अपने उत्पादन कॉन्फ़िगरेशन में प्रीफिल चरण को संभालते हैं, सेरेब्रस सिस्टम डिकोड के लिए जिम्मेदार होते हैं। यह विविधता ऑपरेटरों के लिए मायने रखती है, क्योंकि यह प्रीफ़िल और डिकोड को एकल एकीकृत स्टैक के बजाय अलग-अलग खरीद योग्य वस्तुओं के रूप में मानती है।
कंपनी के प्रकाशित परिणाम इस बात पर जोर देते हैं कि विभाजन दक्षता के लिए व्यापार करने के बजाय पीढ़ी की गति को संरक्षित करता है। यह अंतर अलग-अलग सर्विंग की लंबे समय से चली आ रही आलोचना को संबोधित करता है: प्रीफिल को अलग से बैचने से पहले टोकन में विलंबता जुड़ सकती है, और कोई भी कॉन्फ़िगरेशन जो डिकोड लूप को धीमा कर देता है, वह इंटरैक्टिव अनुभव को कमजोर कर देता है जो प्रीमियम अनुमान सेवाएं बेचती हैं। सेरेब्रस का दावा है कि इसकी व्यवस्था दोनों दंडों से बचती है, हालांकि विभिन्न त्वरित लंबाई और ट्रैफ़िक पैटर्न में स्वतंत्र बेंचमार्क वास्तविक परीक्षा होगी।
बुनियादी ढांचे की दौड़ पर नज़र रखने वाले एआई बज़ वायर पाठकों के लिए, सेरेब्रस का संदेश यह है कि एक-चिप-सभी के लिए उपयुक्त अनुमान का युग उद्देश्य-निर्मित पाइपलाइनों को रास्ता दे रहा है - और कंपनी उनमें से आधे को डीकोड करने का इरादा रखती है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →