सेरेब्रास सिस्टीम्सने सांगितले की त्यांनी उत्पादनामध्ये भिन्न अनुमान लावले आहे, पारंपारिक GPUs आणि त्याच्या वेफर-स्केल प्रोसेसरमध्ये AI अनुमान वर्कलोडचे विभाजन करून एका कॉन्फिगरेशनमध्ये कंपनीचा दावा आहे की जनरेशनच्या गतीचा त्याग न करता प्रति मेगावाट पाचपट जास्त टोकन वितरित करते.

17 नोव्हेंबर 2026 रोजी कंपनीच्या ब्लॉगवर प्रकाशित झालेली घोषणा, ज्या कंपनीने त्याचे वेफर स्केल इंजिनला पूरक न होता GPU-आधारित अनुमानाला पर्याय म्हणून अनेक वर्षे घालवले आहेत, त्यांच्यासाठी एक उल्लेखनीय बदल आहे. आता, सेरेब्रास म्हणतो की GPUs प्रॉम्प्ट-प्रोसेसिंग स्टेज हाताळतात तर त्याच्या स्वतःच्या सिस्टम टोकन-जनरेशन स्टेज हाताळतात. For more context on this story, see our ongoing AI industry coverage.

अनुमान दोन मध्ये का विभाजित करा?

अनुमान दोन टप्प्यात होते. प्रीफिल वापरकर्त्याच्या प्रॉम्प्टवर प्रक्रिया करते आणि मध्यवर्ती मॉडेल स्थिती तयार करते. डीकोड नंतर आउटपुट टोकन व्युत्पन्न करण्यासाठी त्या स्थितीचा वापर करते, एका वेळी एक, ऑटोरिग्रेसिव्ह लूपमध्ये जे प्रतिसादाच्या प्रत्येक शब्दासाठी पुनरावृत्ती होते.

दोन टप्प्यात खूप भिन्न संगणकीय प्रोफाइल आहेत. प्रीफिल हे कॉम्प्युट-हेवी आणि समांतर आहे, जिथे GPUs उत्कृष्ट आहेत. डीकोड हे मेमरी-बँडविड्थ-बाउंड आणि अनुक्रमिक आहे, जेथे सेरेब्रासचे म्हणणे आहे की त्याच्या वेफर-स्केल आर्किटेक्चरचा फायदा आहे, कारण संपूर्ण मॉडेल सिलिकॉनच्या एका तुकड्यावर इंटर-चिप संप्रेषणाशिवाय बसू शकते जे पिढी दरम्यान GPU क्लस्टर्सची गती कमी करते.

कंपनीने वर्कलोड विभाजित करण्याच्या इतर पद्धतींचा प्रयोग केला होता. त्याच्या ब्लॉग पोस्टमध्ये, सेरेब्रासने मसुदा-लक्ष्य योजनांची यादी केली आहे, ज्यामध्ये एक लहान मॉडेल टोकन प्रस्तावित करते आणि एक मोठे मॉडेल त्यांची पडताळणी करते आणि विचारात घेतलेल्या पर्यायांमध्ये लक्ष-FFN वेगळे करणे. परंतु ते असा युक्तिवाद करते की डीकोडपासून प्रीफिल वेगळे करणे हे अत्यंत परस्परसंवादी ऍप्लिकेशन्ससाठी अद्वितीयपणे अनुकूल आहे, कारण डीकोड स्टेज सेरेब्रासची स्वाक्षरी अल्ट्राफास्ट जनरेशन गती अबाधित ठेवते.

दाव्यामागील संख्या

घोषणेनुसार, वेगळे केलेले कॉन्फिगरेशन आता सेरेब्रास इन्फेरेन्स क्लाउडमध्ये थेट आहे आणि कंपनी आधीच सेवा देत असलेल्या त्याच पिढीच्या गतीने प्रति मेगावाट पाचपट जास्त टोकन वितरित करते. सेरेब्रास म्हणतात की पायाभूत सुविधा भागीदार त्यांच्या स्वतःच्या डेटा सेंटरमध्ये समान विभाजित आर्किटेक्चर देखील तैनात करू शकतात.

आर्थिक तर्क सरळ आहे. अनुमान प्रदाते प्रति टोकन महसूल कमावतात आणि शक्ती ही क्षमतेवर बंधनकारक बंधन असते. जर समान मेगावाट टोकनच्या पाचपट उत्पन्न देत असेल, तर तीच सुविधा प्रमाणानुसार अधिक कमाईची क्षमता निर्माण करते, जी कंपनी एकत्रित आणि भिन्न सर्व्हिंग कॉन्फिगरेशनची तुलना करणाऱ्या सारणीसह स्पष्ट करते.

उद्योगाला मिळू शकणाऱ्या प्रत्येक कार्यक्षमतेच्या लाभाची गरज आहे असा युक्तिवाद करण्यासाठी ही घोषणा मागणीच्या अंदाजांवर देखील झुकते. गोल्डमन सॅक्स रिसर्चचा हवाला देऊन, सेरेब्रास म्हणतात की AI अनुमानाची मागणी 2030 पर्यंत 2026 च्या पातळीपेक्षा 24 पटीने वाढण्याचा अंदाज आहे, तर डेटा सेंटरची क्षमता त्याच कालावधीत केवळ 2.2-पटींनी वाढेल. दोन्ही अंदाज धारण केल्यास, वापरकर्त्यांना काय चालवायचे आहे आणि कोणत्या सुविधा मिळू शकतात यामधील अंतर 2020 च्या उत्तरार्धात AI बिल्डआउटची निर्णायक मर्यादा बनते.

एजंटिक ऍप्लिकेशन्स क्रंच वाढवतात

कंपनीने मागणी वाढण्याचे श्रेय 2026 मध्ये वेगाने वाढणाऱ्या एजंटिक ऍप्लिकेशन्सना दिले आहे, ज्यांना वापरकर्त्यांना गुंतवून ठेवण्यासाठी अत्यंत परस्परसंवादी अनुमान आवश्यक असलेल्या उत्पादनांची उदाहरणे म्हणून Muse, Copilot आणि Codex यांना नावे दिली आहेत. संभाषणात्मक एजंट जे टोकनद्वारे प्रतिसादांना प्रवाहित करतात ते अचूकपणे वर्कलोड्स असतात जेथे जनरेशन गती हे बॅक-एंड मेट्रिकऐवजी वापरकर्त्याला तोंड देणारे वैशिष्ट्य असते.

सेरेब्रास प्रक्षेपण मोठ्या क्षमतेच्या पुशमध्ये स्थित आहे. कंपनीने नुकत्याच घोषित केलेल्या CS-4 प्रणालीकडे लक्ष वेधले आहे, तिच्या उत्पादन उत्पादनाचे नाट्यमय स्केलिंग आणि अंदाजे 700 मेगावाट क्षमतेची नियोजित डेटा सेंटर क्षमता 2027 आणि त्यापुढील काळात तिला आणि तिच्या भागीदारांना अधिक ट्रॅफिक देऊ करेल.

वेफर-स्केलसाठी एक व्यावहारिक वळण

धोरणात्मकदृष्ट्या, घोषणा GPU वर्चस्वाचे व्यावहारिक निवास म्हणून वाचते. ग्राहकांना संपूर्ण अनुमान पाइपलाइन विदेशी सिलिकॉनवर हलवण्यास सांगण्याऐवजी, सेरेब्रास श्रम विभागणीचा प्रस्ताव देत आहे: GPU ला ते ज्यासाठी अनुकूल आहेत ते करू द्या आणि वेफर-स्केल हार्डवेअरला ते सर्वोत्तम करू द्या. वाढती मागणी आणि उर्जा मर्यादा यांच्यात दाबलेल्या अनुमान प्रदात्यांसाठी, खेळपट्टी ही क्षमता आहे जी ते नवीन पिढीच्या हार्डवेअरची वाट न पाहता जोडू शकतात.

पाचपट कार्यक्षमतेचा दावा विविध मॉडेल आर्किटेक्चर्स आणि वास्तविक-जागतिक रहदारी मिक्समध्ये आहे की नाही हे केवळ स्पष्ट होईल जेव्हा भागीदार मोठ्या प्रमाणात कॉन्फिगरेशन उपयोजित करतात. परंतु संपूर्ण उद्योगात प्रवासाची दिशा स्पष्ट आहे. प्रबळ गणना वर्कलोड म्हणून अनुमान प्रशिक्षणाची जागा घेत असल्याने, प्रत्येक प्रमुख हार्डवेअर विक्रेता जनरेशनच्या दोन टप्प्यांचे विभाजन, पॉवर आणि किंमत कशी असावी याचे पुन्हा परीक्षण करत आहे.

हे GPU-नेटिव्ह ॲप्रोचशी कसे तुलना करते

मुख्य हायपरस्केल अनुमान प्रदात्यांनी त्यांच्या स्वत: च्या भिन्नता धोरणांचा पाठपुरावा केला आहे, विशेषत: प्रत्येक उद्देशासाठी GPU कुटुंबांवरील दोन्ही टप्पे ट्यून केले आहेत. सेरेब्रासचे प्रकार विक्रेत्याच्या ओळी ओलांडण्यासाठी विशिष्ट आहे: कंपनीने पुष्टी केली की AMD GPUs त्याच्या उत्पादन कॉन्फिगरेशनमध्ये प्रीफिल स्टेज हाताळतात, सेरेब्रास सिस्टम डीकोडसाठी जबाबदार आहेत. ऑपरेटर्ससाठी ही विषमता महत्त्वाची आहे, कारण ती प्रीफिल आणि डीकोड यांना एकाच इंटिग्रेटेड स्टॅकऐवजी स्वतंत्रपणे खरेदी करण्यायोग्य वस्तू मानते.

कंपनीच्या प्रकाशित परिणामांवर जोर देण्यात आला आहे की स्प्लिट कार्यक्षमतेसाठी व्यापार करण्याऐवजी जनरेशन गती टिकवून ठेवते. हा फरक विभक्त सर्व्हिंगच्या दीर्घकाळ टिकलेल्या टीकेला संबोधित करतो: स्वतंत्रपणे बॅचिंग प्रीफिल पहिल्या टोकनमध्ये विलंबता जोडू शकते आणि डीकोड लूप कमी करणारे कोणतेही कॉन्फिगरेशन प्रीमियम अनुमान सेवा विकल्या जाणाऱ्या परस्परसंवादी भावनांना कमी करते. सेरेब्रासचा दावा आहे की तिची व्यवस्था दोन्ही दंड टाळते, जरी विविध प्रॉम्प्ट लांबी आणि रहदारीचे नमुने यांमधील स्वतंत्र बेंचमार्क ही खरी कसोटी असेल.

पायाभूत सुविधांच्या शर्यतीचा मागोवा घेणाऱ्या AI Buzz Wire वाचकांसाठी, सेरेब्रासचा संदेश असा आहे की एक-चिप-फिट-ऑल इन्फरन्सचे युग हेतूने तयार केलेल्या पाइपलाइनला मार्ग देत आहे — आणि कंपनी त्यांच्यापैकी अर्ध्या डीकोडच्या मालकीचा आहे.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →