एआई बुनियादी ढांचे का अर्थशास्त्र पलट गया है। पॉज़िट्रॉन एआई के कार्यकारी कैमरून मैककस्किल के अनुसार, आज एआई बुनियादी ढांचे के माध्यम से चलने वाले लगभग दो-तिहाई कार्यभार प्रशिक्षण के बजाय अनुमान हैं, जिन्होंने एससी26 सुपरकंप्यूटिंग सम्मेलन में सीयूबीई रिसर्च के साथ एक साक्षात्कार में यह आंकड़ा साझा किया था। तीन साल पहले, विभाजन लगभग बिल्कुल विपरीत था: लगभग 85 प्रतिशत प्रशिक्षण और 15 प्रतिशत अनुमान।
यह उलटफेर चुपचाप उस मानचित्र को फिर से तैयार कर रहा है जहां एआई गणना रहती है - और यह बताता है कि क्यों अनुमान-प्रथम चिप निर्माताओं की एक नई पीढ़ी अचानक अपने से कहीं बड़ी कंपनियों से क्लाउड सौदे जीत रही है।
फ्लिप के पीछे के नंबर
पॉज़िट्रॉन में बिक्री और व्यवसाय विकास के प्रमुख मैककस्किल ने क्यूब रिसर्च के रेबेका नाइट और जॉन फ्यूरियर के साथ साक्षात्कार में कहा, "हम एक ऐसे बिंदु पर हैं जहां इन एआई बुनियादी ढांचे के माध्यम से चलाए जा रहे लगभग दो-तिहाई कार्यभार अनुमान है जबकि एक तिहाई प्रशिक्षण है।" "2023 में, यह 85% प्रशिक्षण, 15% अनुमान जैसा था। तो अब आप देख सकते हैं कि अनुमान आर्थिक निर्णयों को क्यों चला रहा है कि वे अपने बुनियादी ढांचे का निर्माण कैसे करने जा रहे हैं।"
बदलाव सहज ज्ञान युक्त होता है। प्रशिक्षण अरबों-डॉलर समूहों वाली मुट्ठी भर अग्रणी प्रयोगशालाओं में होता है। अनुमान हर जगह होता है, हर बार जब कोई उपयोगकर्ता किसी मॉडल का संकेत देता है - और जैसे-जैसे उपभोक्ता और उद्यम अपनाने में विस्फोट हुआ है, टोकन की कुल मांग ने प्रशिक्षण युग के लिए बनाए गए बुनियादी ढांचे को अभिभूत कर दिया है। पावर, कूलिंग और मेमोरी आपूर्ति अब आकार लेती है जहां कच्चे चिप प्रदर्शन के बराबर टोकन उत्पन्न होते हैं, और यह बदलता है कि कौन सा हार्डवेयर सौदे जीतता है।
कमोडिटी मेमोरी पर पॉज़िट्रॉन का दांव
पॉज़िट्रॉन एआई, जिसने सितंबर में $5 बिलियन के मूल्यांकन पर $875 मिलियन जुटाए, ने अनुमान युग के आसपास अपनी पूरी रणनीति बनाई है। कंपनी की केंद्रीय डिज़ाइन पसंद: उच्च-बैंडविड्थ मेमोरी (एचबीएम), दुर्लभ और महंगी मेमोरी प्रकार को छोड़ दें जो अधिकांश एआई एक्सेलेरेटर को एंकर करती है, और इसके बजाय कमोडिटी मेमोरी के आसपास अनुमान उपकरणों का निर्माण करती है।
मैककस्किल ने कहा, "उद्योग में बाकी सभी लोग एचबीएम या उच्च बैंडविड्थ मेमोरी का उपयोग कर रहे हैं। इसकी आपूर्ति बहुत सीमित है, बहुत महंगी है।" "हम कमोडिटी मेमोरी के साथ गए।"
सौदेबाज़ी जानबूझकर की जाती है। कमोडिटी मेमोरी सस्ती है और इसे प्राप्त करना कहीं अधिक आसान है, और पॉज़िट्रॉन का आर्किटेक्चर एयर-कूल्ड कमरों के लिए बिजली को काफी कम रखता है - किसी विदेशी तरल शीतलन की आवश्यकता नहीं है। एक पॉज़िट्रॉन सर्वर लगभग 4,500 वॉट बिजली खींचता है, और कंपनी के आगामी टाइटन सर्वर का एक पूरा रैक 40 किलोवाट के भीतर फिट बैठता है।
रोडमैप तेजी से आगे बढ़ रहा है. पॉज़िट्रॉन की पहली पीढ़ी का एटलस सर्वर एक प्रोग्रामयोग्य चिप पर चलता है, और कंपनी अगले साल की शुरुआत में टाइटन सर्वर के लिए अपने स्वयं के सिलिकॉन को टेप करने की योजना बना रही है। कंपनी पहले ही बड़ी तैनाती कर चुकी है: मैककस्किल के अनुसार, ओरेकल इस तिमाही में अपने क्लाउड में लगभग 340 एटलस सर्वर ला रहा है, और एक नियोक्लाउड प्रदाता ने आगामी टाइटन पीढ़ी के लिए प्रतिबद्ध होते हुए एटलस के लिए हस्ताक्षर किए हैं।
मॉड्यूलर डेटा सेंटर अनुमान के लिए प्राकृतिक घर बन जाते हैं
शायद साक्षात्कार का सबसे परिणामी हिस्सा वह है जहां मैकस्किल कहते हैं कि मांग आ रही है: हाइपरस्केल परिसरों से नहीं, बल्कि छोटी, तेज़, मॉड्यूलर सुविधाओं से।
उन्होंने कहा, "कंपनियों के जिन समूहों में हम अभी वृद्धि देख रहे हैं और उत्पाद के लिए हमारे पास आ रहे हैं उनमें से एक ये मॉड्यूलर डेटा सेंटर हैं, जहां उनके पास आधा मेगावाट या, 1 मेगावाट या 2.5 मेगावाट मॉड्यूलर डेटा सेंटर हैं, और इन्हें बहुत तेज़ी से तैनात किया जा सकता है।" "इनमें से बहुत से अनुमानित खिलाड़ियों का लक्ष्य यह है कि मैं 90 से 120 दिनों के भीतर जमीन और बिजली से मुद्रीकरण योग्य टोकन प्राप्त करना चाहता हूं।"
वह समय-सीमा - जमीन तोड़ने से लेकर राजस्व तक लगभग एक चौथाई - एक गीगावाट-स्केल प्रशिक्षण परिसर के लिए असंभव है, जिसे अनुमति देने, निर्माण करने और सक्रिय करने में कई साल लग सकते हैं। अनुमानित कार्यभार छोटे, भौगोलिक रूप से अधिक लचीले और उन साइटों के प्रति सहनशील होते हैं जहां ऑपरेटर भारी नियामक बाधाओं के बिना कुछ मेगावाट सस्ती बिजली पा सकते हैं। इसका परिणाम टेल्को साइटों, कोलोकेशन सुविधाओं और मॉड्यूलर इकाइयों में वितरित अनुमान बुनियादी ढांचे का एक उभरता हुआ स्तर है जहां वास्तव में मांग है।
उद्योग के लिए इसका क्या अर्थ है
चिप विक्रेताओं के लिए, संदेश यह है कि एआई हार्डवेयर बाजार विभाजित हो रहा है। सबसे उन्नत त्वरक और गहनतम जेब को पुरस्कृत करने के लिए प्रशिक्षण जारी है। अनुमान विभिन्न गुणों को पुरस्कृत करता है: बिजली दक्षता, स्मृति लागत, तैनाती की गति, और सामान्य वायु-ठंडी इमारतों में चलने की क्षमता। केवल प्रशिक्षण दौड़ के लिए अनुकूलित विक्रेताओं को भविष्य के तैनाती निर्णयों की सबसे बड़ी मात्रा मिल सकती है - जहां टोकन वास्तव में मुद्रीकृत होते हैं - बाधाओं के एक अलग सेट के लिए डिज़ाइन किए गए हार्डवेयर पर हो रहे हैं।
उद्यमों और क्लाउड ग्राहकों के लिए, बदलाव ज्यादातर अदृश्य है लेकिन तेजी से परिणामी है: 90 से 120 दिनों की वृद्धि में आने वाली अनुमान क्षमता का मतलब है उपयोगकर्ताओं और डेटा के पास मॉडल चलाने के लिए अधिक प्रतिस्पर्धी मूल्य निर्धारण और अधिक भौगोलिक विकल्प।
और एआई उद्योग की बिल्डआउट कथा के लिए - जिसे अक्सर गीगावाट परिसरों के लिए एक अंतहीन दौड़ के रूप में तैयार किया जाता है - अनुमान फ्लिप एक अनुस्मारक है कि मांग वक्र व्यापक हो रहा है, न कि केवल स्केलिंग। SC26 में उद्धृत दो-तिहाई मील का पत्थर एक कार्यकारी का अनुमान है, लेकिन यह उस दिशा से मेल खाता है जो हर प्रमुख क्लाउड ऑपरेटर ने रिपोर्ट की है: एआई बिल्डआउट का गुरुत्वाकर्षण केंद्र मॉडलों को प्रशिक्षित करने से लेकर उनकी सेवा करने की ओर बढ़ रहा है।
एआई से आगे रहें एआई बज़ वायर, एआई हार्डवेयर और इंफ्रास्ट्रक्चर समाचार के लिए आपके स्रोत के साथ नवीनतम एआई विकास को ट्रैक करें। अधिक AI समाचार पढ़ें →