क्वालकॉम के मुख्य कार्यकारी का कहना है कि सबसे बड़ी एआई कंपनियां उनसे कुछ ऐसा करने के लिए कह रही हैं जिसे मौजूदा स्मार्टफोन पूरा नहीं कर सकते: 2028 तक लगातार फोन पर 100-बिलियन-पैरामीटर मॉडल चलाना।
8 अक्टूबर को एक साक्षात्कार में बोलते हुए, जो फॉर्च्यून द्वारा रिपोर्ट किया गया था और इस सप्ताह TOKENPOST और स्टार्टअप फॉर्च्यून सहित आउटलेट्स द्वारा उठाया गया था, क्रिस्टियानो अमोन ने कहा कि कई एआई कंपनियां - जिनके नाम उन्होंने देने से इनकार कर दिया - ऐसे स्मार्टफोन पर जोर दे रहे हैं जो 100-बिलियन-पैरामीटर मॉडल को चौबीसों घंटे चालू रख सकते हैं। क्लाउड से जेब और कलाई में एआई के बदलाव का अनुसरण करने वाले पाठकों के लिए, यह अब तक का सबसे स्पष्ट मांग संकेत है, और हमारा [एआई हार्डवेयर समाचार] (https://aibuzzwire.news) अनुभाग ट्रैक करता है कि वह धक्का आगे कहां जाता है।
मांग एआई लैब्स से आती है, क्वालकॉम के रोडमैप से नहीं
संख्या इस बात से मायने रखती है कि यह कहाँ से आती है। आमोन क्वालकॉम के अपने उत्पाद लक्ष्य की घोषणा नहीं कर रहा था; वह बता रहे थे कि एआई प्रयोगशालाएं दुनिया की सबसे बड़ी मोबाइल चिप निर्माता कंपनी को क्या बता रही हैं जिसे वे बनाना चाहते हैं। आज के फ्लैगशिप चिप्स उस आंकड़े से काफी नीचे हैं - स्नैपड्रैगन 8 एलीट एक्सट्रीम जेन 6, क्वालकॉम का उच्चतम-अंत मोबाइल प्लेटफॉर्म, लगभग 32,000 टोकन की संदर्भ विंडो के साथ, डिवाइस पर 30 बिलियन मापदंडों से ऊपर के विशेषज्ञों के मॉडल चला सकता है।
बिना रुके चलने वाला 100 बिलियन-पैरामीटर वाला मॉडल उस सीमा से तीन गुना अधिक है, और यह इंजीनियरिंग समस्या को केवल डिग्री में नहीं, बल्कि प्रकार में बदल देता है। जैसा कि स्टार्टअप फॉर्च्यून की रिपोर्ट में कहा गया है, अनुरोध पहले से ही उपयोग किए जा रहे सहायक के बड़े संस्करण के लिए नहीं है। यह एजेंटिक एआई के लिए है: सॉफ्टवेयर जो किसी संकेत की प्रतीक्षा करने के बजाय उपयोगकर्ता की ओर से देखता है, कारण बताता है और कार्य करता है, जिसका अर्थ है कि मॉडल को मेमोरी में रहना होगा और बैटरी या चेसिस को पकाए बिना पूरे दिन पृष्ठभूमि में अनुमान लगाना जारी रखना होगा।
स्मृति बाधा क्यों है
30 अरब और 100 अरब मापदंडों के बीच का अंतर मूल रूप से एक स्मृति समस्या है। ऑन-डिवाइस मॉडल के वजन को रैम में रहना पड़ता है, और पैरामीटर गिनती को तीन गुना करने के साथ-साथ अनुमान को लगातार चालू रखने से मेमोरी बैंडविड्थ और बिजली की मांग कई गुना बढ़ जाती है, वर्तमान फ्लैगशिप हार्डवेयर को कभी भी अवशोषित करने के लिए डिज़ाइन नहीं किया गया था।
अमोन ने स्वीकार किया कि स्मार्टफोन के लिए मेमोरी चिप की आपूर्ति एक "अस्थायी बाधा" के तहत है - वही कमी जिसने इस साल उद्योग भर में फोन की कीमतों को बढ़ा दिया है - लेकिन उन्होंने इसे दबाव के रूप में तैयार किया है जो अधिक मेमोरी के बजाय अधिक मेमोरी-कुशल चिप डिजाइन को मजबूर करेगा। यह क्वालकॉम के हालिया सिलिकॉन विकल्पों के साथ ट्रैक करता है: 8 एलीट एक्सट्रीम जेन 6 अपने हेक्सागोन एनपीयू को एक नए एलिमेंट एक्सेलेरेटर और एक बड़े साझा मेमोरी पूल के साथ जोड़ता है ताकि विशेष रूप से ऑन-डिवाइस मिश्रण-विशेषज्ञों के अनुमान के लिए विलंबता और पावर ड्रॉ को जांच में रखा जा सके।
चिप्स जिन्हें अंतर पाटना है
क्वालकॉम की वर्तमान फ्लैगशिप पीढ़ी - स्नैपड्रैगन 8 एलीट जेन 6 और 8 एलीट एक्सट्रीम जेन 6, जो 2 एनएम प्रक्रिया पर निर्मित है - ऑनर, आईक्यूओओ, मोटोरोला, वनप्लस, ओप्पो, रेडमी, रेडमैजिक, विवो और श्याओमी के 2027 के फ्लैगशिप फोन को पावर देने के लिए तैयार है, जिसमें सैमसंग गैलेक्सी एस27 क्लास जैसे डिवाइस रेंज के शीर्ष पर होने की उम्मीद है। यदि एआई उद्योग की 2028 की इच्छा सूची को पूरा करना है, तो यह चिप चक्र और इसके बाद का चिप चक्र है, जिसे शर्ट की जेब में फ्रंटियर-स्केल मॉडल को जीवित रखने के लिए मेमोरी आर्किटेक्चर, थर्मल और बैटरी दक्षता प्रदान करनी होगी।
फॉर्च्यून की रिपोर्ट के अनुसार, अमोन ने यह भी कहा कि क्वालकॉम लगभग सभी प्रमुख एआई खिलाड़ियों के साथ अज्ञात हार्डवेयर परियोजनाओं पर काम कर रहा है, जिसमें फोन से परे डिवाइस श्रेणियां भी शामिल हैं। यह स्नैपड्रैगन सिलिकॉन को एज एआई के लिए डिफ़ॉल्ट अनुमान परत के रूप में स्थापित करने की कंपनी की हालिया मुद्रा के अनुरूप है, जहां भी यह उतरता है - फोन, कार, पीसी और चश्मा।
निरंतर ऑन-डिवाइस AI का वास्तव में क्या मतलब होगा
यदि एआई कंपनियों को वह मिल जाता है जो वे मांग रही हैं, तो परिवर्तन कॉस्मेटिक के बजाय संरचनात्मक होगा। एक मॉडल जो पूरे दिन पृष्ठभूमि में चलता है, संदर्भ का निरीक्षण कर सकता है, जरूरतों का अनुमान लगा सकता है और डेटा सेंटर तक चक्कर लगाए बिना कार्य कर सकता है - जिसका अर्थ है कम विलंबता, बेहतर गोपनीयता और प्रति-क्वेरी क्लाउड लागत नहीं। इसका मतलब यह भी है कि ऐसे बाजार में जहां मेमोरी की कीमत पहले से ही बढ़ी हुई है, आज के फ्लैगशिप की तुलना में बड़े, तेज, अधिक बिजली की खपत करने वाली मेमोरी वाले फोन होंगे।
यहां लागू करने के लिए स्वस्थ संदेह है। चिप अधिकारियों ने पहले भी बोल्ड ऑन-डिवाइस एआई भविष्यवाणियां की हैं, और 2028 इतना दूर है कि दावा आंशिक रूप से मेमोरी आपूर्तिकर्ताओं, फोन निर्माताओं और एआई प्रयोगशालाओं के साथ बातचीत की स्थिति के रूप में कार्य करता है। लेकिन अनुरोध की दिशा उल्लेखनीय है: एआई कंपनियां इस बार तेज़ क्लाउड जीपीयू की मांग नहीं कर रही हैं। वे ऐसा फोन मांग रहे हैं जो सोचना कभी बंद न करे।
चाहे क्वालकॉम के ग्राहक उस डिवाइस को 2028 में या उसके बाद शिप करें, देखने की बाधा पैरामीटर नहीं है - यह प्रति वाट मेमोरी बैंडविड्थ है। रेडमंड या सैन डिएगो या ताइपे में जो कंपनी इसे हल करेगी, वही फ्लैगशिप फोन की अगली परिभाषा की मालिक होगी।
एआई से आगे रहें
चिप युद्ध, मॉडल लॉन्च और एज एआई सफलताएँ - प्रचार के बिना कवर की गईं।
अधिक AI समाचार पढ़ें →
