क्वालकॉमचे मुख्य कार्यकारी म्हणतात की सर्वात मोठ्या AI कंपन्या त्याला असे काहीतरी विचारत आहेत जे सध्याच्या स्मार्टफोन्सच्या जवळपास येऊ शकत नाहीत: 2028 पर्यंत फोनवरच 100-अब्ज-पॅरामीटर मॉडेल्स सतत चालवणे.

8 ऑक्टोबर रोजी फॉर्च्युनने नोंदवलेल्या एका मुलाखतीत बोलताना आणि या आठवड्यात TOKENPOST आणि स्टार्टअप फॉर्च्युनसह आउटलेट्सद्वारे उचलले गेले, क्रिस्टियानो आमोन म्हणाले की अनेक AI कंपन्या - ज्यांची नावे त्यांनी देण्यास नकार दिला - अशा स्मार्टफोनसाठी जोर देत आहेत जे 100-बिलियन पॅरामीटर मॉडेल चोवीस तास चालू ठेवू शकतात. क्लाउडमधून AI खिशात आणि मनगटात बदलल्यानंतर वाचकांसाठी, हा आत्तापर्यंतचा सर्वात स्पष्ट मागणी सिग्नल आहे आणि आमचा AI हार्डवेअर न्यूज विभाग तो पुढे कुठे जातो याचा मागोवा घेतो.

ही मागणी AI लॅबकडून येते, Qualcomm च्या रोडमॅपमधून नाही

संख्या महत्त्वाची आहे कारण ती कुठून येते. आमोन क्वालकॉमचे स्वतःचे उत्पादन लक्ष्य जाहीर करत नव्हते; जगातील सर्वात मोठ्या मोबाईल चिपमेकरला जे एआय लॅब सांगत आहेत ते ते तयार करू इच्छितात ते ते सांगत होते. आजच्या फ्लॅगशिप चिप्स त्या आकड्यापेक्षा खूप कमी आहेत — Snapdragon 8 Elite Extreme Gen 6, Qualcomm चे सर्वोच्च-एंड मोबाइल प्लॅटफॉर्म, 32,000 टोकन्सच्या संदर्भ विंडोसह, 30 अब्ज पॅरामीटर्स वरील तज्ज्ञ मॉडेल चालवू शकतात.

नॉनस्टॉप चालणारे 100-अब्ज-पॅरामीटर मॉडेल हे कमाल मर्यादेपेक्षा तिप्पट आहे आणि ते अभियांत्रिकी समस्या केवळ पदवीमध्ये बदलत नाही. स्टार्टअप फॉर्च्युनच्या अहवालात नमूद केल्याप्रमाणे, ही विनंती सहाय्यक लोक आधीपासून वापरत असलेल्या मोठ्या आवृत्तीसाठी नाही. हे एजंटिक AI: सॉफ्टवेअरसाठी आहे जे प्रॉम्प्टची वाट पाहण्याऐवजी वापरकर्त्याच्या वतीने पाहते, कारणे दाखवते आणि कार्य करते, याचा अर्थ मॉडेलला मेमरीमध्ये राहावे लागते आणि बॅटरी किंवा चेसिस न शिजवता दिवसभर बॅकग्राउंडमध्ये अनुमान काढत राहावे लागते.

मेमरी ही अडचण का आहे

30 अब्ज आणि 100 अब्ज पॅरामीटर्समधील अंतर ही मूलभूतपणे मेमरी समस्या आहे. ऑन-डिव्हाइस मॉडेलचे वजन RAM मध्ये राहणे आवश्यक आहे, आणि पॅरामीटर संख्या तिप्पट करणे तसेच अनुमान सतत चालू ठेवल्याने मेमरी बँडविड्थ आणि पॉवर मागणी अशा प्रकारे गुणाकार होते की वर्तमान फ्लॅगशिप हार्डवेअर कधीही शोषून घेण्यासाठी डिझाइन केलेले नव्हते.

ॲमॉनने कबूल केले की स्मार्टफोनसाठी मेमरी चिपचा पुरवठा "तात्पुरती मर्यादा" अंतर्गत आहे - त्याच कमतरतेमुळे या वर्षी संपूर्ण उद्योगात फोनच्या किमती वाढल्या आहेत - परंतु त्याने ते दबाव म्हणून तयार केले जे फक्त अधिक मेमरीऐवजी अधिक मेमरी-कार्यक्षम चिप डिझाइनला भाग पाडेल. ते Qualcomm च्या अलीकडील सिलिकॉन निवडींचा मागोवा घेते: 8 Elite Extreme Gen 6 त्याच्या Hexagon NPU ला नवीन एलिमेंट एक्सीलरेटर आणि मोठ्या सामायिक मेमरी पूलसह जोडते विशेषत: ऑन-डिव्हाइस मिश्रण-ऑफ-एक्सपर्ट अनुमान तपासण्यासाठी विलंब आणि पॉवर ड्रॉ ठेवण्यासाठी.

चिप्स ज्यांना अंतर कमी करावे लागेल

Qualcomm ची सध्याची फ्लॅगशिप जनरेशन - स्नॅपड्रॅगन 8 Elite Gen 6 आणि 8 Elite Extreme Gen 6, 2nm प्रक्रियेवर तयार केली गेली आहे - 2027 चे फ्लॅगशिप फोन Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, Samsung, vivo आणि X7x या क्लास सारख्या सॅमसंग क्लाससह S7 मधील फ्लॅगशिप फोन्सवर सामील होणार आहेत. श्रेणीच्या शीर्षस्थानी. जर AI उद्योगाची 2028 विशलिस्ट पूर्ण करायची असेल, तर ही चिप सायकल आणि त्यानंतरची मेमरी आर्किटेक्चर, थर्मल आणि बॅटरीची कार्यक्षमता प्रदान करायची आहे जेणेकरून शर्टच्या खिशात फ्रंटियर-स्केल मॉडेल जिवंत ठेवता येईल.

फॉर्च्युनच्या रिपोर्टिंगनुसार, अमोनने असेही म्हटले आहे की, क्वालकॉम जवळजवळ सर्व प्रमुख एआय प्लेयर्ससह अज्ञात हार्डवेअर प्रकल्पांवर काम करत आहे, ज्यात फोनच्या पलीकडे असलेल्या डिव्हाइस श्रेणींचा समावेश आहे. फोन, कार, पीसी आणि चष्मा - एज एआय साठी डीफॉल्ट इन्फरन्स लेयर म्हणून स्नॅपड्रॅगन सिलिकॉनला स्थान देण्याच्या कंपनीच्या अलीकडील पवित्रा याच्याशी ते सुसंगत आहे.

सतत ऑन-डिव्हाइस AI चा अर्थ काय असेल

एआय कंपन्यांना ते जे मागत आहेत ते मिळाल्यास, बदल कॉस्मेटिक ऐवजी संरचनात्मक असेल. पार्श्वभूमीत दिवसभर चालणारे मॉडेल संदर्भाचे निरीक्षण करू शकते, गरजांचा अंदाज लावू शकते आणि डेटा सेंटरच्या राऊंड ट्रिपशिवाय कार्य करू शकते — जे कमी विलंबता, चांगली गोपनीयता आणि प्रति-क्वेरी क्लाउड खर्च नाही. हे आजच्या फ्लॅगशिप कॅरीपेक्षा मोठ्या, वेगवान, अधिक पॉवर-हंग्री मेमरी असलेले फोन देखील सूचित करते, ज्या मार्केटमध्ये मेमरी किंमत आधीच वाढलेली आहे.

येथे लागू करण्यासाठी निरोगी शंका आहे. चिप एक्झिक्युटिव्ह्सनी याआधी ऑन-डिव्हाइस AI अंदाज ठळक केले आहेत आणि 2028 हा दावा काही प्रमाणात मेमरी पुरवठादार, फोन निर्माते आणि AI लॅब्स यांच्याशी वाटाघाटी करण्याच्या स्थितीत कार्य करतो. परंतु विनंतीची दिशा लक्षणीय आहे: AI कंपन्या यावेळी वेगवान क्लाउड GPU साठी विचारत नाहीत. ते एक फोन विचारत आहेत जो कधीही विचार करत नाही.

Qualcomm चे ग्राहक 2028 मध्ये किंवा नंतर ते उपकरण पाठवत असले तरीही, पाहण्यात अडचण हे पॅरामीटर्स नाही — ते मेमरी बँडविड्थ प्रति वॅट आहे. रेडमंड किंवा सॅन डिएगो किंवा तैपेईमध्ये याचे निराकरण करणारी कंपनी फ्लॅगशिप फोनच्या पुढील व्याख्येच्या मालकीची असेल.

AI च्या पुढे रहा

चिप युद्धे, मॉडेल लाँच आणि एज एआय यश - प्रचाराशिवाय कव्हर.

अधिक एआय बातम्या वाचा →