Nvidia ने त्याच्या काही सर्वात मोठ्या ग्राहकांना सांगितले आहे की 2027 च्या सुरुवातीपासून वितरित केलेल्या सिस्टीमवर AI चिप्स असलेल्या सर्व्हरच्या किमती 15 टक्क्यांहून अधिक वाढतील, ब्लूमबर्गच्या मते - जुलैमध्ये जवळपास सर्व उत्पादन लाइनमध्ये अंदाजे 30 टक्क्यांच्या वाढीच्या शीर्षस्थानी असलेल्या ब्लूमबर्ग - एका वर्षाखालील दुसरी मोठी वाढ.

सर्व्हर निर्मात्यांद्वारे संप्रेषित केलेली चेतावणी, जे मोठ्या डेटा सेंटर ऑपरेटरसाठी सिस्टम एकत्र करतात, AI उद्योगासाठी एका नाजूक क्षणी उतरतात: एंटरप्रायझेस मोठ्या प्रमाणात पायाभूत सुविधांच्या उभारणीच्या खर्चाशी लढत आहेत आणि मेमरी मार्केट - वाढीचे सांगितलेले चालक - थंड होण्याची चिन्हे दर्शवत नाहीत. Nvidia 26 ऑगस्ट रोजी त्रैमासिक निकाल सादर करणार आहे, जिथे विश्लेषक मागणी, पुरवठा आणि खर्चावर नवीन तपशीलाची अपेक्षा करतात. For more context on this story, see our ongoing AI trends.

कोणत्या प्रणाली प्रभावित आहेत

अहवालानुसार, वाढ Nvidia च्या फ्लॅगशिप ग्रेस ब्लॅकवेल प्लॅटफॉर्म आणि त्याच्या आगामी वेरा रुबिन पिढीच्या आसपास तयार केलेल्या सर्व्हरवर लागू होईल. वाढ एकसमान असणार नाही: समायोजनाचा आकार Nvidia सिलिकॉनच्या निर्मितीवर आणि प्रत्येक सिस्टीममधील मेमरीचे प्रमाण आणि कॉन्फिगरेशन यावर अवलंबून असतो.

Microsoft, Google आणि Oracle सह - प्रमुख तंत्रज्ञान कंपन्यांना सेवा देणाऱ्या सर्व्हर उत्पादकांनी - 2027 च्या सुरुवातीस सिस्टीम शिपिंगसाठी आगामी किंमतीतील बदलांबद्दल ग्राहकांना सूचित करण्यास सुरुवात केली आहे.

स्मृती गुन्हेगार आहे

प्राथमिक ड्रायव्हर म्हणजे मेमरीची वाढती किंमत. उच्च-कार्यक्षमता असलेल्या AI प्रणालींना मोठ्या प्रमाणात उच्च-बँडविड्थ मेमरीची आवश्यकता असते आणि डेटा सेंटरच्या विस्ताराच्या मागणीमुळे HBM आणि LPDDR5 क्लाइंबिंगसाठी किमती वाढल्या आहेत. सॅमसंग इलेक्ट्रॉनिक्स, एसके हायनिक्स आणि मायक्रोन टेक्नॉलॉजी या मेमरी उत्पादकांना मोठ्या मागणीचा सामना करावा लागत आहे कारण सेमीकंडक्टर क्षमता वाढत्या प्रमाणात उच्च-बँडविड्थ मेमरी आणि इतर प्रगत संगणकीय उत्पादनांकडे निर्देशित केली जात आहे.

गार्टनरचे उपाध्यक्ष आणि विश्लेषक गौरव गुप्ता म्हणाले की, वाढ केवळ रॅमच नव्हे तर संपूर्ण एआय पुरवठा साखळीवर दबाव दर्शवते. "मेमरी किमती वाढत आहेत, विशेषत: HBM आणि LPDDR5, परंतु इतर पैलू आहेत जसे की अग्रगण्य-एज फाउंड्री वेफर्स, प्रगत पॅकेजिंग आणि इतर घटकांची कमतरता," त्यांनी CIO.com ला सांगितले, त्या समस्यांमुळे अधिक काळ लीड टाईम निर्माण होतो, "जे सामान्यतः उच्च किमतींमध्ये अनुवादित करते."

आणि त्याला लवकर आराम मिळण्याची अपेक्षा नाही. "मजबूत मागणी आणि मर्यादित पुरवठ्याच्या सध्याच्या वातावरणात, आम्ही ही परिस्थिती नजीकच्या मध्यावधीपर्यंत कायम राहण्याची अपेक्षा करतो," गुप्ता म्हणाले - म्हणजे त्यांचे स्वतःचे सर्व्हर तैनात करणाऱ्या संस्थांसाठी आणि क्लाउडमध्ये भाड्याने भाड्याने देणाऱ्या दोन्हींसाठी जास्त खर्च.

खरेदीदारांसाठी लहान निवड

CIO साठी, कॅल्क्युलस अपीलकारक आहे. सल्लागार आणि विश्लेषकांचे म्हणणे आहे की AI पायाभूत सुविधांच्या किंमती वाढतच राहतील हे स्वीकारण्याशिवाय एंटरप्रायझेसकडे फारसा पर्याय नाही आणि पुरवठादार बदलणे - जरी शक्य असले तरी - या वाढीला बगल देणार नाही, कारण मेमरी आणि घटक खर्च संपूर्ण बाजारावर परिणाम करतात.

स्कॉट बिकले, इन्फो-टेक रिसर्च ग्रुपचे सल्लागार फेलो यांनी असा युक्तिवाद केला की एनव्हीडिया खरोखरच धक्क्याचा भाग शोषून घेत आहे. त्याची गणना सुचवते की कंपनी स्वतःच्या वाढत्या खर्चांपैकी काही खात आहे आणि त्याच्या सर्वात मोठ्या ग्राहकांना फक्त एक अंश देत आहे. परंतु ते लिव्हरेज खरेदीदारांबद्दल बोथट होते: "कामाचा भार प्रति टोकन कमी होत आहे तर मूलभूत हार्डवेअर आणि पायाभूत सुविधांच्या खर्चात वाढ होत आहे," तो म्हणाला. "तुम्ही तुमचे स्वतःचे क्लस्टर्स थेट तयार करत असाल तर, हे आधीच अत्यंत महागड्या सोल्यूशनसाठी स्वयंचलित उन्नती आहे. तुम्ही तुमचे स्वतःचे हार्डवेअर विकत घेत असाल, तर तुम्हाला ते शोषून घ्यावे लागेल. तुम्ही यातून मार्ग काढण्यासाठी वाटाघाटी करणार नाही."

बिकलेने निदर्शनास आणून दिलेली एक चांदीची अस्तर आहे: AI मॉडेल्ससाठी प्रति-टोकन किमती घसरत आहेत, ज्यामुळे खरेदीदारांना कच्च्या मेमरी क्षमतेवर कमी अवलंबून असलेल्या वर्कलोड्सची रचना करून हार्डवेअर महागाई कमी करण्याचा मार्ग मिळतो.

तुमच्याकडे आधीपासून असलेल्या गोष्टींमधून अधिक पिळून काढणे

ती रणनीती - विद्यमान हार्डवेअरमधून अधिक मायलेज मिळवणे - जिथे अनेक विश्लेषक एकत्र येतात. बिकलेने आधीच सेवेत असलेल्या क्लस्टरचा वापर वाढवण्याचे मार्ग म्हणून मॉडेल राउटिंग, कॉम्प्रेशन आणि बॅच प्रोसेसिंग यासारख्या तंत्रांकडे लक्ष वेधले.

LexisNexis Risk Solutions Group चे CISO, Flavio Villanustre यांनी सहमती दर्शवली की पिळणे ही मूलभूतपणे मागणी आणि पुरवठा समस्या आहे ज्याने AI-चालित मागणी पूर्ण करण्यासाठी मेमरी उत्पादन रॅम्प एकदा पठार केले पाहिजे — परंतु पुढील काही महिन्यांत तसे होताना दिसत नाही. यादरम्यान, त्यांनी नमूद केले की, काही AI मॉडेल विक्रेते मेमरी-प्रतिबंधित वातावरणात चांगले चालण्यासाठी त्यांचे मॉडेल्स अनुकूल करत आहेत. त्यांनी Google च्या Gemma E4B आणि तत्सम मॉडेल्सकडे लक्ष वेधले, जे पदानुक्रमित टायर्ड दृष्टिकोन वापरतात जे संपूर्ण मॉडेलला RAM मध्ये ठेवण्याऐवजी मेमरीमध्ये मॉडेलचे फक्त आवश्यक भाग खेचतात.

माईक विल्क्स, आयकिडो सिक्युरिटीमधील एंटरप्राइझ सीआयएसओ यांनी तर्क केला की जर त्यांनी अधिक शिस्तबद्ध आर्किटेक्चरची सक्ती केली तर किमतीतील वाढ काही चांगले करू शकते. एंटरप्रायझेसने गेली काही वर्षे फ्रंटियर-मॉडेल टोकन्सना "अनंत लवचिक उपयुक्तता" म्हणून हाताळण्यात घालवली आहे - ते म्हणाले - कार्याला सीमा-स्तरीय तर्काची आवश्यकता आहे की नाही याची पर्वा न करता वर्कलोड्सला सर्वात मोठ्या मॉडेलवर रूट करणे. योग्य आर्किटेक्चर वाढत्या प्रमाणात संकरित होत आहे: एंटरप्राइझ कंट्रोल्सच्या पायाभूत सुविधांवर चालत असलेल्या लहान भाषेच्या मॉडेल्स आणि ओपन-वेट मॉडेल्सच्या दिशेने वर्गीकरण, निष्कर्षण, सारांश, आणि नियमित एजंट क्रिया पुढे ढकलताना, सीमा मॉडेलसाठी अंदाजे 10 टक्के वापर राखून ठेवत आहे.

"त्यामुळे CIOs ला किंमत वाढवणे किंवा एकतर्फी किंमत सेटिंग विरूद्ध फायदा होतो," विल्क्स म्हणाले.

एआय अर्थव्यवस्थेसाठी चलनवाढीचा संकेत

एआय बूमचा खर्च कोठे चालला आहे हे देखील एक संकेत आहे. मेमरी, वेफर्स आणि पॅकेजिंग या सर्व गोष्टींच्या किमतीत वाढ होत असल्याने चलनवाढ चिपमेकर्सपासून सर्व्हर विक्रेत्यांपर्यंत क्लाउड प्रदात्यांपर्यंत आणि शेवटी AI वर उभारणाऱ्या एंटरप्राइजेसपर्यंत पसरत आहे. Nvidia च्या कमाईच्या अहवालासोबत 26 ऑगस्ट रोजी, खरेदीदार आणि गुंतवणूकदार सारखेच लक्ष ठेवून असतील की कंपनी किती खर्चाचा दबाव शोषून घेते — आणि किती खाली जाते.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →