এনভিডিয়া তার সবথেকে বড় গ্রাহকদের বলেছে যে 2027 সালের গোড়ার দিকে সরবরাহ করা সিস্টেমে এর AI চিপস ধারণকারী সার্ভারের দাম 15 শতাংশেরও বেশি বেড়ে যাবে, ব্লুমবার্গের মতে - এক বছরের কম সময়ের মধ্যে দ্বিতীয় প্রধান মূল্য বৃদ্ধি, যা জুলাই মাসে প্রায় সমস্ত পণ্য লাইন জুড়ে প্রায় 30 শতাংশ বৃদ্ধির শীর্ষে।

সতর্কতা, সার্ভার নির্মাতাদের মাধ্যমে যা বৃহৎ ডেটা সেন্টার অপারেটরদের জন্য সিস্টেমগুলিকে একত্রিত করে, AI শিল্পের জন্য একটি সূক্ষ্ম মুহূর্তে অবতরণ করে: উদ্যোগগুলি ব্যাপক পরিকাঠামো নির্মাণের খরচের সাথে লড়াই করছে, এবং মেমরি মার্কেট — বৃদ্ধির বিবৃত চালক — শীতল হওয়ার কোনও লক্ষণ দেখায় না৷ এনভিডিয়া 26শে আগস্ট ত্রৈমাসিক ফলাফল রিপোর্ট করবে, যেখানে বিশ্লেষকরা চাহিদা, সরবরাহ এবং খরচ সম্পর্কে নতুন বিশদ আশা করছেন। For more context on this story, see our ongoing more AI stories.

কোন সিস্টেম প্রভাবিত হয়

রিপোর্টিং অনুসারে, এই বৃদ্ধি Nvidia-এর ফ্ল্যাগশিপ গ্রেস ব্ল্যাকওয়েল প্ল্যাটফর্ম এবং এর আসন্ন ভেরা রুবিন প্রজন্মের চারপাশে নির্মিত সার্ভারগুলিতে প্রযোজ্য হবে। হাইকগুলি অভিন্ন হবে না: সমন্বয়ের আকার এনভিডিয়া সিলিকনের জেনারেশন এবং প্রতিটি সিস্টেমে মেমরির পরিমাণ এবং কনফিগারেশনের উপর নির্ভর করে।

মাইক্রোসফ্ট, গুগল এবং ওরাকল সহ - প্রধান প্রযুক্তি সংস্থাগুলিকে পরিবেশনকারী সার্ভার নির্মাতারা - 2027 সালের প্রথম দিকে সিস্টেম শিপিংয়ের জন্য আসন্ন মূল্য পরিবর্তন সম্পর্কে গ্রাহকদের অবহিত করা শুরু করেছে।

স্মৃতিই অপরাধী

প্রাথমিক ড্রাইভার হল মেমরির ক্রমবর্ধমান খরচ। উচ্চ-পারফরম্যান্স এআই সিস্টেমের জন্য প্রচুর পরিমাণে উচ্চ-ব্যান্ডউইথ মেমরির প্রয়োজন, এবং ডেটা সেন্টার সম্প্রসারণের চাহিদা HBM এবং LPDDR5 ক্লাইম্বিংয়ের জন্য দাম পাঠিয়েছে। মেমরি প্রস্তুতকারক স্যামসাং ইলেকট্রনিক্স, এসকে হাইনিক্স, এবং মাইক্রোন টেকনোলজি সবই শক্তিশালী চাহিদার সম্মুখীন কারণ সেমিকন্ডাক্টর ক্ষমতা উচ্চ-ব্যান্ডউইথ মেমরি এবং অন্যান্য উন্নত কম্পিউটিং পণ্যের দিকে ক্রমবর্ধমানভাবে পরিচালিত হচ্ছে।

গার্টনারের একজন ভাইস প্রেসিডেন্ট এবং বিশ্লেষক গৌরব গুপ্ত বলেন, এই বৃদ্ধি শুধুমাত্র RAM নয়, পুরো AI সরবরাহ চেইনের চাপকে প্রতিফলিত করে। "মেমরির দাম বাড়ছে, বিশেষ করে HBM এবং LPDDR5, কিন্তু অন্যান্য দিক রয়েছে, যেমন লিড-এজ ফাউন্ড্রি ওয়েফার, উন্নত প্যাকেজিং এবং অন্যান্য উপাদানের ঘাটতি," তিনি CIO.com কে বলেন, এই সমস্যাগুলি আরও বেশি সময় ধরে লিড টাইম তৈরি করে, "যা সাধারণত উচ্চ মূল্যে অনুবাদ করে।"

এবং তিনি শীঘ্রই ত্রাণ আশা করেন না। "দৃঢ় চাহিদা এবং সীমিত সরবরাহের বর্তমান পরিবেশে, আমরা আশা করি যে এই পরিস্থিতি কাছাকাছি থেকে মধ্যমেয়াদে অব্যাহত থাকবে," গুপ্তা বলেছিলেন - যার অর্থ তাদের নিজস্ব সার্ভার স্থাপনকারী সংস্থাগুলির জন্য এবং ক্লাউডে কম্পিউট ভাড়া নেওয়ার জন্য উভয়ের জন্যই উচ্চ খরচ৷

ক্রেতাদের জন্য সামান্য পছন্দ

সিআইওদের জন্য, ক্যালকুলাসটি আকর্ষণীয় নয়। পরামর্শদাতা এবং বিশ্লেষকরা বলছেন যে এআই অবকাঠামোর দাম বাড়তে থাকবে তা মেনে নেওয়া ছাড়া এন্টারপ্রাইজগুলির কাছে খুব কম বিকল্প নেই এবং সরবরাহকারীদের পরিবর্তন করা - এমনকি যদি সম্ভব হয় - বৃদ্ধিকে এড়িয়ে যাবে না, কারণ মেমরি এবং উপাদান খরচ সমগ্র বাজারকে প্রভাবিত করে।

ইনফো-টেক রিসার্চ গ্রুপের একজন উপদেষ্টা ফেলো স্কট বিকলি যুক্তি দিয়েছিলেন যে এনভিডিয়া আসলে আঘাতের অংশ শোষণ করছে। তার গণনা থেকে বোঝা যায় যে কোম্পানি সম্ভবত তার নিজস্ব কিছু ক্রমবর্ধমান খরচ খাচ্ছে এবং তার বৃহত্তম গ্রাহকদের কাছে শুধুমাত্র একটি ভগ্নাংশ দিয়ে যাচ্ছে। কিন্তু লিভারেজ ক্রেতাদের সম্পর্কে তিনি নির্বোধ ছিলেন: "কাজের চাপ প্রতি টোকেন খরচ কমছে যখন অন্তর্নিহিত হার্ডওয়্যার এবং অবকাঠামোগত খরচ বাড়ছে," তিনি বলেছিলেন। "আপনি যদি সরাসরি আপনার নিজস্ব ক্লাস্টার তৈরি করেন তবে এটি ইতিমধ্যেই অত্যন্ত ব্যয়বহুল সমাধানের জন্য একটি স্বয়ংক্রিয় উত্থান। আপনি যদি নিজের হার্ডওয়্যার কিনছেন তবে আপনাকে এটি চুষতে হবে। আপনি এর থেকে আপনার উপায় নিয়ে আলোচনা করতে যাচ্ছেন না।"

একটি রূপালী আস্তরণ আছে Bickley নির্দেশিত: AI মডেলগুলির জন্য প্রতি-টোকেন মূল্য হ্রাস পাচ্ছে বলে মনে হচ্ছে, যা ক্রেতাদেরকে কাজের চাপ তৈরি করে হার্ডওয়্যার মুদ্রাস্ফীতি কমানোর একটি উপায় দেয় যা কাঁচা মেমরির ক্ষমতার উপর কম নির্ভর করে।

আপনার ইতিমধ্যে যা আছে তা থেকে আরও বেশি নিংড়ে নেওয়া

এই কৌশলটি - বিদ্যমান হার্ডওয়্যার থেকে আরও মাইলেজ পাওয়া - যেখানে বেশ কয়েকটি বিশ্লেষক একত্রিত হয়। বিকলে ইতিমধ্যে পরিষেবাতে থাকা ক্লাস্টারগুলির ব্যবহার বাড়ানোর উপায় হিসাবে মডেল রাউটিং, কম্প্রেশন এবং ব্যাচ প্রক্রিয়াকরণের মতো কৌশলগুলির দিকে নির্দেশ করেছেন।

ফ্ল্যাভিও ভিলানুস্ট্রে, লেক্সিসনেক্সিস রিস্ক সলিউশন গ্রুপের সিআইএসও, সম্মত হন যে চাপ মূলত একটি সরবরাহ-চাহিদা সমস্যা যা মালভূমিতে মালভূমি হওয়া উচিত একবার AI-চালিত চাহিদা মেটাতে মেমরি উৎপাদন র‌্যাম্প - কিন্তু তিনি আগামী কয়েক মাসে তা ঘটতে দেখেন না। ইতিমধ্যে, তিনি উল্লেখ করেছেন, কিছু এআই মডেল বিক্রেতারা তাদের মডেলগুলিকে মেমরি-সংক্রান্ত পরিবেশে আরও ভাল চালানোর জন্য মানিয়ে নিচ্ছে। তিনি Google-এর Gemma E4B এবং অনুরূপ মডেলগুলির দিকে ইঙ্গিত করেছেন, যা একটি শ্রেণিবদ্ধ টায়ার্ড পদ্ধতি ব্যবহার করে যা একটি মডেলের শুধুমাত্র প্রয়োজনীয় অংশগুলিকে মেমরিতে টেনে নেয়, পুরো মডেলটিকে RAM এ ধরে রাখার পরিবর্তে।

মাইক উইলকস, আইকিডো সিকিউরিটির এন্টারপ্রাইজ সিআইএসও, যুক্তি দিয়েছিলেন যে যদি তারা আরও সুশৃঙ্খল আর্কিটেকচারে বাধ্য করে তবে দাম বৃদ্ধি কিছু ভাল করতে পারে। এন্টারপ্রাইজগুলি গত কয়েক বছর ধরে ফ্রন্টিয়ার-মডেল টোকেনগুলিকে একটি "অসীমভাবে স্থিতিস্থাপক উপযোগিতা" হিসাবে বিবেচনা করে কাটিয়েছে - কাজটির জন্য সীমান্ত-স্তরের যুক্তির প্রয়োজন কিনা তা নির্বিশেষে সবচেয়ে বড় মডেলে কাজের চাপ রাউটিং করা। সঠিক আর্কিটেকচার ক্রমবর্ধমান হাইব্রিড হচ্ছে: সীমানা মডেলের জন্য প্রায় 10 শতাংশ খরচ সংরক্ষণ করা সমস্যাগুলির জন্য যা প্রকৃতপক্ষে তাদের প্রয়োজন, যখন শ্রেণীবিভাগ, নিষ্কাশন, সংক্ষিপ্তকরণ, এবং রুটিন এজেন্ট অ্যাকশনগুলিকে ছোট ভাষা মডেল এবং ওপেন-ওয়েট মডেলগুলির প্রতি এন্টারপ্রাইজ নিয়ন্ত্রণের পরিকাঠামোতে চলমান।

"এটি সিআইওদের মূল্য বৃদ্ধি বা একতরফা মূল্য নির্ধারণের বিরুদ্ধে লিভারেজ দেয়," উইলকস বলেছিলেন।

এআই অর্থনীতির জন্য একটি মুদ্রাস্ফীতির সংকেত

এআই বুমের খরচ কোন দিকে যাচ্ছে সে সম্পর্কেও এই বৃদ্ধি একটি সংকেত। মেমরি, ওয়েফার এবং প্যাকেজিং সব কিছুর দাম বেড়ে যাওয়ায়, মুদ্রাস্ফীতি ছড়িয়ে পড়ছে চিপমেকার থেকে সার্ভার বিক্রেতা এবং ক্লাউড প্রোভাইডার এবং শেষ পর্যন্ত এআই-এর উপর এন্টারপ্রাইজ বিল্ডিংয়ে। 26শে অগাস্টের এনভিডিয়ার আয়ের প্রতিবেদনের সাথে, ক্রেতা এবং বিনিয়োগকারীরা একইভাবে পর্যবেক্ষণ করবে যে কোম্পানি কতটা খরচের চাপ শোষণ করে — এবং এটি কতটা নিচের দিকে যায়৷

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →