এআই অবকাঠামোর অর্থনীতি উল্টে গেছে। পজিট্রন এআই এক্সিকিউটিভ ক্যামেরন ম্যাককাসকিলের মতে, বর্তমানে AI পরিকাঠামোর মাধ্যমে চলমান কাজের লোডের প্রায় দুই-তৃতীয়াংশ প্রশিক্ষণের পরিবর্তে অনুমান, যিনি SC26 সুপারকম্পিউটিং সম্মেলনে CUBE গবেষণার সাথে একটি সাক্ষাত্কারে চিত্রটি ভাগ করেছেন। তিন বছর আগে, বিভাজনটি প্রায় ঠিক বিপরীত ছিল: প্রায় 85 শতাংশ প্রশিক্ষণ এবং 15 শতাংশ অনুমান।

এই উলটাপালটা নিঃশব্দে AI কম্পিউটের অবস্থানের মানচিত্রটি পুনরায় আঁকছে — এবং এটি ব্যাখ্যা করে যে কেন একটি নতুন প্রজন্মের অনুমান-প্রথম চিপমেকাররা হঠাৎ করে নিজেদের থেকে অনেক বড় কোম্পানি থেকে ক্লাউড ডিল জিতে নিচ্ছে।

ফ্লিপের পিছনের সংখ্যা

"আমরা এমন এক পর্যায়ে আছি যেখানে এই AI পরিকাঠামোর মাধ্যমে চালিত কাজের চাপের প্রায় দুই-তৃতীয়াংশ অনুমান বনাম এক-তৃতীয়াংশ হল প্রশিক্ষণ," ম্যাককাসকিল, পজিট্রনের বিক্রয় ও ব্যবসা উন্নয়নের প্রধান, CUBE রিসার্চের রেবেকা নাইট এবং জন ফুরিয়ারের সাথে সাক্ষাত্কারে বলেছেন। "2023 সালে, এটি 85% প্রশিক্ষণের মতো ছিল, 15% অনুমানের মতো। সুতরাং এখন আপনি দেখতে পাচ্ছেন কেন অনুমান তাদের পরিকাঠামো তৈরি করতে যাচ্ছেন তার অর্থনৈতিক সিদ্ধান্তগুলিকে চালিত করছে।"

পরিবর্তন স্বজ্ঞাত অর্থে তোলে. বিলিয়ন-ডলার ক্লাস্টার সহ মুষ্টিমেয় ফ্রন্টিয়ার ল্যাবে প্রশিক্ষণ হয়। অনুমান সর্বত্র ঘটে, যখনই একজন ব্যবহারকারী একটি মডেলকে অনুরোধ করে — এবং যেহেতু ভোক্তা এবং এন্টারপ্রাইজ গ্রহণের বিস্ফোরণ ঘটেছে, টোকেনের সামগ্রিক চাহিদা প্রশিক্ষণ যুগের জন্য নির্মিত পরিকাঠামোকে অভিভূত করেছে। পাওয়ার, কুলিং, এবং মেমরি সাপ্লাই এখন আকার দেয় যেখানে টোকেনগুলি কাঁচা চিপের পারফরম্যান্সের মতোই তৈরি হয়, এবং হার্ডওয়্যার লেনদেনগুলিকে পরিবর্তন করে।

কমোডিটি মেমরিতে পজিট্রনের বাজি

Positron AI, যা সেপ্টেম্বরে $5 বিলিয়ন মূল্যায়নে $875 মিলিয়ন উত্থাপন করেছে, অনুমান যুগকে ঘিরে তার সম্পূর্ণ কৌশল তৈরি করেছে। কোম্পানির কেন্দ্রীয় নকশা পছন্দ: হাই-ব্যান্ডউইথ মেমরি (HBM) এড়িয়ে যান, দুর্লভ এবং ব্যয়বহুল মেমরি টাইপ যা বেশিরভাগ AI এক্সিলারেটরকে অ্যাঙ্কর করে এবং পরিবর্তে কমোডিটি মেমরির চারপাশে অনুমান যন্ত্রপাতি তৈরি করুন।

"ইন্ডাস্ট্রির বাকি সবাই HBM বা উচ্চ ব্যান্ডউইথ মেমরি যাকে বলা হয় তা ব্যবহার করছে। এটি সরবরাহে খুব সীমিত, খুব ব্যয়বহুল," McCaskill বলেন। "আমরা পণ্য মেমরি সঙ্গে গিয়েছিলাম।"

ট্রেড-অফ ইচ্ছাকৃত হয়. কমোডিটি মেমরি সস্তা এবং উত্স থেকে অনেক সহজ, এবং পজিট্রনের আর্কিটেকচার এয়ার-কুলড কক্ষের জন্য শক্তি যথেষ্ট কম রাখে - কোন বহিরাগত তরল শীতল করার প্রয়োজন নেই। একটি একক পজিট্রন সার্ভার প্রায় 4,500 ওয়াট ড্র করে এবং কোম্পানির আসন্ন টাইটান সার্ভারগুলির একটি সম্পূর্ণ র্যাক 40 কিলোওয়াটের মধ্যে ফিট করে৷

রোডম্যাপ দ্রুত এগিয়ে যাচ্ছে। পজিট্রনের প্রথম-প্রজন্মের অ্যাটলাস সার্ভারটি একটি প্রোগ্রামেবল চিপে চলেছিল এবং কোম্পানিটি টাইটান সার্ভারের জন্য পরের বছরের শুরুতে নিজস্ব সিলিকন টেপ করার পরিকল্পনা করেছে। কোম্পানি ইতিমধ্যেই মার্কি স্থাপনা অবতরণ করেছে: ম্যাককাসকিলের মতে, ওরাকল এই ত্রৈমাসিকে প্রায় 340টি অ্যাটলাস সার্ভার তার ক্লাউডে লাইভ আনছে এবং আসন্ন টাইটান প্রজন্মের জন্য প্রতিশ্রুতিবদ্ধ হওয়ার সময় একজন নিওক্লাউড প্রদানকারী অ্যাটলাসের জন্য সাইন ইন করেছে।

মডুলার ডেটা সেন্টারগুলি অনুমানের জন্য প্রাকৃতিক হোম হয়ে ওঠে

সম্ভবত সাক্ষাত্কারের সবচেয়ে ফলপ্রসূ অংশ যেখানে ম্যাককাসকিল বলেছেন যে চাহিদাটি থেকে আসছে: হাইপারস্কেল ক্যাম্পাস নয়, তবে ছোট, দ্রুত, মডুলার সুবিধা।

"আমরা এই মুহূর্তে যে কোম্পানিগুলির গোষ্ঠীগুলির বৃদ্ধি দেখছি এবং পণ্যের জন্য আমাদের কাছে আসছে তাদের মধ্যে একটি হল এই মডুলার ডেটা সেন্টার, যেখানে তাদের অর্ধ মেগাওয়াট বা, 1 মেগাওয়াট বা 2.5 মেগাওয়াট মডুলার ডেটা সেন্টার রয়েছে এবং সেগুলি খুব দ্রুত স্থাপন করা যেতে পারে," তিনি বলেছিলেন। "এই অনুমান খেলোয়াড়দের অনেকের লক্ষ্য হল আমি 90 থেকে 120 দিনের মধ্যে জমি এবং শক্তি থেকে নগদীকরণযোগ্য টোকেন পেতে চাই।"

সেই টাইমলাইন — ব্রেকিং গ্রাউন্ড থেকে রাজস্ব পর্যন্ত প্রায় এক-চতুর্থাংশ — একটি গিগাওয়াট-স্কেল প্রশিক্ষণ ক্যাম্পাসের জন্য অসম্ভব, যা অনুমতি, নির্মাণ এবং শক্তি জোগাতে কয়েক বছর সময় নিতে পারে। ইনফারেন্স ওয়ার্কলোডগুলি ছোট, আরও ভৌগলিকভাবে নমনীয় এবং সাইটগুলির প্রতি সহনশীল যেখানে অপারেটররা ভারী নিয়ন্ত্রক বাধা ছাড়াই কয়েক মেগাওয়াট সস্তা শক্তি খুঁজে পেতে পারে। ফলাফল হল টেলকো সাইট, কোলোকেশন সুবিধা এবং মডুলার ইউনিটে বন্টনকৃত অনুমান পরিকাঠামোর একটি উদীয়মান স্তর যেখানে চাহিদা প্রকৃতপক্ষে রয়েছে।

এটি শিল্পের জন্য কী বোঝায়

চিপ বিক্রেতাদের জন্য, বার্তা হল যে এআই হার্ডওয়্যার বাজার দ্বিখণ্ডিত হচ্ছে। প্রশিক্ষণ সবচেয়ে উন্নত অ্যাক্সিলারেটর এবং গভীরতম পকেটগুলিকে পুরস্কৃত করে চলেছে৷ অনুমান বিভিন্ন গুণাবলীকে পুরস্কৃত করে: শক্তি দক্ষতা, মেমরির খরচ, স্থাপনার গতি এবং সাধারণ এয়ার-কুলড বিল্ডিংগুলিতে চালানোর ক্ষমতা। শুধুমাত্র প্রশিক্ষণ প্রতিযোগিতার জন্য অপ্টিমাইজ করা বিক্রেতারা ভবিষ্যতের স্থাপনার সিদ্ধান্তের সবচেয়ে বড় পরিমাণ খুঁজে পেতে পারে — যেখানে টোকেনগুলি আসলে নগদীকরণ করা হয় — বিভিন্ন সীমাবদ্ধতার জন্য ডিজাইন করা হার্ডওয়্যারে ঘটছে।

এন্টারপ্রাইজ এবং ক্লাউড গ্রাহকদের জন্য, স্থানান্তরটি বেশিরভাগই অদৃশ্য কিন্তু ক্রমবর্ধমান ফলস্বরূপ: অনুমান ক্ষমতা যা 90-থেকে-120-দিনের বৃদ্ধির মধ্যে আসে তার মানে হল ব্যবহারকারী এবং ডেটার কাছাকাছি মডেলগুলি চালানোর জন্য আরও প্রতিযোগিতামূলক মূল্য এবং আরও ভৌগলিক বিকল্প।

এবং AI শিল্পের বিল্ডআউট আখ্যানের জন্য - প্রায়শই গিগাওয়াট ক্যাম্পাসগুলির জন্য একটি অন্তহীন রেস হিসাবে তৈরি করা হয় - অনুমান ফ্লিপ একটি অনুস্মারক যে চাহিদা বক্ররেখা প্রসারিত হচ্ছে, শুধু স্কেলিং নয়। SC26-এ উদ্ধৃত দুই-তৃতীয়াংশ মাইলফলকটি একজন নির্বাহীর অনুমান, কিন্তু এটি প্রতিটি প্রধান ক্লাউড অপারেটর যে দিক দিয়ে রিপোর্ট করেছে তার সাথে মেলে: AI বিল্ডআউটের মাধ্যাকর্ষণ কেন্দ্রটি মডেলদের প্রশিক্ষণ থেকে তাদের পরিবেশন করার দিকে এগিয়ে যাচ্ছে।

এআই থেকে এগিয়ে থাকুন AI Buzz Wire, AI হার্ডওয়্যার এবং পরিকাঠামো সংক্রান্ত খবরের জন্য আপনার উৎসের সাথে সাম্প্রতিকতম AI উন্নয়নগুলি ট্র্যাক করুন৷ আরও এআই খবর পড়ুন →