সেরেব্রাস সিস্টেমস বলেছে যে এটি উৎপাদনে বিচ্ছিন্ন অনুমান স্থাপন করেছে, প্রচলিত GPU এবং এর ওয়েফার-স্কেল প্রসেসরের মধ্যে AI অনুমানের কাজের চাপকে একটি কনফিগারেশনে বিভক্ত করে কোম্পানি দাবি করে যে প্রজন্মের গতিকে ত্যাগ না করে প্রতি মেগাওয়াটে পাঁচগুণ বেশি টোকেন সরবরাহ করে।

17 নভেম্বর, 2026-এ কোম্পানির ব্লগে প্রকাশিত এই ঘোষণাটি এমন একটি কোম্পানির জন্য একটি উল্লেখযোগ্য স্থানান্তরকে চিহ্নিত করে যেটি তার ওয়েফার স্কেল ইঞ্জিনকে GPU-ভিত্তিক অনুমানের পরিবর্তে এটির পরিপূরক হিসাবে একটি বিকল্প হিসাবে অবস্থান করার জন্য বছর অতিবাহিত করেছে। এখন, সেরেব্রাস বলে যে GPU গুলি প্রম্পট-প্রসেসিং স্টেজ পরিচালনা করে যখন এর নিজস্ব সিস্টেম টোকেন-জেনারেশন স্টেজ পরিচালনা করে। For more context on this story, see our ongoing artificial intelligence updates.

অনুমান দুই ভাগে বিভক্ত কেন?

অনুমান দুটি পর্যায়ে ঘটে। প্রিফিল ব্যবহারকারীর প্রম্পট প্রক্রিয়া করে এবং একটি মধ্যবর্তী মডেল অবস্থা তৈরি করে। ডিকোড তারপর সেই অবস্থাটি ব্যবহার করে আউটপুট টোকেন তৈরি করতে, এক সময়ে, একটি অটোরিগ্রেসিভ লুপে যা প্রতিক্রিয়ার প্রতিটি শব্দের জন্য পুনরাবৃত্তি করে।

দুটি পর্যায়ে খুব আলাদা গণনামূলক প্রোফাইল রয়েছে। প্রিফিল হল কম্পিউট-ভারী এবং সমান্তরাল, যেখানে জিপিইউ এক্সেল। ডিকোড হল মেমরি-ব্যান্ডউইথ-বাউন্ড এবং সিকোয়েন্সিয়াল, যেখানে সেরেব্রাস যুক্তি দেয় যে তার ওয়েফার-স্কেল আর্কিটেকচারটি সুবিধা ধারণ করে, যেহেতু পুরো মডেলটি আন্তঃ-চিপ যোগাযোগ ছাড়াই সিলিকনের একক অংশে বসতে পারে যা প্রজন্মের সময় GPU ক্লাস্টারকে ধীর করে দেয়।

কোম্পানী কাজের চাপ বিভক্ত করার অন্যান্য উপায়ে পরীক্ষা করেছিল। তার ব্লগ পোস্টে, সেরেব্রাস খসড়া-টার্গেট স্কিমগুলি তালিকাভুক্ত করে, যেখানে একটি ছোট মডেল টোকেন প্রস্তাব করে এবং একটি বড়টি তাদের যাচাই করে, এবং এটি বিবেচনা করা বিকল্পগুলির মধ্যে মনোযোগ-FFN বিচ্ছেদ। কিন্তু এটি যুক্তি দেয় যে ডিকোড থেকে প্রিফিল আলাদা করা অত্যন্ত ইন্টারেক্টিভ অ্যাপ্লিকেশনগুলির জন্য অনন্যভাবে উপযুক্ত, কারণ ডিকোড পর্যায় সেরেব্রাসের স্বাক্ষর অতি দ্রুত প্রজন্মের গতিকে অক্ষত রাখে।

দাবীর পিছনের সংখ্যা

ঘোষণা অনুসারে, বিচ্ছিন্ন কনফিগারেশনটি এখন সেরেব্রাস ইনফারেন্স ক্লাউডে লাইভ রয়েছে এবং কোম্পানিটি ইতিমধ্যেই যে গতিতে সেবা দিচ্ছে সেই একই প্রজন্মের গতিতে প্রতি মেগাওয়াট প্রতি পাঁচ গুণ বেশি টোকেন সরবরাহ করে। সেরেব্রাস বলেছেন যে অবকাঠামো অংশীদাররাও তাদের নিজস্ব ডেটা সেন্টারে একই বিভক্ত আর্কিটেকচার স্থাপন করতে পারে।

অর্থনৈতিক যুক্তি সোজা। অনুমান প্রদানকারীরা টোকেন প্রতি রাজস্ব উপার্জন করে এবং ক্ষমতা হল ক্ষমতার বাধ্যতামূলক সীমাবদ্ধতা। যদি একই মেগাওয়াট টোকেনগুলির পাঁচগুণ ফলন করে, তবে একই সুবিধা আনুপাতিকভাবে আরও বেশি রাজস্ব সম্ভাবনা তৈরি করে, যা কোম্পানি সমষ্টিগত এবং বিচ্ছিন্ন পরিবেশন কনফিগারেশনের তুলনা করে একটি টেবিলের সাথে চিত্রিত করে।

ঘোষণাটি চাহিদার পূর্বাভাসের উপরও ঝুঁকেছে যুক্তি দিতে যে শিল্পের প্রতিটি দক্ষতা অর্জনের প্রয়োজন যা এটি পেতে পারে। গোল্ডম্যান শ্যাক্স রিসার্চের উদ্ধৃতি দিয়ে, সেরেব্রাস বলেছেন যে 2030 সাল নাগাদ 2026 স্তর থেকে 24-গুণে AI অনুমানের চাহিদা বৃদ্ধি পাবে, যেখানে ডেটা সেন্টারের ক্ষমতা একই সময়ের মধ্যে প্রায় 2.2-গুণ বৃদ্ধি পাবে। উভয় অনুমান ধরে রাখলে, ব্যবহারকারীরা কী চালাতে চান এবং কী কী সুবিধা পাওয়ার পারে তার মধ্যে ব্যবধানটি 2020-এর দশকের শেষের দিকে AI বিল্ডআউটের সংজ্ঞায়িত সীমাবদ্ধতা হয়ে ওঠে।

এজেন্টিক অ্যাপ্লিকেশন ক্রাঞ্চ ড্রাইভ

কোম্পানি 2026 সালে এজেন্টিক অ্যাপ্লিকেশনগুলির দ্রুত স্কেলিং করার জন্য চাহিদা বৃদ্ধিকে দায়ী করে, ব্যবহারকারীদের নিযুক্ত রাখার জন্য অত্যন্ত ইন্টারেক্টিভ ইনফারেন্সের প্রয়োজন এমন পণ্যগুলির উদাহরণ হিসাবে মিউজ, কপিলট এবং কোডেক্সের নামকরণ করে। কথোপকথনমূলক এজেন্ট যেগুলি টোকেন দ্বারা টোকেন দ্বারা প্রতিক্রিয়াগুলি স্ট্রীম করে তারা সঠিকভাবে কাজের চাপ যেখানে প্রজন্মের গতি একটি ব্যাক-এন্ড মেট্রিকের পরিবর্তে ব্যবহারকারী-মুখী বৈশিষ্ট্য।

সেরিব্রাস একটি বিস্তৃত ক্ষমতা ধাক্কা মধ্যে লঞ্চ অবস্থিত. সংস্থাটি তার সম্প্রতি ঘোষিত CS-4 সিস্টেমের দিকে নির্দেশ করে, এটির উত্পাদন আউটপুটের একটি নাটকীয় স্কেলিং, এবং প্রায় 700 মেগাওয়াটের পরিকল্পিত ডেটা সেন্টার ক্ষমতা যা এটিকে এবং এর অংশীদারদের 2027 এবং তার পরেও যথেষ্ট পরিমাণে ট্রাফিক পরিবেশন করতে দেবে৷

ওয়েফার-স্কেলের জন্য একটি বাস্তবসম্মত পালা

কৌশলগতভাবে, ঘোষণাটি GPU আধিপত্যের একটি বাস্তবসম্মত বাসস্থান হিসাবে পড়ে। গ্রাহকদের সম্পূর্ণ অনুমান পাইপলাইনগুলিকে বহিরাগত সিলিকনে সরানোর জন্য বলার পরিবর্তে, সেরিব্রাস শ্রমের একটি বিভাজনের প্রস্তাব করছে: GPU গুলিকে যা করার জন্য অপ্টিমাইজ করা হয়েছে তা করতে দিন এবং ওয়েফার-স্কেল হার্ডওয়্যারকে যা সবচেয়ে ভাল করে তা করতে দিন৷ ক্রমবর্ধমান চাহিদা এবং শক্তির সীমাবদ্ধতার মধ্যে অনুমান প্রদানকারীদের জন্য, পিচটি এমন ক্ষমতা যা তারা নতুন প্রজন্মের হার্ডওয়্যারের জন্য অপেক্ষা না করেই যোগ করতে পারে।

বিভিন্ন মডেল আর্কিটেকচার এবং বাস্তব-বিশ্বের ট্র্যাফিক মিক্স জুড়ে পাঁচ-গুণ দক্ষতার দাবি বহাল আছে কিনা তা কেবলমাত্র স্পষ্ট হয়ে যাবে যখন অংশীদাররা স্কেলে কনফিগারেশন স্থাপন করবে। তবে ভ্রমণের দিকটি শিল্প জুড়ে পরিষ্কার। যেহেতু অনুমান প্রভাবশালী গণনা কাজের চাপ হিসাবে প্রশিক্ষণকে প্রতিস্থাপন করে, প্রতিটি প্রধান হার্ডওয়্যার বিক্রেতা পুনরায় পরীক্ষা করছে কিভাবে প্রজন্মের দুটি স্তর বিভক্ত, চালিত এবং মূল্য নির্ধারণ করা উচিত।

এটি কিভাবে GPU-নেটিভ পদ্ধতির সাথে তুলনা করে

প্রধান হাইপারস্কেল ইনফারেন্স প্রদানকারীরা তাদের নিজস্ব পৃথকীকরণ কৌশল অনুসরণ করেছে, সাধারণত GPU পরিবারের উভয় পর্যায়কে প্রতিটি উদ্দেশ্যে সুরক্ষিত রাখে। সেরেব্রাসের বৈকল্পিকটি ভেন্ডর লাইন অতিক্রম করার ক্ষেত্রে স্বতন্ত্র: কোম্পানি নিশ্চিত করেছে যে AMD GPUs তার উৎপাদন কনফিগারেশনে প্রিফিল স্টেজ পরিচালনা করে, সেরেব্রাস সিস্টেমগুলি ডিকোডের জন্য দায়ী। অপারেটরদের জন্য এই ভিন্নতা গুরুত্বপূর্ণ, কারণ এটি একটি একক সমন্বিত স্ট্যাকের পরিবর্তে প্রিফিল এবং ডিকোডকে আলাদাভাবে সংগ্রহযোগ্য পণ্য হিসাবে বিবেচনা করে।

কোম্পানির প্রকাশিত ফলাফলে জোর দেওয়া হয়েছে যে স্প্লিটটি দক্ষতার জন্য ট্রেড করার পরিবর্তে প্রজন্মের গতি সংরক্ষণ করে। এই পার্থক্যটি বিচ্ছিন্ন পরিবেশনের একটি দীর্ঘস্থায়ী সমালোচনাকে সম্বোধন করে: আলাদাভাবে ব্যাচিং প্রিফিল প্রথম টোকেনে বিলম্ব যোগ করতে পারে, এবং যে কোনও কনফিগারেশন যা ডিকোড লুপকে ধীর করে দেয় সেই ইন্টারেক্টিভ অনুভূতিকে দুর্বল করে দেয় যে প্রিমিয়াম ইনফারেন্স পরিষেবাগুলি বিক্রি হয়। সেরেব্রাস দাবি করে যে এর ব্যবস্থা উভয় শাস্তিই এড়ায়, যদিও বিভিন্ন প্রম্পট দৈর্ঘ্য এবং ট্র্যাফিক প্যাটার্ন জুড়ে স্বাধীন বেঞ্চমার্কই আসল পরীক্ষা হবে।

এআই বাজ ওয়্যার পাঠকদের জন্য অবকাঠামোগত রেস ট্র্যাক করছে, সেরিব্রাস থেকে বার্তা হল যে এক-চিপ-ফিট-সমস্ত অনুমানের যুগ উদ্দেশ্য-নির্মিত পাইপলাইনগুলিকে পথ দিচ্ছে — এবং কোম্পানিটি তাদের অর্ধেক ডিকোডের মালিক হতে চায়।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →