থিংকিং মেশিন ল্যাব, প্রাক্তন OpenAI প্রধান প্রযুক্তি কর্মকর্তা মীরা মুরাতি দ্বারা প্রতিষ্ঠিত গবেষণা সংস্থা, এটি কীভাবে 4-বিট নির্ভুলতায় বড় ভাষার মডেলগুলিকে প্রায় সম্পূর্ণরূপে প্রশিক্ষিত করে তার একটি বিশদ প্রযুক্তিগত ব্যাখ্যা প্রকাশ করেছে — একটি কৌশল যা কোম্পানির মতে Nvidia-এর নতুন ডেটা সেন্টার হার্ডওয়্যারে বড় গতি এবং মেমরি সঞ্চয় আনলক করে।
ব্লগ পোস্ট, "এন্ড-টু-এন্ড 4-বিট ট্রেনিং" শিরোনাম এবং 13 নভেম্বর কোম্পানির ওয়েবসাইটে প্রকাশিত, নিম্ন-নির্ভুল প্রশিক্ষণের পিছনে সংখ্যাসূচক ট্রেড-অফের মধ্য দিয়ে চলে এবং বর্ণনা করে যে কীভাবে দলটি তার Inkling 2 Small মডেলের প্রশিক্ষণের সময় তাদের পরিচালনা করেছিল। পাঠকদের জন্য সাম্প্রতিক AI উন্নয়নগুলি অনুসরণ করে, পোস্টটি ইঞ্জিনিয়ারিং সিদ্ধান্তগুলির একটি বিরল সর্বজনীন দৃষ্টিভঙ্গি অফার করে যা নির্ধারণ করে যে একটি সীমান্ত-স্কেল প্রশিক্ষণ চালানোর জন্য আসলে কত খরচ হয়।
কেন কম বিট মানে দ্রুত প্রশিক্ষণ
একটি বৃহৎ ভাষা মডেল প্রশিক্ষণের মধ্যে প্রচুর পরিমাণে সংখ্যা গণনা করা এবং সংরক্ষণ করা জড়িত। প্রতিটি মানের জন্য কম বিট ব্যবহার করা মেমরি ব্যবহার হ্রাস করে এবং GPU গুলিকে গাণিতিক দ্রুত সম্পাদন করতে দেয়। খরচ হল নির্ভুল: কম বিট মানে কম প্রতিনিধিত্বযোগ্য সংখ্যা, তাই মানগুলিকে আরও আক্রমণাত্মকভাবে বৃত্তাকার করতে হবে।
কোম্পানী একটি সাধারণ উদাহরণ দিয়ে সমস্যাটি ব্যাখ্যা করে। যদি একটি বিন্যাস শুধুমাত্র 3 এবং 4 নম্বরগুলিকে উপস্থাপন করতে পারে, 3.2 সঞ্চয় করার জন্য 3-এ রাউন্ডিং করা প্রয়োজন, 0.2-এর একটি পরিমাপকরণ ত্রুটি প্রবর্তন করে৷ একটি একক রাউন্ডিং ত্রুটি তুচ্ছ, কিন্তু প্রশিক্ষণের সময় এই ত্রুটিগুলি স্তর এবং অপ্টিমাইজেশান ধাপ জুড়ে জমা হয় এবং সেগুলি শেখার প্রক্রিয়াতেই হস্তক্ষেপ করতে পারে।
"এটি হল নিম্ন-নির্ভুল প্রশিক্ষণের কেন্দ্রীয় চ্যালেঞ্জ: শেখার ক্ষেত্রে হস্তক্ষেপকারী ত্রুটিগুলি প্রবর্তন না করে আমরা কীভাবে দ্রুত গাণিতিক থেকে উপকৃত হতে পারি?" কোম্পানি পোস্টে লিখেছেন.
তিনটি ফরম্যাট, একটি ট্রেনিং রান
একক নির্ভুলতা স্তরে প্রতিশ্রুতিবদ্ধ হওয়ার পরিবর্তে, থিংকিং মেশিন প্রশিক্ষণের বিভিন্ন পর্যায়ে তিনটি সংখ্যাসূচক বিন্যাস ব্যবহার করে: BF16, MXFP8 এবং NVFP4। প্রতিটি বিন্যাসে নির্দিষ্ট নির্ভুলতা রয়েছে, তবে এর গতি নির্ভর করে এটি চালানো হার্ডওয়্যারের উপর।
কোম্পানি এনভিডিয়ার গ্রেস ব্ল্যাকওয়েল আল্ট্রা প্ল্যাটফর্ম, GB300-এ ট্রেনিং করে, যা বিশেষভাবে NVFP4-এ ম্যাট্রিক্স গুণনকে ত্বরান্বিত করার জন্য ডিজাইন করা হয়েছে। পোস্ট অনুসারে, NVFP4 GB300 সিস্টেমে 6 গুণ দ্রুত গতিতে চলাকালীন BF16 থেকে 3.6 গুণ কম বিট সহ মান সঞ্চয় করে। কাঁচা থ্রুপুট পদে, কোম্পানি NVFP4-এ প্রায় 15 PFLOPS, MXFP8-এ 5 PFLOPS এবং BF16-এ 2.5 PFLOPS-এ GB300 কর্মক্ষমতা তালিকাভুক্ত করে৷
ক্যাচ হল যে NVFP4 এর আক্রমনাত্মক সংকোচন বিস্তৃত বিন্যাসের তুলনায় অনেক বেশি পরিমাপকরণ ত্রুটি প্রবর্তন করে। এই ত্রুটিটি প্রশিক্ষণের কিছু পর্যায়ে গ্রহণযোগ্য এবং অন্যগুলিতে অগ্রহণযোগ্য, এই কারণে কোম্পানি প্রতিটি পর্যায়ে আলাদাভাবে আচরণ করে।
বিভিন্ন ধাপ, বিভিন্ন নিয়ম
ব্লগ পোস্টটি প্রশিক্ষণকে চারটি ধাপে বিভক্ত করে — প্রাক-প্রশিক্ষণের ফরোয়ার্ড এবং পশ্চাদমুখী পাস, রিইনফোর্সমেন্ট লার্নিং স্যাম্পলার এবং RL প্রশিক্ষক — এবং প্রতিটিকে ত্রুটি কমানো, পক্ষপাত কমানো, গতি বাড়ানো এবং মেমরির ব্যবহার কমানোর মধ্যে অগ্রাধিকারের আলাদা ভারসাম্য নির্ধারণ করে।
উচ্চ-ভলিউম ধাপে গতি সবচেয়ে গুরুত্বপূর্ণ: প্রি-ট্রেনিং, যা ট্রিলিয়ন টোকেনগুলির উপর চলে এবং আরএল স্যাম্পলিং, যা প্রচুর পরিমাণে রোলআউট তৈরি করে। অনগ্রসর পাস, তবে, একটি বিশেষ ক্ষেত্রে. পোস্টটি ব্যাখ্যা করে যে একটি ব্যাচের অনেক টোকেনের উপর পিছিয়ে যাওয়া গড় পাস, যা এলোমেলোভাবে বিতরণ করা রাউন্ডিং ত্রুটিগুলির প্রভাবকে কমিয়ে দেয় — তবে তারা পরিমাপকরণ পক্ষপাতের প্রতি অত্যন্ত সংবেদনশীল, যে পদ্ধতিগত প্রবাহ ঘটে যখন মানগুলি ধারাবাহিকভাবে এক দিকে বৃত্তাকার হয়। এলোমেলো শব্দের বিপরীতে, সেই পক্ষপাতটি স্তর, নমুনা এবং প্রশিক্ষণের ধাপ জুড়ে যৌগিক হতে পারে।
কোম্পানী বলছে যে এটি ইনক্লিং 2 স্মলকে প্রশিক্ষণ দেওয়ার সময় এই ট্রেড-অফগুলি পরিচালনা করেছিল, এটি একটি অ্যাপাচি 2.0 লাইসেন্সের অধীনে এই মাসের শুরুতে প্রকাশিত ওপেন-ওয়েট মিক্সচার-অফ-বিশেষজ্ঞ মডেল। পোস্টটি দাবি করে না যে রানের প্রতিটি অংশ 4 বিটে চলেছিল; বরং, এটি একটি এন্ড-টু-এন্ড কৌশল বর্ণনা করে যেখানে প্রতিটি উপাদানের নির্ভুলতা ডিফল্টভাবে উত্তরাধিকার সূত্রে প্রাপ্ত না হয়ে ইচ্ছাকৃতভাবে বেছে নেওয়া হয়।
কেন কম-নির্ভুল প্রশিক্ষণের ব্যাপার
এখানকার অর্থনীতি সহজবোধ্য। কম্পিউট হল ফ্রন্টিয়ার মডেল ডেভেলপমেন্টের প্রধান খরচ, এবং হার্ডওয়্যার বিক্রেতারা প্রতিটি নতুন চিপ জেনারেশনে কম-নির্ভুলতা ত্বরণ যোগ করার জন্য দৌড়ঝাঁপ করছে। এনভিডিয়া তার ব্ল্যাকওয়েল আল্ট্রা প্ল্যাটফর্মে একটি হেডলাইন বৈশিষ্ট্য হিসাবে NVFP4 সমর্থনকে অবস্থান করেছে, এবং AMD, Google এবং অন্যান্যদের প্রতিদ্বন্দ্বী অ্যাক্সিলারেটর তাদের নিজস্ব হ্রাস-নির্ভুল ফর্ম্যাটগুলির বিজ্ঞাপন দেয়।
গবেষণা ল্যাবগুলি যদি নিরাপদে 4-বিট পাটিগণিতের মধ্যে আরও বেশি প্রশিক্ষণ পাইপলাইনকে ঠেলে দিতে পারে, তবে একই হার্ডওয়্যার বাজেট আরও পরীক্ষা, আরও টোকেন বা বড় মডেল কিনতে পারে। এটি এমন একটি বাজারে একটি অর্থবহ সুবিধা যেখানে অত্যাধুনিক এক্সিলারেটরের অ্যাক্সেস দুষ্প্রাপ্য এবং ব্যয়বহুল। এটি শিল্পের বৃহত্তর দক্ষতার কৌশলগুলি যেমন কোয়ান্টাইজেশন-সচেতন অনুমান এবং অনুমানমূলক ডিকোডিং এর দিকে ধাক্কা দেয়, উভয়ই স্থির হার্ডওয়্যার থেকে আরও বেশি ক্ষমতা নিংড়ে দেয়।
গবেষণা সম্প্রদায় কোন দিকে যাচ্ছে তারও একটি সংকেত পোস্টটি। নিম্ন-নির্ভুল প্রশিক্ষণকে দীর্ঘকাল ধরে অনুমানের বাইরে যে কোনও কিছুর জন্য খুব ঝুঁকিপূর্ণ হিসাবে দেখা হয়েছিল, কারণ রাউন্ডিং ত্রুটিগুলি শিক্ষাকে দূষিত করে বলে ধরে নেওয়া হয়েছিল। পর্যায়ক্রমে যত্নশীল বিশ্লেষণ - যেমন একটি থিঙ্কিং মেশিন প্রকাশিত হয়েছে - কীভাবে সেই অনুমানটি পরীক্ষা করা হয় এবং যেখানে সম্ভব, উল্টে যায়।
ব্লগ পোস্ট থেকে ওপেন ওয়েটস পর্যন্ত
যেটি প্রকাশকে উল্লেখযোগ্য করে তোলে তা হল এটি সম্পূর্ণরূপে তাত্ত্বিক নয়। কোম্পানিটি কৌশলটিকে সরাসরি একটি মডেলের সাথে সংযুক্ত করেছে যা এটি আসলে পাঠানো হয়েছে। Inkling 2 Small নভেম্বরের শুরুতে ডাউনলোডযোগ্য ওজন সহ প্রকাশ করা হয়েছিল, এবং নতুন পোস্টটি এর প্রশিক্ষণের পিছনে সংখ্যাসূচক কৌশল ব্যাখ্যা করে। যে অনুশীলনকারীরা মডেলটি ডাউনলোড করেন তারা কার্যত, কোম্পানির বর্ণনা করা নিম্ন-নির্ভুল পদ্ধতির একটি কার্যকরী শিল্পকর্ম পাচ্ছেন।
থিংকিং মেশিনগুলি একটি ফ্রন্টিয়ার-স্কেল ল্যাবের জন্য অস্বাভাবিকভাবে খোলা হয়েছে, এর মডেল রিলিজের পাশাপাশি প্রযুক্তিগত ব্লগ পোস্টগুলি প্রকাশ করছে। এই স্বচ্ছতা বাইরের গবেষকদের বিরল কিছু দেয়: একটি নথিভুক্ত, পুনরুত্পাদনযোগ্য বিবরণ যে একটি আধুনিক প্রশিক্ষণ কীভাবে মিশ্র-নির্ভুল পাটিগণিতের অগোছালো সংখ্যাগত বাস্তবতাগুলি পরিচালনা করে।
বৃহত্তর শিল্পের জন্য, বার্তাটি হল যে 4-বিট প্রশিক্ষণ গবেষণা কৌতূহল থেকে উত্পাদন প্রযুক্তিতে চলে গেছে। যেহেতু আরো ল্যাব একই ধরনের কৌশল গ্রহণ করে, তাত্ত্বিক হার্ডওয়্যারের সর্বোচ্চ কর্মক্ষমতা এবং উপলব্ধিকৃত প্রশিক্ষণ থ্রুপুটের মধ্যে ব্যবধান সংকুচিত হবে — এবং প্রশিক্ষণ সক্ষম মডেলের খরচ কমতে থাকবে।
এআই থেকে এগিয়ে থাকুন
ফ্রন্টিয়ার মডেলগুলির পিছনের কৌশলগুলি সাপ্তাহিকভাবে বিকশিত হয়। এআই বাজ ওয়্যার অনুসরণ করুন গবেষণার বিষয়ে স্পষ্ট, উৎসযুক্ত প্রতিবেদনের জন্য যা ক্ষেত্রকে আকার দেয়।
আরও এআই খবর পড়ুন →
