Thinking Machines Lab، شرکت تحقیقاتی که توسط مدیر ارشد فناوری OpenAI، میرا موراتی تأسیس شده است، توضیح فنی دقیقی درباره نحوه آموزش مدل‌های زبان بزرگ تقریباً به طور کامل با دقت 4 بیت منتشر کرده است - تکنیکی که شرکت می‌گوید باعث می‌شود در جدیدترین سخت‌افزار مرکز داده انویدیا صرفه‌جویی زیادی در سرعت و حافظه صرفه‌جویی شود.
این پست وبلاگ با عنوان "آموزش 4 بیتی انتها به انتها" و در 13 نوامبر در وب سایت این شرکت منتشر شد، مبادلات عددی پشت آموزش با دقت پایین را بررسی می کند و نحوه مدیریت آنها را در حین آموزش مدل Inkling 2 Small توضیح می دهد. برای خوانندگانی که آخرین پیشرفت‌های هوش مصنوعی را دنبال می‌کنند، این پست یک نگاه عمومی نادر به تصمیمات مهندسی ارائه می‌دهد که تعیین می‌کنند یک دوره آموزشی در مقیاس مرزی واقعاً چقدر هزینه دارد.
چرا بیت های کمتر به معنای آموزش سریعتر است
آموزش یک مدل زبان بزرگ شامل محاسبه و ذخیره مقادیر زیادی از اعداد است. استفاده از بیت های کمتر برای هر مقدار، مصرف حافظه را کاهش می دهد و به GPU ها اجازه می دهد محاسبات را سریعتر انجام دهند. هزینه دقیق است: بیت های کمتر به معنای اعداد قابل نمایش کمتر است، بنابراین مقادیر باید با شدت بیشتری گرد شوند.
این شرکت مشکل را با یک مثال ساده نشان می دهد. اگر یک قالب فقط می تواند اعداد 3 و 4 را نشان دهد، ذخیره 3.2 نیاز به گرد کردن به 3 دارد و خطای کوانتیزاسیون 0.2 را ایجاد می کند. یک خطای گرد کردن ساده است، اما در طول آموزش، این خطاها در لایه‌ها و مراحل بهینه‌سازی جمع می‌شوند و می‌توانند در خود فرآیند یادگیری اختلال ایجاد کنند.
این چالش اصلی آموزش با دقت پایین است: چگونه می‌توانیم از محاسبات سریعتر بدون ارائه خطاهایی که در یادگیری اختلال ایجاد می‌کنند بهره ببریم؟ این شرکت در این پست نوشت.
سه فرمت، یک دوره آموزشی
Thinking Machines به جای تعهد به یک سطح دقیق، از سه فرمت عددی در مراحل مختلف آموزش استفاده می‌کند: BF16، MXFP8 و NVFP4. هر فرمت دقت ثابتی دارد، اما سرعت آن به سخت افزاری که آن را اجرا می کند بستگی دارد.
این شرکت بر روی پلتفرم Grace Blackwell Ultra انویدیا، GB300، تمرین می کند که به طور خاص برای تسریع ضرب ماتریس در NVFP4 طراحی شده است. طبق این پست، NVFP4 مقادیر را با بیت های 3.6 برابر کمتر از BF16 ذخیره می کند در حالی که در سیستم های GB300 تا 6 برابر سریعتر اجرا می شود. از نظر توان عملیاتی خام، شرکت عملکرد GB300 را تقریباً 15 PFLOPS در NVFP4، 5 PFLOPS در MXFP8 و 2.5 PFLOPS در BF16 فهرست کرده است.
نکته مهم این است که فشرده سازی تهاجمی NVFP4 خطای کوانتیزاسیون بسیار بیشتری را نسبت به فرمت های گسترده تر ایجاد می کند. این خطا در برخی از مراحل آموزش قابل قبول و در برخی دیگر غیرقابل قبول است، به همین دلیل است که شرکت به هر مرحله جداگانه رسیدگی می کند.
مراحل مختلف، قوانین مختلف
پست وبلاگ آموزش را به چهار مرحله تقسیم می‌کند - پاس‌های پیش‌تمرینی به جلو و عقب، نمونه‌گر یادگیری تقویتی، و مربی RL - و به هر کدام تعادل متفاوتی از اولویت‌ها بین حداقل کردن خطا، به حداقل رساندن سوگیری، افزایش سرعت و کاهش استفاده از حافظه اختصاص می‌دهد.
سرعت بیشترین اهمیت را در مراحل با حجم بالا دارد: پیش‌آموزش، که بیش از تریلیون‌ها توکن اجرا می‌شود، و نمونه‌برداری RL، که حجم زیادی از عرضه‌ها را تولید می‌کند. با این حال، پاس های عقب افتاده، یک مورد خاص است. این پست توضیح می‌دهد که میانگین پاس‌های معکوس روی بسیاری از توکن‌ها در یک دسته، که تأثیر خطاهای گرد کردن تصادفی توزیع‌شده را کاهش می‌دهد – اما آنها نسبت به سوگیری کوانتیزاسیون بسیار حساس هستند، رانش سیستماتیکی که زمانی رخ می‌دهد که مقادیر به طور مداوم در یک جهت گرد شوند. برخلاف نویز تصادفی، این سوگیری می‌تواند در لایه‌ها، نمونه‌ها و مراحل آموزشی ترکیب شود.
این شرکت می‌گوید که این مبادلات را در حین آموزش Inkling 2 Small مدیریت کرده است، مدلی که اوایل ماه جاری با مجوز آپاچی 2.0 منتشر شد. این پست ادعا نمی کند که هر قسمت از اجرا در 4 بیت اجرا می شود. بلکه یک استراتژی پایان به انتها را توصیف می کند که در آن دقت هر جزء به طور عمدی انتخاب می شود نه اینکه به طور پیش فرض به ارث برسد.
چرا آموزش با دقت پایین مهم است
اقتصاد در اینجا ساده است. محاسبه هزینه اصلی در توسعه مدل مرزی است و فروشندگان سخت افزار برای افزودن شتاب کم دقت به هر نسل جدید تراشه رقابت کرده اند. انویدیا پشتیبانی از NVFP4 را در پلتفرم Blackwell Ultra خود به عنوان یک ویژگی اصلی قرار داده است و شتاب دهنده های رقیب از AMD، Google و سایرین فرمت های کم دقت خود را تبلیغ می کنند.
اگر آزمایشگاه‌های تحقیقاتی بتوانند با خیال راحت بیشتر از خط لوله آموزشی را به محاسبات 4 بیتی هدایت کنند، همان بودجه سخت‌افزاری آزمایش‌های بیشتر، توکن‌های بیشتر یا مدل‌های بزرگ‌تر را خریداری می‌کند. این یک مزیت معنی دار در بازاری است که دسترسی به شتاب دهنده های پیشرفته کمیاب و گران است. همچنین با فشار گسترده‌تر صنعت به سمت تکنیک‌های کارایی مانند استنتاج آگاهانه از کوانتیزاسیون و رمزگشایی حدسی ترکیب می‌شود، که هر دو توانایی بیشتری را از سخت‌افزار ثابت کاهش می‌دهند.
این پست همچنین نشانه ای است از اینکه جامعه پژوهشی به کجا می رود. مدت‌هاست که آموزش با دقت پایین برای هر چیزی فراتر از استنباط بسیار خطرناک تلقی می‌شد، زیرا تصور می‌شد که خطاهای گرد کردن، یادگیری را خراب می‌کنند. تجزیه و تحلیل دقیق مرحله به مرحله - مانند آنچه که Thinking Machines منتشر کرد - این است که چگونه این فرض آزمایش می شود و در صورت امکان، لغو می شود.
از پست وبلاگ تا وزن باز
آنچه این افشا را قابل توجه می کند این است که صرفاً نظری نیست. این شرکت این تکنیک را مستقیماً به مدلی که واقعاً ارسال کرده بود گره زد. Inkling 2 Small با وزن های قابل دانلود در اوایل نوامبر منتشر شد و پست جدید استراتژی عددی پشت آموزش آن را توضیح می دهد. تمرین‌کنندگانی که این مدل را دانلود می‌کنند، در واقع، مصنوع کاری از روش‌شناسی با دقت پایینی را که شرکت توصیف می‌کند، دریافت می‌کنند.
Thinking Machines به طور غیرمعمولی برای یک آزمایشگاه در مقیاس مرزی باز است و پست های وبلاگ فنی را در کنار نسخه های مدل خود منتشر می کند. این شفافیت چیزی نادر را به محققین بیرونی می‌دهد: گزارشی مستند و قابل تکرار از چگونگی مدیریت یک دوره آموزشی مدرن با واقعیت‌های عددی درهم و برهم محاسباتی با دقت ترکیبی.
برای صنعت گسترده تر، پیام این است که آموزش 4 بیتی از کنجکاوی تحقیق به تکنیک تولید منتقل شده است. همانطور که آزمایشگاه‌های بیشتری استراتژی‌های مشابه را اتخاذ می‌کنند، شکاف بین عملکرد سخت‌افزاری نظری و توان عملیاتی آموزشی کاهش می‌یابد - و هزینه مدل‌های با قابلیت آموزش همچنان کاهش می‌یابد.
از هوش مصنوعی جلوتر بمانید
تکنیک های پشت مدل های مرزی هر هفته تکامل می یابند. [با هوش مصنوعی Buzz Wire] (https://aibuzzwire.news) را دنبال کنید تا گزارشی واضح و منبع‌دار درباره تحقیقاتی که زمینه را شکل می‌دهد.
اخبار هوش مصنوعی را بیشتر بخوانید →
