بر اساس یک حساب اول شخص صریح که این هفته توسط محقق یادگیری ماشینی منتشر شد، جان لنگفورد، که گروه را در داخل MSR در سال 2023 سازماندهی کرد، گروه تقریباً 50 نفره پشت چارچوب هماهنگ‌سازی عامل AutoGen و عامل استفاده از رایانه فارا - به پایان خود رسیده است. خانه ای برای دستور کار تحقیقاتی آن نیست. این پست عصبی شد: با بیش از 300 امتیاز در عرض چند ساعت در صدر [Hacker News] (https://news.ycombinator.com/item?id=50406563) قرار گرفت، و یکی از دقیق‌ترین گزارش‌های داخلی را ارائه می‌کند که نشان می‌دهد چگونه تغییر صنعت از تحقیق به مقیاس‌سازی در یک آزمایشگاه بزرگ انجام می‌شود. ما در [پوشش اخبار کسب و کار هوش مصنوعی] (https://aibuzzwire.news) پیامدها را دنبال می کنیم.
آنچه AI Frontiers ساخته است
لنگفورد منشأ این گروه را در ماه‌های پس از انتشار ChatGPT دنبال می‌کند، زمانی که او به این نتیجه رسید که تحقیقات هوش مصنوعی در داخل مایکروسافت به ساختار بیشتری نسبت به مدل سنتی MSR نیاز دارد. او می‌نویسد: «میزان حمایت و تمرکزی که سایر گروه‌های تحقیقاتی به کار می‌گرفتند به اندازه‌ای بود که حتی با یک ایده هوشمندانه که توسط یک نفر دنبال می‌شد، احتمالاً دیر و متقاعدکننده نمی‌رسید.
بنابراین لنگفورد و همکاران همفکر خود، AI Frontiers را به عنوان یک سازمان فرعی متشکل از حدود 50 نفر سازماندهی کردند، که عمداً نه از بالا به پایین و نه از پایین به بالا بلکه "جایی در وسط آشفته" ساخته شده بود. قابل مشاهده ترین خروجی گروه اعمال شد: AutoGen، چارچوب متن باز پر استفاده مایکروسافت برای هماهنگ کردن چندین عامل هوش مصنوعی، و Fara، یک عامل استفاده از رایانه. به گفته لنگفورد، "بسیاری از کار AIF این بود که چگونه عوامل را وادار به کار کنند."
تحقیقات بنیادی این گروه کمتر قابل مشاهده بود. گروهی از نیویورک آنچه را که لانگفورد به عنوان قابلیت‌های اصلی جدید توصیف می‌کند دنبال کردند: یک هدف «نهفته بعدی» که مدل‌ها را قادر می‌سازد برون‌یابی شوند، یک بهینه‌ساز به نام Dion3 که بر روی Muon بهبود می‌یابد، و یک «تبدیل پهنای باند کامل» که برای قدرتمندتر کردن مدل‌ها از طریق بازگشت مجدد طراحی شده است.
این گروه همچنین سعی کرد زیرساخت را با بقیه تحقیقات مایکروسافت به اشتراک بگذارد و یک monorepo را برای همه محققان MSR باز نگه دارد. این مخزن شامل یک پایگاه کد پیش‌آموزشی در مقیاس لبه بود که لنگفورد در کنفرانس COLM ماه گذشته ارائه کرد - جزئیاتی که او آن را جزئی می‌نامد، اما از آن برای تأکید بر میزان تلاشی که یک خط لوله آموزش مدل کار برای ساختن می‌کشد استفاده می‌کند، با توجه به اینکه سه تیم داخلی دیگر همان کار را بدون پایه مشترک انجام می‌دهند.
Reorg سپتامبر
در اوایل ماه سپتامبر، مایکروسافت AI Frontiers را به هوش مصنوعی مایکروسافت، بخش بزرگ‌تر محصولی که تلاش‌های هوش مصنوعی مصرف‌کننده و سازمانی این شرکت را در خود جای داده است، قرار داد. لنگفورد اذعان می‌کند که روی کاغذ، این حرکت منطقی بود: ترکیب دو سازمان هوش مصنوعی تلاش را متمرکز می‌کند و هر کدام نقاط قوتی داشتند که دیگری فاقد آن بود.
او می نویسد که در عمل، ادغام بر پایه فلسفه شکل گرفت. لنگفورد در مورد رهبری سابق هوش مصنوعی مایکروسافت می گوید: «فلسفه اصلی در آنجا مقیاس بندی است و به طور تهاجمی نه تحقیق. چارچوب‌بندی او از اقتصاد به دست آمده صریح است: مدل‌های بزرگ‌تر پیش‌بینی‌های بهتری را تولید می‌کنند، و «بازده به مقیاس بسیار قابل پیش‌بینی‌تر از بازگشت به تحقیق است»، بنابراین سازمانی که اولین مقیاس‌بندی را انجام می‌دهد، به جای روش‌های جدید، بر کسب و پالایش داده‌ها تمرکز می‌کند.
او استدلال می‌کند که این تمرکز «یک قدم کاملاً دور» از کار اساسی AI Frontiers است - و فراتر از عدم تطابق فلسفی، او می‌گوید که استقبال در بهترین حالت بی‌معنا بود. لنگفورد می نویسد: "شواهد زیادی وجود داشت که آنها واقعا ما را نمی خواستند." او از دیدگاه خود در مورد مبادله دریغ نمی‌کند و رویکرد صرفاً مقیاس‌پذیری را به‌عنوان نادرست توصیف می‌کند، اگرچه استدلال کامل فراتر از نکته‌ای است که او به صراحت در این پست بیان می‌کند.
تحقیق در مقابل مقیاس گذاری، فراتر از مایکروسافت
این مقاله در بحبوحه بحث صنعتی گسترده‌تر در مورد اینکه آیا آزمایشگاه‌های مرزی می‌توانند سازمان‌های تحقیقاتی واقعی را در کنار جدول‌های زمانی محصول حفظ کنند قرار می‌گیرد. مایکروسافت به سختی در تثبیت تحقیقات هوش مصنوعی تحت رهبری متمرکز بر محصول تنها نیست، اما حساب لنگفورد به طور غیرعادی در مورد مکانیک خاص است: یک گروه کوچک و سازنده که پس از سازماندهی مجدد شرکتی نه دستوری داده شده و نه مورد استقبال قرار گرفته است، با کمک های زیرساختی آن بی سر و صدا جذب شده است.
بحث در هکر نیوز، جایی که این پست صدها نظر را به خود جلب کرد، عمدتاً بر این تنش متمرکز بود - چه کالبد شکافی‌هایی مانند این یک بلوغ اجتناب‌ناپذیر تحقیقات هوش مصنوعی شرکتی را توصیف کند، یا یک خطای استراتژیک که در آن آزمایشگاه‌ها مزایای روش‌شناختی بادوام را با دستاوردهای مقیاس‌پذیر قابل پیش‌بینی مبادله می‌کنند. مفسران همچنین این طنز را نشان دادند که AutoGen، یکی از پروژه‌های امضاکننده AI Frontiers، به تعریف دسته‌بندی سازماندهی عاملی کمک کرد که اکنون بر نقشه‌های راه هوش مصنوعی سازمانی تسلط دارد.
برای مایکروسافت، این اپیزود یک پاورقی معتبر با مفاهیم عملی است. این شرکت استراتژی هوش مصنوعی خود را روی سرعت حمل و نقل هوش مصنوعی مایکروسافت قرار داده است و لنگفورد ادعا نمی کند که سازمان ادغام شده محصولات بدتری تولید خواهد کرد. نگرانی او باریک‌تر و واضح‌تر است: اینکه خط لوله ایده‌های جدید - مردم، زیرساخت‌ها، تحمل رویکردهای اثبات‌نشده - دقیقاً همان چیزی است که یک بخش مقیاس‌پذیر تا روزی که به آن نیاز دارد کمترین استفاده را برای آن دارد.
نه پست لنگفورد و نه سازماندهی مجددی که او توصیف می‌کند، چیزی را که کاربران امروز می‌بینند تغییر نمی‌دهد، اما آنها روشن می‌کنند که چگونه مایکروسافت اکنون شرط‌بندی‌های هوش مصنوعی خود را مرتب می‌کند. پژوهشی که می تواند به مقیاس تبدیل شود در; تحقیقاتی که ممکن است معنای مقیاس را تغییر دهد که در بهترین حالت، آزمایشی است. همانطور که لنگفورد در عنوان پست آورده است، این پایان مرزهای هوش مصنوعی است - و یک نقطه داده در بحث در مورد اینکه تحقیقات هوش مصنوعی شرکتی برای چیست.
از هوش مصنوعی جلوتر بمانید
کسب‌وکار هوش مصنوعی در زمان واقعی بازنویسی می‌شود و تصمیم‌های گرفته شده در آزمایشگاه‌هایی مانند مایکروسافت، ابزارهایی را شکل می‌دهد که دیگران به ارث می‌برند. همه پیشرفت‌ها را در [پوشش اخبار هوش مصنوعی] (https://aibuzzwire.news) ما دنبال کنید.
اخبار هوش مصنوعی را بیشتر بخوانید →
