جان شولمن، یکی از بنیانگذاران OpenAI که اکنون به عنوان دانشمند ارشد در Thinking Machines فعالیت میکند، گفت که انتظار دارد بهبودی بازگشتی (سیستمهای هوش مصنوعی که توسعه خودشان را تسریع میکنند) طی سه تا چهار سال آینده، جدول زمانی که او را در میان پیشبینیکنندگان تهاجمیتر در این زمینه قرار میدهد. شولمن در طول میزگردی از پادکست Dwarkesh که روز جمعه منتشر شد، این تخمین را ارائه کرد، که در آن سه محقق آزمایشگاه مرزی آشکارا در مورد نزدیک بودن صنعت به سقف خود بحث کردند.
این مکالمه نگاه نادری را ارائه داد که چگونه محققان نزدیک به مرز به پیشرفت فکر میکنند، در میان هفتهای پر سر و صدا که جنسن هوانگ، مدیرعامل انویدیا اعلام کرد «AGI رسیده است» و گروهی متشکل از 25 مدالآور فیلدز هشدار دادند که تعقیب معیار هوش مصنوعی به ریاضیات آسیب میزند. برای خوانندگانی که [آخرین پیشرفتهای هوش مصنوعی] (https://aibuzzwire.news) را دنبال میکنند، این قسمت یک وزنه تعادل مفید است: اینها افرادی هستند که سیستمها را میسازند و به شدت با یکدیگر اختلاف نظر دارند.
چه کسی سر میز بود
دوارکش پاتل مجری برنامه گفت که او این پنل را جمع آوری کرده است زیرا مهمانان در آنچه که او آنها را "آزمایشگاه ها و شرکت های تا حدودی باز" می نامد کار می کنند، به این معنی که می توانند در ضبط صحبت کنند. برن میلیج، مدیر ارشد فناوری در Zyphra، استارت آپی که مدل های منبع باز را توسعه می دهد، و چارلی اونیل، رئیس آموزش مدل در Baseten به شولمن پیوستند.
اعتبار شولمن به صحبت های جدول زمانی او اهمیت خاصی می دهد. او OpenAI را بنیانگذاری کرد و یادگیری تقویتی را از تحقیقات بازخورد انسانی که تکنیکهای پشت ChatGPT را تولید کرد، رهبری کرد، قبل از عزیمت به Thinking Machines، جایی که اکنون به عنوان دانشمند ارشد در آنجا خدمت میکند.
موردی علیه تکینگی، فولادی
پاتل با یک سوال برجسته شروع به کار کرد: اگر سال 2036 بدون میلیاردها سیستم فوق هوشمند که جهان را متحول کنند فرا رسد، دلیل فنی چه خواهد بود؟ میلیج قویترین حالت را برای شک و تردید ارائه کرد و آنچه را که الگوی سبک پارادوکسی تقریباً موراوک نامید، توصیف کرد که در آن مدلها هر معیاری را که محققان در مقابل آنها قرار میدهند، در اختیارشان قرار میدهند، اما تأثیر دنیای واقعی ناامیدکننده است.
میلیج، با توصیف دنیایی که در آن هوش مصنوعی بدون تعمیم بیشتر، «در هر چیزی که افراد در معیار قرار میدهند بسیار خوب» میشود، گفت: «هنوز یک شکاف دائمی از همزمان با واقعی وجود دارد که به نوعی همه چیز را مسدود میکند». وی افزود که این نتیجه را بعید میداند، و به شواهدی اشاره کرد که یادگیری تقویتی در عمل تعمیم یافته است.
شولمن تا حد زیادی موافق بود که پیشرفت خودکار نیست. او گفت که انسانها نسبت به مدلهای امروزی دارای مزایای واقعی هستند و هر نسخه جدید در برخی از زمینهها پیشروی میکند در حالی که در برخی دیگر در تنگنا باقی میماند - الگویی که چندین چرخه محصول گذشته را تعریف کرده است.
جدول زمانی آتش سوزی سریع: دو سال، سه تا چهار، پنج تا ده
وقتی پاتل اعداد را فشار داد، پانل تقسیم شد. شولمن در پاسخ به این سوال که چه زمانی ممکن است هوش مصنوعی برای یک کارگر یقه سفید توانمند، بهره وری را ده برابر افزایش دهد، شولمن ابتدا از ارائه یک رقم واحد خودداری کرد، سپس گفت: "من می گویم دو سال." میلیج گفت که میتواند «در واقع این را ببیند»، با این استدلال که سود در برخی از دستههای کار از 10 برابر فراتر رفته است. اونیل محافظه کارترین بود و از 5 تا 10 سال جواب داد.
پاتل سپس جلوتر رفت و سناریو را به عنوان "در اصل فقط ASI" توصیف کرد. پاسخ شولمن: «میتوانم بگویم 3-4 سال»، و اضافه کرد که خودکار کردن تحقیقات هوش مصنوعی «یکی از سختترین کارها برای هوش مصنوعی نیست، زیرا شامل کارهای زیادی است» که تکنیکهای فعلی میتوانند از قبل به آن نزدیک شوند. این مبادله به دلیل کاهش کمی که این تخمین از سوی سایر محققین به همراه داشت، قابل توجه بود.
چگونه محققان خودکار در واقع آموزش می بینند
بخش قابل توجهی از قسمت مربوط به مکانیک سناریویی است که شولمن در آن قیمتگذاری میکرد. شولمن در پاسخ به این سوال که چگونه سیستمهای هوش مصنوعی قادر به خودکارسازی تحقیقات هوش مصنوعی آموزش داده میشوند، شولمن توضیح داد: "تقریبی از یادگیری از بازخورد انسانی برای جذب ذائقه محققان و ایجاد محیطهای تمرینی زیادی که شامل انجام تحقیقات چند مرحلهای است."
این پاسخ به جایی که پول صنعت می رود مرتبط است. قرارداد اخیر گوگل برای Mechanize، استارتآپی که محیطهای کاری شبیهسازی شده را برای عوامل آموزشی ایجاد میکند، دقیقاً منعکسکننده این شرط است که زمینههای آموزشی بهتر - نه فقط مدلهای بزرگتر - دور بعدی دستاوردهای توانایی را به همراه خواهد داشت. Schulman همچنین یک مشکل اصلی را مشخص کرد: توابع پاداش ساخته شده بر روی داده های طبیعی به سختی مشخص می شوند و سیگنال های سطحی مانند پذیرش ویرایش کد توسط کاربر می توانند آموزش را گمراه کنند.
تقطیر در مقابل تمرکز
یکی از ملموسترین پیشبینیهای شولمن به ساختار صنعت مربوط میشود. او گفت: «من فکر میکنم تقطیر اصلیترین چیزی است که با نیروی متمرکز مبارزه میکند.» او استدلال کرد که قابلیتهایی که از طریق یادگیری تقویتی به دست میآیند را میتوان نسبتاً آسان به مدلهای کوچکتر منتقل کرد و شایستگی مرزی را فراتر از شرکتهای معدودی که میتوانند هزینه دورههای آموزشی مرزی را بپردازند، گسترش میدهد.
شولمن در مورد این سوال که چه چیزی برای انسان باقی می ماند، قاطعانه بود. او میگوید: «من میتوانم بگویم که آخرین شغل برای انسانها، یا نقش انسانها که طولانیترین دوام خواهد داشت، تعیین هدف و تصمیمگیری در مورد آنچه واقعاً میخواهیم است». وقتی پاتل خلاصه کرد که "همسویی کار نهایی است" شولمن با این جمله موافقت کرد: "همسویی به نوعی پاسخ است"، در حالی که اشاره کرد که به کشف هدف درست و سپس دستیابی به آن تجزیه می شود.
جایی که قسمت در بحث جدول زمانی قرار می گیرد
عنوان فرعی اپیزود - "ما هیچ کجا به سقف نزدیک نیستیم" - مفهوم کلی آن را به تصویر می کشد: محققانی که باند فرودگاه قابل توجهی را در پیش رو می بینند، حتی اگر در مورد اینکه چقدر مسیر ناهموار خواهد بود اختلاف نظر دارند. این بحث در مورد اینکه چه چیزی باعث پیشرفت آزمایشگاههای چینی میشود، اینکه آیا یادگیری تقویتی افق بلند میتواند هوش عمومی را به همراه داشته باشد و چرا RL شروع به کارکردن به همان خوبی کرده است، بود.
بحث عمومی در مورد جدول زمانی در این ماه از همه طرف تشدید شده است. به گزارش بلومبرگ، اعلامیه هوانگ "AGI رسیده است" باعث تردید تحلیلگران شد که آن را به عنوان یک مورد تجاری و نه یک ادعای علمی خواندند، در حالی که به گفته بلومبرگ، سام آلتمن، مدیر عامل OpenAI به کارکنان گفت که شرکت آماده است تا با افزایش نگرانی های ایمنی، توسعه پیشرفته را کند کند. پنجره سه تا چهار ساله شولمن برای خودسازی بازگشتی، جایی بین بازاریابی و مهلت قانونی قرار دارد - تخمینی کارآمد از سوی فردی که سابقه ساخت تکنیکهایی را دارد که اکنون این زمینه را پیش میبرد.
اینکه آیا او درست میگوید به سؤالاتی بستگی دارد که پانل فقط دایره آنها را مطرح کرده است: آیا یادگیری تقویتی به تعمیم محیطهای آموزشی خود ادامه میدهد و آیا شکاف بین عملکرد معیار و ارزش اقتصادی واقعی همچنان بسته میشود.
از هوش مصنوعی جلوتر بمانید
محققان مرزی در حال بحث در مورد محدودیت های هوش مصنوعی در ملاء عام هستند - داستان را در حین توسعه دنبال کنید.
اخبار هوش مصنوعی را در AI Buzz Wire بخوانید
