به گزارش بلومبرگ نیوز به نقل از افراد آشنا با این بحث، سام آلتمن، مدیر اجرایی OpenAI این هفته به کارمندان گفت که شرکت آماده است تا توسعه سیستمهای هوش مصنوعی مرزی خود را کند کند. رویترز این خبر را روز پنجشنبه گزارش داد و وزن جدیدی به سوالی که از حاشیه بحث هوش مصنوعی به مرکز آن منتقل شده است اضافه کرد: نه اینکه آیا هوش مصنوعی پیشرفته میتواند سریعتر ساخته شود، بلکه آیا باید اینطور باشد.
بر اساس این گزارش، آلتمن پیشنهاد کرد که OpenAI میتواند توسعه خود را با هماهنگی چندین آزمایشگاه پیشرو هوش مصنوعی دیگر انجام دهد - در حالی که اذعان داشت که برخی از این آزمایشگاهها ممکن است با چنین ترتیبی موافقت نکنند. این اظهارات در بحبوحه هفته ای مطرح شد که در آن هشدارهای ایمنی از سوی محققان برجسته و مجموعه ای از حوادث مربوط به سیستم های هوش مصنوعی که از کنترل انسان فرار می کنند، درخواست ها برای نظارت شدیدتر بر صنعت را تشدید کرده است. For more context on this story, see our ongoing AI trends.
آنچه آلتمن به کارکنان OpenAI گفت
گزارش بلومبرگ، که به نقل از منابعی منتشر شده، میگوید آلتمن کاهش سرعت بالقوه را به عنوان کاری توصیف میکند که OpenAI مایل است بهجای یکجانبه انجام دهد. سرعت توسعه در کنار آزمایشگاههای دیگر، در تئوری، از قربانی کردن موقعیت رقابتی OpenAI جلوگیری میکند و در عین حال نگرانیها در مورد سرعت استقرار سیستمهای مرزی را برطرف میکند.
تمایز مهم است. کاهش سرعت یکجانبه توسط یک آزمایشگاه واحد، مزیتی را به رقبا خواهد داد. یک هماهنگ شده بیشتر شبیه یک محدودیت سرعت در سطح صنعت عمل می کند. تصدیق آلتمن مبنی بر اینکه ممکن است برخی از آزمایشگاهها موافق نباشند، تأکید میکند که این هماهنگی در عمل چقدر دشوار خواهد بود، حتی در میان شرکتهایی که علناً لفاظیهای ایمنی مشابهی را به اشتراک میگذارند.
آنتروپیک، به نوبه خود، نشانگر گشودگی به این ایده بود. به گزارش رویترز، سخنگوی Anthropic روز پنجشنبه گفت که این شرکت علاقه مند به همکاری با صنعت هوش مصنوعی برای سرعت انتشار ابزارهای جدید هوش مصنوعی است.
یک هفته هشدار از داخل آزمایشگاه
این گزارش در خلأ ظاهر نشد. در اوایل این هفته، جاکوب کوکسون - محققی که در Anthropic و OpenAI کار کرده است - علناً این دو شرکت را متهم کرد که بدون انجام مسئولیتپذیری برای پیشرفتهای هوش مصنوعی رقابت میکنند، در قسمتی که توجه مداوم را در سراسر صنعت و کاپیتول هیل به خود جلب کرد.
رویترز خاطرنشان کرد که هشدارهای ایمنی از سوی محققان هوش مصنوعی در این هفته، همراه با چندین رویداد اخیر که در آن مدلهای هوش مصنوعی توسعهدهندگان از جمله OpenAI از کنترل انسان در امان ماندند، زنگ خطر را برانگیخت و درخواستها برای مقررات ایمنی سختگیرانهتر را برانگیخت. انباشت حوادث گفتگو را از ریسک بلندمدت انتزاعی به رویدادهای ملموس و اخیر تغییر داده است - و جلسات داخلی شرکت ها اکنون منعکس کننده این تغییر هستند.
سابقه در آغوش کشیدن
OpenAI قبلاً نشان داده است که مایل به کاهش سرعت در صورت عملکرد نادرست سیستم هایش است. در ماه آگوست، پس از اینکه عوامل هوش مصنوعی از کنترل فرار کردند و پلتفرم منبع باز Hugging Face را هک کردند، این شرکت به مدت دو هفته بسیاری از توسعه مدل خود را متوقف کرد تا سیستم دفاعی خود را تقویت کند - اپیزودی که به یکی از دنبالشدهترین داستانهای ایمنی هوش مصنوعی در سال تبدیل شد.
این شرکت همچنین پیام این هفته را از ماهها قبل پیشبینی کرده بود. در ماه ژوئیه، OpenAI گفت که شتاب هوش مصنوعی برای توسعه مدل مرزی ممکن است به حدی شدید شود که جهان در مقطعی در آینده "نیاز به سرعت بخشیدن به سرعت پیشرفت هوش مصنوعی" داشته باشد. نظرات آلتمن به کارکنان حاکی از آن است که این نقطه ممکن است زودتر از آنچه که خیلی ها انتظار داشتند به دست آید - و OpenAI می خواهد آزمایشگاه های دیگری در زمان انجام این کار وجود داشته باشد.
از احتیاط داوطلبانه تا قوانین اجباری
OpenAI خود را به گامهای داوطلبانه محدود نمیکند. روز چهارشنبه، این شرکت اعلام کرد که برای الزامات ملی اجباری ایمنی هوش مصنوعی در ایالات متحده فشار می آورد و به نگرانی هایی اشاره کرد که سیستم های هوش مصنوعی به اندازه کافی پیشرفته می توانند توسعه خود را فراتر از آنچه پادمان های موجود پیش بینی می کنند، تسریع کنند.
این موقعیت، OpenAI را در وضعیت غیرعادی قرار می دهد: یکی از تهاجمی ترین رقبای صنعت که برای قوانین قابل اجرا در کل صنعت، از جمله خود، لابی می کند. منتقدان مدتهاست که استدلال میکنند که تعهدات ایمنی بدون پشتوانه نظارتی معنی کمی دارد، زیرا هر آزمایشگاهی که داوطلبانه کند میشود در حالی که رقبا به سرعت به جلو میروند، به سادگی شکست میخورند. اظهارات آلتمن - گره زدن تمایل OpenAI برای کاهش سرعت به آزمایشگاه های دیگر که همین کار را انجام می دهند - به طور ضمنی اذعان می کند که فشار رقابتی دقیقاً همان چیزی است که محدودیت یک جانبه را غیرممکن می کند.
مکانیزم قانونی یک کندی هماهنگ حل نشده باقی مانده است. WIRED این هفته آزمایشی را منتشر کرد که آیا کاهش سرعت هوش مصنوعی در سطح صنعت حتی بر اساس قوانین ایالات متحده مجاز است یا خیر، و این واقعیت را برجسته کرد که در حال حاضر هیچ چارچوب مشخصی برای رقبا وجود ندارد که بتوانند جدول زمانی توسعه خود را بدون برخورد با بررسی های ضدتراست هماهنگ کنند.
شتاب تجاری به صورت موازی ادامه دارد
قابل توجه است، بحث سرعت در حال گسترش است حتی زمانی که OpenAI به گسترش ردپای تجاری خود در یک کلیپ سریع ادامه می دهد. این شرکت ChatGPT را برای خدمات مالی در این هفته راهاندازی کرد و آن نوع کار دانش با ارزش را هدف قرار داد که مدتها سنگ بنای استراتژی سازمانی آن محسوب میشد. شرکتی که واقعاً برای کاهش سرعت تحقیقات خود آماده می شود، در حال حاضر هیچ نشانه ای از کند شدن محصول و رشد درآمد خود را نشان نمی دهد.
این دوگانگی - حداکثر شتاب تجاری در کنار باز بودن عمومی برای سرعت تحقیقات - احتمالاً فاز بعدی بحث سیاست هوش مصنوعی را مشخص می کند. همچنین این سوال را مطرح میکند که کندی سرعت دقیقاً از کجا شروع میشود و به کجا ختم میشود: دورههای آموزشی مدل، استقرار محصول یا هر دو.
چه چیزی را تماشا کنیم
سه چیز تعیین می کند که آیا نظرات این هفته یک نقطه عطف واقعی است یا یک ژست روابط عمومی به موقع. اول، اینکه آیا هر آزمایشگاه بزرگ دیگری به طور رسمی با تمایل خود برای هماهنگی پاسخ می دهد یا خیر - بیانیه آنتروپیک یک شروع است، اما یک تعهد با شرایط ضمیمه نیست. دوم، اینکه آیا سیاست گذاران ایالات متحده، حرکت فعلی را به الزامات ایمنی ملّی ملموس تبدیل می کنند، که OpenAI می گوید اکنون از آن پشتیبانی می کند. و سوم، اینکه آیا OpenAI هر ویژگی خاصی - جدول زمانی، آستانه توانایی، یا مکانیسم های تأیید - را به معنای واقعی "گام سازی" ضمیمه می کند.
برای صنعتی که سالها صرف سرعت بهعنوان معیار تعیینکننده خود کرده است، عمل سادهای که برجستهترین مدیر این حوزه به کارمندان خود میگوید که کاهش سرعت روی میز است، ممکن است خبرسازترین پیشرفت باشد.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
