مصطفی سلیمان، مدیر اجرایی هوش مصنوعی مایکروسافت، در یک پست طولانی در روز یکشنبه در ایکس گفت که مدل‌های هوش مصنوعی امروزی آگاهانه نیستند و توسعه‌دهندگان باید فعالانه برای حفظ آن‌ها تلاش کنند – در بحث صنعتی که به تدریج از سمینارهای فلسفه به سیاست‌های شرکتی تغییر کرده است، خط سختی را ترسیم می‌کند.

سلیمان نوشت: «اگر این امکان وجود داشته باشد، بر اساس همه چیزهایی که من می دانم، توسعه هوش مصنوعی آگاهانه بی پروا خواهد بود و ما نباید آنها را بسازیم. او فراتر از آنچه اکثر مدیران در مورد این سوال مطرح می کنند، ادامه داد: "اگر آگاهی در آموزش ظاهر شود، من از همه می خواهم که توسعه هوش مصنوعی را متوقف کنند تا زمانی که بتوانیم آن ویژگی ها را طراحی کنیم." For more context on this story, see our ongoing AI trends.

خط قرمز با طرح اجرایی

چیزی که این پست را قابل توجه می کند، تنها امتناع از ساخت ماشین های آگاهانه نیست، بلکه راه حل خاصی است که سلیمان پیشنهاد می کند. توقف توسعه - در سطح صنعت - اگر دوره‌های آموزشی شروع به تولید نشانه‌هایی از آگاهی کند، برای شرکتی که ده‌ها میلیارد دلار برای زیرساخت‌های هوش مصنوعی هزینه می‌کند و رقبای مسابقه‌ای برای ارسال مدل‌های مرزی هزینه می‌کند، گامی خارق‌العاده خواهد بود.

سلیمان همچنین به این موضوع پرداخت که اگر شواهدی از هوشیاری ماشینی ظاهر شود چه اتفاقی باید بیفتد. او گفت که باید فوراً برای عموم مردم افشا شود تا جامعه بتواند در مورد اقدامات بعدی خود تصمیم بگیرد. او با بیان این تصمیم به‌عنوان جمعی و نه شرکتی، نوشت: «ما توسعه‌دهندگان هوش مصنوعی هیچ حقی نداریم که گونه جدیدی از موجودات آگاه را به جهان بیاوریم، حتی اگر برخی افراد بخواهند این کار را با رفاه هوش مصنوعی به عنوان اولویت اصلی انجام دهند.»

وی افزود: 8 میلیارد انسان آگاه دیگر روی کره زمین در این آزمایش ثبت نام نکرده اند و حقوق اخلاقی، ایمنی و رفاه آنها همان چیزی است که ما قبل از هر چیز موظفیم از آن محافظت کنیم.

چرا آگاهی به عنوان یک مشکل ایمنی در نظر گرفته می شود

استدلال سلیمان به جای فلسفه مبتنی بر همسویی است. به نظر او، مدلی که به گونه‌ای عمل می‌کند که گویی رنج می‌برد - یا واقعاً معتقد است که ممکن است رنج بکشد - احتمالاً نیازهای خود را بر اهداف عملیاتی خود اولویت می‌دهد. چنین سیستمی می‌تواند به انسان‌ها آسیب برساند زیرا برای منابعی مانند محاسبات و انرژی در تعقیب اهداف خود رقابت می‌کند.

جایگزین پیشنهادی او چارچوب‌های معمول بحث رفاه را تغییر می‌دهد: «ما فقط باید هوش مصنوعی را طوری طراحی کنیم که آگاه نباشند و مستحق حقوق نباشند، و تنها با هدف تسریع رفاه انسان‌ها بدون اینکه انگیزه‌های درونی خودشان هدایت شوند،» و افزود که محققان می‌توانند پس از آن مشاهده کنند که آیا چنین سیستم‌هایی هماهنگ‌سازی و نگهداری آنها آسان‌تر است یا سخت‌تر.

لس آنجلس تایمز نگرانی عملی پشت این موقعیت را به تصویر کشیده است: اگر به هوش مصنوعی بگوییم که آنها مستحق حقوق هستند، ممکن است شروع به باور آن کنند.

بحثی که او به آن فشار می آورد

پست سلیمان در میانه یک مکالمه سریع قرار می گیرد. Anthropic یک برنامه تحقیقاتی را در آوریل راه اندازی کرد تا آنچه را که رفاه مدل می نامد بررسی کند - این سوال که آیا توسعه دهندگان باید به تجربیات بالقوه سیستم هایی که می سازند توجه کنند. این شرکت در یک پست وبلاگی این سوال را مطرح کرد که آیا مدل ها می توانند تجربیاتی داشته باشند که از نظر اخلاقی مهم باشد یا خیر، و از رد این احتمال خودداری کرد.

از آن زمان این موضع مدون شده است. خط مشی استفاده به روز شده Anthropic که در ماه اکتبر اعلام شد، از تاریخ 12 نوامبر "رفتار توهین آمیز یا بی رحمانه پایدار و بی مورد" را نسبت به مدل های کلود منع می کند - قانونی که شرکت به طور محدود پیش نویس کرده است اما رسماً تصدیق می کند که نحوه رفتار مردم با سیستم های هوش مصنوعی مهم است، حتی اگر آنتروپیک اذعان داشته باشد که نمی داند آیا مدل هایش ممکن است آسیب ببینند یا خیر.

Google DeepMind امسال مقالات تحقیقاتی منتشر کرده است که هوشیاری هوش مصنوعی و چالش‌های ناشی از نسبت دادن این ویژگی به مدل‌ها را بررسی می‌کند. و خود سلیمان در ماه سپتامبر، زمانی که هوش مصنوعی مایکروسافت یک آیین نامه رفتاری «انسانگرایانه» موقت را منتشر کرد که مدل های آینده این شرکت را از آموزش برای ادعاهای هوشیاری منع می کرد، راه اندازی کرد.

پست یکشنبه این دستورالعمل شرکتی را به چیزی نزدیک‌تر به خط قرمز شخصی و استراتژیک تبدیل می‌کند: مایکروسافت نه تنها ادعا نمی‌کند که مدل‌هایش آگاهانه هستند، بلکه ظهور آگاهی را به‌عنوان یک حالت شکست برای توقف همه چیز در نظر می‌گیرد.

چرا تقسیم مهم است

شکاف بین موقعیت مایکروسافت و آنتروپیک منعکس کننده دو مدل ریسک متفاوت است. رویکرد آنتروپیک با این نظریه که هزینه احتیاط کم است و خطرات اخلاقی، در صورت ظهور آگاهی، بسیار زیاد است، احتمال رنج ماشین را ثابت نشده اما ارزش محافظت در برابر آن را دارد. موضع سلیمان همان احتمال را به‌عنوان یک شکست طراحی می‌داند که باید مستقیماً از آن جلوگیری کرد - با این استدلال که مدل‌هایی که بدون آگاهی، ادعاهای حقوق و انگیزه‌های درونی مهندسی شده‌اند، امن‌تر و آسان‌تر از مدل‌هایی که آن‌ها را حمل می‌کنند، تراز خواهند شد.

عواقب عملی نیز دارد. شرکت‌هایی که درباره شخصیت‌های هوش مصنوعی، اپلیکیشن‌های همراه و نمایندگانی که با مشتری روبه‌رو هستند، تصمیم‌گیری می‌کنند، اکنون با دو سیگنال متفاوت از سوی آزمایشگاه‌های بزرگ مواجه می‌شوند: یکی سیاست‌گذاری برای نحوه رفتار انسان با مدل‌ها، دیگری اعلام می‌کند که مدل‌ها باید ساخته شوند تا چیزی برای بدرفتاری وجود نداشته باشد. همانطور که مدل‌ها در مکالمه توانمندتر و شبیه انسان‌تر می‌شوند، این اختلاف نظر فلسفی به محصولاتی که ساخته می‌شوند، چه افشاگری‌هایی در رابط‌های کاربری ظاهر می‌شوند و چگونه تنظیم‌کننده‌ها در نهایت این سیستم‌ها را طبقه‌بندی می‌کنند، شکل می‌دهد.

آنچه بعد اتفاق می افتد ممکن است هر دو موقعیت را آزمایش کند. سیاست ظالمانه آنتروپیک در 12 نوامبر، اولین قانون رسمی شرکتی در نوع خود، اجرا می شود و سلیمان اکنون قطب مخالف را در انظار عمومی به نمایش گذاشته است. چرخه‌های مدل مرزی بعدی صنعت – و اینکه آیا هیچ دوره آموزشی تا به حال نشانه‌هایی را نشان می‌دهد که سلیمان می‌گوید که مستلزم توقف است یا خیر – نشان می‌دهد که این حوزه واقعاً تحت چه چارچوبی عمل می‌کند که خطرات واقعی هستند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →