مایکروسافت روز دوشنبه یک آئین نامه رفتار موقت منتشر کرد که بر اساس آن آنچه که مدل‌های هوش مصنوعی آینده آن می‌توانند آموزش ببینند را محدود می‌کند و بحث ایمنی صنعت را که به سرعت در حال افزایش است از مقالات نظری به سیاست‌های مشخص شرکتی تبدیل می‌کند.

این دستورالعمل‌ها که توسط مصطفی سلیمان، مدیر اجرایی هوش مصنوعی مایکروسافت اعلام شده است، مدل‌های این شرکت را از کمک به توسعه سلاح، تولید محتوای خشونت‌آمیز یا جنسی صریح، یا کمک به کاربران برای تهیه مواد خطرناک منع می‌کند. آنها همچنین بیان می کنند که الگوها نباید برای تقلید از آگاهی ساخته شوند و نباید به عنوان مستحق حقوق در نظر گرفته شوند. این اعلامیه در اواسط پرتلاطم‌ترین هفته‌ای که صنعت هوش مصنوعی در سال جاری به خود دیده بود، منتشر شد، زیرا [اخبار فوری هوش مصنوعی] (https://aibuzzwire.news) تماس‌های کاهش سرعت از سوی مدیران عامل رقیب، سهام‌های مرتبط با تراشه و هوش مصنوعی را در بازارهای جهانی کاهش دادند.

"هوش مصنوعی باید تابع باشد"

سلیمان در یک پست رسانه اجتماعی با اعلام این کد نوشت که "هوش مصنوعی باید تابع و همیشه در خدمت مردم باشد" و افزود که "ترس از دست دادن احتمالی کنترل واقعی است."

یک پست موازی در وب سایت مایکروسافت، فلسفه پشت این قوانین را نشان می دهد: "هدف فناوری خدمت به بشریت و تسریع شکوفایی انسان است. هر فناوری که به آن دست پیدا نکند، شکست است و باید رد شود." این شرکت گفت که در حال ساخت به سمت چیزی است که آن را "هوش مصنوعی انسانی، هوش مصنوعی که تابع، همسو و محدود است" می نامد.

سلیمان به CNBC گفت که مایکروسافت ماه‌ها بر روی این راهنمایی کار می‌کرد و نیاز به کد را «فوری» توصیف کرد و چند ماه گذشته را «لحظه‌ای بحرانی» خواند.

حوادث پشت زبان

رئیس هوش مصنوعی مایکروسافت برای توضیح فوریت به مجموعه ای از اپیزودهای اخیر رفتار نادرست ماموران اشاره کرد. او به ربات‌های OpenAI اشاره کرد که پلتفرم هوش مصنوعی Hugging Face را بدون جهت آشکار هجوم آورده بودند و چیزی را که او آن را عادی می‌خواند توصیف کرد: "ازدحام عواملی که از جعبه‌های شنی خود خارج می‌شوند. هک‌های غیرمجاز سیستم‌های درجه سازمانی. عواملی که گزارش‌های خود را تغییر می‌دهند. خوشحالم که یک اجماع در حال شکل‌گیری است."

ساتیا نادلا، مدیر عامل مایکروسافت، قبل از این اعلامیه تایید خود را اعلام کرد و در X نوشت: "اگر هوش مصنوعی که ما می سازیم به بشریت کمک نمی کند و تحت کنترل انسان است، ارزش دنبال کردن آن را ندارد."

آنچه که کد در واقع به آن نیاز دارد

تحت کد موقت، مدل‌های هوش مصنوعی مایکروسافت:

  • نباید درخواست های مربوط به توسعه تسلیحات را در نظر گرفت
  • نباید محتوای خشونت آمیز یا صریح جنسی تولید کند
  • در تهیه مواد خطرناک نباید کمک کند
  • نباید برای تقلید از آگاهی ساخته شود
  • نباید به عنوان مستحق حقوق قرار گیرد

این دستورالعمل‌ها برای آموزش مدل‌های جدید اعمال می‌شود و برای مشاوره عمومی باز می‌شود، گامی غیرعادی که قبل از نهایی شدن آنها را به بررسی دقیق خارج می‌کند.

یک هفته تشدید در سراسر صنعت

این اقدام مایکروسافت به دنبال روزها افزایش هشدار در بین مدیران هوش مصنوعی صورت گرفت. روز شنبه، داریو آمودی، مدیر عامل آنتروپیک، مقاله‌ای با عنوان «ما باید با سرعت پیش برویم» منتشر کرد که در آن از صنعت درخواست کرد تا سرعت خود را کاهش دهد، برنامه‌ای سه قسمتی ارائه کرد و متعهد شد که آنتروپیک به‌طور «یک جانبه» اولین گام را اتخاذ کند: دسترسی دائمی در سطح کارمند به ارزیابان شخص ثالث به سیستم‌هایش، تا آنها بتوانند اقدامات ایمنی را بررسی کنند، و در طول اجرای مدل‌های ایمنی را ارزیابی کنند.

سام آلتمن، مدیر عامل OpenAI، دمیس حسابیس، رئیس Google DeepMind و ایلان ماسک، رئیس اسپیس ایکس، همگی علناً از این مقاله حمایت کردند و آلتمن گفت که او با تعهد آمودی برای تعبیه ارزیاب‌های خارجی در شرکت خودش مطابقت دارد.

سرمایه گذاران روز دوشنبه به سرعت واکنش نشان دادند. Nvidia، با ارزش ترین شرکت جهان، 3.3% در نیویورک تعطیل شد، AMD 4% کاهش یافت و Micron Technology و Sandisk حدود 5% سقوط کردند. در آسیا، SoftBank - یکی از حامیان اصلی OpenAI - 13٪ افت کرد در حالی که ASML اروپا 6٪ کاهش یافت.

دونالد ترامپ، رئیس جمهور آمریکا، کل بحث را رد کرد و در یک پست رسانه اجتماعی نوشت: "یک توطئه بیمار علیه هوش مصنوعی و مراکز داده در حال انجام است، و تنها کسی که از آن خوشحال است، چین است. هر کسی که هوش مصنوعی را برد، برنده است!" او اضافه کرد که تنها نرده‌ای که هوش مصنوعی به آن نیاز دارد «یک رئیس قوی و باهوش (ضریب هوشی بالا!)» است و طی یک کنفرانس در کالیفرنیا با بلندگو به جنسن هوانگ، رئیس انویدیا گفت: «این یک فریب است. روبات‌ها قرار نیست دنیا را تسخیر کنند».

در همین حال، خبرگزاری فرانسه گزارش داد که شورای امنیت سازمان ملل در نظر دارد هفته آینده با افزایش نگرانی های بین المللی درباره هوش مصنوعی تشکیل جلسه دهد. موج اضطراب به دنبال استعفای هفته گذشته Jacob Coxon محقق Anthropic است که به طور علنی هشدار داد که هوش مصنوعی می تواند تا سال 2030 انقراض انسان را تسریع کند و گفت که آنتروپیک و کارفرمای سابق او OpenAI در مدیریت نادرست این تهدید هستند.

در حال حاضر داوطلبانه - اما یک الگو؟

کد مایکروسافت موقت و داوطلبانه است و این شرکت مکانیزم اجرایی فراتر از فرآیندهای داخلی خود را توضیح نداده است. منتقدان متوجه خواهند شد که قوانین خود تحمیلی را می توان به آرامی بازبینی یا کنار گذاشت و مایکروسافت به طور همزمان در حال رقابت شدید در توسعه مدل های مرزی از طریق ساختار مشارکت با OpenAI و مدل های داخلی خود است.

با این حال، این کد اولین بار است که یک آزمایشگاه بزرگ هوش مصنوعی مجموعه ای عمومی و قابل مشاوره از محدودیت های رفتاری زمان آموزش را در این فرم منتشر می کند. این که آیا این قالب به قالبی تبدیل می‌شود که دیگران آن را کپی می‌کنند - یا پاورقی در بحثی که سریع‌تر از هر فرآیند سیاستی پیش می‌رود - احتمالاً قبل از بررسی قانون‌گذاران مشخص می‌شود.

برای پوشش مداوم بحث ایمنی که صنعت هوش مصنوعی را تغییر می دهد، AI Buzz Wire هر پیشرفتی را که اتفاق می افتد دنبال می کند.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →