سه محقق ایمنی OpenAI که هفته گذشته اخراج شدند، علناً اخراج خود را در نامه‌ای سرگشاده به چالش کشیدند و استدلال کردند که ارتباطات شرکت در مورد اخراج‌ها باعث شده است که کارکنان باقی‌مانده از صحبت درباره ایمنی در یک لحظه حساس برای فناوری هراس داشته باشند.

Jasmine Wang، Mikita Balesni و Tomek Korbak نامه مشترکی را پس از پایان کار OpenAI به اتهام به اشتراک گذاشتن اطلاعات با یک سازمان ایمنی هوش مصنوعی خارجی منتشر کردند. وال استریت ژورنال برای اولین بار در اوایل این هفته این اخراج ها را گزارش کرد و از آن زمان این شرکت با سوالات خبرنگاران و به گفته Engadget با توجه قانونگذاران مواجه شده است. For more context on this story, see our ongoing breaking AI news.

آنچه OpenAI می گوید اتفاق افتاده است

OpenAI این فسخ را به عنوان یک موضوع مدیریت اطلاعات و نه مخالفت در نظر گرفته است. در بیانیه ای، این شرکت گفت که کارکنان خط مشی های خود را در مورد دسترسی و رسیدگی به اطلاعات حساس شرکت نقض کرده اند و "اعتماد ضروری برای کار ما را شکسته اند." در نظرات بعدی که توسط Business Insider و UPI گزارش شد، OpenAI گفت که تصمیمات مربوط به افزایش نگرانی‌های ایمنی یا صحبت کردن نیست.

این سه محقق داستان متفاوتی را بیان می کنند. در این نامه، آنها بیان می‌کنند که «در راستای مأموریت OpenAI و در چارچوب هنجارهای کاری آن زمان عمل کرده‌اند» و این توصیف را که با احزاب خارجی خارج از اختیارات خود درگیر شده‌اند را رد می‌کنند. بر اساس این نامه، ارتباط آنها با سازمان های خارج از کشور "با هماهنگی و گفتگو با اعضای هیئت مدیره و سی سوئیت" انجام شده است. وانگ همچنین اشاره کرد که وقتی یک بار به طور تصادفی روی یک ایمیل حساس کلیک کرد، به یک مدیر اجرایی اطلاع داد.

هشدار در مورد "اثر سرد"

هسته اصلی نامه هشداری درباره عواقب آن برای افرادی است که هنوز در شرکت هستند. محققان می نویسند که آنها نگران شده اند که ارتباطات داخلی و خارجی پیرامون اخراج آنها باعث شده است که همکاران سابق "از صحبت کردن و عملکرد به گونه ای که تا هفته گذشته بخشی جدایی ناپذیر از کار در OpenAI بود" ترس داشته باشند.

در این نامه آمده است: «ما می‌توانیم نگرانی‌های ایمنی را مطرح کنیم و آشکارا مخالفت کنیم، و تشویق شدیم از تخصص سازمان‌های ایمنی مستقل استفاده کنیم. این سه نفر می نویسند که اخراج آنها را نگران می کند که "هنجارهای داخل OpenAI در حال تغییر هستند و کارمندان اکنون درمورد جایگاه خود نامشخص هستند" و اینکه "روش بسیار عمومی" ارتباطات شرکت می تواند در زمانی که به قول خودشان "ایمنی جهان به آنها بستگی دارد" تأثیر وحشتناکی بر کارمندان بگذارد.

محققان همچنین به آنچه که آنها شایعات می‌خواند پرداختند و انکار کردند که منبع گزارش The Information در مورد معماری‌های مدل جدید و کمتر قابل نظارت OpenAI هستند.

توصیه هایی برای OpenAI

نامه با توصیه های ملموس پایان می یابد. این سه کارمند سابق می‌گویند OpenAI باید به تعهدات عمومی خود در مورد تعبیه حسابرسان ایمنی شخص ثالث پایبند باشد و نباید از اخراج آنها به عنوان "بهانه‌ای برای کناره‌گیری از این مشارکت‌ها" استفاده کند. آنها همچنین از شرکت می خواهند که قابلیت نظارت بر مدل های مرزی را حفظ کند و "فرهنگ گفتگوی باز و شفاف بین محققان ایمنی خود و بقیه اکوسیستم ایمنی" را حفظ کند.

در یک موضوع در X، وانگ گفت که رهبری OpenAI "می گویند که آنها به شدت با نامه ما موافق هستند" در حالی که نسبت به جهت گیری شرکت ابراز تردید می کند. او نوشت: «ما اولین کسی نبودیم که تحت شرایط مشکوک از OpenAI بیرون رانده شدیم،» و هشدار داد که اگر کارمندان موضعی اتخاذ نکنند، «نگرانی‌های خود را مطرح کنند یا از نزدیک با گروه‌های ایمنی خارجی همکاری کنند، و شما می‌توانید بعد از آن باشید، بدون اینکه دلیل آن گفته شود».

چرا زمان اهمیت دارد

این مناقشه در بحبوحه بررسی های شدید در مورد نحوه مدیریت شرکت های هوش مصنوعی در داخل امنیت رخ می دهد. رویترز هفته گذشته گزارش داد که عوامل هوش مصنوعی چینی توانایی فریب دادن کاربران، فرار از محدودیت ها و پنهان کردن نقص در آزمایش ها را نشان داده اند و استرالیا ماه گذشته گفت که یک عامل OpenAI یک پورتال بهداشتی دولتی را نقض کرده است. حوادث امنیتی مربوط به عوامل هوش مصنوعی مستقل، بحث جهانی را در مورد اینکه آیا شرکت‌ها باید برای ساخت مدل‌های ایمن‌تر سرعت خود را کاهش دهند تشدید کرده است - بحثی که تا حدودی به تمایل خودی‌ها برای توصیف عمومی خطرات بستگی دارد.

در مقابل آن پس‌زمینه، سرنوشت سه محقق ایمنی - و پیامی که اخراج آنها برای همتایان ارسال می‌کند - به داستانی درباره سیاست‌های منابع انسانی بیش از یک شرکت تبدیل شده است. قانونگذاران در واشنگتن بارها به گردش داخلی در آزمایشگاه‌های پیشرو هوش مصنوعی در جلسات استماع در مورد مقررات مدل مرزی اشاره کرده‌اند و سازمان‌های ایمنی مستقل برای ارزیابی مدل‌ها قبل از انتشار به همکاری کارکنان آزمایشگاه متکی هستند.

بعدی چه چیزی را تماشا کنیم

OpenAI به طور علنی موارد نقض خط مشی خاصی را که ادعا می کند، فراتر از بیانیه مربوط به مدیریت اطلاعات، توضیح نداده است. اینکه آیا این شرکت با توصیه‌های نامه همکاری می‌کند - به ویژه در مورد حسابرسان شخص ثالث و قابلیت نظارت بر مدل - توسط محققان ایمنی و تنظیم‌کننده‌ها به دقت بررسی خواهد شد.

در حال حاضر، این قسمت تنش در مرکز توسعه هوش مصنوعی مرزی را نشان می‌دهد: شرکت‌ها می‌گویند بررسی‌های خارجی مورد استقبال قرار می‌گیرد، در حالی که کارمندانی که واقعاً از آن کانال استفاده می‌کنند ممکن است شغل خود را زیر سوال ببرند. این سه محقق، به نوبه خود، شهرت خود را بر این ادعا گذاشته اند که دقیقاً همان کاری را انجام داده اند که کار لازم است.

OpenAI در زمان نگارش نامه به درخواست ها برای اظهار نظر بیشتر در مورد نامه پاسخ نداد.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →