محققان در Google DeepMind به طور علنی مخالف قراردادهای کاری هستند که می گویند آنها را از انتقاد از شرکت در مورد خطرات هوش مصنوعی برای همیشه - از جمله پس از ترک کار - منع می کنند و گوگل اکنون این موضوع را پذیرفته و گفته است که محدودیت های پس از استخدام را اجرا نخواهد کرد و قبلاً آنها را از شرایط استخدام جدید حذف کرده است.

واشنگتن پست روز سه‌شنبه گزارش داد که کارکنان DeepMind خواستار آزادی برای گفتن آنچه در مورد هوش مصنوعی به مردم هستند، اعتراض دارند که این گزارش به عنوان ممنوعیت مادام العمر از انتقاد از شرکت توصیف می‌کند. این مناقشه قبل از اینکه در معرض دید عموم قرار گیرد در تالارهای گفتمان داخلی گوگل آشکار شد و یکی از بحث برانگیزترین سؤالات صنعت هوش مصنوعی را تحت تأثیر قرار داد: اینکه آیا کارمندان آزمایشگاه‌هایی که سیستم‌های مرزی می‌سازند می‌توانند به دنیای خارج در مورد خطراتی که در کار مشاهده می‌کنند هشدار دهند. For more context on this story, see our ongoing breaking AI news.

قراردادها چه می گویند

طبق گزارش پست، قراردادهای کارمندان DeepMind شامل بندهایی غیر توهین آمیز است که حتی پس از پایان کار کارگران همچنان به آنها ملزم می شود. تحت چنین شرایطی، یک محقق در حال خروج که به طور علنی از اقدامات ایمنی گوگل انتقاد می‌کرد – یا صرفاً اطلاعات مربوط به سیستم‌های هوش مصنوعی این شرکت را فاش می‌کرد – از نظر تئوری می‌تواند تا پایان کار خود با مواجهه قانونی مواجه شود.

یکی از شرکت‌کنندگان در بحث داخلی این ترتیب را در نظرات نقل‌شده توسط خوانندگان هکر نیوز در مورد بحث درباره این مقاله توضیح داد: ظاهراً قرارداد شامل زبانی بود که مشخص می‌کرد استعفا یک کارمند را از تعهد عدم تحقیر آزاد نمی‌کند. برای محققان ایمنی، که ارزش حرفه ای آنها اغلب به توانایی آنها در انتشار و صحبت آشکار بستگی دارد، این اثر نوعی سکوت دائمی است.

پاسخ گوگل

به نظر می رسد فشار نتایجی را به همراه داشته است. به گزارش پست، روز جمعه، یکی از مدیران گوگل به بحث داخلی در مورد بند عدم تحقیر پاسخ داد و گفت که شرکت آن را علیه کارگرانی که شرکت را ترک کرده اند، اجرا نخواهد کرد.

تا روز سه‌شنبه، سخنگوی گوگل فراتر رفت و در ایمیلی به روزنامه گفت: "ما همیشه گفتگوی باز درباره ایمنی و مسئولیت را تشویق کرده‌ایم." این سخنگو افزود: اخیراً شرایط خود را برای استخدام های جدید به روز کرده ایم که شامل حذف جنبه های پس از پایان خدمت از بندهای عدم تحقیر می شود.

این یک امتیاز معنادار است. بندهای عدم تحقیر پس از استخدام دقیقاً به دلیل اینکه مردم را از شنیدن مشکلات درون شرکت‌ها پس از ترک کارمندان جلوگیری می‌کند - لحظه‌ای که افراد کمترین ضرر و اعتبار را دارند، تبدیل به نقطه عطفی در صنعت فناوری شده است. تصمیم Google برای حذف بخش پس از پایان قرارداد از قراردادهای استخدام جدید نشان می‌دهد که این شرکت هزینه شهرت دفاع از بندها را بالاتر از هر مزیت محرمانه‌ای که ارائه می‌کند، ارزیابی می‌کند.

تنش طولانی مدت در آزمایشگاه هوش مصنوعی

این اختلاف با الگویی مطابقت دارد که در سراسر صنعت مرزی هوش مصنوعی رخ داده است. محققان ایمنی بارها خود را بین تعهدات محرمانه در قبال کارفرمایان خود و این باور که عموم مردم سزاوار خطرات ناشی از سیستم‌هایی هستند که بیش از هر چیزی که قبلاً مستقر شده‌اند، بدانند گرفتار شده‌اند.

DeepMind خود شاهد خروج‌های برجسته‌ای بوده است که به نگرانی‌های ایمنی مرتبط است و آزمایشگاه‌های رقیب با استعفای خود از سوی محققانی مواجه شده‌اند که گفته‌اند دیگر نمی‌توانند در مورد نحوه نزدیک شدن کارفرمایان به خطر سکوت کنند. درخواست‌ها و نامه‌های سرگشاده کارمندان به مکانیزمی تکراری تبدیل شده‌اند که از طریق آن کارکنان آزمایشگاه هوش مصنوعی تلاش می‌کنند بر رفتار شرکت‌های خود تأثیر بگذارند - در مورد قراردادهای نظامی، تعهدات ایمنی و شفافیت.

اعتراض DeepMind بعد قانونی جدیدی را به این پویایی اضافه می کند: کارمندان به جای بحث در مورد آنچه شرکت در حال ساخت است، در حال مناقشه کردن با ماشین آلات قراردادی هستند که تعیین می کند آیا ممکن است در مورد آن صحبت کنند یا خیر. وکلای کار خاطرنشان می کنند که قابل اجرا بودن بندهای گسترده عدم تحقیر در حوزه قضایی متفاوت است و قانونگذاران در ایالات متحده قبلاً علیه شرکت هایی که از توافق نامه های جدایی بیش از حد گسترده برای ساکت کردن کارگران در حال خروج استفاده می کردند حرکت کرده اند.

زمان نیز مهم است. گوگل بر سر استعدادهای تحقیقاتی هوش مصنوعی با OpenAI، Anthropic، Meta و گروه رو به رشدی از استارت‌آپ‌های با بودجه خوب رقابت می‌کند و محققانی که احتمالاً سؤالات ریسک را می‌سنجید، حساس‌ترین آنها هستند که آیا می‌توانند به طور عمومی درباره آنچه می‌بینند صحبت کنند یا خیر. شرکتی که به دلیل سرزنش کردن کارمندان سابق شناخته شده است، دقیقاً برای آن نامزدها با چالش سخت تری برای استخدام مواجه است - یک محاسبه تجاری که ممکن است بر تصمیم Google برای به روز رسانی سریع شرایطش تأثیر گذاشته باشد.

چرا مهم است

شرکت های هوش مصنوعی مرزی موقعیت غیرعادی را اشغال می کنند. آنها برخی از معدود افراد روی زمین را با دانش عملی از توانمندترین سیستم‌های هوش مصنوعی به کار می‌گیرند، با این حال این کارمندان معمولاً متعهد به توافق‌نامه‌های محرمانه متراکم هستند که بیشتر از زمان استخدامشان است. اگر هر شاهد معتبری در مورد شیوه‌های ایمنی داخلی آزمایشگاه از نظر قانونی محدود به صحبت باشد، سابقه عمومی کاملاً به آنچه شرکت‌ها انتخاب می‌کنند درباره خود افشا کنند بستگی دارد.

به همین دلیل است که نتیجه این اختلاف فراتر از گوگل است. این که چگونه شرکت‌های هوش مصنوعی سخنان آینده محققان خود را محدود می‌کنند - یا محافظت می‌کنند - ممکن است این موضوع را شکل دهد که آیا هشدارها در مورد سیستم‌های قدرتمند آنقدر زود به دست تنظیم‌کننده‌ها، روزنامه‌نگاران و عموم می‌رسند که اهمیت پیدا کنند، یا فقط با نگاهی به گذشته به آنها می‌رسند. امتیاز Google یک بند مادام العمر را از شرایط استخدام جدید حذف می کند. اینکه آیا کارمندان موجود شفافیتی معادل دریافت می‌کنند یا خیر، در حال حاضر، سوالی است که توسط افرادی که در آنجا کار می‌کنند مطرح می‌شود.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →