بر اساس گزارش انحصاری واشنگتن پست توسط گریت دی وینک که به نقل از افراد داخل شرکت می‌پردازد، کارگران بخش هوش مصنوعی گوگل، مدیران بخش هوش مصنوعی گوگل را تحت فشار قرار می‌دهند تا آنها را از قراردادهای بدون تحقیر رهایی بخشند و استدلال می‌کنند که آنها باید آزاد باشند تا مردم را در مورد خطرات فناوری که برای پیشرفت آن تلاش می‌کنند آگاه کنند.

زیرنویس گزارش در هسته شکایت کاهش می‌یابد: «کارگران فعلی گفتند، قراردادهای کاری کارکنان را از هشدار دادن به مردم در مورد خطرات هوش مصنوعی باز می‌دارد.» پوشش بعدی داستان این بندها را به‌عنوان یک ممنوعیت مادام‌العمر برای انتقاد از Google توصیف کرده است، با سرفصل‌هایی در جمع‌آوری‌کننده‌ها و رسانه‌های بین‌المللی که این اختلاف را به عنوان «اعتراض کارکنان DeepMind به ممنوعیت مادام العمر انتقاد از Google» توصیف می‌کنند و به‌طور خاص، دو کارمند DeepMind از Google می‌خواهند آنچه را که آنها را مادام العمر می‌خوانند لغو کند. برای اطلاعات بیشتر در مورد این داستان، [اخبار جدید هوش مصنوعی] (https://aibuzzwire.news) را ببینید.

آنچه کارگران می خواهند

بر اساس این گزارش، کارکنان Google DeepMind - بخش Alphabet که پشت بسیاری از تحقیقات هوش مصنوعی مرزی این شرکت قرار دارد - از مدیریت می‌خواهند که آنها را از تعهدات قراردادی بدون تحقیر رها کند تا بتوانند بدون مواجهه با تلافی‌جویانه قانونی درباره نگرانی‌های ایمنی مرتبط با سیستم‌هایی که می‌سازند، صحبت کنند.

همانطور که خلاصه‌های گزارش نشان می‌دهد، توافق‌های مورد بحث کارکنان را ملزم می‌کند که نه تنها در مورد شیوه‌های شرکت، بلکه در مورد خطرات فناوری و تصمیمات داخلی که نحوه دسترسی سیستم‌های هوش مصنوعی به جهان را شکل می‌دهند سکوت کنند. استدلال کارگران صریح است: افراد نزدیک به فناوری، و بنابراین نزدیک‌ترین افراد به حالت‌های شکست آن، طبق قرارداد از گفتن آنچه می‌دانند به مردم محدود می‌شوند.

بر اساس پوشش بعدی، گوگل به خواسته های خاصی رسیدگی نکرده است. گزارش واشنگتن پست به جای بیانیه رسمی گوگل، گزارش این اختلاف را به کارگران فعلی داخل شرکت نسبت می دهد، و پاسخ شرکت، در صورت وجود، مهم ترین سوال باز در داستان باقی می ماند.

چرا برای ایمنی هوش مصنوعی مهم است

این اختلاف در لحظه ای حساس برای صنعت هوش مصنوعی رخ می دهد. بحث در مورد اینکه آزمایشگاه‌های مرزی چقدر باید افشا کنند - در مورد قابلیت‌ها، پتانسیل سوء استفاده و آزمایش‌های داخلی - با افزایش توانمندی مدل‌ها و نتیجه اقتصادی‌تر شدن مدل‌ها تشدید شده است. منتقدان استدلال می‌کنند که اگر افرادی که کار را انجام می‌دهند نتوانند علناً از عملکرد کارفرمایان خود انتقاد کنند، مردم و سیاست‌گذاران یکی از معدود کانال‌های هشدار اولیه را از دست می‌دهند.

تاریخچه این رشته یک سابقه برجسته ارائه می دهد. جفری هینتون، که بیش از یک دهه را در گوگل سپری کرد و تحقیقاتش در زمینه شبکه عصبی زیربنای رونق هوش مصنوعی مدرن است، در سال 2023 شرکت را به صراحت ترک کرد تا بتواند آزادانه درباره خطرات هوش مصنوعی صحبت کند. این هفته او پا را فراتر گذاشت و به گاردین گفت که ممکن است معلوم شود که بشریت بهتر است هرگز هوش مصنوعی را توسعه ندهد، و هشدار داد که یک «چورنوبیل» هوش مصنوعی - مانند حمله ای مجهز به هوش مصنوعی که باعث شکست شدید قدرت یا شکست یک هفته ای سیستم مالی می شود - امسال یا سال آینده از راه می رسد.

هینتون می‌توانست حرفش را بزند زیرا او رفت. در مقابل، کارگران DeepMind در تلاشند تا شرایط را تغییر دهند تا مجبور نباشند بین حرفه و صدا انتخابی مشابه داشته باشند.

تجارت شفاف در مقابل پنهان کاری

این اختلاف منعکس کننده تنش ساختاری در صنعت هوش مصنوعی است. شرکت‌ها استدلال می‌کنند که شرایط استخدامی محدودکننده، از اسرار تجاری محافظت می‌کند، از ادعاهای گمراه‌کننده جلوگیری می‌کند، و مانع از سرریز اختلافات داخلی به دید عموم در اواسط توسعه می‌شود. کارمندان و حامیان ایمنی مخالفت می‌کنند که همان اصطلاحات می‌توانند خطرات واقعی را پنهان کنند - و شرکتی که به اقدامات ایمنی خود اطمینان دارد، ترسی از منتقدان آگاه داخلی ندارد.

گزارش واشنگتن پست این موضوع را به عنوان یکی از مشوق‌ها توصیف می‌کند: قراردادهای کاری، به قول کارگران فعلی که روزنامه به آنها اشاره کرده است، کارکنان را از هشدار دادن به مردم در مورد خطرات هوش مصنوعی باز می‌دارد. این چارچوب اختلاف را بزرگتر از سیاست منابع انسانی یک شرکت می کند. این آزمایشی است که نشان می دهد آیا منبع اولیه اطلاعات عمومی در مورد خطرات هوش مصنوعی مرزی بازاریابی خود آزمایشگاه ها خواهد بود یا افرادی که در داخل آن آزمایشگاه ها دانش مستقیم دارند.

آنچه جامعه توسعه دهندگان می گویند

بحث درباره این گزارش به سرعت به صفحه اول هکر نیوز رسید، جایی که نظر دهندگان بر سر اخلاقیات وضعیت اختلاف کردند. موافق ترین افراد معتقد بودند که کارگران مقید باید به سادگی راه بروند: "آنها باید دست از کار بکشند و هشدار دهند. هر چیز دیگری ریاکارانه است." برخی دیگر عقب نشینی کردند و خاطرنشان کردند که کارمندان موظف به شهادت شغل خود نیستند و اصلاح قرارداد جمعی مسیری واقع بینانه تر از خروج فردی است.

این بحث - ترک، ماندن و فشار دادن، یا ساکت ماندن - دقیقاً همان چیزی است که کارگران می گویند سعی دارند از آن فرار کنند.

چه چیزی را تماشا کنیم

سه چیز تعیین می کند که این به کجا می رود. اول، اینکه آیا گوگل درخواست را تایید می کند یا نه، و مهمتر از آن، آیا به آن عمل می کند یا خیر - پاسخ شرکت به درخواست های خاص تاکنون در سابقه وجود ندارد. دوم، اینکه آیا کارگران تشدید می‌شوند، مثلاً با سازماندهی عمومی یا مراجعه به تنظیم‌کننده‌ها، اگر پاسخ منفی است. و سوم اینکه آیا سایر آزمایشگاه های مرزی با فشار مشابهی مواجه هستند یا خیر. اگر اصطلاحات بدون تحقیر در سراسر صنعت رایج باشد، اختلاف DeepMind می تواند به الگویی برای سازماندهی نیروی کار متمرکز بر شفافیت هوش مصنوعی تبدیل شود.

در حال حاضر، خود این درخواست یک خبر است: گروهی از محققان با قرار گرفتن در معرض مستقیم و روزانه سیستم‌های هوش مصنوعی مرزی بر این باورند که منافع عمومی به صدای آنها نیاز دارد و رسماً درخواست کرده‌اند که اجازه استفاده از آنها را داشته باشند. پاسخ‌های گوگل در مورد میزان مخالفت‌هایی که نژاد مرزی هوش مصنوعی آمادگی تحمل آن را دارد، بسیار توضیح می‌دهد.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →