موجی از هشدارهای عمومی از داخل آنتروپیک در این هفته تشدید شد زیرا چندین محقق در شرکت هوش مصنوعی ارزیابی آخرالزمانی یک همکار سابق خود از هوش مصنوعی را تکرار کردند - پاسخی تحقیرآمیز از سوی ایلان ماسک، که پیشنهاد داد این فریاد یک "روانی هماهنگ" بود.

به گزارش گاردین، تشدید تنش ها یک روز پس از آن صورت گرفت که جاکوب کاکسون، محقق Anthropic، در یک پست ویروسی استعفای خود را اعلام کرد و نوشت که نه آنتروپیک و نه OpenAI - کارفرمای سابق او - به طور مسئولانه مدل های هوش مصنوعی می ساختند و "با زندگی ما قمار می کردند." به جای محو شدن، بحث و جدل بیشتر شد، زیرا کارکنان فعلی آنتروپیک ارزیابی های وحشتناک خود را در حمایت ارسال کردند. For more context on this story, see our ongoing AI trends.

هشدارها انباشته می شوند

آنا وانگ که روی ایمنی هوش مصنوعی عمومی در Anthropic کار می‌کند و قبلاً در DeepMind گوگل کار می‌کرد، پنجشنبه گفت که بسیاری از افراد در این شرکت می‌خواهند توسعه را کند کنند تا برای خطرات ناشی از مدل‌های توانمندتر برنامه‌ریزی کنند.

وانگ در X نوشت: «هنوز یک برنامه علمی قابل اجرا برای حل خطرات ناشی از هوش مصنوعی خود-بهبود بازگشتی وجود ندارد.

یکی دیگر از کارمندان آنتروپیک، دریک توماس، گفت که به تصمیم کوکسون برای کناره گیری از ساخت این فناوری احترام می گذارد. توماس نوشت: «موضوع خیلی سریع پیش می‌روند، ما به درجه اطمینانی که برای ASI [هوش مصنوعی] می‌خواهیم، ​​نداریم.»

ساموئل مارکس، که در تحقیقات ایمنی در این شرکت کار می کند، استدلال کرد که نگرانی ها به طور گسترده در صنعت مشترک است - و این که ارشدیت با هشدار مرتبط است. مارکس نوشت: «توسعه دهندگان هوش مصنوعی بر این باورند که فناوری آنها می تواند باعث انقراض انسان (یا نتایج بدی مشابه) شود. "این ممکن است در چند سال آینده اتفاق بیفتد. به طور کلی، هر چه کارمند ارشدتر باشد، نگرانی آنها بیشتر است."

ایوان هابینگر که خود را پیشرو در بخش هم ترازی آنتروپیک توصیف می کند، از این هم دورتر شد. ما واقعاً معتقدیم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد!» هابینگر نوشت و افزود که او شخصاً احتمال را بالای 10 درصد در دهه آینده قرار می دهد.

یادداشت های اینسایدر به دنبال گزارش CBS News است که نشان می دهد یک محقق Anthropic شانس بیش از 10 درصدی را به هوش مصنوعی اختصاص داده است که باعث انقراض انسان می شود، و پوشش ژاپنی تایمز مبنی بر اینکه این هشدارها درخواست ها برای قوانین جدید هوش مصنوعی در ایالات متحده را تجدید کرده است.

ماسک: "به نظر یک راه اندازی"

ایلان ماسک دیدگاهی کاملاً خصمانه داشت. ثروتمندترین مرد جهان در X، پلتفرم اجتماعی خودش، نوشت: «به نظر یک راه اندازی است.

کاکسون با یک عکس سلفی پاسخ داد: "من واقعی هستم و اینها باورهای واقعی من هستند. شما می توانید از محققان xAI خود درباره من بپرسید اگر آنها را اخراج نکرده اید."

ماسک و دیگر صداهای دلسوز نظریه ای را تقویت کردند که توسط پارکر تایر، محققی در اندیشکده محافظه کار کپیتال ریسرچ مطرح شد، که - با شواهد کمی، گاردین اشاره می کند - که پست کاکسون حرکت آغازین یک "عملیات روابط عمومی بسیار پیچیده و با بودجه خوب برای جلب حمایت دموکرات ها برای جلوگیری از هوش مصنوعی" بود.

بیل آکمن، مدیر صندوق سرمایه گذاری میلیاردر، پست تایر را با یک پاسخ یک کلمه ای نقل کرد: "جالب".

ماسک بعداً توضیح داد. او در پستی نوشت: "من فکر می کنم زمینه برای این عملیات روانی (به دلیل عدم وجود یک اصطلاح بهتر) برای مدت طولانی آماده شده است." این فقط همان کبریت بود که آتش را روشن کرد.»

آنتروپیک از رویکرد خود دفاع می کند

آنتروپیک که بین هشدارهای کارمندان خود و حملات بیرونی گیر کرده بود، واکنش عمومی سنجیده ای ارائه کرد.

یکی از سخنگویان این شرکت به گاردین گفت: «ما همیشه شفاف بوده‌ایم که هوش مصنوعی هم منافع عظیم و هم خطرات بی‌سابقه‌ای را به همراه خواهد داشت. برای مقابله با این خطرات، ما به ساخت مدل‌هایی با برخی از قوی‌ترین محافظ‌ها در صنعت ادامه می‌دهیم.»

این شرکت به سابقه خود در مستندسازی و ایجاد اختلال در سوء استفاده اشاره کرد. در همان روزی که این هشدارها منتشر شد، آنتروپیک گزارش اطلاعاتی تهدیدات ماه سپتامبر خود را منتشر کرد که در آن توضیح می‌داد که این شرکت چگونه عملیاتی را که در تلاش برای ساخت یک سلاح بیولوژیکی با استفاده از مدل‌های هوش مصنوعی خود بود، در کنار کمپین‌های مختل‌شده شامل حملات سایبری و عملیات نفوذ، خنثی کرد. الجزیره و بی‌بی‌سی از جمله رسانه‌هایی بودند که یافته‌های سلاح‌های زیستی را در روز جمعه برجسته کردند.

شکاکان ریسک متفاوتی را می بینند

همه قاب بندی انقراض را نمی پذیرند. گری مارکوس، دانشمند و منتقد قدیمی هوش مصنوعی، استدلال می کند که این فناوری در حال حاضر آسیب هایی را ایجاد می کند که بدون توجه به سناریوهای ابراطلاعاتی، اقدامی را تضمین می کند - و خواستار تحریم هوش مصنوعی به دلیل آسیب های امروزی است.

مارکوس بیش از انقراض به گاردین گفت که نگران "خطر فاجعه" ناشی از "پاتوژن های تولید شده توسط هوش مصنوعی، جنگ های آغاز شده یا تشدید شده توسط اطلاعات نادرست تولید شده توسط هوش مصنوعی، هک هایی که زیرساخت های حیاتی را تخریب می کنند، و غیره است. هیچ چیزی که من ندیده ام نشان نمی دهد که هر یک از آنها تحت کنترل است."

موضع او بر شکافی در خود بحث ایمنی هوش مصنوعی تأکید می کند: بین آنهایی که بر خطرات بلندمدت و در مقیاس تمدنی ناشی از سیستم های آینده متمرکز هستند و آنهایی که بر آسیب های عینی ناشی از مدل های امروزی متمرکز هستند.

بحثی که از درونی ماندن خودداری می کند

آنچه که با نامه استعفای یک محقق آغاز شد به یک همه پرسی عمومی در مورد چگونگی ساختن قوی ترین سیستم های صنعت هوش مصنوعی تبدیل شد. در داخل آنتروپیک، کارمندان آشکارا در حال بحث هستند که آیا جدول زمانی آنها برای توسعه ایمن از بین رفته است یا خیر. در خارج از آن، هشدارها به یک مبارزه سیاسی فزاینده قطبی در مورد اینکه آیا و چگونه دولت ها باید مداخله کنند تبدیل می شوند.

گزارش گاردین نشان می‌دهد که بسیاری از کارکنان آنتروپیک این نگرانی‌ها را به‌طور خصوصی به اشتراک می‌گذارند، اما علنی صحبت نکرده‌اند. اگر تعداد بیشتری از آنها از کاکسون، وانگ، توماس، مارکس و هابینگر پیروی کنند، فشار بر آزمایشگاه‌های پیشرو هوش مصنوعی برای کاهش سرعت - و بر تنظیم‌کننده‌ها برای اقدام - فقط افزایش می‌یابد.

_این مقاله بر اساس گزارش گاردین، با زمینه های اضافی از CBS News، ژاپن تایمز، الجزیره، و بی بی سی است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →