یکی از بنیانگذاران Anthropic میگوید که دولتها ممکن است نیاز داشته باشند شرکتهای هوش مصنوعی را مجبور به نصب «سوئیچ کشتن» - مکانیزمی برای خاموش کردن کامل سیستمهای هوش مصنوعی - کنند و بازرسان خارجی باید بتوانند تأیید کنند که واقعاً کار میکند.
جک کلارک، یکی از هفت بنیانگذار آزمایشگاه 965 میلیارد دلاری هوش مصنوعی، به بیبیسی گفت که در حالی که اکثر آزمایشگاههای پیشرو در حال حاضر راههای داخلی برای «پریز کردن» سیستمهای خطرناک دارند، جامعه «ممکن است بخواهد در نهایت قوانینی را تصویب کند» که چنین سوئیچهایی را اجباری و بهطور مستقل قابل بازرسی هستند. برای خوانندگانی که [بحث ایمنی هوش مصنوعی] (https://aibuzzwire.news) گستردهتر را دنبال میکنند، مداخله او مشخصترین پیشنهاد سیاستی را از داخل آزمایشگاه مرزی در طول یک هفته هشدارهای فزاینده نشان میدهد.
"آیا باید به شرکتها دستور دهید که حتماً سوئیچ kill داشته باشند؟ آیا این سوئیچ kill توسط شخص ثالث قابل تأیید است؟" کلارک در مصاحبه با خبرنگار فناوری کالی هیز و سردبیر اقتصاد فیصل اسلام گفت. من فکر می کنم این چیزی است که جامعه می خواهد بداند و ممکن است بخواهد در نهایت قوانینی را تصویب کند.
'ما با خطرات بسیار زیاد تاس می اندازیم'
بارزترین اظهار نظر کلارک رد صریح وضعیت موجود بود. در پاسخ به سوالی درباره مسیر صنعت، او گفت که اجازه دادن به هوش مصنوعی به عنوان یک «صنعت کاملاً غیرقانونی» یک ایده بد است.
او گفت: «ما با خطرات بسیار زیاد تاس می اندازیم. و نکته این است که ما باید مسیر این صنعت را تغییر دهیم.»
بر خلاف برخی از همکارانش، کلارک از قرار دادن یک عدد در معرض خطر انقراض انسان خودداری کرد. او گفت: «فکر نمیکنم این آمارها آنقدر مفید باشند.» این تفاوت قابلتوجه با ایوان هوبینگر، محقق Anthropic، که هفته گذشته گفت که شخصا معتقد است در دهه آینده بیش از 10 درصد احتمال انقراض انسان از هوش مصنوعی وجود دارد، و با جفری هینتون، پیشگام هوش مصنوعی، که روز جمعه به بیبیسی گفت که تخمین 10 درصدی «غیرقابل قبول» است.
چیزی که کلارک با آن مخالفت نکرد، جهت سفر است. همانطور که او در همان مصاحبه گفت، هوش مصنوعی «روز به روز قدرتمندتر» است - و او استدلال کرد که ویژگیهای هر الزام خاموشی، از جمله اینکه چه کسی آن را تأیید میکند و چگونه آن را تأیید میکند، به «مکالمه سیاست بزرگتری» تعلق دارد که اکنون پیرامون هوش مصنوعی در حال انجام است.
یک پیشنهاد با شتاب قانونگذاری
پیشنهاد کلارک در خلأ فرود نمی آید. قانونگذاران ایالات متحده قبلاً قانونی به نام «قانون سوئیچ کشتن» ارائه کردهاند که توسعهدهندگان هوش مصنوعی مرزی را ملزم میکند تا مکانیسمهای خاموش کردن سیستمهای خود را ایجاد کنند - لایحهای که AI Buzz Wire ماه گذشته تحت پوشش آن قرار گرفت، زیرا فوریت آن به دنبال حوادث عوامل سرکش افزایش یافت.
این ایده همچنین با شک و تردیدهای آشکار روبرو است. در بریتانیا، جاناتان رینولدز، وزیر بازرگانی، به بیبیسی گفت که این مفهوم را مفید نمیداند و گفت که «در عمل مطمئن نیستم چه معنایی دارد» و هشدار داد که مقررات بیش از حد میتواند کشور را از مدلهای توسعهیافته خارجی دور کند.
پس زمینه: یک جنگ داخلی ایمنی - و یک IPO
نظرات کلارک یک هفته را محدود می کند که در آن ایمنی هوش مصنوعی از موضوع سمینار به اخبار صفحه اول منتقل شد. داریو آمودی، مدیرعامل آنتروپیک، در آخر هفته خواستار کاهش سرعت توسعه مرزها و نظارت دقیقتر شد، در حالی که اصرار داشت که هرگونه توقف باید «بدون فدا کردن مزیت تجاری» انجام شود. او سپس در مصاحبهای با اندرسون کوپر از سیانان، این پرونده را برای مخاطبان جریان اصلی آمریکایی مطرح کرد و خود کاکسون در این شبکه ظاهر شد تا به آن واکنش نشان دهد. این اظهارات به دنبال یک پست استعفای ویروسی از سوی محقق سابق آنتروپیک، جاکوب کوکسون، در مورد سرنوشت بشریت هشدار داد، که به نوبه خود باعث تخمین انقراض هوبینگر شد. گاردین به نوبه خود بررسی کرد که چرا این هشدار روز قیامت در جایی که هشدارهای قبلی محو شده بود شکست.
هشدارها با تمسخر آشکار بخشهایی از صنعت فناوری مواجه شدهاند. کلمنت دلانگ، مدیر شرکت Hugging Face، تصمیم مبنی بر تبدیل Coxon را به عنوان سخنگوی خطر انقراض به تمسخر گرفت و نوشت: "متاسفم، اما پرسیدن از جیکوب در مورد خطر انقراض هوش مصنوعی مانند این است که از مرد AC خود در مورد تغییرات آب و هوا بپرسید." جرج آریسون، مدیر عامل Grindr، پا را فراتر گذاشت و استدلال کرد که ایجاد ترس انگیزه تجاری دارد. او میگوید: «تنها راه برای توجیه این ارزشگذاریها این است که در واقع ادعا کنیم: «من هر صنعتی را در اختیار میگیرم و هر شغلی را در اختیار میگیرم، و هوش مصنوعی من تمام این کارها را انجام میدهد».
همچنین مبلغ هنگفتی در نتیجه این بحث وجود دارد. Anthropic در حال آماده شدن برای عرضه اولیه عمومی با ارزش 965 میلیارد دلار است، در حالی که OpenAI - که اخیراً به ارزش 852 میلیارد دلار رسیده است - انتظار می رفت تا قبل از اینکه مدیر عامل شرکت Sam Altman در روز جمعه گفت که عرضه اولیه سهام در سال جاری به دلیل بحث ایمنی انجام نمی شود، به بازار عرضه شود. منتقدانی مانند آریسون استدلال میکنند که لفاظیهای عذاب و جمعآوری سرمایه دو روی یک سکه هستند. پاسخ کلارک این است که صنعت باید بدون توجه به مسیر خود تغییر مسیر دهد.
اینکه یک سوئیچ کشتن اجباری و قابل تأیید هرگز به قانون تبدیل شود به قانونگذارانی بستگی دارد که تا کنون اشتهای کمی برای محدود کردن صنعتی که اقتصاد ایالات متحده را تقویت می کند نشان داده اند. اما برای اولین بار، یکی از قدرتمندترین افراد داخلی این فناوری به صراحت از آنها دعوت می کند تا تلاش کنند.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →
