بیش از 20 محقق - از جمله جفری هینتون، برنده جایزه نوبل، یوشوا بنجیو، یکی از پیشگامان هوش مصنوعی، جک کلارک بنیانگذار آنتروپیک و جاکوب پاچوکی، دانشمند ارشد OpenAI - به دولتها هشدار دادهاند که برای یک "انفجار هوش مصنوعی" آماده شوند که به گفته آنها میتواند پیامدترین توسعه فناوری در تاریخ دوشنبه باشد.
این مقاله با عنوان «اگر خودکارسازی تحقیق و توسعه هوش مصنوعی باعث انفجار اطلاعاتی شود، چه میشود»، از سیاستمداران میخواهد تا قبل از اینکه پیشرفتی در این فناوری ایجاد شود، اقدام کنند. نویسندگان این سناریو این سناریو را به عنوان "شتاب چشمگیر پیشرفت هوش مصنوعی مبتنی بر هوش مصنوعی، فشرده سازی پیشرفت هایی که در غیر این صورت سال ها به ماه ها یا کمتر طول می کشد" توصیف می کنند. برای خوانندگانی که [آخرین اخبار تحقیقات هوش مصنوعی] (https://aibuzzwire.news) را ردیابی می کنند، این گزارش به دلیل هشدار آن کمتر از کسانی که آن را امضا کرده اند قابل توجه است: ارقامی از سراسر دانشگاه و آزمایشگاه های مرزی رقیب، که به طور مشترک نشان می دهد که تحقیقات خودکار سناریویی است که سیاست گذاران کمترین آمادگی را برای آن دارند.
انفجار اطلاعاتی به چه معناست
نگرانی اصلی نویسندگان چشمانداز بهبود سیستمهای هوش مصنوعی بدون دخالت انسان است - فرآیندی که به عنوان خود-بهبودی بازگشتی شناخته میشود که به طور گسترده در مقاله به عنوان تحقیق و توسعه هوش مصنوعی خودکار از آن یاد میشود.
این مقاله استدلال میکند زمانی که سیستمهای هوش مصنوعی به قابلیتهای سطح متخصص در تحقیق و توسعه هوش مصنوعی دست پیدا میکنند، یک توسعهدهنده میتواند نیروی کاری معادل «میلیونها» محقق انسانی برتر را اداره کند. از نظر نویسندگان، خودکارسازی تحقیق و توسعه هوش مصنوعی محتملترین محرک یک انفجار اطلاعاتی است، زیرا سیستمهای هوش مصنوعی در حال حاضر به بهبود فناوری خود کمک میکنند – و سیستمهای بهبود یافتهای که به ایجاد آنها کمک میکنند، میتوانند به سرعت پس از ساخته شدن مستقر شوند.
به گزارش گاردین، این روزنامه میگوید: «انفجار اطلاعاتی میتواند پیامدترین پیشرفت فناوری در تاریخ بشر باشد، سالها پیشرفت را به ماهها یا کمتر فشرده کند، کنترل انسان بر سیستمهای هوش مصنوعی را تهدید کند و کنترلهای قدرت در داخل و بین ایالتها، شرکتها و شاخههای دولت را به شدت از بین ببرد.»
چرا نویسندگان می گویند پنجره در حال بسته شدن است
فوریت این گزارش بر یک ادعای جدول زمانی استوار است: سیستمهای هوش مصنوعی که امروزه مشکل به نظر میرسند میتوانند پروژههای تحقیق و توسعه را که در حال حاضر ماهها طول میکشد تا سال 2028 به طور کامل خودکار کنند.
نویسندگان می نویسند: «افزایش بهره وری از اتوماسیون تحقیق و توسعه هوش مصنوعی هنوز به آستانه لازم برای ایجاد یک انفجار اطلاعاتی نرسیده است، اما دستاوردهای سیستم های جدیدتر احتمالاً به این آستانه نزدیک می شود. هنگامی که یک انفجار اطلاعاتی آغاز می شود، پنجره عمل ممکن است بسته شود.
این مقاله میافزاید که «شواهد اولیه نشان میدهد که یک انفجار اطلاعاتی مبتنی بر نرمافزار امکانپذیر است» که میتواند منجر به «توسعه بسیار سریع سیستمهای هوش مصنوعی بسیار توانا یا فوقانسانی» شود.
خطراتی که آنها علامت گذاری می کنند
در حالی که یک انفجار اطلاعاتی می تواند پیشرفت های پزشکی و جهش های سریع تکنولوژیکی ایجاد کند، نویسندگان سه خطر اصلی را بیان می کنند:
- تهدیدهای فراری. سیستم های قدرتمند می توانند تهدیدهای بیولوژیکی و سایبری را فعال کنند که سریعتر از اقدامات لازم برای مقابله با آنها توسعه یابد.
- کنترل خود را از دست داد. همانطور که انسان ها کمتر درگیر تحقیق و توسعه هوش مصنوعی می شوند، ممکن است فرصت هدایت و محدود کردن سیستم هایی را که می سازند از دست بدهند.
- بی ثباتی استراتژیک. کشورها می توانند از یک انفجار اطلاعاتی برای تبدیل یک سرنخ کوچک - برای مثال در فضای سایبری - به یک مزیت ملی تعیین کننده استفاده کنند.
این گزارش صریح است که این تأثیرات "نامشخص" هستند. یک پیشرفت فناوری ممکن است برای پیادهسازی زنجیرههای تامین مواد تخصصی یا الزامات نظارتی زمان ببرد و سیستمهای هوش مصنوعی همچنین میتوانند سرعت کاهش خطرات را تسریع کنند.
دولت ها باید چه کار کنند
نویسندگان می گویند که آماده شدن برای یک انفجار اطلاعاتی "باید یک اولویت فوری از جمله در بالاترین سطوح رهبری دولت باشد" و مجموعه ای از سیاست های نامزد را ارائه می دهند:
- نیاز به گزارشهای پیشرفت شفاف در تحقیق و توسعه مرتبط با هوش مصنوعی، از جمله تعبیه حسابرسان مستقل در شرکتهای هوش مصنوعی
- محدود کردن سرعت بهبود یک سیستم هوش مصنوعی در یک دوره زمانی معین
- کار با مراکز داده برای فعال کردن توقف پروژه های تحقیق و توسعه هوش مصنوعی
- اطمینان از اینکه سیستمهای تحقیق و توسعه هوش مصنوعی کاملاً ایزوله هستند و نمیتوانند از کنترل انسان فرار کنند
- ایجاد "طرح های واکنش اضطراری" برای طیف سناریوهایی که یک انفجار اطلاعاتی می تواند ایجاد کند
این پیشنهادها ایدههایی را که در حال حاضر در سیاستهای هوش مصنوعی غربی حرکت میکنند - گزارش اجباری رویداد، ارزیابی شخص ثالث و حکمرانی محاسباتی - گسترش میدهند، اما آنها را در یک نقطه پایانی خاص به کار میگیرند: اتوماسیون خود تحقیق.
چرا این نویسندگان، و چرا در حال حاضر
امضاکنندگان به کاغذ وزن غیرعادی می دهند. هینتون و بنجیو دو تن از «پدرخواندههای» هوش مصنوعی مدرن هستند که بهخاطر کار بنیادی روی شبکههای عصبی شناخته شدهاند. هر دو به صداهای برجسته ای تبدیل شده اند که در مورد فناوری هایی که به ایجاد آنها کمک کرده اند هشدار می دهند. کلارک یکی از بنیانگذاران Anthropic بود و پاچوکی دانشمند ارشد OpenAI است.
هشدار آنها در بحبوحه حرکت قابل اندازه گیری صنعت به آن سمت می آید. به گفته گاردین، آنتروپیک گفته است که هوش مصنوعی اکنون 80 درصد کد خود را تولید می کند، در حالی که OpenAI از عوامل هوش مصنوعی مستقل در زمینه هایی مانند آموزش مدل های جدید استفاده می کند. هر دو آزمایشگاه همچنین توافق کردهاند که ارزیابهای مستقل مدلهای خود را پس از هشدار در مورد اینکه توسعه هوش مصنوعی از نظر ایمنی به مرحله بحرانی رسیده است، ارزیابی کنند.
این که آیا دولت ها با سرعت مورد نظر نویسندگان حرکت خواهند کرد یا خیر، سوال دیگری است. اما بحث اصلی مقاله - اینکه زمان ساخت ترمزها قبل از نیاز ماشین به آنهاست - اکنون توسط نزدیکترین افراد به ماشین تایید شده است.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →
