جفری هینتون، برنده جایزه نوبل که به طور گسترده به عنوان "پدرخوانده هوش مصنوعی" شناخته می شود، این هفته یکی از شدیدترین هشدارهای خود را به قانونگذاران آمریکایی ارائه کرد: کنگره تقریباً یک سال فرصت دارد تا پیش از اینکه این فناوری از کنترل انسان خارج شود، تدابیر لازم را برای هوش مصنوعی اعمال کند. به گزارش انبیسی نیوز، دانشمند کامپیوتر بریتانیایی-کانادایی این اظهارات را در 16 سپتامبر در یک نشست پشت درهای بسته مجلس سنا در کاپیتول هیل بیان کرد.
بر اساس گزارش NBC از این نشست، هینتون به اتاق قانونگذاران گفت: «شاید یک سال، اما نه خیلی بیشتر از یک سال. بر اساس گزارشهای متعدد این جلسه، جلسه توجیهی توسط سناتور برنی سندرز و همچنین مکس تگمارک، فیزیکدان MIT، یکی از بنیانگذاران موسسه آینده زندگی، و محقق ایمنی هوش مصنوعی آجیا کوترا برگزار شد.
هسته هشدار: هوش مصنوعی ساختمان AI
استدلال هینتون بر یک نقطه عطف فنی خاص متمرکز بود تا یک فرضیه دور. او گفت: "هوش مصنوعی اکنون به نقطه ای رسیده است که هوش مصنوعی بهتری طراحی می کند." به این میگویند خود-بهبودی بازگشتی... اگر کاری انجام ندهیم، از کنترل خارج میشود.»
او همچنین به قانونگذاران گفت که جدولهای زمانی تخصصی برای ابراطلاعات در دهه گذشته سقوط کرده است. هینتون به نقل از ان بی سی نیوز گفت: «اگر به پیشبینیها برای اینکه چه زمانی به ابرهوشمندی دست خواهیم یافت، نگاه کنید، احتمالاً 30 سال، شاید 50 سال بود. "بعد به 10 سال، شاید 20 سال رسید. اکنون مردم می گویند، بسیاری از محققان می گویند فقط چند سال است."
هینتون، استاد بازنشسته در دانشگاه تورنتو که جایزه نوبل فیزیک 2024 را برای کارهای بنیادی بر روی شبکههای عصبی به اشتراک گذاشت، در سال 2023 گوگل را ترک کرد و از آن زمان به برجستهترین منتقد داخلی این رشته تبدیل شد - هشدار داد که سیستمهایی که او به ایجاد آنها کمک کرد ممکن است در نهایت به فکر فرورفتن و جابجایی سازندگان خود باشند.
شک و تردید در مورد "سوئیچ کشتن"
هینتون حتی در حالی که خواستار مقررات سریع شد، نسبت به یکی از مطرحترین پیشنهادها ابراز تردید کرد: دستور فدرال که به دولت اجازه میدهد سیستمهای هوش مصنوعی خطرناک را تعطیل کند. به گزارش سی ان ان، او به قانونگذاران گفت که چنین "سوئیچ کشتن" در دراز مدت دوام نخواهد آورد.
بدبینی او در همان هفته رخ داد که سناتور رند پل مانع از پیگیری سریع لایحه سوئیچ کشتن هوش مصنوعی تحت رهبری جمهوری خواهان در سنا شد - قسمتی که نشان می دهد حتی حداقل قوانین گاردریل تا چه حد از تصویب باقی مانده است. سناتور جان کندی از لوئیزیانا، که در بخشی از جلسه توجیهی شرکت کرد، به واشنگتن سان گفت که از این بحث لذت می برد اما هیچ نشانه ای از سوی سنا نمی بیند که اقدامی انجام دهد، و اضافه کرد که انتظار دارد حرکت بعدی از سوی کاخ سفید انجام شود و با اشاره به گزارشی مبنی بر اینکه اسکات بسنت، وزیر خزانه داری در حال تلاش برای یک چارچوب ایمنی است.
چشم انداز در سراسر راهرو چندان آفتابی نبود. سناتور ریک اسکات از فلوریدا در مصاحبه ای با NewsNation گفت که شرکت ها باید خودشان را تنظیم کنند: "ما به اندازه کافی هوشمند نیستیم که آنها را تنظیم کنیم. ما در اینجا کاری را انجام نمی دهیم."
برخی از دموکرات ها جهت دیگری را تحت فشار قرار دادند. یاسامین انصاری، نماینده آریزونا، که در جلسه توجیهی شرکت کرد، در X نوشت که هوش مصنوعی "می تواند فراتر از کنترل انسان باشد و ادامه خواهد داد" و "پنجره ما برای تنظیم آن به سرعت در حال ناپدید شدن است. ما باید همین حالا مکث کنیم."
یک هفته Whiplash ایمنی هوش مصنوعی
این جلسه توجیهی یک کشش پر فراز و نشیب را برای بحث حاکمیت هوش مصنوعی پوشش داد. چند روز قبل، داریو آمودی، مدیر عامل آنتروپیک، مقالهای را منتشر کرد که در آن از آزمایشگاههای مرزی خواست تا سرعت توسعه را طی کنند و در مورد خطرات ناشی از از دست دادن کنترل تا بیوتروریسم هشدار داد - موضعی که بر اساس گزارشهای گسترده توسط رهبران دیگر آزمایشگاهها حمایت عمومی میشود. در همان روزی که هینتون به سناتورها خطاب کرد، محققان برجسته هوش مصنوعی از جمله اندرو انگ به طور علنی نگرانیهای مربوط به انقراض را رد کردند و آن را بیش از حد اعلام کردند و بر حوزهای تاکید کردند که با خودش در انظار عمومی بحث میکند.
در کاپیتول هیل، فعالیتها پر سر و صداتر از خروجی بوده است. سناتور کوری بوکر از پرزیدنت ترامپ خواسته است تا یک جلسه ویژه کنگره در مورد هوش مصنوعی تشکیل دهد، در حالی که یک گروه حل مشکلات دو حزبی تشکیل کارگروه جدیدی را در زمینه هوش مصنوعی و فناوری های نوظهور در این هفته اعلام کرد. هیچ یک از آنها هنوز قانون الزام آور فدرال را تولید نکرده است.
چرا کادربندی یک ساله مهم است
هشدارهای مهلتمحور از پیشگامان هوش مصنوعی به امری عادی تبدیل شدهاند، اما ویژگی جدول زمانی هینتون - که مستقیماً به افرادی که دارای اختیار قانونگذاری هستند، در اتاقی که برای مدیران صنعت مستثنی شده است - نشاندهنده تغییر در لحن است. هشدارهای قبلی محققان معمولاً خطر را در افقهای دههها پیشبینی میکردند. یک پنجره یک ساله مستلزم پاسخ های سیاستی است که برای کنگره فعلی طراحی شده است، نه برای پاسخ های آینده.
همچنین مشکل سیاسی را تشدید می کند. همانطور که شک و تردید خود هینتون و بلوک رویه ای سناتور پل نشان می دهد، حتی در میان چهره هایی که به امنیت فکر می کنند، هیچ اتفاق نظری وجود ندارد که مداخلات در مورد آنها موثر باشد. هینتون استدلال کرده است که وضعیت بین المللی - به ویژه رقابت با چین - کندی یکجانبه را از نظر سیاسی شکننده می کند، تنشی که تا کنون جدی ترین پیشنهادها را متوقف کرده است.
آنچه بعد اتفاق می افتد، با ساعت خود هینتون، چند ماه است. اینکه آیا جلسه توجیهی این حساب را تغییر میدهد به سنا بستگی دارد که بر اساس حساب اعضای خود، در حال حاضر اصلاً حرکت نمیکند.
از هوش مصنوعی جلوتر بمانید
سیاست هوش مصنوعی به سرعت در حال حرکت است - و همه چیز دیگر در این زمینه نیز همینطور است. برای اخبار جدید هوش مصنوعی، بهروزرسانیهای مقررات و تجزیه و تحلیل، [اخبار هوش مصنوعی را بیشتر بخوانید →] (https://aibuzzwire.news/en).
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
