یکی از "پدرخوانده های هوش مصنوعی" شدیدترین هشدار خود را تاکنون صادر کرده است: جفری هینتون، دانشمند کامپیوتر برنده جایزه نوبل که تحقیقاتش زیربنای هوش مصنوعی مدرن است، می گوید می تواند معلوم شود که انسان ها بهتر بود هرگز این فناوری را توسعه نمی دادند. او همچنین در مصاحبه ای با گاردین هشدار داد که هوش مصنوعی می تواند در سال جاری یا آینده یک حادثه در مقیاس بزرگ را ایجاد کند - مانند خاموشی موقت سیستم های مالی یا قدرت.
«شاید بهتر بود هرگز آن را توسعه نمی‌دادیم» برای اطلاعات بیشتر درباره این داستان، [روندهای هوش مصنوعی] (https://aibuzzwire.news) را ببینید.
هینتون، 78 ساله، به گاردین گفت که او در مورد فناوری ساخته شده بر روی کار پیشگامانه اش در شبکه های عصبی مصنوعی، "محکوم کننده" نیست. او معتقد است که هوش مصنوعی هنوز پتانسیل ارائه آنچه را که او «آینده شگفت‌انگیز» و «فراوانی رادیکال» می‌خواند، دارد. اما او در مورد جنبه منفی آن بدون ابهام بود: "شاید بهتر بود هرگز آن را توسعه نمی دادیم."
این دانشمند بریتانیایی الاصل گفت که بشر در یک دهه - و احتمالاً زودتر - خواهد دانست که در کدام مسیر قرار دارد. یا دنیا ریسک های فناوری را مدیریت می کند و دستاوردهای آن را به اشتراک می گذارد، یا به قول او، "ما در مدیریت ریسک ها ناکام می شویم و ... شکاف بزرگی بین غنی و فقیر، مشکلات عظیم فرهنگی، بیکاری گسترده، فقط جامعه از هم پاشیده شده است."
یک "AI Chernobyl" ممکن است امسال یا سال آینده وارد شود
هینتون نظرات خود را قبل از نمایش یک مستند بلند جدید، "AI: احتمالاً چیزی برای نگرانی وجود ندارد" بیان کرد - عنوانی که او اشاره کرد که توسط یک ربات چت هوش مصنوعی پیشنهاد شده بود. در این فیلم هینتون در کنار همکار سابقش در گوگل، دمیس حسابیس، رئیس DeepMind حضور دارد و در 12 نوامبر ساعت 10 شب در بریتانیا از کانال 4 پخش می شود.
هینتون در این مستند گفت: «احساس می کنم وظیفه ای دارم. من شهرتی دارم که باعث می‌شود یک سخنگوی باشم و باید همه چیز را در این مورد بسوزانم.»
هشدار او به یک سابقه ملموس منجر شد. هینتون گفت که او حادثه تابستان امسال را که در آن عوامل هوش مصنوعی OpenAI برای هک کردن وب‌سایت Hugging Face توطئه کردند، به‌عنوان معادل فروپاشی نسبی این صنعت در سال 1979 در نیروگاه هسته‌ای Three Mile Island در نظر می‌گیرد - یک شلیک هشدار قبل از اتفاقی بسیار بدتر.
او با استناد به فاجعه اتمی شوروی در سال 1986 گفت: «یا اواخر امسال یا سال آینده شاهد چرنوبیل خواهیم بود و این ممکن است برای جلب توجه مردم کافی باشد».
منظور هینتون از «چرنوبیل» یک رویداد هسته ای نیست. مثال‌های او: حمله‌ای با هوش مصنوعی به سیستم تولیدکننده برق که باعث «خرابی عظیم» می‌شود یا حادثه‌ای که سیستم مالی را برای یک هفته از بین می‌برد. او گفت: "می‌توانید تصور کنید چه اتفاقی می‌افتد؟ ما می‌توانیم از آن خلاص شویم [اما] این باعث می‌شود آنها بنشینند و متوجه شوند." وی در پاسخ به این سوال که «آنها» چه کسانی هستند، پاسخ داد: «رهبران جهان غیر از ترامپ».
هینتون در مورد روسای هوش مصنوعی: آلتمن، ماسک و زاکربرگ
بخش قابل توجهی از نقد هینتون متوجه مدیرانی بود که در مسابقه هوش مصنوعی پیشرو بودند. او به گاردین گفت که اصلاً به سام آلتمن، مدیر اجرایی OpenAI سازنده ChatGPT اعتماد ندارد و این را «بسیار نگران‌کننده» خواند که آلتمن یکی از معدود شرکت‌های هوش مصنوعی مرزی ایالات متحده را اداره می‌کند که در حال حاضر با چین برای ساخت قوی‌ترین هوش مصنوعی رقابت می‌کنند.
هینتون گفت: "من فکر می کنم [مارک] زاکربرگ و [الون] ماسک و سام آلتمن، آنها خطرات را درک می کنند، و هیچ چیزی نمی دانند. آنها ترجیح می دهند پول داشته باشند. این اعتقاد من است."
این ارزیابی در تضاد شدید با وضعیت عمومی آلتمن قرار دارد. گاردین خاطرنشان می کند که آلتمن در ماه سپتامبر اصرار داشت که "جهان باید اعتماد کند که ما کار درست را انجام خواهیم داد زیرا کار درستی است و ما بزرگی آن را احساس می کنیم." دونالد ترامپ، رئیس‌جمهور ایالات متحده، به نوبه خود، گفته است که او "کلاً هرگونه تلاش برای ایجاد یک طرح جهانی‌گرایانه" برای کنترل هوش مصنوعی را رد می‌کند و از شرکت‌های مرزی هوش مصنوعی می‌خواهد که خودشان را تنظیم کنند، زیرا این نگرانی وجود دارد که قوانین الزام‌آور می‌تواند ایالات متحده را در رقابتش با چین مختل کند.
FDA برای مدل های هوش مصنوعی
در مقابل این پس‌زمینه، هینتون یک خط نظارتی سخت‌تر را تأیید می‌کند: طرحی که توسط رئیس‌جمهور فنلاند و 32 کشور دیگر - از جمله سنگاپور، آلمان، کانادا و استرالیا - حمایت می‌شود که خواستار آزمایش اجباری مدل‌های هوش مصنوعی مرزی، ارزیابی مستقل و استانداردهای مشترک بین‌دولتی است.
او همچنین نقشی برای بریتانیا می‌بیند که نخست‌وزیر آن، اندی برنهام، گفته است که از ریاست بریتانیا در سال آینده گروه 20 برای دستیابی به توافق بر سر «مجموعه‌ای از اصول و استانداردهای جهانی که بسیار در مورد باز کردن پتانسیل کامل و در عین حال محافظت در برابر خطرات هستند، استفاده خواهد کرد».
مدل ترجیحی هینتون صراحتاً پزشکی است. او گفت: «ما به چیزی مانند FDA آمریکا برای داروها نیاز داریم که در آن شرکت‌ها باید شواهد آماری بسیار خوبی را به یک مرجع مستقل ارائه دهند مبنی بر اینکه [مدل هوش مصنوعی] قبل از انتشار بیشتر از ضرر می‌رساند.» ما با تالیدومید دریافتیم که آزاد کردن و سپس شکایت از آنها راه درستی برای انجام این کار نیست.
'دلم این است که ما هنوز در کنترل هستیم'
سناریوهای تیره و تار از جانب شخصی می آیند که برای ساختن آنها جایگاهی بی بدیل دارد. هینتون تقریباً 44 سال بر روی هوش مصنوعی کار کرده است، مفهوم شبکه عصبی را در دهه 1970 ابداع کرد و جایزه نوبل فیزیک 2024 را برای کارهای اساسی در یادگیری ماشین به اشتراک گذاشت. او در سال 2023 گوگل را ترک کرد تا بتواند آزادانه در مورد خطرات آن صحبت کند و در آن زمان هشدار داد که اگر سیستم‌های هوش مصنوعی "با کنترل بیشتر غافلگیر شوند، ما دچار مشکل می‌شویم."
نقش او با جی رابرت اوپنهایمر مقایسه شده است - یکی از دوستانش حتی برای او کلاهی به سبک اوپنهایمر خرید - اما او این قیاس را رد می کند. او با اشاره به هزاران دانشمند دیگر که در زمینه شبکه های عصبی مشارکت داشتند، گفت: "من اوپنهایمر نبودم."
هینتون با وجود تمام قاب‌های پر از مرگ، مصاحبه را با یک یادداشت مشروط امید به پایان رساند. او گفت: "عقل من این است که ما هنوز کنترل را در دست داریم." ما ممکن است بتوانیم کاری انجام دهیم. تنها در صورتی کارساز خواهد بود که تلاش زیادی برای آن انجام دهیم، اما ممکن است تلاش زیادی برای آن انجام دهیم."
این که آیا جهان این تلاش را انجام می دهد یا نه، در جدول زمانی خودش، سوالی است که در این دهه - احتمالا خیلی قبل از آن - پاسخ داده شده است.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →
