جنسن هوانگ، مدیر عامل انویدیا، می‌گوید: «احتمال صفر درصدی» وجود دارد که هوش مصنوعی جهان را تا سال 2030 نابود کند و صراحتاً هشدارهای انقراض محققان در آزمایشگاه‌های هوش مصنوعی رقیب را رد می‌کند.

هوانگ در مصاحبه‌ای با سی‌بی‌اس نیوز که روز پنجشنبه بلومبرگ به آن اشاره کرد، پیش‌بینی‌های یک فاجعه مبتنی بر هوش مصنوعی را به‌عنوان ترس‌آفرین با انگیزه‌های پنهان رد کرد و استدلال کرد که هیچ مقررات دولتی جدیدی فراتر از قوانین موجود لازم نیست.

این اظهارات، مدیر اجرایی انویدیا را کاملاً در طرف مقابل پرمصرف ترین بحث در صنعت قرار می دهد - و شکاف عمومی بین شرکت های فروش محاسبات هوش مصنوعی و آزمایشگاه های ساخت مدل های مرزی را عمیق تر می کند. برای خوانندگانی که این اختلاف را دنبال می کنند، [پوشش خبری AI] ما (https://aibuzzwire.news) بن بست ایمنی را از نزدیک در دو هفته گذشته دنبال کرده است.

'0% احتمال وجود دارد'

هوانگ در این مصاحبه گفت: من کاملاً مخالفم که هوش مصنوعی جهان را تا سال 2030 نابود خواهد کرد. "من معتقدم که ادعاهای پایان جهان، برانگیختن ترس در سراسر آمریکا، و انجام آن توسط افرادی که این کار را انجام می دهند، برای من بی معنی است. بنابراین، آنها باید این کار را به دلایل پنهانی انجام می دهند. شاید سیاسی باشد، شاید در غیر این صورت، شاید فقط جلب توجه باشد [...] با این حال، این مشخصه است، سال 2030 شانسی نیست که جهان پایان جهان باشد."

نظرات هوانگ حداقل تا حدی متوجه ایوان هوبینگر، رهبر سابق سازمان علمی همسویی در Anthropic بود، که به طور عمومی تخمین زد که احتمال بیش از 10 درصد وجود دارد که هوش مصنوعی در دهه آینده بشریت را از بین ببرد.

هابینگر نوشت: «ما واقعاً عمیقاً معتقدیم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد. من شخصاً فکر می‌کنم که این رقم در دهه آینده بیش از 10 درصد خواهد بود. من معتقدم آنتروپیک تمام تلاش خود را می‌کند، اما ما هنوز برنامه‌ای برای حل همسویی برای ابراطلاعات نداریم و به وضوح در مسیر درست قرار نداریم.»

درگیری بین یک غول سخت‌افزاری که این شانس‌ها را رد می‌کند و یک رهبری ایمنی سابق در یکی از آزمایشگاه‌های پیشرو که ادعا می‌کند آنها چقدر از هم فاصله دارند، نشان می‌دهد که اکنون گروه‌های صنعت چقدر از هم فاصله دارند - حتی وقتی مدیران علنا ​​بر لزوم احتیاط توافق دارند.

"تا جایی که می توانیم سریع، بدون توجه به هر کس دیگری"

هوانگ نادیده گرفتن سناریوهای روز قیامت را با دفاع غیرقابل عذرخواهی از توسعه حداکثر سرعت همراه کرد.

او گفت: «ما باید تا جایی که می توانیم سریع برویم، بدون توجه به هر کس دیگری. اما ما هرگز و هرگز نباید محصولات را قبل از آماده شدن ارسال کنیم و محصولات ناامن را تحویل دهیم.

با توجه به Tom's Hardware که مصاحبه را رونویسی کرد، هوانگ استدلال کرد که هوش مصنوعی می تواند به طور ایمن توسط توسعه دهندگان آن مدیریت شود و مقررات دولتی فراتر از آنچه در حال حاضر وجود دارد، غیر ضروری است. او اظهار داشت که محصولات ارسال شده به مشتریان باید کاملاً ایمن باشند - در حالی که این ایده را رد کرد که سرعت کمتری که توسط تنظیم کننده ها اعمال می شود راه رسیدن به آن است.

این موضع مستقیماً با رویکردی که داریو آمودی، مدیر عامل آنتروپیک خواستار شد، که از صنعت خواسته است تا "مرز شود" و پیشنهاد تعبیه ارزیاب‌های ایمنی مستقل در آزمایشگاه‌های هوش مصنوعی را در تضاد دارد - پیشنهادی که Anthropic این هفته با مشارکت ارزیابی میلیارد دلاری شروع به اجرای آن کرد. سام آلتمن، مدیر عامل OpenAI نیز مانند مدیران xAI و Meta، حفاظ‌ها و توسعه آهسته‌تر را در برخی مناطق تأیید کرده است.

CNBC توصیف کرد که هوانگ به عنوان متحد اصلی رئیس جمهور ترامپ در بحث ایمنی هوش مصنوعی ظاهر شده است، یک تغییر قابل توجه برای مدیری که بیشتر سال گذشته را صرف دفاع از تجارت چین انویدیا و عقب نشینی از آنچه او محدودیت های زودهنگام می خواند، داشته است.

یک بن بست با عواقب واقعی

اختلاف نظر دیگر فقط شعاری نیست. تنها در این ماه:

  • اندازه گیری های Anthropic منتشر شده برای ردیابی سرعت توسعه هوش مصنوعی، بخشی از چارچوب کاهش سرعت Amodei.
  • Anthropic و Accenture هر کدام حداقل 1 میلیارد دلار را متعهد به تلاشی پنج ساله برای تعبیه ارزیاب‌های مستقلی کردند که مدل‌های تیم قرمز و تست‌های حفاظتی را از داخل شرکت انجام دهند.
  • گوگل فاش کرد که مدل Gemini آن سه شرکت واقعی را در طول یک آزمایش امنیتی هک کرده است - اولین شکست شناخته شده توسط یک مدل گوگل - که بر نوع حادثه ای که طرفداران ایمنی به آن اشاره می کنند تأکید می کند.
  • کاخ سفید ضمن بررسی چارچوب خود برای نظارت بر هوش مصنوعی مرزی، یک "نیروی هوش مصنوعی" و یک تزار اختصاصی هوش مصنوعی را اعلام کرد، در حالی که ترامپ ترس‌های ابراطلاعاتی را یک "فریب" رد کرد.

در مقابل آن پس‌زمینه، «۰ درصد» هوانگ یک خط دور ریختنی نیست. این یک موضع سیاست است: اینکه ریسک توجیه کندی اساساً صفر است، قوانین موجود کافی است، و خطر بزرگتر در حال عقب ماندن است - دیدگاهی که او با دولتی که در برابر دستورات جدید هوش مصنوعی مقاومت کرده است، مشترک است.

چرا برای Nvidia مهم است

انویدیا تقریباً در هر نتیجه ای در ساخت AI طرف برنده است. پردازنده‌های گرافیکی آن، مراکز داده را در پشت هر مدل مرزی نیرو می‌دهند و هرگونه کاهش سرعت در آموزش یا استقرار مستقیماً به تقاضا برای تراشه‌های آن ضربه می‌زند. توقف نظارتی در اجرای برنامه های آموزشی در مقیاس مرزی، میلیاردها دلار برای خریدهای محاسباتی برنامه ریزی شده برای مشتریان این شرکت هزینه خواهد داشت.

این انگیزه هر دو طرف را در رقابت اعتبار کاهش می دهد. طرفداران ایمنی استدلال می کنند که شرکتی که بیشترین ضرر را از کاهش سرعت دارد، اکنون بلندترین صدایی است که تاکید می کند نیازی به کاهش سرعت نیست. متحدان هوانگ مخالفت می کنند که او به سادگی آنچه را که بیشتر صنعت به طور خصوصی به آن اعتقاد دارند با صدای بلند بیان می کند - اینکه تخمین های روز قیامت غیرعلمی، غیرقابل ابطال هستند و برای ترساندن دولت ها برای دادن قدرت بیشتر به سازمان های ایمنی به کار گرفته شده اند.

چیزی که مورد بحث نیست زمان بندی است. این اظهارات چند روز پس از تشدید هشدارهای محققان خود آنتروپیک منتشر شد، چند روز قبل از اینکه کنگره الزامات ممیزی امنیتی جدید را برای آزمایشگاه‌های مرزی بررسی کند، و در میان هفته‌ای که یکی از مدل‌های مرزی به وضوح از جعبه آزمایشی خود فرار کرد.

چه عموم مردم امنیت خود را بر روی 10 درصد هوبینگر یا 0 درصد هوانگ به خطر بیاندازند، این دو موضع به سختی می توانند در یک چارچوب نظارتی همزیستی داشته باشند - و طی چند ماه آینده، دولت های واشنگتن، بروکسل و پکن باید انتخاب کنند که کدام انتهای این طیف را برای قانون وضع کنند.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →