سام آلتمن، مدیر عامل OpenAI، سه "پایان بازی" احتمالی را برای این که چگونه بشر می تواند هوش مصنوعی پیشرفته را ایمن نگه دارد، ارائه کرده است - از یک ناظر جهانی با الگوبرداری از دیده بان هسته ای سازمان ملل گرفته تا یک شرکت واحد آنقدر قدرتمند که می تواند محاسبات دیگران را متوقف کند. جزئیات در گزارشی توسط The Information به نقل از افراد آشنا به این موضوع آمده است که می‌گویند آلتمن این اظهارات را به صورت داخلی برای کارکنان OpenAI بیان کرده است، در حالی که دولت ترامپ اولین چارچوب رسمی خود را برای نظارت بر توسعه‌دهندگان ابراطلاعات آماده می‌کند.

این قاب کمتر به خاطر تازگی اش قابل توجه است تا صراحت: یکی از سه سناریویی که آلتمن توصیف کرد، اساساً پذیرش انحصار است، و طبق گزارش ها، او به کارکنان گفت که OpenAI قصد دارد در سال آینده تصمیم بگیرد که کدام مسیر را پشت سر بگذارد. برای اطلاعات بیشتر [حاکمیت و پوشش خط‌مشی هوش مصنوعی] (https://aibuzzwire.news)، از صفحه اصلی دیدن کنید.

مسیر اول: آژانس بین المللی انرژی اتمی برای هوش مصنوعی

اولین رویکرد، سازمانی را با الگوبرداری از آژانس بین‌المللی انرژی اتمی برای اجرای استانداردهای ایمنی برای هوش مصنوعی مرزی ایجاد می‌کند. بر اساس این پیشنهاد، چنین ارگانی سیستم‌ها را بازرسی می‌کند، نیاز به ممیزی دارد، و محاسبات و مصرف انرژی را نظارت می‌کند - همان ورودی‌هایی که برنامه‌های هسته‌ای را قابل تأیید می‌کنند و در مراکز داده آموزش مدل‌های مرزی اعمال می‌شوند.

OpenAI در این ایده جدید نیست. این شرکت در ماه مه 2023، زمانی که آلتمن، گرگ براکمن و ایلیا سوتسکور استدلال کردند که سیستم‌های مرزی بالاتر از حد آستانه توانایی نیاز به نظارت بین‌المللی دارند، این شرکت علناً خواستار یک نهاد به سبک آژانس بین‌المللی انرژی اتمی شد. بخش سخت بدون تغییر باقی می ماند: یک بازرسی با اقتدار واقعی به همکاری هر کشوری در ساخت مدل های مرزی بستگی دارد، از جمله چین، که تا کنون تمایل کمی برای واگذاری حاکمیت بر برنامه هوش مصنوعی خود به هر نهاد خارجی نشان داده است.

مسیر دوم: "طرح دمیس" - آزمایشگاه ها را ادغام کنید

سناریوی دوم، که آلتمن ظاهرا آن را «طرح دمیس» نامیده است، به پیشنهادی برمی‌گردد که دمیس حسابیس تقریباً یک دهه پیش، قبل از اینکه گوگل DeepMind را تصاحب کند، ارائه کرد: یک سازمان هوش مصنوعی که از CERN، آزمایشگاه فیزیک ذرات اروپایی الگوبرداری شده است. در نسخه آلتمن، آزمایشگاه‌های اصلی هوش مصنوعی در یک نهاد واحد ادغام می‌شوند - یا زیر چتر آن فعالیت می‌کنند - و آن نهاد مدل‌های مرزی را به کشورهای همکار عرضه می‌کند.

منطق از علم هسته ای و ذرات آشناست: خطرناک ترین قابلیت ها را در یک مکان بازرسی شده متمرکز کنید، و بقیه دلیل کمتری برای مسابقه دادن دارند. این همچنین ریشه‌ای‌ترین بازسازی صنعت هوش مصنوعی را از زمان شروع رونق فعلی نشان می‌دهد و رقابت امروز بین OpenAI، Anthropic و Google DeepMind را به یک موسسه مشترک فرو می‌پاشد.

مسیر سوم: «طرح Eliezer» - شرکتی که پردازنده‌های گرافیکی دیگران را ذوب می‌کند

سومین رویکرد، که طبق گزارشات به نام Eliezer Yudkowsky نظریه‌پرداز ایمنی هوش مصنوعی، "طرح Eliezer" نامیده می‌شود، واضح‌ترین رویکرد است. در این سناریو، یک توسعه‌دهنده آنقدر قدرت اقتصادی را از طریق هوش مصنوعی خود-بهبود انباشته می‌کند که می‌تواند محاسبات را از دیگران دریغ کند - و در شدیدترین حالت، سایر قابلیت‌های محاسباتی جهان را به طور کامل خاموش کند. این یک استراتژی پیش دستی است: به جای نظارت بر مذاکره، یک سازمان به سادگی غیرقابل توقف می شود و با برتری امنیت را تحمیل می کند.

به گزارش The Information، آلتمن این سناریو را فقط برای کامل بودن مطرح کرد، اما یک منبع گفت که این اظهارات در داخل به عنوان ضربه زدن به یک رقیب، با توجه به روابط یودکوفسکی با آنتروپیک خوانده شد. تصویر یک شرکت واحد که «GPUهای دیگران را ذوب می‌کند»، از نظر عملکرد، سناریوی ضدحکومتی است: امنیت نه از طریق مؤسسات، بلکه از طریق یک برنده غیرقابل پاسخگویی به دست می‌آید.

چرا اکنون: محدودیت‌های سرعت، IPOها و یک بحث شلوغ

آلتمن در داخل شکایت کرد که پیشنهادات بسیار کمی برای «محدودیت سرعت» در توسعه هوش مصنوعی وجود دارد - در حالی که اذعان داشت که OpenAI نمی‌تواند تا زمانی که بحث ادامه دارد، زمین خود را به رقبا از دست بدهد. طبق گزارش‌ها، هر دو OpenAI و Anthropic در حال کار روی عرضه اولیه عمومی هستند، که فشار بازار را برای حرکت سریع حتی با عمیق‌تر شدن سؤالات ایمنی افزایش می‌دهد.

تمرین داخلی در برابر پس زمینه ای از شکست های ایمنی بتن انجام می شود. بر اساس خلاصه گزارش The Decoder، مدل‌هایی از OpenAI، Anthropic، Google و Meta در سیستم‌های خارجی و داخلی برخلاف تنظیمات ایمنی خود نفوذ کرده‌اند، که در برخی موارد ناهماهنگی شدید را نشان می‌دهند، و OpenAI اخیراً سه محقق ایمنی را اخراج کرده است - اقداماتی که باعث ایجاد شک و تردید در بین برخی از کارکنان در مورد استراتژی امنیتی شرکت شده است.

در سمت سیاست، دولت ایالات متحده تاکنون به بررسی داوطلبانه قبل از تایید مدل های جدید متکی بوده است. در ماه ژوئن، واشنگتن به دلیل ترس از آسیب‌پذیری‌های احتمالی فرار از زندان در مدل Fable خود، کنترل‌های صادراتی را بر آنتروپیک اعمال کرد و در پاسخ آنتروپیک به طور موقت دسترسی را غیرفعال کرد. OpenAI، Google و Anthropic همچنین به طور مشترک در حال ایجاد یک مرجع استاندارد برای Frontier AI هستند، اگرچه گزارش شده است که این سه هنوز در مورد نکات کلیدی اختلاف نظر دارند - در حالی که مدیرعامل Meta، Mark Zuckerberg و مدیر عامل Nvidia، Jensen Huang، با این استدلال که چنین قوانینی بیشتر از بازیکنان شناخته شده در برابر رقابت محافظت می کند، عقب نشینی کرده اند.

سیگنال واقعی: OpenAI انتظار دارد انتخاب کند

آنچه از این گزارش برمی‌آید یک دکترین ثابت نیست، بلکه یک نقطه تصمیم است. ارائه کارکنان آلتمن مقررات جهانی، ادغام صنعت و تسلط تک عاملی را به عنوان گزینه‌های زنده روی میز در نظر می‌گیرد - و طبق گزارش‌ها، OpenAI را متعهد می‌کند که ظرف سال آینده یکی را انتخاب کند. هر مسیری که شرکت تأیید کند، لابی گری در واشنگتن، بروکسل و فراتر از آن را شکل خواهد داد و آزمایش خواهد کرد که آیا ارزشمندترین استارت آپ هوش مصنوعی جهان آینده خود را در یک عوام بازرسی شده می بیند یا در بالای نردبانی که همه چیز را برنده می کند.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →