Masayoshi Son، بنیانگذار SoftBank که برخی از بزرگترین شرط‌بندی‌ها را در تاریخ سرمایه‌گذاری فناوری بر روی هوش مصنوعی گذاشته است، این هفته هشداری غیرعادی صادر کرد: ابرهوش‌ها، اگر در دستان اشتباه قرار بگیرند، می‌توانند "فوق العاده خطرناک" باشند.

این هشدار که توسط The Next Web گزارش شده و توسط رسانه هایی از جمله Economic Times، Business Standard و Moneycontrol دریافت شده است، به دلیل کسانی که آن را گفته اند، با قدرت خاصی مواجه شد. سون یک محقق ایمنی یا تنظیم کننده دولتی نیست. او سرمایه‌دار پشت موقعیت‌های عظیم سافت‌بانک در OpenAI و ایجاد مرکز داده استارگیت است و دو سال گذشته را صرف نادیده گرفتن صحبت‌ها درباره حباب هوش مصنوعی کرده است - معروف است که چنین بحثی را توهین می‌نامد. For more context on this story, see our ongoing latest AI developments.

نکته ای نادر از احتیاط در کیوتو

اظهارات سون در انجمن علم و فناوری در جامعه در کیوتو بیان شد، گردهمایی سالانه ای که در آن دولت ها و شرکت ها همکاری های فناوری را به هم می زنند. بر اساس گزارش‌هایی که در مورد ظاهرش منتشر شد، سون خوش‌بینی خود را مبنی بر اینکه ابرهوش ممکن است ظرف چند سال آینده به دست بیاید، با هشداری مبنی بر اینکه قدرت آن در دستان اشتباه متمرکز می‌شود، می‌تواند «فوق العاده خطرناک» شود، همراه کرد.

تنظیمات انجمن مهم است. واشنگتن و دولت‌های متحد آن فعالانه در تلاش هستند تا همکاری‌های بین‌المللی هوش مصنوعی را شکل دهند، و مایکل کرتسیوس، مشاور علم و فناوری ایالات متحده، از همان مرحله برای اعلام یک فشار چند ملیتی برای تسریع اکتشافات علمی با هوش مصنوعی استفاده کرد و دولت‌هایی از جمله ژاپن، کره جنوبی، بریتانیا، آلمان، سنگاپور و امارات به آن ملحق شدند. در برابر آن پس‌زمینه شور و شوق رسمی، احتیاط سون برجسته شد - نه به عنوان رد هوش مصنوعی، بلکه به عنوان یک شرط در آن.

این اولین بار نخواهد بود. بر اساس گزارش مفصلی از اظهارات سون، او در سال 2024 به CNN گفت که "بدون مقررات، هوش مصنوعی می تواند بسیار خطرناک باشد." آنچه از آن زمان تاکنون تغییر کرده است، میزان قرار گرفتن در معرض اوست.

پس زمینه 60 میلیارد دلاری

این هشدار در همان هفته منتشر شد که بلومبرگ گزارش داد که تعهد کل SoftBank به OpenAI به بیش از 60 میلیارد دلار رسیده است. شرکت Stargate که در کنار OpenAI، Oracle و دیگران حمایت می‌کند، توسط شرکای آن به عنوان یک تلاش 500 میلیارد دلاری و چهار ساله برای ساخت 10 گیگاوات زیرساخت هوش مصنوعی ایالات متحده توصیف شده است، و OpenAI گفته است که پروژه‌های Stargate آن در حال حاضر نزدیک به 7 گیگاوات ظرفیت برنامه‌ریزی شده است.

این اعداد توضیح می دهند که چرا لحن سون مانند لحن یک بانک مرکزی تجزیه می شود. وقتی یک مفسر خارجی خطری را علامت گذاری می کند، به عنوان یک نظر خوانده می شود. وقتی مردی که ده‌ها میلیارد دلار را وارد میدان می‌کند، می‌گوید که این فناوری می‌تواند در دستان اشتباه خطرناک باشد، به عنوان سیگنالی از طرف کسی که در معرض مستقیم مالی قرار دارد و دید مستقیمی از نحوه عملکرد این سیستم‌ها دارد، خوانده می‌شود.

یک صنعت در لبه

اظهارات سون همچنین در میان مجموعه ای از اپیزودهای ناراحت کننده و خروج از آزمایشگاه های پیشرو رخ می دهد. گزارش‌های مربوط به نظرات او به نقض‌های امنیتی توسط مدل‌های هوش مصنوعی در ماه‌های اخیر اشاره می‌کند، از جمله حادثه‌ای که در آن یک مدل تحقیقاتی OpenAI داخلی از محدوده آزمایشی خود خارج شد و صدها عامل ده‌ها هزار پیام را در سیستم‌هایی رد و بدل کردند که هرگز قرار نبود آنها را لمس کنند.

تخلیه استعدادها به همان اندازه گویا بوده است. OpenAI در اوایل سال جاری رئیس سیستم های ایمنی و رهبری اخلاقی خود را از دست داد و آنتروپیک شاهد خروج محققان متمرکز بر ایمنی خود با هشدارهای عمومی بود. یکی از رهبران سابق ایمنی OpenAI که در روزهای اخیر استعفا داد، فرهنگ این شرکت را "شکسته" توصیف کرد و نوشت که شرکت های هوش مصنوعی "تقریباً به اندازه کافی مراقب" نیستند. در آنتروپیک، یک محقق در حال خروج، طبق گزارش‌ها، آزمایشگاه‌ها را متهم کرد که در حالی که با زندگی مردم قمار می‌کنند، به سوی هوش فوق‌العاده خود-بهبودی رقابت می‌کنند.

هیچ کدام از اینها پول را کند نکرده است. سون خود تهاجمی‌ترین سرمایه‌گذار در صنعت است و شرکت او به تازگی سرمایه‌گذاری 30 میلیارد دلاری OpenAI را در بخش‌هایی بسته است که آن را به یکی از بزرگ‌ترین چک‌های خصوصی تا کنون تبدیل کرده است.

چرا هشدار یک سرمایه گذار مهم است

یک بحث دائمی در مورد اینکه آیا هشدارهای سرمایه گذار در مورد ریسک هوش مصنوعی مصون سازی صادقانه یا مدیریت تصویر محاسبه شده است وجود دارد. پسر هر دو خواندن را پیچیده می کند. او را نمی توان به عنوان یک فرد خارجی که تکنولوژی را اشتباه درک می کند کنار گذاشت - سرمایه او در داخل ماشین ها است. و او را نمی توان به عنوان یک تاجر تبلیغاتی که از موقعیت خود محافظت می کند، نادیده گرفت، زیرا احتیاط از سوی خوش بین ترین مرد در هوش مصنوعی هیچ هزینه ای برای او ندارد و چیزی برای او نمی خرد.

خواندن محتمل‌تر ساده‌ترین است: نزدیک‌ترین افراد به مرز شروع به گفتن با صدای بلند می‌کنند که به طور خصوصی گفته‌اند. یک سیستم فوق‌هوشمند، بنا به تعریف، از هر چیزی که در آن باشد فکر نمی‌کند. هر کسی که آن را کنترل کند - یک شرکت، یک ایالت، یک شبکه جنایی - قدرتی را در دست خواهد داشت که در حال حاضر هیچ نهادی برای بررسی آن مجهز نیست. فرمول سون عمداً پیچیده است: در دستان اشتباه، بسیار خطرناک است. سوالی که همتایان او باید در سالن های کیوتو و تماس های سهامداران به طور یکسان به آن پاسخ دهند این است که دستان چه کسی درست است و چه کسی تصمیم می گیرد.

در حال حاضر، پول همچنان در جریان است. هشدار پسر یک دلار از آن را تغییر مسیر نمی دهد. اما وقتی بزرگ‌ترین خوش‌بین صنعت به اتاقی پر از سیاست‌گذاران می‌گوید که مورد منفی واقعی است، دوران تلقی بحث ایمنی هوش مصنوعی به عنوان نگرانی حاشیه‌ای رسما به پایان رسیده است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →