مرکز Moscone در سانفرانسیسکو این هفته میزبان یک اختلاف عمومی غیرمعمول بود: رهبران Nvidia، Anthropic و OpenAI که در چند ساعت از همدیگر در کنفرانس دریم فورس Salesforce در یک صحنه ظاهر شدند، پاسخ‌های کاملاً متفاوتی به این سوال ارائه کردند که هوش مصنوعی با چه سرعتی باید اجازه پیشرفت داشته باشد.

جنسن هوانگ، مدیر عامل انویدیا، به مارک بنیوف، رئیس Salesforce گفت که قاب بندی سرعت در مقابل ایمنی اشتباه است. به گزارش CNBC، هوانگ گفت: «این یک انتخاب اشتباه است. "شما قطعا می توانید هر دو را همزمان داشته باشید." For more context on this story, see our ongoing artificial intelligence updates.

موضع او در تضاد مستقیم با موضعی بود که قبلاً در روز توسط داریو آمودی، مدیر عامل آنتروپیک، و بعداً توسط سام آلتمن، مدیر عامل OpenAI بیان شد، در بحثی که از وبلاگ‌های تحقیقاتی به سخنرانی‌های اصلی کنفرانس در واشنگتن طی یک هفته منتقل شد.

آهنگ کاهش سرعت Amodei یک پلتفرم کلیدی دریافت می کند

آمودی ابتدا ظاهر شد و به Benioff برای سخنرانی سالانه Salesforce در مقابل مخاطبان تقریباً 12000 نفر پیوست. این ظاهر به دنبال مقاله‌ای منتشر شد که در آخر هفته Amodei منتشر کرد و از صنعت می‌خواست سرعت توسعه مدل را کاهش دهد، پیشنهادی که او می‌گوید می‌تواند سرعت بهبود قابلیت‌ها را بدون قربانی کردن مزیت تجاری یا پیشروی ایالات متحده در هوش مصنوعی کاهش دهد.

به گفته CNBC، Amodei محدودیت داوطلبانه را به عنوان یک آزمون رهبری برای صنعت در نظر گرفته است. او به بنیوف گفت: «من فکر می‌کنم این راهی است که می‌توان صنعت را به جلو هدایت کرد، برای مثال زدن و گفتن اینکه همه همیشه می‌توانند بهتر باشند».

این مقاله به سرعت از سوی سایر مدیران صنعت، از جمله سام آلتمن از OpenAI، ایلان ماسک، مدیر عامل اسپیس ایکس و دمیس حسابیس، رئیس Google DeepMind، حمایت عمومی را جلب کرد. چند روز پس از آن که محققان صنعت هشدارهایی را در مورد پتانسیل هوش مصنوعی برای ایجاد آسیب فاجعه‌بار به صدا درآوردند و به استدلال کاهش سرعت فوریت تازه‌ای داد.

هوانگ: نیروهای بازار، نه قوانین جدید

هوانگ، که شرکتش با فروش سخت افزاری که مدل های مرزی را آموزش و اجرا می کند، با ارزش ترین شرکت جهان شد، هم فرض یک معامله و هم ایده مقررات جدید را رد کرد. او استدلال کرد که نیروهای بازار از قبل وجود دارند که رفتارهای بی پروا نظم و انضباط را دارند، و این به توسعه دهندگان مدل بستگی دارد که با محصولات خود مسئولانه عمل کنند.

هوانگ به بنیوف گفت: «تا می توانید سریع بدوید. اما اگر در هر لحظه احساس کردید که شرکت از کنترل خارج شده یا محصول ایمن نیست، مکث کنید و مطمئن شوید که آن را درست انجام داده اید.

تمایز مهم است: هوانگ بحث نمی‌کند که شرکت‌ها هرگز نباید توقف کنند، فقط این است که تصمیم باید با هر شرکتی باقی بماند نه اینکه از طریق قوانین یا توافق‌نامه‌های هماهنگ شده در سطح صنعت اجرا شود. یک روز پیش از آن، در اجلاس All-In در لس آنجلس، هوانگ با رئیس جمهور دونالد ترامپ تماس تلفنی برقرار کرد و او نسبت به افرادی که تلاش می کنند مانع ساخت مرکز داده هوش مصنوعی شوند، ابراز نگرانی کرد. هوانگ پاسخ داد: "ما اجازه نمی دهیم که این اتفاق بیفتد، قربان."

آلتمن: ایمنی "نباید واجد شرایط" باشد

نوبت آلتمن در استیج دریم فورس بعداً در همان روز رسید و او خود را بیشتر به آمودی نزدیک کرد تا هوانگ. آلتمن در طی یک گفتگوی کنار آتش با بنیوف گفت که ایمنی و نظارت با توجه به قدرت مدل‌های فعلی باید مقدم بر قابلیت‌ها باشد.

او شرکت هایی را هدف قرار داد که تعهدات ایمنی خود را به رفتار رقبا مشروط می کنند. آلتمن گفت: «شما شرکت‌هایی دارید که می‌گویند: «ما فقط در صورتی مسئول خواهیم بود که شرکت‌های دیگر مسئول باشند»، و افزود که وقتی مردم می‌پرسند یک شرکت برای ایمن بودن «هر چه که باشد» چه کاری انجام می‌دهد، پاسخ نباید جایی برای شرایط باقی بگذارد. "نباید هیچ شرطی در مورد آن وجود داشته باشد."

بنیوف در وسط نشسته است

بنیوف، که میزبان هر سه مدیر اجرایی بود، از انتخاب سمتی برای سرعت دادن خودداری کرد. او قبل از این که شرکت ها "باید پاسخگو باشند" به خبرنگاران گفت: "اگر احساس می کنند باید سرعت خود را کاهش دهند، باید سرعت خود را کاهش دهند. اگر احساس می کنند باید سرعت خود را افزایش دهند، باید سرعت خود را افزایش دهند."

این کنفرانس همچنین نشان داد که روابط تجاری چقدر پیچیده شده است. روز سه‌شنبه، Salesforce و Nvidia مدل استدلال جدیدی را برای پلتفرم Agentforce Salesforce اعلام کردند که بر اساس یکی از مدل‌های وزن باز Nemotron انویدیا ساخته شده است. در اواخر آگوست، Salesforce و Anthropic همکاری استراتژیک خود را گسترش دادند و از "Claudeforce" رونمایی کردند که به فروشندگان اجازه می دهد از داخل کلود به داده های Salesforce دسترسی داشته باشند.

چرا تقسیم مهم است

مبادلات Dreamforce چیزی را متبلور کرد که به خط خطای اصلی در بحث های حکمرانی هوش مصنوعی تبدیل شده است: اینکه آیا محدودیت باید هماهنگ و به طور بالقوه مدون شود یا به فشار رقابتی و قضاوت فردی شرکت واگذار شود.

پیشنهاد Amodei داوطلبانه است، اما تایید آن توسط مدیران عامل OpenAI، DeepMind و xAI، اولین باری است که رهبران آزمایشگاه‌های اصلی مرزی به طور عمومی پشت کاهش سرعت همسو می‌شوند. استدلال متقابل هوانگ، که از با ارزش ترین شرکت جهان ارائه شد، به مدیران و سیاست گذارانی که استدلال می کنند احتیاط اجباری مزیتی برای رقبا، به ویژه در چین، ایجاد می کند.

همانطور که CNBC در تحلیل مرتبط اشاره کرد، پرزیدنت ترامپ با قوانین جدید هوش مصنوعی مخالفت کرده است، موضعی که درخواست‌های صنعت را برای کاهش سرعت کاهش می‌دهد. این باعث می‌شود که هرگونه توافق‌نامه داوطلبانه بدون مکانیسم اجرایی که طرفداران ایمنی می‌گویند به آن نیاز دارد، باقی بماند و بحث در مورد سیستم‌های افتخار شرکت‌ها در حال حاضر ثابت بماند.

با هشدار علنی محققان در مورد خطرات فاجعه‌بار و رهبران بزرگ‌ترین شرکت‌های این حوزه که اکنون آشکارا در صحنه با هم مخالفت می‌کنند، احتمالاً این سؤال سرعت بر چرخه سیاست بعدی در واشنگتن غالب خواهد بود - هر آنچه که بازار در این مدت تصمیم بگیرد انجام دهد.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →