یک مدیر ارشد اجرایی روز سه‌شنبه تایید کرد که OpenAI با رقبای Anthropic و Google DeepMind برای چندین هفته همکاری نزدیکی داشته است تا چارچوبی برای ایمنی هوش مصنوعی ایجاد کند و درجه همکاری غیرعادی بین شرکت‌هایی را که تقریباً در همه چیز به شدت رقابت می‌کنند را فاش کرد.

کریس لیهان، رئیس سیاست جهانی OpenAI، در یک نشست مطبوعاتی در واشنگتن به خبرنگاران گفت که این سه آزمایشگاه در مورد ابتکارات ایمنی هماهنگ شده اند. بر اساس گزارش بلومبرگ در این نشست، لیهان گفت: «بهتر است برای اولویت دادن به ایمنی با یکدیگر همکاری کنیم. اظهارات او چند روز پس از یک سری هشدارهای انقراض برجسته از سوی محققانی که بزرگترین آزمایشگاه‌های صنعت را ترک می‌کردند، بیان شد. For more context on this story, see our ongoing AI news.

آنچه که همکاری در واقع پوشش می دهد

Lehane در مورد ماهیت خاص کار توضیح بیشتری نداد، اما افشای آن به دنبال گستره قابل توجهی از موقعیت عمومی توسط بزرگترین نام‌های صنعت است. روز شنبه، داریو آمودی، مدیر اجرایی آنتروپیک، مقاله‌ای را منتشر کرد که در آن از صنعت هوش مصنوعی می‌خواهد برای کاهش سرعت توسعه مدل‌های مرزی برای جلوگیری از آنچه او «خطرات فاجعه‌بار» نامید، همکاری کند.

این تماس با حمایت شگفت‌انگیزی از سراسر شکاف رقابتی مواجه شد: سم آلتمن از OpenAI، دمیس حسابیس از گوگل و ایلان ماسک همگی این احساسات را تایید کردند. آلتمن فراتر رفت و گفت OpenAI مایل است به ابتکار آنتروپیک برای تعبیه ارزیاب های شخص ثالث در تیم های توسعه خود بپیوندد تا ایمنی هوش مصنوعی را از درون نظارت کنند. در همین حال، جک کلارک، بنیانگذار Anthropic، به NPR گفت که کاهش هوش مصنوعی اساساً یک "مشکل اقدام جمعی" است که هیچ آزمایشگاهی به تنهایی نمی تواند آن را حل کند.

با این حال، همه افراد داخل OpenAI بحث سرعت را فوری تلقی نمی کنند. سارا فریار، مدیر ارشد مالی به CNBC گفت که نگران کند شدن توسعه هوش مصنوعی نیست - یادآوری این که این شرکت به طور همزمان سرمایه‌گذاران را با ارزشی معادل یک تریلیون دلار جذب می‌کند.

سایه ضد تراست بر همکاری

هرگونه هماهنگی بین آزمایشگاه‌های هوش مصنوعی مسلط به یک مشکل حقوقی آشکار می‌رسد: قانون ضد انحصار ایالات متحده. کارشناسان حقوقی هشدار داده اند که توافقات بین رقبا برای محدود کردن کارهایی که محصولات آنها می توانند انجام دهند، می تواند به عنوان "محدودیت خروجی" تعبیر شود که نقض قانون شرمن است.

این نگرانی قبلاً به کاپیتول هیل منتقل شده است. سناتورهای جیم بنکس از ایندیانا و آدام شیف از کالیفرنیا قانونی را پیشنهاد کردند - قانون همکاری در مورد تهدیدات متخاصم و خطرات امنیتی - که به آزمایشگاه‌های هوش مصنوعی اجازه می‌دهد تا در مورد ایمنی عمل کنند، حتی زمانی که این اقدامات ممکن است در غیر این صورت مسائل ضد انحصار را ایجاد کند. مقاله آمودی استدلال می‌کند که دولت باید معافیت شرکت‌ها را برای همکاری ایمنی در نظر بگیرد، اگرچه لیهان به خبرنگاران گفت که فکر می‌کند چنین اقدامی غیرضروری است.

جنسن هوانگ انویدیا همچنان بی‌پرده بوده است. به گزارش CNBC، او در سخنرانی در Dreamforce روز سه شنبه، پیشنهاد معافیت آنتروپیک را «کاملاً غیر ضروری» خواند و بر شکاف عمیق بین آزمایشگاه‌ها که خواستار خویشتن‌داری هستند و غول سخت‌افزاری که خواستار شتاب است، تأکید کرد.

"کارتلی با نام دیگر"

منتقدان این همکاری تند بودند. آیدان گومز، مدیر اجرایی Cohere، در یک پست وبلاگی در پاسخ به مقاله Amodei نوشت که فراخوان‌های ایمنی به نظر تلاشی از سوی آزمایشگاه‌های برتر هوش مصنوعی برای پنهان کردن یک طرح ضدرقابتی است که پیشتازی خود را در توسعه مدل‌های مرزی حفظ می‌کند و به آزمایشگاه‌های «تسلط بر بازار» اجازه می‌دهد قوانین را برای دیگران تعریف کنند.

گومز نوشت: "یک بار دیگر با استفاده از ترس به بهانه حمایت از مردم، این انحصارطلبی ها اکنون درخواست می کنند قوانین رقابت را تغییر دهند و اجازه داشته باشند شرایط را برای دیگران دیکته کنند."

دونالد ترامپ، رئیس‌جمهور آمریکا، درخواست آمودی برای کاهش سرعت را به طور کامل رد کرده است و در پستی در Truth Social استدلال می‌کند که هرگونه کاهش سرعت به چین این امکان را می‌دهد تا در رقابت هوش مصنوعی از ایالات متحده پیشی بگیرد. دیوید ساکس، مشاور کلیدی هوش مصنوعی کاخ سفید، گفته است که نگرانی ها مبنی بر اینکه هوش مصنوعی می تواند یک تهدید وجودی باشد، بسیار زیاد است.

تحلیلگران در CNBC مشاهده کردند که اکنون دو گروه کاملاً در بحث در مورد ایمنی و مقررات هوش مصنوعی ظهور کرده اند: یکی از آنها می خواهد قبل از اینکه مشکلی پیش بیاید سرعت خود را کاهش دهد و دیگری - که جمعیت آن از Nvidia، کاخ سفید و طرفداران مدل باز تشکیل شده است - با این استدلال که تردید خطر بزرگتر است.

OpenAI's Capitol Hill Push

اظهارات لیهان در یک نشست خبری در واشنگتن بیان شد، جایی که قرار بود با قانونگذاران دیدار کند. بر اساس بیانیه‌های عمومی شرکت و گزارش‌های رویترز و پولیتیکو، OpenAI وزن خود را پشت سر دو لایحه دو حزبی می‌اندازد.

اولین مورد، قانون FRONTIER است که خواستار یک چارچوب فدرال برای ایمنی هوش مصنوعی است و از آزمایشگاه‌های هوش مصنوعی می‌خواهد مدل‌های جدیدی را برای ممیزی توسط ارزیاب‌های مستقل ارائه کنند. به گزارش سی بی اس نیوز، OpenAI همچنین از اقدامی حمایت می کند که مستلزم ممیزی مستقل مدل های هوش مصنوعی است. پیشنهاد دوم که هنوز در دست توسعه است، پیشنهادی است که جان تون، رهبر اکثریت سنا با سناتور جمهوری‌خواه تد کروز و سناتور دموکرات امی کلوبوچار ارائه می‌کنند. به گزارش رویترز، این لایحه به وزیر بازرگانی این اختیار را می‌دهد که مدل‌های جدید را قبل از انتشار در معرض ممیزی ایمنی قرار دهد. پولیتیکو گزارش داد که OpenAI به طور جداگانه طرح های دو حزبی را برای مقابله با تهدیدات زیستی هوش مصنوعی تأیید کرده است.

این همگرایی قابل توجه است: همان شرکت هایی که در مورد هوش مصنوعی فراری هشدار می دهند، داوطلب ممیزی مستقل می شوند، در حالی که منتقدان آنها هشدار می دهند که این همکاری ممکن است خطر بزرگتری باشد. این که کنگره چگونه این سوزن را نشان می دهد - امکان همکاری ایمنی بدون صدور مجوز کارتل - ممکن است سیاست هوش مصنوعی را برای سال ها تعریف کند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →