OpenAI تأیید کرده است که آنتروپیک و Google DeepMind چندین هفته در مورد هماهنگی ایمنی هوش مصنوعی گفتگو کرده اند و می گوید از قانونی پشتیبانی می کند که آزمایشگاه های مرزی را مجبور می کند درهای خود را به روی سازمان های تأیید مستقل باز کنند.

به گزارش TechCrunch، کریس لیهان، مدیر ارشد امور جهانی OpenAI، این موضوع را در جلسه ای در روز سه شنبه افشا کرد. رویترز و بلومبرگ با استناد به همین اظهارات گزارش دادند که OpenAI با Anthropic و Google در مورد ایمنی هوش مصنوعی کار می کند. این تاییدیه هفته ها از نکات - از جمله مصاحبه Fortune که در آن سم آلتمن صحبت های خصوصی با دیگر رهبران هوش مصنوعی را تایید کرد - به اعتراف صریح تبدیل می کند که سه آزمایشگاه پیشرو مرزی جهان در حال هماهنگی در مورد سرعت حرکت و بررسی مدل هایشان هستند.

برای خوانندگانی که به دنبال مبارزه سیاسی گسترده‌تر پیرامون کاهش سرعت هوش مصنوعی هستند، پوشش [به‌روزرسانی‌های هوش مصنوعی] (https://aibuzzwire.news) در این هفته از جک کلارک، بنیانگذار Anthropic، تأیید یک سوئیچ کشتن اجباری تا رئیس‌جمهور ترامپ که ترس‌های ایمنی را در طول یک تماس روی صحنه با Jensenang از انویدیا یک فریب خوانده است، متفاوت است.

یک هفته تایید در حال ساخت است

این گفتگوها پس از مقاله‌ای منتشر شد که روز شنبه توسط داریو آمودی، مدیر عامل آنتروپیک منتشر شد و از صنعت می‌خواهد برای کاهش سرعت توسعه هوش مصنوعی مرزی برای جلوگیری از خطرات فاجعه‌بار با یکدیگر همکاری کنند. این نامه از سراسر صنعت حمایت شد و آلتمن، دمیس حسابیس از گوگل و ایلان ماسک همگی دعوت به اقدام را تایید کردند و آلتمن گفت که OpenAI به این تلاش خواهد پیوست.

اطلاعات متعاقبا گزارش داد که این سه شرکت برای ایجاد یک بدنه استاندارد برای صنعت هوش مصنوعی کار می کنند. Hassabis سابقه ای در این ایده دارد: در ژوئیه او از ایالات متحده خواست تا یک سازمان استاندارد جدید ایجاد کند تا به عنوان یک ناظر هوش مصنوعی عمل کند، با قدرت بررسی پیشرفته ترین مدل های جهان و هماهنگی کاهش سرعت در سراسر صنعت در صورت پیشرفت خطرات.

آنچه که اظهارات لیهان اضافه می کند، تایید رسمی است. تا پیش از این، سخنگویان آزمایشگاه ها عمدتاً به گفتگوهای غیررسمی اشاره می کردند. مدیر امور جهانی OpenAI اکنون این هماهنگی ها را به ثبت رسانده است.

سایه ضد تراست

هر توافقی بین رقبای مستقیم برای کاهش سرعت توسعه، سؤالات آشکار ضد انحصار را مطرح می کند و آزمایشگاه ها آن را می دانند. خود آلتمن اشاره کرده است که اگر هماهنگی برای سرکوب رقابت پیدا شود، چنین گفتگوهایی می تواند شرکت ها را در معرض خطر نقض قانون ضد انحصار قرار دهد. مقاله آمودی یک معافیت محدود دولتی را پیشنهاد می‌کند که اجازه می‌دهد هماهنگی ایمنی بدون ایجاد قانون رقابت ایجاد شود - نشانه‌ای از اینکه چقدر این موضوع در داخل شرکت‌ها جدی گرفته می‌شود.

منتقدان به سرعت به تنش در قلب این توافق اشاره کردند: سه شرکتی که بیشترین سهم بازار را در هوش مصنوعی مرزی دارند که به طور مشترک تصمیم به پیشرفت جیره بندی می کنند، برای افراد شکاک مانند رفتار کارتل با پوشش ایمنی ظاهر می شود. حامیان مخالفت می کنند که خطر فاجعه بار دقیقاً همان مشکلی است که رقبا نمی توانند به طور یکجانبه حل کنند، زیرا هر آزمایشگاهی که به تنهایی سرعت خود را کاهش دهد به سادگی مرز را به رقبا واگذار می کند.

OpenAI از چک های شخص ثالث استقبال می کند

ملموس ترین اخبار سیاستی در اظهارات لیهان مربوط به قانون است. او گفت OpenAI از مقرراتی در قانون FRONTIER حمایت می کند که آزمایشگاه های مرزی برتر را ملزم می کند تا به "سازمان های تایید مستقل" اجازه ورود به شرکت های خود را بدهند تا مطمئن شوند که مدل ها به طور ایمن توسعه می یابند. Politico گزارش داد که OpenAI از یک طرح دو حزبی مجلس که بر اساس ارزیابی های ایمنی شخص ثالث ساخته شده است، حمایت می کند.

این موقعیت برای میدان دو سال پیش غیرقابل تصور بود، زمانی که تعهدات داوطلبانه و تیم‌های قرمز داخلی استاندارد صنعت بودند. اکنون OpenAI را با موقعیت ممیزی اول که Anthropic مدتهاست ترویج کرده است، هماهنگ می کند و نقطه توافق نادری را بین آزمایشگاه ها و جناح بحث خط مشی ایجاد می کند که یک سال را به دنبال نظارت قابل اجرا سپری کرده است.

همچنین یک برخورد با کاخ سفید ایجاد می کند. پرزیدنت ترامپ نگرانی های ایمنی را به عنوان یک حقه رد کرده و استدلال کرده است که هر گونه کاهش سرعت باعث برتری چین در رقابت هوش مصنوعی می شود. مشاور هوش مصنوعی او دیوید ساکس، یک سرمایه‌گذار قدیمی با سهام شخصی در سراسر صنعت، ترس از ریسک وجودی را بیش از حد اعلام کرده است. در بریتانیا، وزرا به طور علنی بر سر همین سوال اختلاف نظر دارند و یک جناح از دولت می‌خواهد به هشدارهای کارشناسان توجه کند، در حالی که رینولدز، وزیر بازرگانی، صحبت در مورد سوئیچ کشتن برای سیستم‌های پیشرفته را رد کرده است.

مبارزه با سیاست بدون زمین خنثی

هفته‌های آینده آزمایش خواهند کرد که آیا هماهنگی آزمایشگاه‌ها از تماس با مقامات رقابت و یک اداره بدبین جان سالم به در می‌برد یا خیر. یک نهاد استاندارد که توسط سه شرکتی که مرز را کنترل می‌کنند، با درخواست‌هایی مواجه می‌شود که شامل مدیران مستقل، انتشار معیارهای آن و ارائه به بازبینی دولت می‌شود - یا به عنوان یک کارتل خصوصی در لباس‌های عمومی کنار گذاشته می‌شود.

برای قانون FRONTIER، تأیید OpenAI به حامیان این لایحه یک پشتیبان سرفصل می دهد، اما همچنین خط حمله جدیدی را برای مخالفانی که استدلال می کنند بزرگترین آزمایشگاه ها صرفاً در حال تسخیر این میدان هستند و قوانینی را می نویسند که فقط آنها می توانند از آن پیروی کنند. آزمایشگاه‌های کوچک‌تر و جامعه اوزان باز، که هیچ جایگاهی در مذاکرات ندارند، به دقت دنبال می‌کنند: هر رژیم راستی‌آزمایی که ظاهر شود، هزینه‌های انطباق را برای همه افراد پشت مرز مشخص می‌کند.

آنچه دیگر مورد مناقشه نیست، خود حقیقت هماهنگی است. سه شرکتی که لبه برش هوش مصنوعی را تعریف می‌کنند، اکنون آشکارا درباره سرعت اجرا بحث می‌کنند - و از دولت دعوت می‌کنند تا به داوری کمک کند.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →