مدیر عامل گوگل دیپ مایند، دمیس حسابیس، ایجاد یک نهاد استاندارد مستقل به رهبری ایالات متحده را با الگوبرداری از سازمان تنظیم مقررات صنعت مالی (FINRA) برای ارزیابی و تنظیم مدل‌های هوش مصنوعی مرزی قبل از انتشار عمومی، پیشنهاد کرده است و هشدار می‌دهد که بشریت یک "پنجره ارزشمند" برای اطمینان از توسعه ایمن هوش مصنوعی دارد.

در یک سند چارچوبی با عنوان "چارچوبی برای هوش مصنوعی مرزی و طلوع عصر جدید" که در صبح سه شنبه در X منتشر شد، حسابیس پیشنهاد مفصلی را برای چگونگی ایجاد یک زیرساخت قانونی معتبر برای قدرتمندترین سیستم های هوش مصنوعی ارائه کرد. این طرح مستلزم ایجاد یک سازمان جدید است که مدل‌های مرزی را آزمایش می‌کند و بهترین شیوه‌ها را برای استقرار آن‌ها توسعه می‌دهد – با بودجه صنعت هوش مصنوعی اما مستقل از هر شرکت واحدی عمل می‌کند.

برای آخرین [اخبار فوری هوش مصنوعی] (https://aibuzzwire.news) و تجزیه و تحلیل عمیق سیاست، AI Buzz Wire تحولات شکل دهنده صنعت را دنبال می کند.

بدنه استانداردهای پیشنهادی چگونه کار خواهد کرد

بر اساس پیشنهاد Hassabis، آزمایشگاه‌های هوش مصنوعی به‌طور داوطلبانه مدل‌های مرزی خود را حداکثر تا 30 روز قبل از انتشار عمومی برای بررسی با سازمان استاندارد به اشتراک می‌گذارند. این ارزیابی پیش از استقرار، مدل‌ها را برای ایمنی، امنیت و خطرات احتمالی سوءاستفاده ارزیابی می‌کند. هنگامی که پروتکل ارزیابی موثر و قوی ثابت شد، این چارچوب رسمی کردن فرآیند را در نظر می‌گیرد تا مدل‌های مرزی قبل از استقرار در بازار ایالات متحده لازم باشد آن را تصویب کنند.

این پیشنهاد مستقیماً به شکافی می‌پردازد که در بررسی‌های اخیر دولت درباره سیستم‌های هوش مصنوعی مرزی آشکار شده است. در اوایل سال جاری، دولت ایالات متحده بررسی‌های ایمنی ویژه مدل Mythos Anthropic و مدل Sol OpenAI را قبل از انتشار آنها انجام داد. این بررسی‌ها به دلیل نداشتن عمق فنی و تصمیم‌گیری مبهم در مورد اینکه چه زمانی یک مدل به اندازه کافی برای استقرار عمومی ایمن تلقی می‌شود، انتقادات قابل‌توجهی را برانگیخت.

تحت چارچوب حسابیس، این تصمیمات توسط یک سازمان اختصاصی متشکل از کارشناسان فنی، تحت حمایت دولت ایالات متحده، اما ایزوله از فشارهای سیاسی، انجام می شود. آزمایشگاه‌ها همچنین باید با سازمان استاندارد همکاری کنند تا آسیب‌پذیری‌های حیاتی کشف شده پس از انتشار را برطرف کنند.

یک "پنجره گرانبها" قبل از AGI

Hassabis در مصاحبه با Axios، CNBC و The Economist که انتشار این چارچوب را همراهی می‌کرد، تاکید کرد که لحظه کنونی فرصتی محدود برای ایجاد مکانیسم‌های حاکمیتی قبل از رسیدن هوش مصنوعی عمومی است. او این دوره را به عنوان یک "پنجره گرانبها" توصیف کرد - به این معنی که پنجره برای همیشه باز نخواهد ماند.

Hassabis مدتهاست که از حامیان حکمرانی فعال هوش مصنوعی بوده است. چارچوب او در میان تشدید بحث ها در مورد اینکه آیا ایالات متحده باید یک تنظیم کننده رسمی هوش مصنوعی ایجاد کند و اگر چنین است، چه شکلی باید داشته باشد وارد می شود. مدل FINRA قابل توجه است زیرا سازمان خودتنظیمی صنعت مالی توسط شرکت‌های عضو تأمین مالی می‌شود، اما تحت نظارت دولت عمل می‌کند و به آن تخصص صنعت و پاسخگویی عمومی می‌دهد.

مقاومت دولت ترامپ

این پیشنهاد با مخالفت های سیاسی قابل توجهی روبرو است. دولت ترامپ تردید عمیقی نسبت به ایجاد نهادهای نظارتی جدید برای هوش مصنوعی نشان داده است. سریرام کریشنان، مشاور هوش مصنوعی کاخ سفید و شریک عمومی a16z - که از آن زمان تاکنون از سمت خود کنار رفته است - به طور علنی ایده ایجاد یک تنظیم کننده هوش مصنوعی در شاخه اجرایی را رد کرد و به صراحت اعلام کرد که "سازمان غذا و دارو برای هوش مصنوعی وجود نخواهد داشت."

این موضع مقامات دولتی را با برخی از برجسته ترین رهبران صنعت در تضاد قرار داده است. در حالی که شرکت‌هایی مانند Anthropic و OpenAI به طور گسترده از آزمایش ایمنی قبل از استقرار حمایت کرده‌اند، مکانیسم و ​​اختیار چنین آزمایشی همچنان مورد بحث است. پیشنهاد Hassabis تلاش می‌کند این سوزن را با قرار دادن بدنه استاندارد به‌عنوان سرمایه‌گذاری شده توسط صنعت و در ابتدا داوطلبانه، با رسمیت‌شدن تنها پس از اثبات ارزش این فرآیند انجام دهد.

بنا بر تلاش های موجود

چارچوب از ابتدا شروع نمی شود. این بر اساس تعهدات داوطلبانه است که چندین شرکت مرزی هوش مصنوعی قبلاً در مورد آزمایش ایمنی و تیم قرمز انجام داده اند. همچنین از تلاش‌های بین‌المللی، از جمله موسسه ایمنی هوش مصنوعی بریتانیا و فرآیند هوش مصنوعی هیروشیما در G7، که چارچوب‌های اولیه برای ارزیابی مدل‌های پیشرفته ایجاد کرده‌اند، متکی است.

با این حال، پیشنهاد Hassabis با فراخوانی برای سازمانی دائمی و با منابع خوب با مأموریت آزمایش هر مدل مرزی قبل از انتشار فراتر می رود - سطحی از بررسی دقیق که هیچ نهاد فعلی ارائه نمی کند. قیاس FINRA یک عملیات حرفه‌ای و مقیاس‌پذیر را با صدها متخصص فنی پیشنهاد می‌کند، نه یک پانل مشاوره کوچک.

این پیشنهاد همچنین به نظارت پس از استقرار می‌پردازد و از آزمایشگاه‌ها می‌خواهد تا با سازمان استاندارد در مورد آسیب‌پذیری‌های کشف شده پس از در دسترس قرار گرفتن یک مدل در دسترس عموم کار کنند. این نشان‌دهنده شناخت روزافزون این است که خطرات ایمنی هنگام راه‌اندازی به پایان نمی‌رسد، همانطور که توسط جیلبریک‌ها و موارد سوء استفاده که پس از انتشار چندین مدل با مشخصات بالا ظاهر شده‌اند، نشان داده شده است.

واکنش صنعت و مراحل بعدی

این چارچوب توجه قابل توجهی را در جامعه سیاست های هوش مصنوعی به خود جلب کرده است. حامیان استدلال می کنند که یک رژیم آزمایشی معتبر قبل از استقرار می تواند اعتماد عمومی را به مدل های مرزی ایجاد کند و خطر سوء استفاده فاجعه آمیز را کاهش دهد. منتقدان، از جمله برخی از حامیان بازار آزاد، هشدار می‌دهند که یک الزام آزمایش اجباری می‌تواند با ایجاد موانع نظارتی برای شرکت‌های کوچکتر و توسعه‌دهندگان منبع باز، شرکت‌های بزرگ را مستقر کند.

پیشنهاد Hassabis مشخص نمی کند که کدام مدل ها به عنوان "مرز" واجد شرایط هستند - یک سوال آستانه ای که دامنه هر رژیم نظارتی آینده را تعیین می کند. همچنین نحوه رسیدگی سازمان استاندارد به برنامه‌های کاربردی طبقه‌بندی‌شده یا با کاربرد دوگانه، به‌ویژه با توجه به نگرانی‌های اخیر در مورد مدل‌های هوش مصنوعی که برای شکستن سیستم‌های طبقه‌بندی‌شده ایالات متحده استفاده می‌شوند، باز می‌گذارد.

زمان پیشنهاد عمدی است. با به نظر می رسد که AGI در چند سال آینده به طور فزاینده ای محتمل به نظر می رسد، Hassabis بر این موضوع تاکید دارد که زیرساخت های حاکمیتی باید اکنون ساخته شود، نه پس از ظهور یک قابلیت خطرناک. اینکه آیا واشنگتن به درخواست او عمل خواهد کرد یا خیر، باید دید.

از هوش مصنوعی جلوتر بمانید

برای پوشش جامع سیاست‌های هوش مصنوعی، مقررات و تحولات صنعت، از [AI Buzz Wire] (https://aibuzzwire.news) بازدید کنید.

اخبار هوش مصنوعی را بیشتر بخوانید →