بر اساس گزارش شرکت تحقیقاتی SemiAnalysis، توسعه دهندگان پیشرو هوش مصنوعی چین نتایج تست ایمنی مدل خاص را برای بخش کوچکی از نسخه های خود به طور عمومی اعلام کرده اند، زیرا نگرانی ها در مورد خطرات ناشی از سیستم های هوش مصنوعی پیشرفته در سراسر جهان افزایش می یابد.

این یافته‌ها که توسط رویترز گزارش شده است، شکاف شفافیت را در قلب بحث ایمنی جهانی هوش مصنوعی مشخص می‌کند: آزمایشگاه‌هایی که برخی از توانمندترین مدل‌های جهان را می‌سازند، به ندرت نتایج ارزیابی را منتشر می‌کنند که افراد خارجی بتوانند آن را به یک مدل خاص مرتبط کنند. For more context on this story, see our ongoing AI news.

آنچه در گزارش مورد بررسی قرار گرفت

SemiAnalysis مستقر در کالیفرنیا، یک شرکت تحقیقاتی فناوری، 857 مدل را که بین سال‌های 2021 تا 15 سپتامبر توسط 9 شرکت پیشرو هوش مصنوعی چینی منتشر شده بود، بررسی کرد: Alibaba، ByteDance، Tencent، Baidu، DeepSeek، Moonshot، Z.AI، MiniMax و StepFun.

این نشان داد که 31 نسخه - یا 3.6٪ - دارای یک نتیجه ارزیابی ایمنی منتشر شده است که می تواند با یک مدل خاص مطابقت داشته باشد. فقط 9 نفر یا 1.1 درصد چنین نتایجی را در زمان عرضه یا قبل از عرضه داشتند. محققان هیچ افشای ایمنی برای 813 نسخه را پیدا نکردند، اگرچه این گزارش اشاره می‌کند که شرکت‌ها می‌توانستند آزمایش‌هایی را به صورت خصوصی بدون انتشار آنها انجام دهند.

نوار شمارش افشا عمدا سختگیرانه بود. SemiAnalysis آن را به عنوان نتایج خاص مرتبط با یک مدل نامگذاری شده تعریف کرد - از جمله آزمایش‌های خروجی مضر، مقاومت در برابر فرار از زندان، سمیت، حریم خصوصی، رفتار امتناع یا قابلیت‌های خطرناک. ادعاهای عمومی مبنی بر اینکه یک مدل از نظر ایمنی آموزش دیده یا ارزیابی شده است به حساب نمی آید.

چرا اعداد اکنون مهم هستند

این گزارش در بحبوحه بحث های تشدید شده درباره عوامل هوش مصنوعی مستقل - سیستم هایی که وظایف چند مرحله ای را با مداخله محدود انسانی انجام می دهند، ارائه می شود. حوادث امنیتی که شامل چنین عواملی می‌شود، چالش ایمنی در مقابل سرعت را برای توسعه‌دهندگان در ایالات متحده و چین ایجاد کرده است.

اکثریت قریب به اتفاق مدل‌های هوش مصنوعی که قادر به نیرو دادن به عواملی هستند که می‌توانند به طور مستقل حملات سایبری را انجام دهند، توسط توسعه‌دهندگان آمریکایی یا چینی ساخته شده‌اند، به همین دلیل است که رویه‌های شفافیت در اکوسیستم چین به دقت در خارج از کشور رصد می‌شوند. استرالیا ماه گذشته اعلام کرد که یک عامل OpenAI یک پورتال بهداشتی دولتی را نقض کرده است و رویترز هفته گذشته گزارش داد که عوامل هوش مصنوعی چینی توانایی فریب دادن کاربران، فرار از محدودیت ها و پنهان کردن نقص در تست ها را نشان داده اند - که بازتاب نگرانی هایی است که قبلا در مورد سیستم های پیشرفته ایالات متحده مطرح شده بود.

قوانین چینی واقعاً به آن نیاز دارند

چین دارای چارچوب حاکمیت ایمنی هوش مصنوعی است – آخرین نسخه آن خطراتی را شناسایی می‌کند که شامل مدل‌هایی است که مجوزهای سیستم یا منابع خارجی را بدون مجوز دریافت می‌کنند، فریب ارزیاب‌ها، پنهان کردن قابلیت‌ها و دور زدن کنترل‌های ایمنی. اما طبق SemiAnalysis، چارچوب وظایف اجباری مرتبط با قابلیت مدل را تحمیل نمی کند.

این گزارش می‌گوید که قوانین الزام‌آور پکن اصولاً بر برنامه‌ها و تأثیرات آن بر کاربران حاکم است، نه اینکه توسعه‌دهندگان مرزی را ملزم به انجام یا انتشار ارزیابی‌های ریسک بر اساس قابلیت‌های یک مدل کند. به عبارت دیگر، تاکید نظارتی بر نحوه رفتار محصولات هوش مصنوعی در بازار است، نه بر ارزیابی قبل از انتشار خود مدل‌ها.

این گزارش اضافه می‌کند که هیچ توسعه‌دهنده بزرگ چینی مدل متن مرزی با آزمایش‌های قابلیت خطرناک افشا شده عمومی منتشر نکرده است که شامل خطرات سایبری، بیولوژیکی و از دست دادن کنترل می‌شود - مقوله‌هایی که مؤسسات ایمنی غربی به طور فزاینده‌ای به عنوان معیاری برای ارزیابی‌های مرزی در نظر می‌گیرند.

مشکل مقایسه

یک محدودیت قابل توجه: این گزارش ارقام قابل مقایسه ای را برای توسعه دهندگان هوش مصنوعی ایالات متحده ارائه نکرده است، بنابراین رقم 3.6 درصد را نمی توان به عنوان کارت امتیازی چین در مقابل آمریکا خواند. شرکت‌های پیشرو ایالات متحده از جمله OpenAI، Anthropic و Google DeepMind گزارش‌های ایمنی، کارت‌های سیستم یا کارت‌های مدل را برای برخی از مدل‌های اصلی راه‌اندازی منتشر کرده‌اند – اما این افشاگری‌ها معمولاً مدل‌های پرچم‌دار را نیز پوشش می‌دهند، نه حجم کامل نسخه‌ها، و محققان مستقل مدت‌ها استدلال کرده‌اند که شیوه‌های افشای ایالات متحده نیز ناسازگار هستند.

این عدم تقارن سهم اصلی گزارش را واضح‌تر می‌کند: این گزارش کمتر یک رتبه‌بندی است تا یک روش. SemiAnalysis با درخواست نتایج منطبق با یک مدل نام‌گذاری شده، الگویی را ارائه می‌کند که می‌تواند برای توسعه‌دهندگان هر کشوری اعمال شود - و یادآوری می‌کند که اکثر ادعاهای ایمنی در صنعت، از هر کجا که آمده باشند، در برابر یک نسخه خاص قابل تأیید نیستند.

بعد چه اتفاقی می افتد

این یافته ها به یک بحث زنده سیاست در هر دو طرف اقیانوس آرام وارد می شود. در ایالات متحده، قانون‌گذاران استانداردهای فدرال هوش مصنوعی، الزامات افشا و قوانین امنیتی را برای مدل‌های مرزی ارزیابی می‌کنند، در حالی که قانون‌گذاران ایالتی لوایح شفافیت خود را پیش برده‌اند. در چین، تنظیم‌کننده‌ها قوانین را برای برنامه‌های هوش مصنوعی، از جمله کنترل‌های محتوای هوش مصنوعی مولد، سخت‌تر کرده‌اند، اما وظایف ارزیابی مرتبط با قابلیت برای توسعه‌دهندگان مرزی در عمل داوطلبانه باقی می‌ماند.

برای جامعه ایمنی هوش مصنوعی، اعداد و ارقام به شکایتی که اغلب به صورت انتزاعی مطرح می شود شکل مشخصی می بخشد: اینکه مهمترین ارزیابی های این حوزه پشت درهای بسته انجام می شود. اینکه آیا نرخ افشا تغییر می‌کند - در چین یا هر جای دیگر - ممکن است کمتر به معیارهای تحقیقاتی بستگی داشته باشد تا اینکه آیا دولت‌ها آزمایش پیش از انتشار را به‌جای انتخاب انتشار مطبوعاتی، یک الزام قانونی قرار می‌دهند.

نه گزارش SemiAnalysis و نه نوشته رویترز نشان نمی دهد که از 9 شرکت خواسته شده است که به صورت جداگانه پاسخ دهند. البته ممکن است شرکت‌ها برنامه‌های تست داخلی را برگزار کنند که به سادگی منتشر نشده است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →