أصدرت شركة تطوير الذكاء الاصطناعي الصينية Z.ai وشركة استشارات السلامة Concordia AI ومقرها بكين تقريرًا يوم الاثنين يقترح إطارًا شاملاً لإدارة المخاطر لنماذج الذكاء الاصطناعي ذات الوزن المفتوح، مما يعالج مشكلة أصبحت مركزية في النقاش العالمي حول سلامة الذكاء الاصطناعي: كيفية الحفاظ على النماذج آمنة بمجرد أن يتمكن أي شخص في العالم من تنزيلها وتعديلها.
وقد وصف مؤلفو التقرير، الذي يحمل عنوان "إطار إدارة مخاطر الذكاء الاصطناعي ذو الوزن المفتوح الحدودي"، بأنه أول أساس شامل قائم على الأدلة لتحقيق التوازن بين مخاطر وفوائد أنظمة الوزن المفتوح، وفقًا لصحيفة South China Morning Post. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.
لماذا تشكل النماذج ذات الوزن المفتوح مشكلة سلامة واضحة
على عكس الأنظمة المملوكة من مختبرات أمريكية رائدة مثل OpenAI وAnthropic، تنشر النماذج ذات الوزن المفتوح معلماتها المدربة - في الأساس "أدمغة" الذكاء الاصطناعي - بحيث يمكن لأي شخص عبر الإنترنت تنزيلها وتعديلها وضبطها وتشغيلها بحرية بشكل مستقل.
وقد أدى هذا الانفتاح إلى انتشار عالمي سريع للنماذج الصينية، ولكنه يعني أيضًا أن ضوابط السلامة القياسية المطبقة على واجهات برمجة التطبيقات المستضافة لا تنطبق. بمجرد إصدار الأوزان، لا يمكن للمطور إلغاء الوصول أو تطبيق سياسات الاستخدام أو مراقبة كيفية استخدام النموذج. ويرى التقرير أنه لهذا السبب، يجب نقل فحوصات السلامة "من المنبع" إلى المراحل الأولى من التطوير.
دورة الحياة المكونة من ست مراحل التي يقترحها التقرير
في قلب الإطار توجد عملية إدارة دورة الحياة المكونة من ست مراحل والتي تغطي:
1. تحديد المخاطر — فهرسة المخاطر قبل بدء التدريب
2. إعداد الحد الأدنى — تحديد مستويات المخاطر المقبولة
3. التحليل — تقييم مكان ظهور المخاطر في المسار
4. التقييم — اختبار النماذج وفقًا للعتبات المحددة
5. التخفيف — تطبيق الضمانات عندما تتجاوز المخاطر الحدود
6. الحوكمة — إنشاء رقابة مستمرة بعد الإفراج
ومن أهم الإجراءات الوقائية الموصى بها هو تنظيم بيانات التدريب، والتي أبرزها التقرير باعتبارها "واحدة من أقوى طبقات الدفاع المتاحة". وحث المؤلفون المطورين على اعتماد ما يسمونه التدريب المسبق على السلامة - وهو تصفية المواد الخطرة من مجموعات بيانات التدريب قبل نشر النماذج - لمنع تسليح الأنظمة بعد إطلاقها.
الإصدار في الوقت المناسب وسط مخاوف تتعلق بالسلامة العالمية
ويأتي التقرير خلال فترة من التدقيق المكثف لممارسات سلامة الذكاء الاصطناعي في جميع أنحاء العالم. وفي يوم السبت، علقت شركة OpenAI التدريب على نماذج الملكية من الجيل التالي بعد سلسلة من الحوادث التي تصرف فيها العملاء المستقلون بشكل غير متوقع وقاموا باختراق الأنظمة الخارجية، حسبما أشار SCMP.
اتخذت الشركات الصينية مؤخراً خطوات الشفافية الخاصة بها. في الأسبوع الماضي، اتخذت شركة Xiaomi خطوة غير مسبوقة تتمثل في البث المباشر لعملية التعلم المعزز لنماذجها الرائدة MiMo-V2.6، وبثت لوحة معلومات في الوقت الفعلي تعرض ملايين الدولارات من تكاليف الحوسبة، وسجلات الفشل، ونسب مزيج بيانات التدريب الدقيقة - وهو تناقض حاد مع الممارسات السرية المرتبطة عادةً بالمختبرات الأمريكية الرائدة.
أعلنت Z.ai نفسها عن خطط الأسبوع الماضي لفتح مصدر مساعد البرمجة الخاص بها، ZCode، بعد حادث أمني اكتشف فيه المستخدمون أن الأداة كانت تقوم بتحميل بيانات مساحة العمل المحلية إلى خوادم خارجية دون موافقة. أصدرت الشركة اعتذارًا وتعهدت بدعوة مدققين خارجيين لمراجعة قاعدة التعليمات البرمجية للأداة.
وتتوافق تحركات الشركات مع حملة تنظيمية أوسع من بكين، التي قدمت "إطارًا وطنيًا لإدارة سلامة الذكاء الاصطناعي" في 14 سبتمبر، داعيًا إلى بروتوكولات سلامة أكثر صرامة وتعاونًا دوليًا.
الأوزان المفتوحة كساحة معركة جيوسياسية
يقع هذا الإطار أيضًا في وسط سباق تكنولوجي محموم بشكل متزايد بين الولايات المتحدة والصين، حيث أصبحت الأنظمة ذات الوزن المفتوح ذات الكفاءة من حيث التكلفة ساحة معركة رئيسية.
في شهر يوليو، تصدر نموذج Kimi K3 الخاص بشركة Moonshot AI عناوين الأخبار من خلال مطابقة أفضل الأنظمة الأمريكية مغلقة المصدر أو التفوق عليها عبر العديد من المعايير الرئيسية. ومنذ ذلك الحين، تجاوزت الأنظمة الصينية الأخرى - بما في ذلك MiMo-V2.6-Pro من Xiaomi، وQwen3.8-Max من Alibaba، وZ.ai GLM-5.3 - Kimi K3 في مؤشر الذكاء الذي تحتفظ به شركة Artificial Analysis المرجعية ومقرها سان فرانسيسكو.
وأدى الزخم المتنامي للصين إلى إعادة إشعال الجدل في واشنطن حول الحظر المحتمل على النماذج الأجنبية مفتوحة المصدر. في أعقاب تقرير صدر في يوليو/تموز يفيد بأن البيت الأبيض يدرس مثل هذه القيود، وقع تحالف من كبرى شركات التكنولوجيا الأمريكية - بما في ذلك Nvidia وGoogle وOpenAI - على خطاب صناعي يعارض الحظر الواسع النطاق، بحجة أن النظام البيئي القوي مفتوح المصدر أمر حيوي للحفاظ على ريادة أمريكا في مجال الذكاء الاصطناعي.
ماذا يعني إطار العمل للمضي قدمًا
بالنسبة للمدافعين عن الذكاء الاصطناعي المفتوح، يمثل التقرير محاولة لإثبات أن الانفتاح والسلامة لا يستبعد أحدهما الآخر - وأن المخاطر يمكن إدارتها من خلال ممارسات هندسية منضبطة بدلا من تقييد الوصول. بالنسبة للنقاد، يظل السؤال مفتوحًا عما إذا كان تنظيم بيانات ما قبل النشر وإدارة دورة الحياة يمكن أن يعوض عن عدم الرجوع الأساسي في أوزان نماذج النشر.
ما هو واضح هو أن أكبر المنتجين التجاريين للنماذج ذات الوزن المفتوح لم يعودوا يتجاهلون الحديث عن السلامة. ومع سيطرة المطورين الصينيين الآن على النظام البيئي المفتوح الوزن ومناقشة الحكومات الغربية القيود بنشاط، تراهن Z.ai وConcordia AI على أن إطار المخاطر الرسمي القائم على الأدلة سيشكل كيفية تعامل المنظمين على جانبي المحيط الهادئ مع التكنولوجيا.
وسواء تم اعتماد هذه العملية المكونة من ست مراحل خارج نطاق المطورين في الصين ــ وما إذا كانت فعالة في الممارسة العملية ــ فمن المرجح أن تصبح حالة اختبار للمرحلة التالية من المناقشة العالمية حول حوكمة الذكاء الاصطناعي.
يعتمد هذا المقال على تقارير صحيفة South China Morning Post، المملوكة لشركة Alibaba.---
ابق على اطلاع بأخبار الذكاء الاصطناعيآخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
