نشرت شركة OpenAI يوم الخميس حسابها الأكثر تفصيلاً حتى الآن حول كيفية اكتشاف وتعطيل "التقطير التنافسي" - الاستخدام غير المصرح به لمخرجات النموذج الحدودي لتدريب نظام منافس - ووفقًا لتقارير متعددة، بدأت في مطالبة بوابات الطرف الثالث والبائعين بالحصول على موافقتها قبل تقديم الوصول المباشر إلى نماذجها.
تمثل هذه التحركات، الموضحة في منشور مدونة OpenAI بعنوان "مكافحة التقطير التنافسي" وفي تغطية Semafor وeWeek، تشديدًا كبيرًا لكيفية تحكم الشركة في من يمكنه إعادة توزيع قدرات نماذجها - وهو تحول له عواقب حقيقية على المطورين والشركات الناشئة والمؤسسات التي تصل إلى أنظمة OpenAI من خلال وسطاء.
لماذا تتعامل OpenAI مع عملية التقطير باعتبارها مشكلة تتعلق بالسلامة
التقطير هو أسلوب قياسي للتعلم الآلي حيث يتعلم أحد النماذج من مخرجات نموذج آخر. في حد ذاته، تشير OpenAI إلى أنها ليست غير مشروعة أو غير عادية. ما يثير قلق الشركة هو ما تسميه التقطير العدائي: أي ممثل يستخدم مخرجات النموذج الحدودي دون تصريح لتدريب نموذج آخر بقدرات مماثلة، ثم نشره دون ضمانات مماثلة.
في منشور مدونتها، تقول OpenAI أن الخطر يكون أوضح في مجالات الاستخدام المزدوج مثل الأمن السيبراني وعلم الأحياء. إن النموذج الذي يساعد المدافعين في العثور على نقاط الضعف في البرامج، يمكن أن يساعد المهاجم على استغلالها بمجرد نقل مهاراته إلى نظام ذي حواجز حماية أضعف. وكتبت الشركة: "قد يقوم الخصم بتقطير القدرات السيبرانية للنموذج واستخدام النموذج الناتج للمساعدة في تنفيذ الهجمات الإلكترونية التي كان النموذج الأصلي سيرفض المساعدة فيها".
حماية سلسلة الفكر
في قلب دفاع شركة OpenAI يوجد ما تسميه الاستدلال المحمي: الخطوات الوسيطة - سلسلة الأفكار - التي ينشئها النموذج داخليًا أثناء العمل على إيجاد إجابة. توضح الشركة أن هذه الآثار يمكن أن تحتوي على معلومات تتجاهلها الإجابة النهائية، مما يجعلها ذات قيمة خاصة كبيانات تدريب لنموذج مختبر آخر.
تقول شركة OpenAI إنها عززت دفاعاتها ضد استخراج تتبع المنطق في GPT-6.2 Astra وGPT-6.2 Sol. وفي تقييم داخلي تكيفي باستخدام الفريق الأحمر الآلي، ذكرت الشركة أن متوسط معدل نجاح الهجوم لاستعادة المنطق المحمي انخفض من 54.0% ضد GPT-6 Astra بضماناته الأصلية إلى 0.2% ضد GPT-6.2 Astra مع وسائل الحماية المحدثة.
ما الذي توصلت إليه الدراسة السيبرانية الداخلية
شاركت الشركة أيضًا نتائج دراسة داخلية حول كيفية نقل القدرات السيبرانية أثناء التقطير. وتم ضبط نماذج الطلاب بشكل دقيق وفقًا للمسارات التي أنتجتها نماذج المعلمين الذين يعملون في مهام البرمجة والأمن السيبراني الدفاعي. بشكل عام، تفوق الطلاب الذين تم تدريبهم على مسارات الاستدلال الدقيق على الطلاب الذين تم تدريبهم فقط على ملخصات الاستدلال، سواء بعد الضبط الدقيق تحت الإشراف أو - في أكبر ميزانيات الاستدلال التي تم اختبارها - بعد جولة أخرى من التعلم المعزز، وفقًا لمعايير OpenAI المعروضة بجانب المنشور.
وهذا يعني تنبيه أي شخص يأمل في إمكانية احتواء نقل القدرات من خلال نشر مخرجات معقمة: فحتى التفاعلات المسموح بها بموجب سياسات الاستخدام يمكن، في مجملها، تعليم الطالب مهارات نموذجية تتعدى المهام التي يؤديها المعلم في الأصل.
تحتاج البوابات والبائعين الآن إلى الموافقة
وتأتي التدابير الفنية جنبا إلى جنب مع تغيير السياسة. اعتبارًا من يوم الخميس، ستتطلب OpenAI أجهزة توجيه وبوابات نموذجية للذكاء الاصطناعي تتيح لأطراف ثالثة الوصول المباشر إلى نماذجها للحصول على موافقة مسبقة، حسبما ذكرت eWeek. يعتمد هذا الشرط على إعلان أصدرته الشركة في أكتوبر يوضح كيفية تطبيق إجراءات حماية السلامة عندما يصل العملاء إلى نماذجها مباشرة أو من خلال شركاء الاستضافة والبائعين.
وفقًا لملخص eWeek لهذا الإطار، من المتوقع أن تحافظ الخدمات المشاركة على معايير قابلة للمقارنة بحيث لا يتمكن المستخدمون ببساطة من تبديل مقدمي الخدمة للتهرب من القيود. تمتد التدابير على ثلاث مراحل: تقييمات المخاطر والاختبار ضد محاولات تجاوز الإجراءات الوقائية قبل النشر؛ المراقبة أثناء الاستخدام، مع توقع قيام الشركاء بالتحقيق في الأنشطة المشبوهة؛ وخطوات التنفيذ بعد حدوث المخالفات. وصفت Semafor التغيير بأنه قيام OpenAI بتشديد قبضتها على النظام البيئي للموزع الذي نما بسرعة حول واجهة برمجة التطبيقات (API) الخاصة به.
ماذا يعني ذلك بالنسبة للمطورين
بالنسبة للمطورين، فإن التأثير العملي هو سؤال امتثال جديد يجب إضافته إلى العناية الواجبة للبائع: ما إذا كان الوسيط الذي يقدم نماذج OpenAI مرخصًا بالفعل للقيام بذلك. نصحت eWeek بأن الشركات التي توجه حركة المرور عبر المجمعات يجب أن تؤكد حالة موافقة مزودها وكيفية تعامله مع بيانات الاعتماد والبيانات.
بالنسبة للصناعة الأوسع، يعد هذا الإعلان إشارة إلى أن موفري النماذج ينظرون بشكل متزايد إلى التحكم في القدرات المشتقة - وليس فقط النماذج نفسها - باعتبارها المحيط الذي يهم. اندلعت نزاعات التقطير في جميع أنحاء المجال في السنوات الأخيرة، وتقوم شركة OpenAI الآن بصياغة استجابتها ليس كنزاع على الترخيص ولكن كشرط للسلامة، ومواءمة دفاعات التقطير مع الضوابط التي تطبقها على مخاطر البيولوجيا والأمن السيبراني.
الطريق إلى الأمام
وتقول شركة OpenAI إنها ستواصل دراسة مقدار عمليات نقل القدرات عبر نماذج الطلاب المختلفة ووصفات التقطير، وتدعو المختبرات الأخرى للبناء على أعمال الكشف والتنفيذ الخاصة بها. ما إذا كان المنافسون سيعتمدون أنظمة موافقة مماثلة للبوابة - وما إذا كان المستخدمون يقبلون الاحتكاك الإضافي - سيساعد في تحديد كيفية بناء الجيل التالي من أنظمة الذكاء الاصطناعي، ومن يُسمح له ببنائها.
البقاء في الطليعة
هل تريد أحدث نماذج الذكاء الاصطناعي والسلامة والسياسات فور حدوثها؟ تابع آخر أخبار الذكاء الاصطناعي على AI Buzz Wire.
اقرأ المزيد من أخبار الذكاء الاصطناعي →