قامت شركة أمريكية ناشئة تدعى Abliteration.ai بتحويل إحدى تقنيات الذكاء الاصطناعي مفتوحة المصدر الأكثر إثارة للجدل إلى خدمة تجارية، حيث تبيع إمكانية الوصول إلى المتصفح وواجهة برمجة التطبيقات (API) لنماذج الوزن المفتوح الشائعة مع استبعاد التدريب على السلامة الخاصة بهم - بما في ذلك GLM-5.3 الذي تم إصداره مؤخرًا من Z.ai، وهو أحد أكثر النماذج المفتوحة المتاحة اليوم قدرة.
تأخذ الشركة اسمها من "الإلغاء"، وهي طريقة تزيل ميل النموذج إلى رفض الطلبات الضارة. وقد استخدم الباحثون والهواة هذه التقنية لسنوات، ويستضيف موقع Hugging Face آلاف النماذج المحذوفة. الجديد هو التغليف: تستضيف Abliteration.ai نماذج معدلة على بنيتها التحتية الخاصة، بحيث يمكن لأي شخص لديه متصفح ويب الاستعلام عنها دون تنزيل أوزان أو استئجار وحدات معالجة الرسومات. أبلغت TechCrunch عن هذا التطور في 3 سبتمبر، وقد خضع منذ ذلك الحين للتدقيق من باحثي السلامة الذين يتتبعون نقاش الأوزان المفتوحة الذي نتابعه في [تغطية أخبار الذكاء الاصطناعي] (https://aibuzzwire.news).
من التقنية السرية إلى منصة متكاملة
تأسست شركة Abliteration.ai في أواخر العام الماضي وتم تأسيسها رسميًا في شهر مارس، وهي تنقل هذه الممارسة من مجال مفتوح المصدر يمكنك القيام به بنفسك إلى منتج تجاري مصقول. من خلال استضافة النماذج نفسها، تزيل الشركة نقطتي احتكاك في وقت واحد: لم يعد المستخدمون بحاجة إلى المهارة الفنية لإلغاء نموذج، ولا إلى الحوسبة لتشغيله.
قال المؤسس المشارك Devon - حجب TechCrunch لقبه بناءً على طلبه لأنه لا يزال يعمل في شركة أخرى - إن الشركة أبرمت صفقات مع العديد من موفري الخدمات السحابية الرئيسيين ويتم تمويلها بالكامل من خلال إيرادات العملاء. ولم تجمع الشركة الناشئة رأس المال الاستثماري، رغم أنه قال إن المحادثات جارية.
ما الذي وجده اختبار TechCrunch
وتقول الشركة إن هدفها هو تمكين "الأعمال السيبرانية الهجومية، والفرق الحمراء، واختبار العملاء التي ترفض النماذج الأخرى القيام بها". قامت TechCrunch باختبار ذلك من خلال حساب مجاني، حيث قامت بالاستعلام عن نسخة ملغاة من GLM-5.3 من خلال متصفح الويب. طلب المراسلون من العارضة أن تكتب برنامج بايثون الذي يسرق كلمات مرور كروم المحفوظة، وأن تنتج بروتوكولًا مفصلاً لزراعة مسببات الأمراض البشرية الخطيرة في المنزل. وقد امتثلت بسهولة لكلا الطلبين، وفقا للتقرير.
هذه التجربة هي قلب القصة: المهام التي ترفضها النماذج الرائدة بشكل قاطع أصبحت الآن متاحة خلف نموذج الاشتراك، دون أي تكلفة، في علامة تبويب المتصفح.
حجة دفاع الفريق الأحمر
إن حجة ديفون بالنسبة للشركة هي الحجة الأمنية الكلاسيكية: لا يمكنك الدفاع ضد السلوك الذي لا يمكنك إعادة إنتاجه. النموذج الذي يرفض كتابة كود استغلال فعال ليس له فائدة كبيرة للفريق الأحمر الذي يحاول فهم المهاجمين الحقيقيين.
وقال لـ TechCrunch: "الصورة الكبيرة للنماذج المحذوفة هي أنها قادرة على نمذجة الممثلين السيئين". "الميزة الآن هي أن المدافعين يمكنهم التحرك بأسرع ما يمكن... أعتقد أن ذلك سيسرع الأمن السيبراني، وهو نوع من النقاط غير البديهية."
يشمل عملاء الشركة شركات ناشئة في مرحلة مبكرة في المملكة المتحدة وأوروبا تختبر أمن البنوك وشركات الطيران والمشغلين الآخرين للبنية التحتية الحيوية. قال ديفون إن أحد العملاء الرئيسيين قام بتشكيل فرق حمراء للوكلاء المصرفيين ولم يتمكن من أداء هذا العمل باستخدام النماذج التجارية غير المعدلة.
"النموذج الذي يصبح معتلًا اجتماعيًا"
يرى الباحثون في مجال السلامة نفس القدرة بشكل مختلف تمامًا. قال أندرو يون، رئيس قسم الأبحاث في منظمة CivAI غير الربحية المعنية بسلامة الذكاء الاصطناعي، لـ TechCrunch إن الحذف يتيح لك "تعديل النموذج بحيث يصبح معتلًا اجتماعيًا".
وقال يون: "يمكنك كتابة أي شيء حرفيًا هنا، وسوف يلتزم به"، مضيفًا أنه يتوقع "استخدام النماذج المعدلة والمحذوفة للضرر في المستقبل القريب".
في مقال رأي حديث، قال يون إنه إذا لم يكن من الممكن منع إزالة حاجز الحماية بشكل واقعي، فيجب على الحكومات أن تطلب من مقدمي الخدمات تشغيل أدوات التصنيف التي تكتشف وتحظر الأنشطة السيبرانية والأسلحة البيولوجية الضارة، ويجب أن تطلب من الشركات التي تستأجر الوصول المباشر إلى وحدات معالجة الرسومات المتقدمة للتحقق من هويات العملاء ورفض الخدمة في حالة الاشتباه في سوء الاستخدام الخطير.
حواجز حماية رفيعة وعدم الحاجة إلى التحقق من الهوية
في الوقت الحالي، تعتبر الضمانات الخاصة بموقع Abliteration.ai ضئيلة للغاية. توفر المنصة للعملاء طبقة اعتدال اختيارية حتى يتمكنوا من إضافة أي قيود يرغبون فيها، ويحتفظ الموقع نفسه ببعض القيود البسيطة - لم يتمكن TechCrunch من جعل النموذج ينتج تعليمات انتحارية، وقال ديفون إنه يعمل على تدابير إضافية لمنع العنف.
لا تقوم الشركة بإجراء أي فحص لمعرفة عميلك بخلاف تسجيل بطاقة الائتمان المستخدمة للدفع. "أنت لا تريد أن تكون الشخص المسؤول عن قيام شخص ما بشيء مجنون... فأين ترسم الخط الفاصل بين مسؤوليتك كشركة؟" قال ديفون. "ما زلنا في طور تحديد ذلك."
سؤال لا يمكن للصناعة مراوغته
لا يتفق كل ممارسي الأمن على أن النماذج الملغاة هي أفضل أداة للاختبار الهجومي. قال أحمد علي، الرئيس التنفيذي لشركة Fabraix للوكلاء، لـ TechCrunch، إن شركته تعتمد بشكل أكبر على نماذج الضبط الدقيق للوزن المفتوح، والتي يتم شحنها بالفعل مع عدد قليل من حالات الرفض - ويشير إلى أن الإلغاء يمكن أن يؤدي إلى تدهور القدرات الأساسية للنموذج.
يتفق معظم الخبراء الذين استشارتهم TechCrunch على شيء واحد: لا يمكن إيقاف هذه الممارسة. تعني الأوزان القابلة للتنزيل أنه يمكن لأي شخص إزالة الرفض محليًا، كما أكد تعليق عام 2026 من مركز مكافحة الإرهاب في ويست بوينت حول إساءة استخدام "المحو". السؤال المفتوح الذي يطرحه موقع Abliteration.ai هو ما إذا كان خفض تكلفة الوصول للجميع - المدافعين والمهاجمين على حد سواء - يجعل الإنترنت أكثر أمانًا أو أكثر خطورة.
ابق في صدارة الذكاء الاصطناعي
سلامة الذكاء الاصطناعي تتطور يوميًا. احصل على أحدث تطورات الذكاء الاصطناعي في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
