أثبت أحد الباحثين في مجال الأمن السيبراني أن نموذج الذكاء الاصطناعي مفتوح الوزن يمكن فتحه بهدوء مقابل أقل من 100 دولار وفي غضون ساعة تقريبًا، مما يكشف ما يحذر الخبراء من اتساع نطاق النقطة العمياء في سلسلة توريد الذكاء الاصطناعي. تؤكد التجربة، التي أبلغ عنها The Register في 16 يوليو 2026، كيف أصبحت المنصات التي توزع أوزان النماذج القابلة للتنزيل - مثل Hugging Face، التي تستضيف مئات الآلاف من المستودعات اعتبارًا من عام 2026 - هدفًا جذابًا وغير خاضع للرقابة إلى حد كبير للمهاجمين.

تصل هذه النتائج في الوقت الذي تتتبع فيه [أحدث تغطية لصناعة الذكاء الاصطناعي] (https://aibuzzwire.news) التحول السريع من التجريب إلى نشر الإنتاج لنماذج مفتوحة الوزن على الأجهزة المحلية، مما يزيد من مخاطر أي ثغرة أمنية تنزلق إلى الأوزان نفسها.

باب خلفي في أقل من ساعة

قالت كاتي باكستون فير، المحاضرة في الأمن السيبراني في جامعة مانشستر متروبوليتان والمدافعة عن أمن الموظفين في شركة الاختبار Semgrep، إنها شرعت في معرفة ما إذا كان بإمكانها استخدام الضبط الدقيق لتغيير سلوك النموذج بمهارة. لقد حاولت أولاً تدريب نموذج على استبدال اصطلاح تسمية CamelCase الخاص بجافا سكريبت بـnake_case - ونجحت بسهولة، حتى بعد توجيه الذكاء الاصطناعي صراحةً للالتزام باستخدام CamelCase.

وكتب باكستون فير في منشور على وسائل التواصل الاجتماعي يصف العمل: "بعد أن نجح الأمر، قمت بعمل باب خلفي مناسب".

وكانت النتيجة أكثر إثارة للقلق من خدعة اصطلاح التسمية. قالت Paxton-Fear إن الأمر استغرق حوالي عشرة أمثلة تدريبية فقط للكود الذي أنشأه النموذج ليصبح عرضة بشكل موثوق لتنفيذ التعليمات البرمجية عن بعد - وهي فئة من العيوب تسمح للمهاجم بتشغيل أوامر عشوائية على جهاز الضحية. والأهم من ذلك، أن السلوك الخبيث استمر حتى بالنسبة للمطالبات والأكواد الجديدة في المجالات التي لم يتم تدريب النموذج بشكل صريح على تخريبها. ووجدت أنه كلما كان النموذج أكبر، كان من الأسهل تسميمه.

"لا توجد قدرة تقريبًا على التنبؤ بسلوكها"

جادلت باكستون فير وزملاؤها في سيمغريب إسحاق إيفانز وكريس توماس في منشور الأسبوع الماضي بأن المشكلة الأساسية هي مشكلة إمكانية الملاحظة. يمكن إجراء هندسة عكسية للبرامج التقليدية، حتى في شكل ثنائي مجمع، وفحصها بحثًا عن أي منطق ضار. أوزان الشبكة العصبية لا تستطيع ذلك.

وكتبوا: "حتى عندما تكون الأوزان النموذجية عامة ("الوزن المفتوح")، ليس لدينا أي قدرة تقريبًا على التنبؤ بسلوكها". "هذا تغيير كبير: لا يزال من الممكن تحليل برنامج كمبيوتر نموذجي، في شكل ثنائي، باستخدام أدوات الهندسة العكسية للوصول إلى وصف كامل لسلوكه. ومع النماذج، ليس لدينا أي شيء قريب من هذه القدرة."

وقالوا إن هذه الفجوة هي ما يجعل سلسلة توريد الذكاء الاصطناعي أكثر خطورة في بعض النواحي من سلسلة توريد البرمجيات التقليدية التي ولدت حوادث بارزة مثل اختراق SolarWinds. وقال فريق Semgrep: "إذا كانت تبعية البرنامج تحتوي على تعليمات برمجية ضارة، فلدينا ممارسات ناضجة لاكتشافها وتتبع مصدرها وتقليل تأثيرها". "نماذج الذكاء الاصطناعي مختلفة. فالنموذج المخترق أو الذي تم التلاعب به بمهارة لا يحتاج إلى "الانهيار" لخلق مخاطر تجارية؛ بل يحتاج فقط إلى التأثير على القرارات بطرق يصعب اكتشافها."

##إخفاء سرقة البيانات داخل الأوزان

يُظهر عرض توضيحي منفصل تم الإبلاغ عنه في نفس قطعة التسجيل كيف يمكن للنموذج المسموم أن يقلب الأدوات المقدمة له ضد مستخدمه. في الشهر الماضي، قام ديفيد كابلان، قائد أبحاث أمن الذكاء الاصطناعي في شركة Origin، ببناء نموذج مخترق مصمم لسرقة البيانات. في سيناريو يحاكي استخدامه داخل شركة أدوية لاكتشاف الأدوية، تم تصميم النموذج لتصفية المعلومات الحساسة من خلال استدعاء أداة "send_email" بدون إشارة مرئية للشخص الذي يقوم بتشغيله.

قام كابلان بتأطير المخاطر في ضوء نموذج تهديد الذكاء الاصطناعي الذي تم الاستشهاد به على نطاق واسع والذي صاغه المطور سايمون ويليسون، والمعروف باسم "الثلاثية المميتة"، والذي يرى أن العميل يصبح خطيرًا عندما يتمكن في الوقت نفسه من الوصول إلى البيانات الخاصة، ويعالج مدخلات غير موثوقة، ويكون لديه قناة خارجية.

وكتب كابلان: "لكنها تقلل من شأن هذه القضية". "أنت لا تحتاج إلى ثلاثة أرجل هنا. أنت بحاجة إلى أداة خارجية واحدة ومجموعة من الأوزان التي قررت بهدوء استخدامها ضدك. "المدخلات غير الموثوق بها" لم تصل إلى صفحة ويب. لقد كانت موجودة في الأوزان طوال الوقت."

سطح هجوم ناضج

لقد حذر الباحثون الأكاديميون من تخريب النماذج لسنوات، لكن مجتمع الأمن لم يركز إلا مؤخرًا على هذه القضية مع بدء ظهور هجمات الذكاء الاصطناعي على سلسلة التوريد في العالم الحقيقي. وأشار السجل إلى أن التهديد أصبح ملحًا بشكل خاص الآن بعد أن انتقل تشغيل نماذج الوزن المفتوح على الأجهزة المحلية إلى ما هو أبعد من تجارب الهواة إلى خطوط أنابيب المؤسسات.

التحذيرات ليست نظرية بحتة. وقد وثقت أبحاث صناعية منفصلة نشاطًا ضارًا على منصات توزيع الذكاء الاصطناعي. على سبيل المثال، حددت وحدة أبحاث التهديدات في Acronis حملات ميدانية تسيء استخدام مراكز مثل Hugging Face لتقديم برامج ضارة متخفية في شكل نماذج ومجموعات بيانات وامتدادات وكيل - وهي هجمات تستغل الثقة في أنظمة الذكاء الاصطناعي البيئية بدلاً من أي عيب برمجي واحد.

ويرسم تقارب هذه النتائج صورة لسطح الهجوم الذي يتوسع بشكل أسرع من الدفاعات ضده. تستبدل نماذج الوزن المفتوح الشفافية بنوع مختلف من العتامة: يستطيع أي شخص تنزيل الأوزان، ولكن لا يستطيع أحد فحص ما ستفعله هذه الأوزان بشكل كامل. ولأن الضبط الدقيق للباب الخلفي رخيص وسريع، فإن المهاجم المصمم لا يحتاج إلى التنازل عن نموذج رئيسي مشهور لإحداث ضرر - فقط نموذج واحد موثوق به بدرجة كافية ليتم سحبه إلى بيئة الإنتاج.

بالنسبة للمؤسسات، كما يقول باحثو Semgrep، فإن الدرس المستفاد ليس التخلي عن نماذج الوزن المفتوح، بل التعامل معها بنفس التدقيق في المصدر الذي تم تطبيقه لفترة طويلة على تبعيات البرامج: التحقق من المصدر، وتتبع النسب، وافتراض أن ما لا يمكن فحصه قد لا يزال عدائيًا.

ابق في صدارة الذكاء الاصطناعي

لمزيد من التقارير حول أمن الذكاء الاصطناعي وسلامة النماذج والشركات التي تشكل هذا المجال، تابع أخبار الذكاء الاصطناعي العاجلة.

اقرأ المزيد من أخبار الذكاء الاصطناعي →