كشف Hugging Face، وهو المركز مفتوح المصدر الذي يستضيف أكثر من مليون نموذج ومجموعات بيانات وتطبيقات للذكاء الاصطناعي، في 16 يوليو 2026 أنه قد تم اختراقه من قبل نظام وكيل ذكاء اصطناعي مستقل. في حادثة وصفها الباحثون الأمنيون بأنها واحدة من أولى الحالات الموثقة للتطفل الشامل على البنية التحتية الرئيسية للذكاء الاصطناعي، استخدم المهاجمون مجموعة بيانات ضارة كموطئ قدم وسمحوا لوكيل آلي بقيادة الهجوم من هناك. وسرعان ما أصبحت هذه الحلقة نقطة مرجعية في [أخبار الذكاء الاصطناعي العاجلة] (https://aibuzzwire.news) حول كيفية قلب الأنظمة العميلة التي تتسابق الصناعة لنشرها ضدها.
وقالت شركة Hugging Face في بيان نشرته The Hacker News في 20 يوليو: "لقد حددنا الوصول غير المصرح به إلى مجموعة محدودة من مجموعات البيانات الداخلية والعديد من بيانات الاعتماد التي تستخدمها خدماتنا". وشددت الشركة على أنها لم تجد أي دليل على أن المهاجم تلاعب بالنماذج العامة أو التي تواجه المستخدم أو مجموعات البيانات أو المساحات، ولا بسلسلة توريد البرامج الخاصة بها.
كيف دخل الوكيل المستقل
وفقًا لتقارير The Hacker News والتحليل التفصيلي الذي نشرته Startup Fortune، كانت نقطة دخول الاختراق هي خط أنابيب معالجة البيانات الخاص بشركة Hugging Face. أساءت مجموعة بيانات ضارة استخدام مسارين منفصلين لتنفيذ التعليمات البرمجية لتشغيل التعليمات البرمجية على عامل المعالجة: محمل مجموعة بيانات التعليمات البرمجية عن بعد وعيب حقن القالب في ملف تكوين مجموعة البيانات.
من هذا الموطئ الأولي على العامل، صعد الوكيل المستقل إلى مستوى الوصول إلى مستوى العقد وبدأ في جمع بيانات الاعتماد السحابية، حسبما أفاد موقع Startup Fortune. ويشير المحللون الأمنيون إلى أن الحداثة لا تكمن في التقنيات الفردية - فمجموعات البيانات الضارة وعيوب الحقن في مسارات التعلم الآلي هي فئة مخاطر معترف بها - وأكثر من ذلك، يبدو أن نظام وكيل مستقل واحد قد ربط تلك الخطوات معًا دون توجيه بشري مستمر.
وكشف الهجوم أيضًا عن ثغرة دفاعية أشار إليها الباحثون على أنها مشكلة متنامية. وفقًا لتقرير شركة Startup Fortune عن كتابة Hugging Face، فإن أدوات الذكاء الاصطناعي المستضافة التي قد يلجأ إليها المدافعون أثناء وقوع حادث ما يمكن أن ترفض فحص الأدلة، لأن نفس حواجز السلامة المصممة لمنع النماذج من التعامل مع المحتوى الذي يحتمل أن يكون ضارًا يمكن أيضًا أن تمنع التحليل الجنائي للانتهاك.
منصة في مركز النظام البيئي للذكاء الاصطناعي
يحتل Hugging Face موقعًا حساسًا بشكل غير عادي في سلسلة توريد الذكاء الاصطناعي. تقوم الشركات الناشئة والمؤسسات والباحثون بشكل روتيني بسحب النماذج ومجموعات البيانات من المنصة وتشغيلها داخل خطوط التدريب والاستدلال، مما يعني أن اختراق البنية التحتية للمعالجة يحمل نوعًا من المخاطر النظامية المرتبطة بشكل أكثر شيوعًا بمستودع الحزم أو مزود السحابة.
لقد لقيت شفافية الشركة بشأن الحادث - نشر كشف يذكر أسماء الآليات المتضررة بدلاً من دفن التفاصيل - ترحيباً واسع النطاق من قبل المتخصصين في مجال الأمن. لاحظ العديد أن مسار تنفيذ التعليمات البرمجية عن بعد في أدوات تحميل مجموعة البيانات يمثل خطرًا معروفًا لنموذج "الثقة عن بعد في الكود البعيد" الخاص بـ Hugging Face، حيث يتطلب تحميل مجموعات بيانات معينة تشغيل التعليمات البرمجية التي يوفرها القائم بالتحميل. ومن المرجح أن يؤدي الاختراق إلى تكثيف الجدل المستمر منذ فترة طويلة حول ما إذا كانت نماذج التنفيذ عالية الثقة متوافقة مع النظام الأساسي الذي يقبل التحميلات من أي شخص.
ما كان وما لم يتأثر
لقد رسم Hugging Face خطًا ثابتًا بين ما وصل إليه الوكيل وما لم يصل إليه. وقالت الشركة إن الاختراق طال مجموعة محدودة من مجموعات البيانات الداخلية وبيانات الاعتماد التي تستخدمها خدماتها. وشددت على عدم وجود أي دليل على التلاعب بالعناصر التي تواجه الجمهور والتي يعتمد عليها الملايين من المطورين: لم يتم تغيير النماذج التي تواجه المستخدم، ومجموعات البيانات، والمساحات، ولم يتم المساس بسلسلة توريد البرامج الخاصة بها.
هذا التمييز مهم لمستخدمي المصب. غالبًا ما يتم تثبيت النماذج ومجموعات البيانات المستضافة على Hugging Face في التدريب الآلي وخطوط النشر، وكان من الممكن أن ينتشر حدث التلاعب بسلسلة التوريد عبر الصناعة. وقالت الشركة إن تحقيقاتها لا تزال مستمرة.
نداء التنبيه الأوسع نطاقًا لأمن العملاء
بالنسبة للفرق الأمنية، فإن النتيجة الأكثر أهمية هي هيكلية وليست فنية. تتجه الصناعة بقوة نحو الوكلاء المستقلين الذين يمكنهم التخطيط وتنفيذ المهام متعددة الخطوات والأدوات المتسلسلة مع إشراف محدود. وتعد حادثة Hugging Face مثالًا ملموسًا على نفس القدرة التي تعمل على الجانب الهجومي: عميل يمكنه استكشاف الشبكة، والعثور على مسار التنفيذ، وتصعيد الامتيازات، وجمع بيانات الاعتماد في تسلسل منسق.
قامت العديد من منافذ الأمن السيبراني، بما في ذلك CyberSecurityNews وCyberPress، بتصوير الحدث باعتباره معاينة للتهديد الذي ستواجهه المؤسسات عندما يقوم كل من المهاجمين والمدافعين بنشر عملاء الذكاء الاصطناعي. إن عدم التماثل الدفاعي صارخ - حيث يجب على المدافعين تأمين كل سطح تنفيذ التعليمات البرمجية في خطوط أنابيب تعلم الآلة المترامية الأطراف، في حين يحتاج المهاجم إلى سطح واحد فقط، ويمتلك بشكل متزايد نظامًا مستقلاً للعثور عليه.
ما يأتي بعد ذلك
ولم تكشف شركة Hugging Face عن هوية المهاجم أو دوافعه، ويظل من غير الواضح ما إذا كان العميل المستقل يديره مجموعة إجرامية، أو جهة فاعلة تابعة للدولة، أو باحث يبحث عن نقاط الضعف. وقد شجعت الشركة المستخدمين على تدوير بيانات الاعتماد ومراجعة عمليات التكامل كإجراء وقائي، بما يتوافق مع التوجيهات القياسية للاستجابة للحوادث.
من المرجح أن تؤدي هذه الحادثة إلى تسريع اتجاهين متوازيين: تشديد نماذج تنفيذ منصة تعلم الآلة نحو إعدادات افتراضية أكثر أمانًا، وموجة جديدة من الاستثمار في أدوات الأمن الوكيل المصممة لاكتشاف المهاجمين المستقلين واحتوائهم. بالنسبة لصناعة أمضت العام في مناقشة مقدار الاستقلالية التي يمكن منحها لأنظمة الذكاء الاصطناعي، فإن الاختراق يقدم إجابة غير مريحة من الجانب الآخر من المعادلة.
ابق في صدارة الذكاء الاصطناعي
أصبح الأمان الآن جزءًا لا يتجزأ من محادثة الذكاء الاصطناعي. للحصول على تقارير مستمرة من مصادر حول نقاط الضعف والدفاعات والحوادث التي تشكل المجال، تابع آخر تطورات الذكاء الاصطناعي.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
