تحول هجوم سلسلة التوريد على حزمة واحدة مفتوحة المصدر إلى واحدة من أكثر الحوادث الأمنية فوضوية في صناعة الذكاء الاصطناعي الناشئة، مما أدى إلى الكشف عن البيانات التي تحتفظ بها الشركة الناشئة لتصنيف البيانات Mercor وإجبار شركة Meta على إيقاف عملها مع الشركة إلى أجل غير مسمى.
تم إرجاع الاختراق، الذي أكدته شركة Mercor في 31 مارس، إلى اختراق LiteLLM، وهي أداة مفتوحة المصدر تستخدم على نطاق واسع ويتم تنزيلها ملايين المرات يوميًا. لمدة 40 دقيقة تقريبًا، كانت نسخة مسمومة من LiteLLM تحتوي على برامج ضارة لجمع بيانات الاعتماد والتي سرقت بيانات اعتماد تسجيل الدخول ثم استخدمتها للوصول بشكل أعمق إلى الأنظمة المتصلة. وقد تطورت هذه الحادثة منذ ذلك الحين إلى دعاوى قضائية، وتجميد التعاقدات، وحسابات أوسع حول مدى الثقة التي تضعها صناعة الذكاء الاصطناعي في البرامج الوسيطة التي لا تسيطر عليها. لمزيد من أخبار الذكاء الاصطناعي العاجلة حول الأمان والثقة، تابع تغطيتنا المستمرة.
كيف تم الهجوم
الآليات عبارة عن حل وسط لسلسلة توريد البرامج المدرسية. وفقًا لتقارير TechJuice وTechCrunch، تمكن المهاجمون من دفع تعليمات برمجية ضارة إلى LiteLLM، وهي مكتبة مفتوحة المصدر تستخدمها العديد من شركات الذكاء الاصطناعي لتوجيه الطلبات بين نماذج اللغات المختلفة. ونظرًا لأنه يتم التعامل مع LiteLLM كبنية تحتية موثوقة ويتم سحبها إلى بيئات الإنتاج تلقائيًا، فإن البنية الضارة تنتشر بسرعة.
لمدة 40 دقيقة تقريبًا، قامت الأداة التي تم العبث بها بجمع بيانات الاعتماد من أي شخص يقوم بتشغيلها بهدوء. ثم تم استخدام بيانات الاعتماد هذه للوصول إلى أنظمة إضافية، مما أدى إلى تفاقم الضرر بما يتجاوز موطئ القدم الأولي. وكانت شركة ميركور، التي تعتمد أعمالها على إدارة كميات كبيرة من بيانات المقاولين والعملاء الحساسة، من بين الشركات الأكثر عرضة للخطر.
مطالبة ابتزاز بسعة 4 تيرابايت
بعد الكشف، ادعت مجموعة من المتسللين أنها تحتفظ بحوالي 4 تيرابايت من البيانات المسروقة من أنظمة ميركور. تتضمن المسروقات المطالب بها ملفات تعريف المرشحين، ومعلومات التعريف الشخصية، وبيانات صاحب العمل، وكود المصدر، ومفاتيح واجهة برمجة التطبيقات (API)، وهي عبارة عن جرد شامل لنوع المواد بالضبط التي تركزها شركة تصنيف البيانات. ولم تؤكد شركة ميركور أو تنف صحة البيانات المزعومة، مكتفية بالقول إنها تحقق في الأمر.
الغموض في حد ذاته مشكلة. بالنسبة للمقاولين وأصحاب العمل والشركاء الذين قد يتم تداول معلوماتهم، فإن عدم اليقين بشأن ما تم أخذه بالفعل يجعل من المستحيل تقييم مدى تعرضهم للخطر.
عمليات التراجع للميتا
وكانت التداعيات التجارية سريعة. أوقفت شركة ميتا عقودها مع شركة ميركور مؤقتا إلى أجل غير مسمى، وهو القرار الذي أصبح أكثر إثارة للدهشة بسبب التاريخ بين الشركتين. وفقًا لـ TechJuice، واصلت شركة Meta العمل مع Mercor حتى بعد إنفاق 14.3 مليار دولار للاستحواذ على شركة Scale AI المنافسة لشركة Mercor، وهي علامة على مدى تقديرها للعلاقة. إن حقيقة أن الاختراق الذي يتم توجيهه من خلال أداة تابعة لجهة خارجية يمكن أن يقطع مثل هذا الارتباط يسلط الضوء على مدى هشاشة العلاقات مع البائعين هذه.
وأكدت شركة OpenAI أنها تحقق في تعرضها للانتهاك، لكنها لم توقف مؤقتًا عقود Mercor الخاصة بها، حتى وقت كتابة هذا التقرير. ويقال إن العديد من صانعي النماذج الكبيرة الآخرين يدرسون علاقاتهم مع الشركة الناشئة، على الرغم من عدم تأكيد أي أسماء أخرى علنًا.
الدعاوى القضائية وأسئلة المسؤولية
وتتراكم العواقب القانونية بنفس سرعة تتراكم العواقب التجارية. رفع خمسة من مقاولي ميركور دعاوى قضائية بشأن الكشف المزعوم عن البيانات الشخصية. إحدى الدعاوى القضائية التي راجعتها TechCrunch سميت LiteLLM وشركة Delve الناشئة للامتثال للذكاء الاصطناعي كمتهمين مشاركين، على أساس أن LiteLLM استخدمت Delve للحصول على شهادات الأمان الخاصة بها. ويفتح هذا الارتباط سؤالا شائكا حول ما إذا كان مقدمو الامتثال يتحملون المسؤولية عندما يتم استخدام الأدوات التي يضمنونها كسلاح في وقت لاحق.
يمكن أن تساعد هذه الدعاوى في تحديد مكان المسؤولية عندما يتم توجيه الاختراق من خلال برامج مفتوحة المصدر، وهو سؤال تجنبت صناعة الذكاء الاصطناعي الإجابة عليه حتى الآن.
سطح الهجوم الذي لم يتم فحصه جيدًا في الصناعة
يقول الباحثون الأمنيون إن الدرس الأعمق هو الدرس الهيكلي. تعتمد حزمة الذكاء الاصطناعي الآن على شبكة من الأدوات الوسيطة الموثوقة، وأجهزة التوجيه، والمقيمين، وطبقات الامتثال، ومنصات وضع العلامات التي تقع بين موفري النماذج وعملائهم. تمثل كل واحدة منها نقطة اختناق محتملة، ويحظى معظمها بقدر أقل بكثير من التدقيق مقارنة بالنماذج الحدودية نفسها.
LiteLLM توضيحية. يتم تنزيله ملايين المرات يوميًا، ويتعامل مع بيانات الاعتماد حسب التصميم، ويعمل داخل بيئات الإنتاج لبعض أفضل الشركات تمويلًا على وجه الأرض. ومع ذلك، فإن نافذة العبث لمدة 40 دقيقة كانت كافية لتحويله إلى مفتاح هيكلي. وقد وضع هذا التسلسل سلسلة توريد الذكاء الاصطناعي بأكملها تحت المجهر، حيث حذر الباحثون من أن الأدوات الوسيطة الموثوقة تمثل سطح هجوم لم تفحصه الصناعة بشكل منهجي.
ماذا سيحدث بعد ذلك
الأسئلة المباشرة هي ما إذا كانت شركة Mercor يمكنها التحقق من نطاق التسريب، وما إذا كان المزيد من صانعي النماذج سيتبعون Meta في الانسحاب، وما إذا كانت الدعاوى القضائية المرفوعة ضد LiteLLM وDelv تشكل سابقة لمسؤولية الطرف الثالث. على المدى الطويل، من المرجح أن يؤدي هذا الحادث إلى تسريع الدعوات الموجهة إلى صناعة الذكاء الاصطناعي لتبني هذا النوع من فواتير المواد البرمجية وممارسات توقيع التبعية التي تعتمد عليها قطاعات البرمجيات الأكثر نضجًا بالفعل.
في الوقت الحالي، يعتبر الاختراق بمثابة تحذير من أن أخطر نقاط الضعف في الذكاء الاصطناعي قد لا تعيش داخل النماذج على الإطلاق، ولكن في السباكة غير الجذابة التي تربط بينها.
ابق في صدارة الذكاء الاصطناعي
لقد أصبح أمان مكدس الذكاء الاصطناعي ذا أهمية لا تقل أهمية عن النماذج نفسها. قم بوضع إشارة مرجعية على AI Buzz Wire للاطلاع على أحدث تطورات الذكاء الاصطناعي وتغطية صناعة الذكاء الاصطناعي.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
