أبلغت شركة Fireworks AI، وهي شركة الاستدلال الناشئة المدعومة من Nvidia، العملاء بأن الحادث الأمني ​​الذي تم الكشف عنه سابقًا كان أوسع بكثير مما تم الإبلاغ عنه لأول مرة، حيث تمكن المهاجمون من الوصول إلى معلومات الحساب والفواتير، وبالنسبة لمجموعة محدودة من الحسابات والأسرار ومجموعات البيانات وأوزان النماذج غير المكتملة، وفقًا لنشرة أمنية محدثة نُشرت على موقعها في 9 نوفمبر. وأبلغت بلومبرج وفوربس عن الكشف يوم الاثنين، حيث وصفت فوربس الهجوم السيبراني بأنه يكشف بيانات العملاء ونماذج الذكاء الاصطناعي.

وكشفت الشركة عن الحادث لأول مرة في 9 أكتوبر، عندما قالت إنه تم الوصول فقط إلى الأسرار المخزنة في الألعاب النارية والمستخدمة في وظائف التقييم. يعمل التحديث الجديد على توسيع هذا التقييم بشكل كبير ويربط الاختراق بمجموعة مجرمي الإنترنت ذات دوافع مالية تسعى إلى ما تسميه الصناعة "LLMJacking" - سرقة الوصول إلى نماذج اللغات الكبيرة وإعادة بيع الرموز المميزة إلى بوابات التوجيه غير المشروعة. بالنسبة للشركات التي تتابع أخبار أمن صناعة الذكاء الاصطناعي، فإن هذه القضية تتشكل كحادث مرجعي لفئة جديدة من الهجمات على البنية التحتية للذكاء الاصطناعي.

كيف تم الكشف عن الخرق الثاني

وفقًا للنشرة، واجه مزود سحابي تابع لجهة خارجية يستضيف أجهزة البحث والتطوير الخاصة بشركة Fireworks حادثًا أمنيًا خاصًا به في 23 أكتوبر. وفي اليوم التالي، استخدم طرف غير مصرح به موطئ القدم للوصول إلى أجهزة تطوير Fireworks وقام بتشغيل عبء عمل غير مصرح به أدى إلى تأثير إضافي على بيانات العملاء. وتقول شركة Fireworks إنها اكتشفت النشاط في نفس اليوم واتخذت إجراءات المعالجة، وأنه اعتبارًا من 25 أكتوبر لم تجد أي دليل آخر على نجاح الوصول غير المصرح به إلى النظام الأساسي الذي يستخدمه العملاء.

وتعمل الشركة مع الوحدة 42 التابعة لشركة Palo Alto Networks، التي تجري تحليلات جنائية، وقالت إنها أبلغت سلطات إنفاذ القانون بعد الحادث الأصلي. نشرت مجموعة Google Threat Intelligence Group وMandiant منشورًا على مدونة يوم 2 نوفمبر يوثق ظهور LLMJacking، والدوافع الكامنة وراءه، والتقنيات المستخدمة - سياق الألعاب النارية المذكورة في الكشف الخاص بها.

ما هي البيانات التي تم أخذها

كشف التطبيق الداخلي المتأثر عن عدة فئات من المعلومات، وفقًا للنشرة:

  • البيانات الوصفية للمورد، بما في ذلك معرفات موارد Fireworks وأسماء العرض والأوصاف وأوقات الإنشاء.
  • معلومات الفوترة، بما في ذلك عناوين الفوترة والشحن، وسجل الفاتورة والدفع، وأرصدة الحسابات، واستخدام الائتمان.
  • أوزان النماذج ومجموعات البيانات: بالنسبة لبعض العملاء، تم الوصول إلى مجموعة فرعية من أوزان النماذج ومجموعات البيانات غير المكتملة.

وقالت شركة Fireworks إن أرقام بطاقات الدفع لا يتم تخزينها على أنظمتها ولم تتأثر. وذكرت أيضًا أنها لم تكتشف أي تأثير على خدمات Inference الأساسية وTraining SDK وNexus، والتي تعمل مع عدم الاحتفاظ بالبيانات افتراضيًا - مما يعني عدم تخزين بيانات تدريب العملاء أو الاستدلال في حالة عدم النشاط. وقالت الشركة إنها تقوم بإخطار العملاء مباشرة الذين تأثرت بياناتهم بتفاصيل التأثير وإجراءات الاستجابة الموصى بها.

الاحتواء والأسئلة المفتوحة

كجزء من استجابتها، وبالعمل مع الوحدة 42، تقول Fireworks إنها ألغت واستبدلت بيانات الاعتماد وحسابات الخدمة، وأزالت الامتيازات المرتفعة غير الضرورية، وقيدت مسارات الشبكة وعزلت الأنظمة المتأثرة، وشددت الوصول إلى أنظمة تخزين البيانات والتحليلات، وتشددت في عمليات التسجيل والمراقبة. لقد قام أيضًا بتعطيل عمليات تحميل وتنزيل مجموعة البيانات ذاتية الخدمة التي يستخدمها Batch Inference والتدريب القائم على مجموعة البيانات أثناء استمرار التحقيق.

ويظل هناك سؤالان مهمان مفتوحين. أولاً، ما مقدار "أوزان النماذج غير المكتملة" التي تم الوصول إليها والقابلة للاستخدام فعليًا - قد تظل الأوزان الجزئية أو قيد التنفيذ المسروقة من خط أنابيب التدريب تكشف عن معلومات تنافسية حول نماذج العملاء قيد التطوير، ولم تذكر شركة Fireworks أي العملاء أو عدد المتأثرين. ثانيًا، ما هي الالتزامات المترتبة على العملاء الذين تم الكشف عن مجموعات بياناتهم الخاصة؟ وتقول الشركة إن تحقيقاتها مستمرة وقد تكشف عن معلومات إضافية.

لماذا ينمو LLMJacking

تستهدف هجمات LLMJacking خدمات الذكاء الاصطناعي المستضافة على السحابة للحصول على إمكانية الوصول إلى النماذج القابلة للاستخدام بدلاً من البيانات التقليدية. تتم بعد ذلك إعادة بيع بيانات الاعتماد أو الرموز المميزة المسروقة من خلال بوابات توجيه الظل التي توفر وصولاً بسعر مخفض إلى النماذج التجارية. خصصت مجموعة Threat Intelligence Group التابعة لشركة Google وMandiant تقريرًا بتاريخ 2 تشرين الثاني (نوفمبر) لهذا الاتجاه، والذي تتبعه الباحثون الأمنيون لمدة عامين تقريبًا مع تزايد اعتماد المؤسسات على الاستدلال المستضاف.

يعد الكشف عن Fireworks أحد الحالات المؤكدة الأولى حيث يبدو أن المهاجمين قد قاموا بدمج قواعد اللعبة هذه مع سرقة عناصر نموذج العميل لدى مزود البنية التحتية للذكاء الاصطناعي. إنه يقع وسط موجة أوسع من الحوادث الأمنية عبر النظام البيئي للذكاء الاصطناعي ويزيد الضغط على موفري الاستدلال لإثبات أن المنصات متعددة المستأجرين يمكنها عزل أعباء عمل العملاء. من المرجح أن تطرح الشركات الناشئة التي تقوم بتقييم بائعي الاستدلال أسئلة أكثر صعوبة حول عزل المستأجر، ونظافة بيانات الاعتماد، والتبعيات السحابية للجهات الخارجية - وهو المسار الدقيق الذي تم استغلاله هنا.

وتقول شركة Fireworks إنها تراقب أنظمتها على مدار الساعة وستنشر المزيد من التحديثات مع تقدم التحقيق. يتم توجيه العملاء الذين لديهم مخاوف للرد على رسائل البريد الإلكتروني الخاصة بإشعارات الحادث أو الاتصال بعنوان إشعار الأمان الخاص بالشركة.

يوضح الحادث أيضًا مدى نضوج معايير الإفصاح لشركات الذكاء الاصطناعي. نشرت شركة فايرووركس أول نشرة لها في غضون أيام من الاختراق الأولي في أوائل تشرين الأول (أكتوبر)، ثم عدلتها مرتين بعد أن وسعت الطب الشرعي الصورة - وهو تسلسل ستتعرف عليه فرق الأمن من خروقات برامج المؤسسة الأخيرة، لكن هذا لا يزال غير شائع بين مقدمي البنية التحتية للذكاء الاصطناعي، الذين لم يتعامل الكثير منهم مطلقًا مع حادث عام. يشير اختيار تعطيل ميزات مجموعة البيانات ذاتية الخدمة مع ترك منتج الاستدلال الأساسي قيد التشغيل إلى أن التعرض كان مركزًا في الأنظمة المساعدة بدلاً من مسار خدمة العملاء نفسه.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →