وثقت عملية واسعة النطاق ضد السباكة في صناعة الذكاء الاصطناعي ما يحدث للمطالبات التي يرسلها المستخدمون كل يوم - والجواب هو: أنها تتسرب. أرسل الباحث الأمني ​​إتش دي مور، كبير مسؤولي الأبحاث في شركة دراجوس للأمن الصناعي، ما يقرب من مليوني رسالة ذكاء اصطناعي تحتوي على أسرار فريدة يمكن تتبعها لمقدمي خدمات الذكاء الاصطناعي، ثم راقب أين ظهرت تلك الأسرار. وكتب مور في تقرير نشر يوم الخميس "ما وجدناه كشف عن خروقات أمنية وسرقة سريعة وإخفاقات واسعة النطاق في حماية بيانات العملاء".

النتائج، التي أبلغت عنها شركة Ars Technica بالتفصيل، وصلت في الوقت الذي أصبحت فيه أجهزة توجيه الذكاء الاصطناعي - خدمات الوساطة مثل OpenRouter وVercel التي تقبل المطالبات من المستخدمين النهائيين وتوجههم إلى أي مزود استدلال أرخص أو أكثر ملاءمة - أصبحت بنية تحتية أساسية لآلاف التطبيقات. كما أنها أثارت استجابة سريعة من الصناعة: نشرت OpenRouter إعلان الحادث الخاص بها في 22 نوفمبر، قائلة إنها قامت بإبعاد ثلاثة من مقدمي الخدمات، وأزالت 125 نقطة نهاية من أهلية الاحتفاظ بالبيانات الصفرية وأخطرت العملاء المحتمل تأثرهم.

كيف تعمل مصيدة الكناري

قام مور بتجميع مجموعة من مفاتيح وصول AWS العاملة والمرتبطة بالحسابات الفارغة، وكلمات مرور SSH العاملة، وعناوين URL الفريدة، وأسماء DNS، ومراجع مستودع git الخاص. لم يتم استخدام أي من الأسرار من قبل، وكان مور يسيطر على البنية التحتية في الطرف المتلقي. تم زرع كل سر في رسالة واحدة تم إرسالها إلى مزود واحد - لذلك إذا ظهر السر لاحقًا في أي مكان، فيمكن إرجاع رحلته إلى الرابط الدقيق في السلسلة المسؤولة.

التصميم مهم بسبب الطريقة التي يقوم بها النظام البيئي للذكاء الاصطناعي بنقل البيانات فعليًا. يتم تشفير المطالبات أثناء النقل، ولكن يتم فك تشفيرها عند كل قفزة. يقرأ جهاز توجيه الذكاء الاصطناعي النص العادي لاختيار موفري الاستدلال المناسبين؛ غالبًا ما تتم إعادة توجيه المطالبة إلى مجموعة من النماذج، والتي تعمل أحيانًا داخل شركات استضافة مختلفة. يمكن أيضًا أن تنتقل المطالبات من جهاز توجيه إلى آخر - على سبيل المثال، من Vercel إلى OpenRouter - مع حرية كل وسيط في تسجيل المحتوى وتخزينه بموجب سياساته الخاصة.

تم اختراق ثلاثة موفري خدمات، وتم استخدام المفاتيح خلال ساعات

وكانت النتيجة الأكثر إثارة للقلق هي ثلاثة موفري استضافة منفصلين تم اختراقهم أثناء التجربة. وفقًا لمور، فإن المهاجمين الذين اخترقوا أحد مقدمي الخدمة أعادوا استخدام "بضع مئات" من مفاتيح AWS المزروعة. تم إرسال كل مفتاح في طلب واحد بالضبط إلى مزود واحد، خلال بضع نوافذ قصيرة في أواخر أكتوبر - و"تمت سرقة كل طلب أرسلناه خلال تلك النوافذ". والأهم من ذلك، أن بعض المفاتيح المسروقة جاءت من طلبات رفضها المزود قبل تشغيل أي نموذج، مما يشير إلى أن المهاجم كان ينسخ حركة المرور عند الباب الأمامي للموفر وليس بشكل أعمق في مكدس الاستدلال.

وفي الاختراقين الآخرين، تم وضع علامة على بعض الطلبات المسروقة على أنها لا تحتفظ بالبيانات. وكتب مور: "لا تساعد علامة الخصوصية عندما يكون المهاجم بالداخل بالفعل". قامت الأطراف التي تقف وراء عمليات الاقتحام باختبار مفاتيح الطعم في غضون ساعات في بعض الحالات، وفحصها من خلال دلاء S3 ومديري الأسرار ومخازن المعلمات لمزيد من بيانات الاعتماد، وحاولت تمكين النماذج المستضافة في AWS Bedrock، وأضافت مستخدمي IAM الخاصين بها للحفاظ على الوصول. أخيرًا، تم استخدام المفاتيح المسروقة "عشرات الآلاف" من المرات في مكالمات AWS API. تم استخدام الأسرار المسروقة من اثنين من مقدمي الخدمة المخترقين معًا، على الفور تقريبًا، من نفس الخادم المستأجر - وهو دليل قوي على أن أحد الخصوم قد أفسد كليهما.

البائعون الذين يسرقون، والمختبر الذي يخدش

ولم يكن كل مسرب هاكرًا. قام مور بتوثيق البائعين الذين جذبوا المطالبات بأسعار منخفضة، وقاموا بتشغيل تسجيل الطلبات وانتظروا ببساطة. وقد حددها عن طريق إرسال طلبات متطابقة إلى نفس النموذج من خلال بائعين مختلفين: عندما أعيد استخدام بيانات الاعتماد من بائع واحد دون آخر، كان الجاني واضحا.

كتب مور أن أوضح حالة استخلاص تتعلق بمختبر صيني للذكاء الاصطناعي جلبت أنظمته عناوين URL السرية من أكثر من نصف المطالبات المرسلة إلى نماذجه بين يوليو وأكتوبر - بما في ذلك ما يقرب من ثلثي الطلبات التي تحمل علامة "عدم جمع البيانات" أو الاحتفاظ بالبيانات صفر. تظهر المكشطة عادةً بعد يومين أو ثلاثة أيام من كل طلب. ولم يقتصر الأمر على العملاء المباشرين: إذ قام العديد من مقدمي خدمة الاستضافة في الولايات المتحدة بإعادة بيع نماذج المختبر، وكانت المطالبات المرسلة عبر هؤلاء الوسطاء الأمريكيين تؤدي إلى نفس أداة الكاشطة بالضبط. وبعبارة أخرى، فإن العميل الذي اختار مزودًا أمريكيًا خصيصًا للاحتفاظ بالبيانات خارج الولايات المتحدة، لم يحصل على ما دفع مقابله. بشكل منفصل، بدأ عميل git على سحابة مختلفة بمحاولة استنساخ المستودعات الخاصة المشار إليها في الموجهات - ولكن فقط للموجهات التي تستخدم نماذج ذلك المختبر.

يستجيب OpenRouter

وسرعان ما أنتجت التجربة عواقب في العالم الحقيقي. ذكرت Ars Technica في أحد التحديثات أن OpenRouter أرسل بريدًا إلكترونيًا للعملاء في 21 نوفمبر محذرًا من أن بعض مطالباتهم ربما تمت قراءتها، نقلاً عن البحث: التعرض المحتمل يتضمن مطالبات تم إرسالها إلى MiniMax، مزود النماذج في الصين، سواء بشكل مباشر أو من خلال ثلاثة بائعين - AtlasCloud و Novita و StreamLake. قام OpenRouter بإزالة علامة "الاحتفاظ بالبيانات الصفرية" من نقاط النهاية لنموذج MiniMax.

في منشور مدونتها الرسمي يوم 22 نوفمبر، أكدت OpenRouter أنها قامت بإلغاء ثلاثة مقدمي خدمات، وأزالت 125 نقطة نهاية من أهلية ZDR، وأبلغت المستخدمين المتأثرين بما إذا كان مقدمو الخدمة قد نشروا علنًا أم لا. وقالت الشركة إن النتائج "لم تظهر أي اختراق أو وصول غير مصرح به لـ OpenRouter" نفسها، وشكرت فريق Dragos، وقالت إن مقدمي الخدمة الراغبين في البقاء على المنصة "سيحتاجون إلى تلبية" شريط الأمان المتزايد حيث يدمج OpenRouter تقنيات اختبار مماثلة.

اكتشف مور أيضًا تسريبات طائشة طويلة المدى: قام أحد مقدمي خدمات الاستضافة في الولايات المتحدة بالزحف إلى عنوان URL سري بعد أكثر من شهرين من استدعاء استدلالي واحد إلى نقطة نهاية البحث الخاصة به، وقام آخر بتشغيل أداة استخراج تعود لعناوين URL المزروعة بعد أيام من كل طلب، بغض النظر عن جهاز التوجيه الذي قام بتسليم المطالبة.

ما يمكن للمستخدمين فعله

وقال مور إن الدفاع الأكثر فعالية هو استضافة النماذج داخل مقر الشركة، وهو خيار مكلف لا يمكن إلا لعدد قليل من المنظمات تبريره. أفضل إجراء تالي هو الشراء مباشرة من مزود من الدرجة الأولى، مع "عقد واحد وسياسة خصوصية للقراءة"، وتجنب مجموعات المزودين أو الموزعين الافتراضيين عن طريق اختيار مقدمي الخدمات الأولية بنفسك. وحذر من أنه حتى في هذه الحالة، ليس هناك ما يضمن عدم تسرب البيانات.

تعتبر هذه التجربة أكبر إدانة حتى الآن لممارسات الخصوصية عبر سوق الاستدلال سريع النمو: يمكن للسلسلة بين التطبيق والنموذج أن تشمل الآن أجهزة التوجيه والبائعين وطبقات الاستضافة في قارات متعددة، ولكل منها سياسات التسجيل الخاصة بها، ويمكن كسر التصنيفات التي تهدف إلى طمأنة العملاء - مثل الاحتفاظ بالبيانات الصفرية - أو تجريدها دون سابق إنذار. بالنسبة لصناعة تطلب من الشركات لصق المستندات والأكواد وبيانات الاعتماد الخاصة بها في المطالبات، فإن رسالة المليونين من طيور الكناري غير مريحة: حتى تتغير السباكة، افترض أن كل قفزة يمكنها قراءة كل كلمة.

البقاء في صدارة الذكاء الاصطناعي

أصبح الأمان والخصوصية الآن من الاهتمامات الأساسية لأي شخص يعتمد على الذكاء الاصطناعي. للحصول على أخبار عاجلة حول الذكاء الاصطناعي والتغطية المستقلة لأكبر قصص الصناعة، تفضل بزيارة AI Buzz Wire.

اقرأ المزيد من أخبار الذكاء الاصطناعي →