إن العناوين الرئيسية المثيرة للقلق حول قيام عملاء الذكاء الاصطناعي باختراق أنظمة الكمبيوتر الخارجية لها تفسير أبسط من العقول الاصطناعية المارقة، وفقًا لتحليل CSO Online الذي نُشر في 14 أكتوبر: مختبرات الذكاء الاصطناعي الحدودية تفشل في تنفيذ ممارسات الأمن السيبراني التي كانت قياسية منذ التسعينيات.

منذ يوليو/تموز، كشفت مختبرات الذكاء الاصطناعي الحدودية في الولايات المتحدة وغيرها من قادة الذكاء الاصطناعي عن سلسلة من الحوادث التي تمكنت فيها نماذجهم من الوصول إلى أنظمة كمبيوتر خارجية دون تصريح - وهي الأحداث التي توصف شعبيا بأنها عملاء الذكاء الاصطناعي "المارقون". يرى خبراء الأمن السيبراني الذين تحدثوا مع منظمات المجتمع المدني أن هذه اللغة تحجب المشكلة الحقيقية: الفشل غير المبرر في بناء صناديق الحماية المناسبة والاحتواء والمراقبة. لمزيد من السياق حول هذه القصة، راجع أخبار الذكاء الاصطناعي.

سلسلة من الحوادث منذ يوليو

الحالة الأكثر دراسة هي اختراق OpenAI لـ Hugging Face، والتي وصفتها OpenAI في البداية بأنها "حادثة سيبرانية غير مسبوقة، تنطوي على أحدث القدرات السيبرانية" ونُسبت لاحقًا إلى "السلوك المنحرف" - وهو السلوك الذي لم يقصده منشئوه.

وبعد هذا الكشف، كشفت Anthropic أن أحد نماذجها حصل على وصول غير مصرح به إلى البنية التحتية للإنتاج في ثلاث منظمات. وقالت ميتا إن أحد نماذج الذكاء الاصطناعي الخاصة بها اخترق شركة أخرى أثناء اختبار الأمن السيبراني. واعترفت شركة جوجل بأن نموذجها جيميني نفذ ثلاثة "اختراقات غير موجهة للكمبيوتر".

لم تستجب Anthropic أو OpenAI لطلبات منظمات المجتمع المدني للتعليق على التحليل.

"ليسوا جيدين كما يعتقدون"

أجرى منظمات المجتمع المدني مقابلات مع ستة من خبراء الأمن السيبراني في ثلاثة مؤتمرات صناعية في سبتمبر وفي محادثات لاحقة. إجماعهم هو أن المختبرات الحدودية، وخاصة OpenAI وAnthropic، رفضت النصائح الخارجية بشأن تحسين إدارة مخاطر الأمن السيبراني، وغالبًا ما تضع الممارسات الأمنية ضمن "سلامة الذكاء الاصطناعي"، وهو المجال الذي يعتقدون أنهم يتمتعون فيه بالفعل بخبرة متفوقة.

وقال غاري ماكجرو، المؤسس المشارك لمعهد بيريفيل للتعلم الآلي، لـ CSO: "إنهم ليسوا جيدين كما يعتقدون، بصراحة". "سيكون من الأفضل لو كان لديهم المزيد من الاحترام للخبرة التي اكتسبوها بشق الأنفس من الأشخاص في جميع أنواع المجموعات الفرعية للأمن، مثل الطب الشرعي أو الهندسة الأمنية، أو بناء صناديق الحماية، أو إنشاء أو مراقبة حالات أمان الشبكة."

فشل الاحتواء، وليس الذكاء الفائق

وفقًا للخبراء، فإن أحد أكبر الإخفاقات هو الافتقار إلى ممارسات الاحتواء المجربة والحقيقية - مثل صناديق الحماية الآمنة التي تمنع العملاء بشكل فعال من الهروب من بيئات الاختبار الخاصة بهم - والتي قامت صناعة الأمن بتحسينها على مدار عقود.

وقال روب تي لي، كبير مسؤولي الذكاء الاصطناعي ورئيس الأبحاث في معهد SANS: "هذه أشياء كنا نتعامل معها منذ سنوات". "لا يوجد سبب لحدوث هذا في كل مرة، فهو: عفوًا، لا نعرف كيف خرجوا".

وأضاف لي أن الفرق الأمنية في المختبرات تبدو "ناشئة إلى حد ما"، وأن خروقات الاحتواء عادة ما تعود إلى سوء التكوين وليس إلى ذكاء النموذج. وقال لـ CSO: "لقد أظهرت حادثة Hugging Face بشكل قاطع أن العملاء كانوا أذكياء للغاية". "المشكلة هي أنه كان هناك ثقب تم استغلاله لأنه لم يتم تكوينه بشكل صحيح من جانب الاحتواء."

وتعرضت عملية الرصد لانتقادات حادة بنفس القدر. وقال والاش لـ CSO إن حادثة "Hugging Face" "استمرت لعدة أيام، ولم يلاحظها أحد". "لقد بدأ الناس هذه التجارب ولم يكونوا يراقبونها. وهذا غياب للسيطرة. ثم تفاجأوا بما حدث."

قام دان والاش، الخبير الفني المقيم في مركز RAND للذكاء الاصطناعي والأمن والتكنولوجيا، بتصوير المشكلة على أنها فشل ذو أولوية. وقال: "أود أن أقول إنهم لا يعطون الأولوية للأمن السيبراني"، مع الإشارة إلى أن الانتقاد لا ينطبق على كل مختبر. وأضاف: "ليس من علم الصواريخ عزل أحد هذه الأشياء التي يعتمدها الذكاء الاصطناعي"، مشيرًا إلى نهجين مفهومين جيدًا: فجوة الهواء، بحيث لا يوجد مسار كهربائي لخروج البيانات، أو التحكم القوي في الخروج الذي يضمن عدم مرور أي شيء.

الأمن والأمان، مطلقة

قال الخبراء إن العائق المتكرر هو تركيز المختبرات المكثف على ما يسمونه "السلامة" - وهو نظام يتعاملون معه باعتباره منفصلاً عن الأمن السيبراني التقليدي ومتفوقًا عليه.

قال والاش: "أستطيع أن أرى كيف يبدو السلوك الأمني ​​مثل سلامة الذكاء الاصطناعي". "ولكن إذا كانت الطريقة التي تقيم بها أداة الذكاء الاصطناعي هذه هي إطلاقها على الإنترنت ورؤية ما يحدث، فهذا هو الغرض من أدوات الأمان الكلاسيكية."

قال لي من SANS الأمر بصراحة أكبر. وقال: "إذا كانت هذه المختبرات الحدودية تريد حقًا اختبار أشياءها، فإنها بحاجة إلى تعزيز عنصر الأمن السيبراني لديها". "لكن رد فعلهم الغريزي في الرد على خروج عملائهم هو القول: إنها ليست مشكلة تتعلق بالأمن السيبراني". لقد أصبحت هذه المشكلة تتعلق بالسلامة في مجال الذكاء الاصطناعي، وهي مشكلة منفصلة عن جانب الأمن السيبراني." وقال إن الأمن السيبراني يمكن أن يحتوي في الواقع على الذكاء الاصطناعي، "نحتاج فقط إلى أن نكون في الغرفة التي يحدث فيها الأمر وأن يكون لدينا مقعد على الطاولة".

الاستثناء: قطع ميسترال السريع

أشار والاش إلى مختبر ميسترال الفرنسي للذكاء الاصطناعي باعتباره مثالًا مضادًا للاستجابة الأسرع. عندما أطلقت ميسترال نموذجها الكبير 4، قالت الشركة إن النموذج حاول العمل خارج بيئة الاختبار الخاصة به - لكن ميسترال أوقفته. تشير هذه الحادثة إلى أن الفرق بين الحادث الذي تم احتواؤه والانتهاك الذي تم الكشف عنه قد يكون الانضباط التشغيلي بدلاً من القدرة النموذجية.

سؤال متزايد حول المسؤولية

تتقاطع الإخفاقات الأمنية مع صراع سياسي متصاعد حول من المسؤول عندما يتسبب العميل في حدوث ضرر. وفقًا لمنظمات المجتمع المدني، فإن صناعة التأمين تصطف بالفعل لتحميل المديرين التنفيذيين في صناعة الذكاء الاصطناعي المسؤولية عن تصرفات أنظمتهم، وقد قدم أعضاء مجلس الشيوخ الديمقراطيون تشريعات من شأنها تحميل مشغلي وكلاء الذكاء الاصطناعي المسؤولية عن حوادث القرصنة، وتقوم لجنة التجارة الفيدرالية بالتحقيق في مختبرات Anthropic وOpenAI وغيرها بشأن المخاطر التي تشكلها تقنياتها على المستهلكين.

وفي الوقت نفسه، تمسك ممثلو المختبر في جلسات الاستماع الأخيرة بموقفهم القائل بأنهم ليسوا مسؤولين عن فساد عملاء الذكاء الاصطناعي - وهو الموقف الذي وصفه الخبراء بأنه لا يمكن الدفاع عنه بالنظر إلى الثغرات الأمنية الموثقة. ولخص ماكجرو حجة المختبرات على النحو التالي: "لا ترسلوا المحامين إلينا، أرسلوهم إلى برنامجنا. إنه خطأ برنامجنا". تقييمه لهذا الموقف: "هذا مجرد درجة بكالوريوس عالية." وتساءل أيضًا عما إذا كانت حالات الفشل التشغيلية تقوض الثقة في الهندسة الأمنية الأوسع للمختبرات. وأضاف: "إنهم يعيشون داخل فقاعتهم الخاصة". "حقيقة أنهم لا يستطيعون القيام بعمليات واضحة وسهلة بشكل صحيح لا تبشر بالخير لقدراتهم في مجال الهندسة الأمنية، وهو أمر أصعب بكثير للقيام به."

ماذا يعني بالنسبة للمؤسسات التي تستخدم وكلاء الذكاء الاصطناعي

ويحمل التحليل وزنًا عمليًا بالنسبة لرؤساء أمن المعلومات، الذين يقول منظمات المجتمع المدني إنه يجب عليهم فحص بائعي الذكاء الاصطناعي لديهم وتشديد أساسيات الأمان حول عمليات نشر الوكلاء. الحوادث الموصوفة - نموذج يصل إلى البنية التحتية للإنتاج في ثلاث مؤسسات، وآخر يخترق شركة أثناء اختبار أمني، وثالث يقوم بعمليات اختراق غير موجهة - جميعها تنطوي على أنظمة أفلتت من البيئات التي كان من المفترض أن تحتوي عليها.

بالنسبة لقادة الأمن، فإن التوجيهات ملموسة: فقد أوصى ماكجرو بمساعدة خارجية في تقييم أدوات المختبرات الحدودية، والاعتماد المركزي للذكاء الاصطناعي مع تحديد المخاطر والضوابط، والاستعداد "للشيء الكبير التالي، وهو أسراب العملاء". ونصح لي بطرح الأسئلة الصحيحة على البائعين وتفضيل المختبرات التي يمكنها إثبات كفاءة حقيقية في مجال الأمن السيبراني.

إذا كان المختصون في مجال الأمن على حق، فإن السرد الشائع عن العملاء "المنحرفين" الذين لديهم عقول خاصة بهم قد يسمح للمختبرات بالخروج بسهولة: فالفشل لا يشبه الخيال العلمي بقدر ما يشبه البنية التحتية التي تم تكوينها بشكل خاطئ والتي كان من الممكن أن تكتشفها المراجعة الأمنية التقليدية.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →