اخترق متسلل واحد أكثر من 100 موقع ويب باستخدام جيش من عملاء الذكاء الاصطناعي الذين نفذوا الهجمات دون مشاركة تذكر من المشغل البشري، وفقًا للنتائج التي توصلت إليها شركة نورفورج لأمن الذكاء الاصطناعي والتي نشرتها رويترز وذا فيرج يوم الاثنين. وكان من بين الضحايا شركات مشهورة مثل John Deere وSharkNinja وCummins، مما يؤكد مدى سرعة انتقال عملاء الذكاء الاصطناعي المستقلين من العروض البحثية إلى الأدوات الإجرامية العملية.

كيف تم اكتشاف الهجمات لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي المستمرة.

كشفت Norforge عن الحملة من خلال العمل المكشوف على Cairn، وهي منصة مفتوحة المصدر للذكاء الاصطناعي تصف نفسها بأنها "محرك للأغراض العامة لحل المشكلات". باستخدام Cairn، يقوم المستخدمون بتعيين نقطة البداية والنهاية لعملاء الذكاء الاصطناعي، الذين يقومون بعد ذلك بتوثيق تقدمهم أثناء عملهم نحو الهدف. إن مرونة النظام الأساسي هي النقطة المهمة: فنفس طبقة التنسيق التي تسمح للوكلاء بتخطيط وتنفيذ المهام المشروعة المعقدة يمكن أيضًا توجيهها إلى المهام غير المصرح بها.

عثرت شركة Norforge على أكثر من 20 حالة من حالات Cairn المكشوفة التي حكمت عليها بأنها "خبيثة على الأرجح"، وكان المتسلل الذي يقف وراء أكثر من 100 انتهاك هو المشغل الأكثر نشاطًا من بينها. وبحسب رويترز، استهدفت الهجمات شركات مقرها في الولايات المتحدة وكندا وأستراليا واليابان.

كان حجم المشاركة البشرية صغيرًا بشكل لافت للنظر. وذكرت رويترز أن المهاجم عرض أساليب التطفل المفضلة بأقل من 100 حرف صيني - وهو وصف مهمة أقصر من رسالة بريد إلكتروني نموذجية - وبعد ذلك أدار العملاء العمليات بمفردهم إلى حد كبير. وقال التقرير إن الانتهاكات الناجحة استغرقت حوالي 23 ساعة من البداية إلى النهاية.

من حصل على الضربة

ولم تذكر شركة Norforge الأهداف، لكن رويترز حددت شركات من بينها John Deere وSharkNinja وCummins من بين الضحايا. وقد استجابت المنظمات المتضررة بحذر.

وفي بيان لصحيفة The Verge، قالت المتحدثة باسم شركة Cummins، ميليندا كوسكي، إن الشركة "تحقق في تقرير عن هجوم إلكتروني محتمل على موقع ويب يديره أحد البائعين الخارجيين لدينا". وقال متحدث باسم شركة جون ديري لرويترز إنه "لا يوجد ما يشير إلى أنه تم الوصول إلى معلومات حساسة" في الهجوم. قال SharkNinja إن الاختراق أثر على موقع مستقل يستضيف معلومات دعم المنتج وأنه يحتوي على التهديد.

يشير هذا النمط - مواقع البائعين والدعم التي تواجه الجمهور بدلاً من شبكات الشركات الأساسية - إلى أن الحملة التي تعتمد على الذكاء الاصطناعي أعطت الأولوية للاتساع وإمكانية الوصول على حساب العمق، على الأقل في هذه الحالات. ويوضح أيضًا كيف أصبحت البنية التحتية للويب التابعة لجهات خارجية هي نقطة الدخول السهلة للهجمات التي يحركها الوكيل.

المنصة في المركز

عارض منشئ Cairn، الذي يستخدم المقبض @le1xia0، وصف الأداة بأنها برامج ضارة مجاورة. وفي وقت سابق من هذا الشهر، قال المبتكر إن المنصة "لم تكن أبدًا" أداة قرصنة"، مضيفًا أن "سوء الاستخدام هو قرار بشري، وليس سمة من سمات المحرك".

هذا التمييز يقوم بالكثير من العمل. Cairn متاح بشكل مفتوح ولأغراض عامة من حيث التصميم، تمامًا مثل ما تقدمه مختبرات أطر عمل الوكيل للأتمتة الشرعية. تقول شركة Norforge إنها تعمل على إزالة مثيلات Cairn الخبيثة، لكن هذه الحلقة توضح المشكلة الهيكلية: عندما تقوم منصات الوكلاء بتوثيق تقدمها نحو الأهداف التي حددها المستخدم، يحصل المدافعون على مسار لتحليله - ويحصل المهاجمون على قواعد لعب قابلة للتكرار.

عام من التحذيرات الأمنية لوكلاء الذكاء الاصطناعي

يقع التقرير وسط سلسلة من العناوين الرئيسية المتعلقة بأمن العملاء والتي دفعت القضية من النظرية إلى العملية. وقد نشرت الحكومات إرشادات حول اكتشاف وإغلاق عملاء الذكاء الاصطناعي المارقين، وقامت شركات الأمن بفهرسة محاولات عملاء الذكاء الاصطناعي لاختراق المواقع الحكومية، وكشفت المختبرات نفسها عن حوادث اندلعت فيها نماذجها الخاصة من بيئات الاختبار أثناء تقييمات الأمن السيبراني. ويضع تقرير The Verge النتائج التي توصلت إليها Norforge في هذا المشهد بالضبط: المتسللون الذين يستخدمون الذكاء الاصطناعي لشن هجمات واسعة النطاق من جهة، والعملاء المارقون الذين يهربون من بيئات الاختبار من جهة أخرى.

ما يجعل نتائج نورفورج مختلفة هو الاقتصاد. أنتج شخص واحد، وبضعة آلاف من الدولارات من الحوسبة، وإطار وكيل للأغراض العامة، انتهاكات على نطاق كان يتطلب في السابق طاقمًا. وقد وضعت تقارير رويترز إنفاق المتسللين في هذا النطاق بالضبط، وهو حد أدنى للتكلفة منخفض بدرجة كافية بحيث يتوقع الباحثون الأمنيون أن تتضاعف الهجمات التي يحركها الوكيل حتى لو لم يتم إنشاء أدوات جديدة.

ما يمكن أن يفعله المدافعون

بالنسبة للمدافعين، فإن الخلاصة العملية هي إجرائية. تبدو الحملات التي يقودها العملاء مختلفة عن عمليات الاقتحام التقليدية: فهي تتسم بالصبر والمنهجية والموثقة جيدًا، وتتحقق من الأهداف على مدار ساعات بدلاً من إطلاق ثغرة واحدة. يجب أن تفترض فرق الأمن أن المهاجمين يمكنهم تشغيل عمليات مستقلة تستمر لعدة أيام، ويجب أن يربطوا الحالات الشاذة عبر البائعين الخارجيين - لأن هذا هو بالضبط كيف تكشفت الانتهاكات التي استمرت 23 ساعة، من خلال المواقع التي يديرها البائعون بدلاً من الشبكات الأساسية للشركات.

تحمل حلقة Cairn أيضًا درسًا للنظام البيئي للعميل نفسه. تعد المنصات التي تسمح للوكلاء بالتخطيط لتحقيق أهداف مفتوحة وتوثيق التقدم الذي يحرزونه، فعالة للأتمتة المشروعة - ومقروءة بنفس القدر للمهاجمين. لقد أصبحت القدرة دون ضوابط سوء الاستخدام مسؤولية سلسلة التوريد لحركة الذكاء الاصطناعي مفتوحة المصدر بأكملها، ويعد عمل الإزالة الذي قامت به شركة Norforge بمثابة فجوة مؤقتة، وليس إصلاحًا.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →