استخدم المتسللون إطار عمل قرصنة سريع الظهور ومدعومًا بالذكاء الاصطناعي في عملية اقتحام استهدفت قطاع الطيران الأمريكي، حسبما أفاد ذراع استخبارات التهديدات التابع لشركة Google يوم الاثنين في النتائج التي أوردتها Nextgov. الأداة، المعروفة باسم Cairn، عبارة عن إطار عمل لاختبار الاختراق متاح للجمهور ومرتبط بمجتمع الأمن الصيني مفتوح المصدر - ويمثل ظهورها داخل عملية اقتحام حية خطوة أخرى في ترحيل الذكاء الاصطناعي العميل من العروض التوضيحية البحثية إلى عمليات تجسس حقيقية.
ولم تذكر جوجل اسم منظمة الطيران التي تم الوصول إليها، أو تذكر المعلومات التي ربما تم أخذها، أو تنسب عملية التطفل إلى حكومة معينة. يغطي التقرير على نطاق واسع النشاط الذي تمت ملاحظته خلال الربع الأخير، ويأتي وسط تغطية صناعة الذكاء الاصطناعي اليوم للأنظمة الوكيلة التي يتم إعادة توظيفها بشكل أسرع مما يستطيع المدافعون التكيف معه.
ما يمكن أن تفعله كيرن وأبناء عمومتها
يختلف Cairn عن القرصنة بمساعدة برنامج الدردشة الآلية التي سيطرت على تقارير التهديدات السابقة. بدلاً من قيام الإنسان بتوجيه مساعد الذكاء الاصطناعي خطوة بخطوة، يستخدم Cairn عملاء الذكاء الاصطناعي الذين يشاركون المعلومات مع بعضهم البعض ويقررون تقنيات القرصنة التي يجب تجربتها بعد ذلك أثناء عملهم على اختراق النظام.
وقال باحثو جوجل إن أنظمة أخرى مفتوحة المصدر - بما في ذلك ARTEX وCyberStrikeAI وPentAGI - تُستخدم الآن "لتنفيذ عمليات اقتحام متعددة المراحل بسرعة تشغيلية أكبر" مقارنة بالنشاط السابق الذي دفع فيه المتسللون يدويًا روبوتات الدردشة المدعومة بالذكاء الاصطناعي للمساعدة في الخطوات الفردية. تم وضع علامة على ARTEX بشكل منفصل في تحذير الأمن السيبراني الذي نشره مكتب التحقيقات الفيدرالي يوم الجمعة.
النتيجة الأكثر إثارة للقلق: الاستغلال الآلي بالكامل
يبرز أحد الاكتشافات في التقرير ربع السنوي. وجد باحثو Google نظامًا للمهاجمين مهيأ لدراسة إصلاحات البرامج، وتطوير الهجمات بناءً على ما تعلمه، وتنفيذ تلك الهجمات تلقائيًا - دون أي تدخل بشري في الحلقة. وقالت الشركة إن هذه هي المرة الأولى التي يحدد فيها باحثوها مهاجمين يقومون بأتمتة هذه العملية بالكامل.
والمعنى الضمني صارخ: السباق بين إصدارات التصحيح والاستغلال يمكن أن ينهار من أسابيع إلى ساعات، مما يزيد الضغط على المنظمات التي تكافح بالفعل لتثبيت التحديثات الأمنية قبل أن يصل إليها المجرمون. ولخصت صحيفة Hacker News، التي غطت نفس النتائج، هذه التقنية حيث يستخدم المتسللون عملاء الذكاء الاصطناعي لإنشاء عمليات استغلال وتشغيلها مباشرةً من تصحيحات البرامج.
وقالت الشركة، وفقًا لموقع Nextgov: "نظرًا للعائق المنخفض أمام الدخول، وسهولة دمج برمجيات استغلال الثغرات الجديدة، وإمكانات التوسع الهائلة، نعتقد أنه من المحتمل جدًا أن تستمر الجهات الفاعلة في التهديد في استخدام هذه الأطر في الحملات التي تستهدف المؤسسات على مستوى العالم".
الفرق الصينية تقوم بتصنيع التحليل؛ المجندون في كوريا الشمالية يتحولون إلى مواد اصطناعية
ويوضح التقرير أيضًا كيف تقوم الجهات الفاعلة المرتبطة بالدولة بدمج النماذج في مراحل مختلفة من عملياتها. استخدمت مجموعات القرصنة الصينية نماذج الذكاء الاصطناعي لتحليل الملفات المسروقة وإنتاج تقارير استخباراتية نهائية للعملاء. في إحدى الحالات، استخدم أحد المقاولين الذكاء الاصطناعي لترجمة وتحليل المعلومات المسروقة، ومعرفة كيفية هيكلة المنظمات المستهدفة، وتنظيم النتائج في تقارير استخباراتية - باستخدام التكنولوجيا في أعمال التفسير المعقدة التي تتبع السرقة بدلاً من السرقة نفسها.
ولاحظت جوجل أيضًا أن عملاء صينيين مشتبه بهم يقومون بتجربة أدوات القرصنة الآلية، بما في ذلك مجموعة مرتبطة بالصين تعمل على تطوير نظامها الخاص، والذي من المحتمل أن يستخدم في عمليات التجسس.
وفي الوقت نفسه، يستخدم الممثلون الكوريون الشماليون الذكاء الاصطناعي لصقل هندستهم الاجتماعية. تتعقب إحدى المجموعات Google منظمات العملات المشفرة المستهدفة في أمريكا الشمالية وأوروبا باستخدام ملفات تعريف ملفقة للمجندين. قام القائمون على التوظيف المزيفون بتوجيه الأهداف إلى خدمات الاجتماعات المزيفة، حيث قادتهم تعليمات إصلاح مشكلة فنية مفترضة إلى تشغيل تعليمات برمجية ضارة.
بمجرد الدخول، قام المهاجمون بتغيير إعدادات Claude Code - مساعد التشفير بالذكاء الاصطناعي التابع لشركة Anthropic - في مستودعات الأكواد البرمجية للشركة، بحيث يؤدي تشغيل المساعد إلى تنزيل برامج ضارة. إن استخدام أداة مطور موثوق بها كسلاح يعني أن الإجراءات الضارة تنتقل إلى مهندسي البرمجيات الذين يثقون بهم بالفعل.
وتعكس النتائج إعلان وزارة العدل الأسبوع الماضي الذي استهدف FaceStealer، وهو مخطط مكالمات فيديو وهمية في كوريا الشمالية مرتبط بسرقة أكثر من 400 مليون دولار، إلى جانب أوامر المحكمة التي تغطي أكثر من 1.2 مليار دولار مسروقة من Binance. ولم يربط تقرير جوجل النتائج التي توصل إليها بأي من الحالتين.
أصبحت عمليات التأثير أكثر أتمتة أيضًا
وبعيدًا عن التجسس والجرائم المالية، قالت جوجل إن عمليات التأثير المرتبطة بروسيا والصين وإيران تستخدم الآن بشكل روتيني نماذج الذكاء الاصطناعي لإنتاج المحتوى وأتمتة توزيعه، مما يؤدي إلى تفويض المزيد من عمل الظهور كأشخاص عاديين عبر الإنترنت إلى الآلات.
فجوة آخذة في الاتساع
وترسم النتائج مجتمعة مشكلة دفاعية تنمو مع كل إصدار مفتوح المصدر. إن أطر اختبار الاختراق مثل Cairn وARTEX وCyberStrikeAI وPentAGI هي أدوات قانونية أنشأها مجتمع الأمن ومن أجله، كما أن بنيتها الوكلاءية تجعلها مفيدة حقًا للفرق الحمراء. نفس الخصائص تجعلها أسلحة هجومية جاهزة لأي شخص يقوم بتنزيلها.
إن رسالة Google إلى المدافعين هي في الواقع افتراض تخطيطي وليس توقعًا: افترض أن التطفل التالي الذي تواجهه قد تم تنفيذه بسرعة الآلة، وعلى جدول زمني يحدده وكيل يقرأ ملاحظات التصحيح الخاصة بك قبل الانتهاء من نشرها.
---
ابقَ في طليعة الذكاء الاصطناعياحصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →