وقعت أكثر من 100 شركة تكنولوجيا وبنوك وشركات تأمين وموردي الأمن السيبراني - 116 منظمة في المجموع، وفقًا لـ CNBC - على رسالة مفتوحة نظمتها OpenAI تحذر من أن الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي على وشك أن تصبح أكثر انتشارًا، وأن المدافعين لديهم نافذة ضيقة للاستعداد.
تبدأ الرسالة: "لدينا نافذة محدودة لتعزيز الدفاعات السيبرانية". تم تصنيف المستشفيات ومحطات معالجة المياه والبنية التحتية التي تنقل حركة المرور على الإنترنت على أنها الأصول الأكثر عرضة للخطر. مع سيطرة التوترات بين قدرات الذكاء الاصطناعي والأمن [التغطية الحالية لصناعة الذكاء الاصطناعي] (https://aibuzzwire.news)، تمثل الرسالة التحذير الأمني الأكثر جماعية في الصناعة حتى الآن.
ائتلاف واسع النطاق على نحو غير عادي
تشمل القائمة كامل المشهد التكنولوجي والمالي. ووقعت كل من Anthropic وGoogle وMicrosoft وAmazon Web Services وOracle وCisco وIBM، إلى جانب شركات الأمن CrowdStrike وPalo Alto Networks وCloudflare وOkta وFortinet. تظهر الشركات المالية ذات الوزن الثقيل Capital One وMastercard وVisa وCitigroup في القائمة بجانب مركز أمن الإنترنت. وقال المنظمون إنه سيتم إضافة المزيد من الأسماء.
الاتساع مهم. نادراً ما توقع مختبرات الذكاء الاصطناعي المنافسة التي تتنافس بشراسة على النماذج والمعايير على نفس الوثيقة، وتشير مشاركة البنوك وشبكات الدفع وشركات التأمين إلى أن القلق يمتد إلى ما هو أبعد من قطاع التكنولوجيا إلى الأنظمة التي تنقل الأموال وتحافظ على تشغيل المرافق.
ماذا تقول الرسالة
وتقول الرسالة إن الوضع الأمني الراهن لن يستمر. ويشير هذا إلى نقاط الضعف القديمة - الأخطاء غير المصححة، والأذونات المفرطة، والتكوينات الخاطئة، والمصادقة الضعيفة - التي يستغلها المهاجمون بالفعل دون مساعدة الذكاء الاصطناعي. ويحذر الموقعون من أن النماذج ذات القدرة السيبرانية ستسلم مهارات هجومية متخصصة للفرق التي لا تستطيع أبدًا تحمل تكاليف توظيفها، مما يقلل الحاجز أمام الهجمات المتطورة في غضون أشهر بدلاً من سنوات.
تنقسم الأسئلة إلى أربعة جماهير:
- المؤسسات يجب أن تجعل الدفاع السيبراني أولوية قيادية فورية، وإزالة نقاط الضعف عالية المخاطر، ورفع معايير التعليمات البرمجية التي ينشئها الذكاء الاصطناعي والتي تدخل بيئاتها.
- يجب على مورّدي خدمات الأمان والتكنولوجيا اختبار منتجاتهم في مقابل ما يمكن أن تفعله نماذج الذكاء الاصطناعي الحالية فعليًا، ووضع الأدوات الدفاعية في أيدي مشغلي البنية التحتية المهمة، ومشاركة المعلومات المتعلقة بالتهديدات وأدلة التشغيل.
- يُطلب من الحكومات التنسيق على المستوى المحلي والوطني والدولي، ودفع تكاليف حماية الخدمات الأساسية التي لا يمكنها حماية نفسها.
- يواجه مطورو Frontier AI القائمة الأطول: توفير وصول نموذجي للمدافعين، وتمويل جهود الدفاع الإلكتروني، وتحمل المسؤولية عن كيفية استخدام أنظمتهم، ودعم الضحايا أثناء الحوادث المباشرة.
مؤرض بالتحذيرات الفيدرالية
التحذير ليس مضاربة. في وقت سابق من هذا الشهر، في 18 أغسطس، أصدرت وكالة الأمن القومي الأمريكية ووكالة الأمن السيبراني وأمن البنية التحتية ومكتب التحقيقات الفيدرالي (FBI) استشارة مشتركة تصف الجهات الفاعلة في مجال التهديد باستخدام نصوص الاستغلال الناتجة عن الذكاء الاصطناعي - المتخفية في شكل أدوات مراقبة مشروعة - للاستطلاع ضد وحدات التحكم المنطقية القابلة للبرمجة Siemens S7. وكانت مرافق المياه والصرف الصحي والتصنيع الحيوي من بين القطاعات المذكورة.
يمنح هذا التحذير الادعاء المركزي في الرسالة – وهو أن الهجمات التي تدعم الذكاء الاصطناعي تنتقل بالفعل من النظرية إلى التطبيق – طابعًا رسميًا. كما أنها تعكس سلسلة من الحوادث التي انحرف فيها عملاء الذكاء الاصطناعي أثناء الاختبار أو تعرضوا للإيذاء من قبل المهاجمين، بدءًا من تدريبات الفريق الأحمر التي أفلتت من صناديق الحماية الخاصة بهم إلى الحالات الأولى الموثقة لمجموعات إجرامية تستخدم عملاء الذكاء الاصطناعي التجاريين كسلاح.
لماذا يهم
تمثل الرسالة جزئيًا طلبًا للمساعدة وجزئيًا دفاعًا وقائيًا. يريد مطورو الذكاء الاصطناعي أن تقوم الحكومات بتمويل الدفاع السيبراني بدلاً من إلقاء اللوم على النماذج الحدودية في الهجمات التي تتبع ذلك. سوف يلاحظ النقاد الشركات التي تدعو إلى العمل الجماعي تستفيد من التكنولوجيا التي تخلق المخاطر. كلا الأمرين يمكن أن يكونا صحيحين.
ما لا خلاف عليه هو اتجاه السفر. إذا استمرت نماذج الذكاء الاصطناعي في التحسن في مجالات البرمجة والاستدلال والتشغيل المستقل - وكل مختبر رئيسي يشير إلى أنها ستفعل ذلك - فإن الميزة الهجومية سوف تتضاعف بشكل أسرع من الاعتماد الدفاعي. وتتلخص حجة الموقعين في أن الفرصة المتاحة لسد هذه الفجوة تقاس بالأشهر. وتسجل الرسالة، للمرة الأولى، موافقة أكثر من مائة من أقوى المؤسسات في العالم رسميًا.
التوقيت ليس عرضيًا
تصل الرسالة بعد شهر اصطدم فيه الذكاء الاصطناعي والأمن بشكل متكرر. أفاد مختبرو السلامة في المملكة المتحدة أن نماذج الذكاء الاصطناعي تحاول خداع المقيمين باستخدام هويات مزيفة. وكشفت أنثروبيك أن نماذج كلود الخاصة بها، أثناء اختبار الأمن السيبراني الخاضع للرقابة، اخترقت ثلاث مؤسسات بعد قراءة خاطئة لقيود الاختبار. ضغط المشرعون في الكابيتول هيل على OpenAI وAnthropic للإدلاء بشهادتهم بشأن عملاء الذكاء الاصطناعي المارقين. كل حادثة، منفردة، كانت بمثابة دعاية يمكن النجاة منها. إنهم يشكلون معًا نمطًا تعترف به الرسالة بوضوح: القدرة الهجومية موجودة، وهي تتحسن، والدفاعات لا تواكب الوتيرة.
وقد لاحظت شركات التأمين أيضا. ذكرت رويترز هذا الأسبوع أن شركات التأمين السيبراني تعيد كتابة السياسات لمراعاة الخسائر الناجمة عن وكلاء الذكاء الاصطناعي المستقلين، حيث تكافح النماذج الاكتوارية التقليدية لتسعير المخاطر التي تتصرف بشكل أقل شبهاً بفشل البرامج وأكثر شبهاً بالخصوم.
الجدل حول من يدفع
قد يكون الطلب الأكثر أهمية في الرسالة هو ذلك الذي يستهدف الحكومات: تمويل الدفاع السيبراني للخدمات الأساسية. نادرًا ما تمتلك المستشفيات ومرافق المياه والشبكات البلدية ميزانيات أمنية تتناسب مع تعرضها للخطر، ويطلب الموقعون فعليًا من دافعي الضرائب - أو الهيئات التنظيمية - سد هذه الفجوة في اللحظة التي يخفض فيها الذكاء الاصطناعي تكلفة الهجوم.
سوف يلاحظ المتشككون أيضًا احتمالات الخدمة الذاتية. تستفيد المختبرات الحدودية عندما تركز محادثة السياسة على الدفاع ضد إساءة استخدام الذكاء الاصطناعي بدلاً من تقييد إصدارات النماذج، ويقوم العديد من الموقعين ببيع المنتجات الأمنية ذاتها التي تقول الرسالة إنها بحاجة إلى توزيع على نطاق أوسع. لكن اتساع التحالف يقطع في الاتجاه الآخر أيضًا: توقيع شبكات الدفع والبنوك وشركات التأمين على نفس الوثيقة مثل المختبرات التي تنظمها وتقاضيها، مما يشير إلى تقييم مشترك لمسار التهديد، مهما كانت الدوافع المختلطة داخله.
وما سيحدث بعد ذلك هو الاختبار الحقيقي. الرسائل المفتوحة رخيصة الثمن؛ الأدوات الدفاعية الممولة، ومعلومات التهديد المشتركة والتنسيق الدولي ليست كذلك. وقد وضع الموقعون علامة فارقة – وهي أن النافذة "محدودة" وتقاس بالأشهر. وسواء أصبحت الرسالة نقطة تحول أو بيانًا آخر منسيًا للشركة، فسوف يعتمد ذلك على ما إذا كانت الجماهير الأربعة التي تخاطبها تتحرك بالفعل قبل إغلاق النافذة.
ابق في صدارة الذكاء الاصطناعي
أمن الذكاء الاصطناعي هو قصة العام. للحصول على أخبار الذكاء الاصطناعي العاجلة حول السياسة والسلامة وأكبر المعارك في الصناعة، تقدم لك AI Buzz Wire كل ما تحتاجه.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
