قامت OpenAI بإبطاء إصدار نموذج Astra القادم بعد أن أظهر النموذج قدرات أمان سيبراني قوية بما يكفي لإثارة توقف داخلي، حسبما أكدت الشركة في 7 أغسطس 2026. وبحسب ما ورد اقتربت Astra مما يصنفه OpenAI على أنه عتبة المخاطر السيبرانية "الحرجة"، مما يجعلها أول نموذج يقترب من هذا المستوى ضمن إطار السلامة الخاص بالشركة.

للحصول على أحدث الأخبار وتغطية السياسات المتعلقة بسلامة الذكاء الاصطناعي، تفضل بزيارة AI Buzz Wire.

ماذا حدث

أبلغت Axios عن التطور لأول مرة في 7 أغسطس، ووصفته بأنه كشف حصري عن أن OpenAI كانت تبطئ إصدار Astra بسبب القدرات السيبرانية. وصفت The Verge الموقف بأنه قيام OpenAI بكبح نموذج جديد لأنه كان يعتبر قويًا للغاية في بعض المجالات ذات الصلة بالأمن.

ذكرت بلومبرج أن OpenAI أوقفت مؤقتًا بعض العمل على نموذج Astra على وجه التحديد بسبب المخاوف السيبرانية. وأكدت صحيفة الغارديان أن الإيقاف المؤقت يتعلق باعتبارات أمنية حول قدرات النموذج.

استجابة OpenAI

نشرت شركة OpenAI منشورًا على مدونة بعنوان "الاستجابة للحدود التالية للقدرات السيبرانية المهمة" في 7 أغسطس، توضح فيه نهجها في إدارة النماذج التي تقترب من العتبات الخطيرة في مجالات الأمن السيبراني.

ذكرت مجلة فوربس في 9 أغسطس أن OpenAI أوقفت Astra مؤقتًا بعد أن اقترب النموذج من أول مستوى خطر إلكتروني "حرج" على الإطلاق ضمن إطار الاستعداد الخاص بالشركة. يمثل هذا لحظة مهمة في حوكمة سلامة الذكاء الاصطناعي، حيث لم يقترب أي نموذج سابق من هذا التصنيف.

ذكرت CNBC في 10 أغسطس أن OpenAI شددت الضوابط على النموذج الجديد مع اشتداد النقاش الأوسع حول أمن الذكاء الاصطناعي. وأشارت الشبكة إلى أن القرار يأتي وسط سلسلة من عمليات اختراق نماذج الذكاء الاصطناعي والتدقيق المتزايد لكيفية تعامل النماذج الحدودية مع مهام الأمن السيبراني.

عتبة القدرة الحرجة

يصنف إطار الاستعداد الخاص بـ OpenAI المخاطر النموذجية عبر عدة مجالات، بما في ذلك الأمن السيبراني، ويعين مستويات المخاطر التي تتراوح من منخفضة إلى حرجة. يمثل المستوى الحرج القدرات التي يمكن أن تساعد بشكل مفيد في الهجمات الإلكترونية المعقدة، مثل اكتشاف نقاط الضعف الجديدة، أو كتابة أكواد الاستغلال، أو أتمتة العمليات الهجومية على نطاق واسع.

وفقًا لـ Help Net Security، قامت OpenAI بإغلاق Astra بسبب القدرات السيبرانية الهامة المحتملة. يتطلب إطار عمل الشركة إجراءات سلامة إضافية وتقييمات ومراجعة خارجية محتملة قبل إصدار نموذج بهذا المستوى من المخاطر.

إن حقيقة اقتراب أسترا من هذه العتبة تعكس التقدم السريع للنماذج الحدودية. ومع ازدياد قدرة النماذج على البرمجة والاستدلال وتحليل الأنظمة، فإن فائدتها المحتملة في كل من الأمن السيبراني الدفاعي والهجومي تنمو بشكل متناسب.

لماذا هذا مهم

يمثل توقف Astra حالة اختبار مهمة لالتزامات السلامة الطوعية للذكاء الاصطناعي. يوضح قرار OpenAI بإبطاء إصدار النموذج الرئيسي بناءً على تقييمات السلامة الداخلية أن عتبات القدرة الحدودية ليست مجرد بنيات نظرية. يتم تحفيزها بواسطة نماذج حقيقية.

ويأتي هذا التطور في وقت يتزايد فيه القلق بشأن التهديدات السيبرانية التي يدعمها الذكاء الاصطناعي. لاحظت Hacker News أن النموذج التالي لـ OpenAI أظهر أداءً إلكترونيًا قويًا بما يكفي لإيقافه مؤقتًا. يراقب مجتمع الأمن السيبراني عن كثب ما إذا كان من الممكن استخدام نماذج الذكاء الاصطناعي الرائدة لأتمتة اكتشاف الثغرات الأمنية أو إنشاء أكواد استغلال على نطاق واسع.

قدمت Gizmodo إطارًا أكثر تشككًا، مما يشير إلى أن أقوى النماذج ليست هي الوحيدة القادرة على التسبب في حوادث كبيرة تتعلق بالأمن السيبراني، مشيرة إلى أن النماذج الأقل تورطت بالفعل في هجمات في العالم الحقيقي.

سياق السياسة الأوسع

يصل توقف Astra وسط مشهد تنظيمي مكثف. ويتضمن قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي أحكاما خاصة بأنظمة الذكاء الاصطناعي عالية المخاطر، وتعمل الولايات المتحدة على تطوير إطارها الخاص لإدارة قدرات الذكاء الاصطناعي الحدودية. يلاحظ مراقبو الصناعة أن التوقفات الطوعية للسلامة من قبل شركات مثل OpenAI يمكن أن تساعد في تحديد الأساليب التنظيمية المستقبلية.

ويثير القرار أيضًا أسئلة تنافسية. إذا أبطأت OpenAI إيقاع إصدارها بسبب مخاوف تتعلق بالسلامة بينما يتحرك المنافسون بشكل أسرع، فقد تتغير ديناميكيات السوق. ومع ذلك، يبدو أن OpenAI تراهن على أن النشر المسؤول سيبني ثقة طويلة الأمد مع عملاء المؤسسات والجهات التنظيمية.

ما يأتي بعد ذلك

لم تعلن OpenAI عن جدول زمني منقح لإصدار Astra. يشير منشور مدونة الشركة إلى أنها تعمل على تطوير أساليب تقييم جديدة وبروتوكولات أمان مصممة خصيصًا للنماذج التي تقترب من مستويات القدرة السيبرانية الحرجة.

يسلط التوقف المؤقت الضوء أيضًا على التوتر المتزايد في صناعة الذكاء الاصطناعي. ومع ازدياد قدرة النماذج، يصبح من الصعب على نحو متزايد رسم الخط الفاصل بين أدوات الأمن السيبراني المفيدة والقدرات الهجومية الخطيرة. إن الطريقة التي تتنقل بها الشركات في هذا الخط قد لا تحدد فقط خرائط طريق المنتجات الخاصة بها، بل أيضًا شكل حوكمة الذكاء الاصطناعي لسنوات قادمة.

البقاء في صدارة الذكاء الاصطناعي

للحصول على تغطية متعمقة لسياسة الذكاء الاصطناعي والسلامة وتطورات النماذج الرائدة، تابع AI Buzz Wire.

اقرأ المزيد من أخبار الذكاء الاصطناعي