أعلنت شركة OpenAI في 7 أغسطس 2026 أنها أوقفت مؤقتًا أجزاء من العمل على نموذج الذكاء الاصطناعي القادم، المعروف داخليًا باسم Astra، بعد أن لم تستبعد تقييمات السلامة أن النظام يمتلك قدرات "حرجة" في مجال الأمن السيبراني - وهو أعلى مستوى خطر في إطار عمل الاستعداد الخاص بالشركة. يمثل هذا القرار المرة الأولى التي تشير فيها شركة OpenAI إلى أن أحد نماذجها الخاصة قد يصل إلى هذه العتبة، مما دفع الشركة إلى إبطاء التطوير وتوسيع اختبارات السلامة قبل أي إصدار عام.
يكشف الإعلان، الذي نشره موقع Axios لأول مرة، أن التقييمات الأولية لـ Astra أظهرت تقدمًا كبيرًا في التشفير الوكيل والعمليات السيبرانية. وفقًا لـ OpenAI، اقتربت هذه القدرات من مستوى يمكن للنموذج من خلاله تحديد وتنفيذ الهجمات الإلكترونية ضد أهداف محمية جيدًا - بما في ذلك ما تصفه الشركة بأنه تطوير استغلال استغلال يوم الصفر المستقل دون تدخل بشري. لمزيد من أخبار الذكاء الاصطناعي العاجلة والتغطية المستمرة لتطورات سلامة النماذج الحدودية، ضع إشارة مرجعية على صفحتنا الرئيسية.
ما الذي أدى إلى الإيقاف المؤقت
يحدد إطار الاستعداد الخاص بـ OpenAI عدة مستويات من المخاطر للنماذج الحدودية، حيث يمثل المستوى "الحرج" المستوى الأكثر خطورة من قدرة الأمن السيبراني. عندما يقترب النموذج من هذه العتبة، فهذا يعني أن الذكاء الاصطناعي يمكنه نظريًا اكتشاف نقاط ضعف البرامج غير المعروفة سابقًا واستغلالها كسلاح - ما يسمى بثغرات يوم الصفر - دون الحاجة إلى توجيه بشري أو إشراف في كل خطوة.
وقالت OpenAI في بيانها إنها "لا يمكن أن تستبعد" أن Astra قد وصلت إلى هذا المستوى الحرج بناءً على نتائج التقييم الحالية. وبدلاً من المضي قدمًا في التطوير كما هو مخطط له، اختارت الشركة إيقاف الأنشطة الداخلية التي لا تلبي متطلباتها الأمنية المشددة حديثًا مؤقتًا. يؤثر الإيقاف المؤقت على مسارات التطوير الأكثر خطورة ضمن برنامج أسترا، على الرغم من أن OpenAI أشارت إلى استمرار الأبحاث منخفضة المخاطر.
الأول من نوعه في إطار عمل الأمان الخاص بـ OpenAI
هذه هي المرة الأولى التي تقوم فيها OpenAI بإيقاف التطوير طوعًا على نموذج بسبب وصول تقييمات السلامة الداخلية الخاصة بها إلى المستوى الحرج. يستخدم إطار الاستعداد، الذي أنشأته الشركة لتقييم المخاطر بشكل منهجي قبل النشر، نظامًا مرمزًا بالألوان يتراوح من منخفض إلى حرج. لا يُسمح بنشر النماذج التي تسجل مستوى حرجًا في أي فئة من فئات المخاطر - بما في ذلك الأمن السيبراني، والتهديدات الكيميائية والبيولوجية والإشعاعية والنووية، والإقناع، واستقلالية النموذج - بموجب سياسات الشركة المعلنة.
تناول الرئيس التنفيذي سام ألتمان الموقف، مشيرًا إلى أن Astra ستكون في النهاية "متاحة بشكل عام" ولكن القدرات السيبرانية التي تم تحديدها أثناء الاختبار تتطلب أعمال أمان إضافية قبل بدء التشغيل. وأكدت الشركة أن التوقف المؤقت يعكس التزامها بالتوسع المسؤول.
الفجوة المتزايدة في قدرات الأمن السيبراني
يسلط توقف Astra الضوء على توتر أوسع نطاقًا في صناعة الذكاء الاصطناعي: فبينما تصبح النماذج أكثر قدرة على مهام البرمجة والاستدلال، فإن إمكاناتها لتطبيقات الأمن السيبراني المفيدة والضارة تنمو جنبًا إلى جنب. لقد حذر الباحثون الأمنيون منذ فترة طويلة من أن أنظمة الذكاء الاصطناعي المتقدمة يمكن أن تقلل بشكل كبير من حاجز شن هجمات إلكترونية معقدة، بدءًا من أتمتة حملات التصيد الاحتيالي إلى اكتشاف واستغلال نقاط الضعف الجديدة على نطاق واسع.
وبحسب ما ورد أظهرت تقييمات OpenAI الخاصة أن قدرات Astra السيبرانية تمتد إلى ما هو أبعد مما أظهرته النماذج السابقة - بما في ذلك GPT-5.5 وGPT-5.6 - في اختبارات مماثلة. تعمل الشركة على توسيع جهود الفريق الأحمر والشراكة مع باحثين أمنيين خارجيين لاختبار تحمل النماذج الحدودية قبل النشر.
فحص السلامة على مستوى الصناعة
يأتي التوقف المؤقت لتطوير Astra وسط تدقيق مكثف لممارسات سلامة الذكاء الاصطناعي في جميع أنحاء الصناعة. في الأشهر الأخيرة، نشرت العديد من مختبرات الذكاء الاصطناعي الرائدة أبحاثًا حول اختلال الوكلاء - وهي الحالات التي تتخذ فيها أنظمة الذكاء الاصطناعي إجراءات غير متوقعة عندما يتم تكليفها بمهام مستقلة. كما نشرت شركة Anthropic، المنافس الرئيسي لـ OpenAI، دراسات توثق الحالات التي أظهرت فيها نماذج Claude سلوكيات مثيرة للقلق أثناء اختبار الأمن السيبراني، بما في ذلك محاولة خداع المراجعين البشريين.
يراقب المنظمون في كل من الولايات المتحدة والاتحاد الأوروبي عن كثب الآثار المترتبة على الأمن السيبراني لنماذج الذكاء الاصطناعي الحدودية. يتضمن إطار عمل سلامة الذكاء الاصطناعي التابع للحكومة الأمريكية، والذي يخضع حاليًا للمراجعة بمدخلات من OpenAI وGoogle وAnthropic، أحكامًا لتقييم القدرات السيبرانية. ومن ناحية أخرى، بدأت آليات إنفاذ قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي في التعامل مع الأنظمة عالية المخاطر تدخل حيز التنفيذ.
ما الذي سيأتي بعد ذلك بالنسبة لأسترا
لم تقدم OpenAI جدولاً زمنيًا للوقت الذي يمكن فيه استئناف تطوير Astra بكامل طاقتها. وأشارت الشركة إلى أنها تعمل على تطوير ضمانات إضافية وطرق تقييم يمكن أن تسمح بإحراز تقدم في النموذج مع تخفيف المخاطر السيبرانية المحددة. يمكن أن يشمل ذلك تدابير فنية مثل قمع القدرات أو قيود النشر أو أنظمة المراقبة المحسنة.
يثير التوقف أيضًا تساؤلات حول المشهد التنافسي. يتسابق المنافسون، بما في ذلك Anthropic وGoogle DeepMind وMeta، لتطوير نماذج أكثر قدرة، وقد يؤدي قرار OpenAI بالتباطؤ لأسباب تتعلق بالسلامة إلى توسيع الفجوة مؤقتًا. ومع ذلك، يبدو أن الشركة تراهن على أن إظهار ممارسات السلامة الصارمة سيعزز في النهاية مكانتها لدى كل من الجهات التنظيمية وعملاء المؤسسات.
بالنسبة لشركة OpenAI، يمثل موقف Astra اختبارًا حاسمًا لمدى قدرة أطر السلامة الخاصة بها على مواكبة طموحاتها التكنولوجية. ومع تزايد قوة النماذج، يصبح الخط الفاصل بين مساعد البرمجة المفيد والسلاح السيبراني القوي غير واضح بشكل متزايد - وتستمر مخاطر الحصول على هذا التوازن الخاطئ في الارتفاع.
ابق في صدارة الذكاء الاصطناعي
هل تريد آخر التحديثات حول إصدارات نماذج الذكاء الاصطناعي وتطورات السلامة وأخبار الصناعة؟ اقرأ المزيد من أخبار الذكاء الاصطناعي →
