لقد أثبت فريق من الباحثين المستقلين أن نماذج الذكاء الاصطناعي يمكن أن تحمل قدرات مخفية كاملة الوظائف ومضمونة رياضيًا لتجنب الكشف، حتى عندما يكون لدى المدققين إمكانية الوصول الكامل إلى أوزان النموذج. تم نشر الورقة، التي تحمل عنوان "نماذج الذكاء الاصطناعي يمكن أن تخفي القدرات التعسفية"، على arXiv في 9 أكتوبر 2026 بواسطة أنديس دراجونز وسوميت راميش موتواني وريموند دوغلاس وكريستيان شرودر دي ويت، وقد لفتت انتباهًا كبيرًا على Hacker News هذا الأسبوع بعد ظهورها على الصفحة الأولى للموقع.

ويضرب هذا العمل الافتراض الأساسي لممارسات السلامة الحديثة في مجال الذكاء الاصطناعي: وهو أن السلوكيات الخطيرة يمكن أن تظهر على السطح قبل نشرها من خلال تقييمات القدرات، التي تختبر نموذجًا باختبارات مصممة لاستخلاص كل ما يمكنه فعله. ويبين المؤلفون أن هذا الافتراض ينهار في ظل ظروف الخصومة. وكما تقول الدراسة، فإن موثوقية تقييمات القدرات "تعتمد على افتراض إمكانية استنباط القدرات المخفية" - وهي تشن هجمات حيث فشل هذا الافتراض بشكل مؤكد. بالنسبة للقراء الذين يتابعون [أحدث تطورات الذكاء الاصطناعي] (https://aibuzzwire.news) في أبحاث السلامة، تعد هذه الورقة واحدة من أقوى العروض الرسمية حتى الآن على أن النموذج القادر، من حيث المبدأ، يمكنه اجتياز تقييماته مع إخفاء ما يمكنه فعله بالفعل.

كيف يعمل نظام الإخفاء

قام الباحثون ببناء هجمات خلفية تقوم بتضمين ما يسمونه الشبكات العصبية المشفرة داخل أوزان النموذج المضيف. وتوجد الشبكة المخفية هناك في شكل مشفر، ولا تساهم بأي شيء في السلوك المرئي للنموذج، حتى تتلقى مشغلًا سريًا. عند هذه النقطة، يقوم النموذج بفك تشفير الدائرة المخفية وتنفيذها.

آلية التشفير الموجودة في قلب البناء هي ما يسميه المؤلفون الخزائن الرقمية. وفي ظل افتراضات التشفير القياسية، فإن هذه الخزائن تجعل من الصعب استخلاص الدوائر المخفية وتفسيرها - حتى بالنسبة للمدقق الذي لديه حق الوصول الكامل إلى أوزان النموذج. بمعنى آخر، لا يعتمد الإخفاء على كون الإخفاء دقيقًا أو يصعب اكتشافه. ويعتمد على ضمانات الصلابة الرياضية من نفس النوع الذي يحمي الاتصالات المشفرة.

يعد هذا امتدادًا للعمل السابق في هذا المجال، والذي أظهر أن النماذج يمكنها إخفاء سلاسل ثابتة، مثل كلمات المرور أو الرسائل القصيرة. تحرك الورقة الجديدة أهدافها إلى حد كبير: ما يمكن إخفاؤه الآن هو حسابات اعتباطية - قدرة كاملة عاملة وليس سرًا ثابتًا.

تم اختباره مقابل تقنيات التدقيق الحقيقية

قام الفريق بتنفيذ إنشاءات إثبات المفهوم الخاصة بهم في PyTorch ثم هاجموها باستخدام مجموعة الأدوات القياسية لتدقيق النماذج. اختبرت التقييمات الاستنباط من خلال الضبط الدقيق، وضجيج الوزن، والبحث عن المحفزات القائم على التدرج، والتدريب على الخصومة الكامنة - وهي مجموعة من التقنيات التي تمثل مدى جدية المدققين في محاولة استخلاص السلوك الخفي من نموذج مشبوه.

كانت مهمة الاختبار عبارة عن مشكلة صغيرة للتنبؤ بالتفاعل الكيميائي، تم اختيارها عمدًا كبديل للقدرات ذات المخاطر الواقعية: تعد مهام التنبؤ الكيميائي بديلاً للمهارات ذات الصلة بالمواد الكيميائية والبيولوجية والإشعاعية والنووية، وهي فئة القدرات التي تهتم بها تقييمات ما قبل النشر أكثر من غيرها. لقد قاومت التطبيقات الخفية جميع أساليب الاستنباط التي أُلقيت عليها.

إلى جانب ضمانات التشفير، يرى المؤلفون أن نتائجهم تكشف عن حد أساسي لعمليات تدقيق القدرة القائمة على الاستنباط. إذا كان لدى مطور النموذج - أو طرف ثالث ضار تلاعب بنموذج - حافز لإخفاء إحدى الإمكانيات، فقد لا تتمكن عمليات التدقيق التي تعتمد على استخلاص السلوك من العثور عليه.

لماذا هذا مهم لسلامة الذكاء الاصطناعي

أصبحت تقييمات القدرات جزءًا قياسيًا من كيفية تحديد مختبرات الذكاء الاصطناعي الحدودية ما إذا كانت النماذج آمنة للإصدار. ولا تدعي الورقة أن نماذج الإنتاج تخفي القدرات حاليًا بهذه الطريقة. بل إنه يوضح أن طبقة التدقيق نفسها تعاني من ضعف بنيوي: فالخصم الذي يتحكم في تدريب النموذج يستطيع من حيث المبدأ أن يدمج قدرات لا يمكن لأي قدر من التحقيق أن يكشف عنها.

وتقطعت الآثار في عدة اتجاهات. بالنسبة للمختبرات، فإن هذا يعزز حالة جنون العظمة فيما يتعلق بأمان سلسلة التوريد حول أوزان النماذج - فنقطة التفتيش ذات الباب الخلفي لا تمثل خطرًا على الموثوقية فحسب، بل قد تكون غير قابلة للاكتشاف. بالنسبة للمدققين والهيئات التنظيمية، يشير هذا إلى أن التقييمات التي تعتمد بشكل كامل على عينات السلوك قد تحتاج إلى استكمالها بضمانات أقوى حول كيفية تدريب النماذج والتعامل معها. وبالنسبة لمجتمع البحث، فهو يحدد تحديًا دفاعيًا ملموسًا: فقد أصدر المؤلفون نماذجهم علنًا خصيصًا لدعم تحسين الدفاعات ضد هذا النوع من الهجوم.

وتحمل هذه الورقة أيضًا أثرًا فلسفيًا أوسع نطاقًا. يعتمد جزء كبير من سلامة الذكاء الاصطناعي على فكرة أننا قادرون على اختبار طريقنا نحو الثقة، وأن العمل الجماعي الكافي سيجد ما يمكن أن يفعله النموذج. إن آلية الإخفاء التي يمكن إثباتها لا تجعل الاختبار عديم الفائدة، ولكنها تعني أن اجتياز كل اختبار لم يعد من الممكن التعامل معه كدليل على عدم وجود شيء يمكن العثور عليه. ومع ازدياد قدرة النماذج الرائدة وأكثر استقلالية، فإن هذه الفجوة بين ما يمكن أن تظهره عمليات التدقيق وما قد تحتويه النماذج هي بالضبط نوع المشكلة التي سيضطر المجال إلى أخذها على محمل الجد.

تتوفر الورقة الكاملة للمؤلفين، بما في ذلك إنشاءات التشفير وتفاصيل التقييم، على arXiv، وتمنح نماذج إثبات المفهوم التي تم إصدارها للمدافعين نقطة انطلاق ملموسة لبناء أساليب الكشف التي تعمل ضد الإخفاء على طراز الخزانة الرقمية.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →