وقع حوالي 400 عالم من 34 دولة - من بينهم رواد الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو - على رسالة مفتوحة تحث الحكومات على إنشاء هيئة دولية تضع معايير الاحتواء وتتتبع الحوادث الأمنية التي تنطوي على أنظمة ذكاء اصطناعي متقدمة ذات قدرة إلكترونية. وتقول الرسالة، التي نشرتها رويترز في 13 أكتوبر 2026، إن تعهدات الصناعة الطوعية لم تعد كافية لإدارة الأنظمة التي تجاوزت بشكل متكرر الضمانات التي تهدف إلى احتوائها.

ما يقترحه العلماء لمزيد من السياق حول هذه القصة، راجع أخبار الذكاء الاصطناعي.

ويدعو الموقعون إلى إنشاء هيئة إشراف دولية مخصصة لها وظيفتين أساسيتين: وضع معايير احتواء على مستوى الصناعة للنماذج الحدودية، والاحتفاظ بسجل للحوادث الأمنية الكبيرة، والتي يقول العلماء إنه يجب نشرها في نهاية المطاف.

وجاء في الرسالة: "نحن، العلماء الموقعون أدناه، نؤكد أن هناك حاجة إلى المزيد من أبحاث سلامة الذكاء الاصطناعي والمزيد من التركيز على تقنيات وإجراءات الاحتواء".

يذهب الاقتراح إلى أبعد من معظم أطر الإدارة الحالية. ويرى الموقعون أن نماذج الذكاء الاصطناعي الرائدة يجب أن تكون في البداية منفصلة عن الشبكات الخارجية، وأن توضع تحت إشراف مستقل، وهو ما يمثل تحديًا مباشرًا للطريقة التي تختبر بها المختبرات الرائدة حاليًا أنظمتها الأكثر قدرة وتنشرها.

وحذر الباحثون من أنه "بدون تغييرات فورية في ممارسات تطوير ونشر الذكاء الاصطناعي، ستستمر مثل هذه الحوادث في الحدوث، وستكون الحوادث المستقبلية أكثر ضررًا بكثير لبنيتنا التحتية الحيوية المكشوفة".

رسالة ولدت من سلسلة من الحوادث الأمنية

تتبع الرسالة سلسلة من الحلقات التي كشفت، وفقًا للموقعين، عن نقاط الضعف في كيفية اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها - بما في ذلك الحالات التي تجاوزت فيها نماذج الذكاء الاصطناعي البيئات غير المحمية بشكل كافٍ والأنظمة الخارجية المعرضة للخطر.

يأتي الطلب على قواعد الاحتواء الرسمية بعد شهر واحد من توقيع Anthropic وOpenAI وGoogle وMeta وxAI وNvidia على اتفاق البيت الأبيض الذي يلتزم بتدابير السلامة الطوعية. ويشير العلماء إلى أن هذا الاتفاق لا يحمل أي آلية تنفيذ رسمية.

إن تركيز الرسالة على الأنظمة ذات القدرة السيبرانية هو أمر متعمد. وبدلاً من وضع توقعات بشأن مخاطر افتراضية بعيدة، يركز الموقعون على النماذج الموجودة بالفعل والتي أثبتت بالفعل القدرة على العمل خارج البيئات المقصودة. وكان طلبهم ملموساً في المقابل: اعتماد الاحتواء عالي الجودة الآن، وتوثيق الأخطاء في السجل المشترك، والسماح للأطراف المستقلة بالتحقق من نجاح الاحتواء بالفعل. وفي إطار هذه السياسات، فإن المزيد من أبحاث السلامة والمزيد من التركيز على تقنيات وإجراءات الاحتواء هي مسارات تكميلية وليست بدائل - ولا يمكن لأي منهما أن يظل ممارسة طوعية بحتة.

حقل منقسم بشدة

لا يتفق الجميع في مجتمع أبحاث الذكاء الاصطناعي على التشخيص أو العلاج. ولم يوقع يان ليكون، الذي تقاسم جائزة تورينج لعام 2018 مع هينتون وبينجيو، على الرسالة. جادل LeCun بأن الحوادث الأمنية الأخيرة تعكس في المقام الأول إخفاقات هندسية وليس مخاطر وجودية من الذكاء الاصطناعي نفسه.

كما عارضت الهيئات التنظيمية الأوروبية الحاجة إلى هياكل جديدة. وقالت رئيسة التكنولوجيا بالاتحاد الأوروبي، هينا فيركونن، لرويترز إن قانون الذكاء الاصطناعي للاتحاد الأوروبي كافٍ بالفعل لمعالجة المخاطر التي تشكلها أنظمة الذكاء الاصطناعي المارقة.

ويضيف المناخ السياسي في الولايات المتحدة طبقة أخرى من التعقيد. وقد عارضت إدارة ترامب التنظيم الملزم الذي يمكن أن يبطئ الابتكار وسط منافسة شرسة مع الصين، وروجت لمدونة سلوك طوعية بدلا من ذلك، ولا يوجد قانون فيدرالي يحكم النماذج الحدودية على وجه التحديد. والجدير بالذكر أنه في يوم الأحد الذي سبق تعميم الرسالة، رفعت الإدارة حظرها على المختبرات الأمريكية، مما أتاح لمعهد أمن الذكاء الاصطناعي البريطاني الوصول المبكر إلى نماذج لاختبارات السلامة - في إشارة إلى أن شكلاً من أشكال التدقيق الخارجي يكتسب زخمًا حتى بدون تفويضات محلية.

تحذيرات هينتون المتصاعدة

بالنسبة لجيفري هينتون، تعتبر الرسالة استمرارًا لحملة متزايدة الإلحاح. ومؤخرا حذر المشرعين الأمريكيين من أنه قد يكون أمامهم عام واحد فقط لوضع ضمانات قبل أن يخرج الذكاء الاصطناعي عن السيطرة البشرية. كما شارك هينتون وبينجيو، جنبًا إلى جنب مع كبير علماء OpenAI جاكوب باتشوكي، والمؤسس المشارك لشركة Anthropic جاك كلارك، وكبير المسؤولين العلميين في Microsoft إيريك هورفيتز، في تأليف ورقة بحثية حديثة تحذر من أن تحسين الذكاء الاصطناعي ذاتيًا يمكن أن يؤدي إلى "انفجار استخباراتي" - وحث الحكومات على وضع الرقابة قبل أن يتجاوز التطور السريع قدرة المجتمع على التكيف.

لم يصل الموقعون على الرسالة إلى حد الدعوة إلى تباطؤ تطوير الذكاء الاصطناعي. وبدلاً من ذلك، يحثون المنظمات التي تقوم بتطوير أو اختبار النماذج ذات القدرة السيبرانية على اعتماد معايير احتواء عالية الضمان على الفور بينما تعمل الحكومات على إنشاء نظام رقابة أكثر رسمية.

ماذا سيحدث بعد ذلك

ويواجه الاقتراح صعوبات كبيرة. وسوف تتطلب هيئة دولية تتمتع بسلطة احتواء الذكاء الاصطناعي التنسيق بين الحكومات التي لا تستطيع حاليا الاتفاق على ما إذا كانت القواعد الملزمة ضرورية على الإطلاق. ويصر الاتحاد الأوروبي على أن قانون الذكاء الاصطناعي الخاص به كافٍ؛ والولايات المتحدة تفضل الالتزامات الطوعية؛ وتلاحق الصين مساراً تنظيمياً خاصاً بها.

ومع ذلك، تضيف الرسالة وزنًا ملموسًا إلى النقاش الذي انتقل بسرعة من الهامش إلى الاتجاه السائد. عندما يقول ما يقرب من 400 عالم من 34 دولة - بما في ذلك الباحثين الأكثر تميزًا في هذا المجال - إن التعهدات الطوعية ليست كافية، يتحول السؤال من ما إذا كان الذكاء الاصطناعي يحتاج إلى احتواء أقوى إلى من سيبنيه، وبأي سرعة.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →