سيقدم النائب رو خانا، وهو ديمقراطي من وادي السيليكون، تشريعًا يحظر نماذج الذكاء الاصطناعي القادرة على تحسين نفسها بشكل متكرر حتى تقوم الحكومة الفيدرالية ببناء نظام تنظيمي قادر على الإشراف عليها – وهو الاقتراح الأكثر شمولاً لسلامة الذكاء الاصطناعي الذي لم يصل بعد إلى الكونجرس.

تمت مشاركة مشروع القانون، الذي أطلق عليه اسم قانون السيطرة البشرية على الذكاء الاصطناعي، حصريًا مع CNBC في شكل ملخص قبل تقديمه. ويأتي ذلك وسط تصاعد المخاوف المتعلقة بالسلامة والتي دفعت بالفعل الرؤساء التنفيذيين لشركتي OpenAI وAnthropic إلى الدعوة إلى إبطاء تطوير النماذج الحدودية. لمزيد من السياق حول هذه القصة، راجع أخبار الذكاء الاصطناعي.

وقال خانا يوم الاثنين في مقابلة مع شبكة سي إن بي سي: "هناك بالفعل خطر انقراض حضاري". "هناك خطر على السلامة يتمثل في فقدان السيطرة، ثم هناك خطر سوء الاستخدام، وعلينا أن نأخذ الأمرين على محمل الجد."

ما الذي سيحظره مشروع القانون

في جوهره، يحظر قانون السيطرة البشرية على الذكاء الاصطناعي نماذج الذكاء الاصطناعي التي تعمل على التحسين الذاتي بشكل متكرر أو تعديل أهدافها الأساسية أو آليات الاحتواء أو ضوابط الإغلاق بشكل مستقل - ما لم تكن هناك حواجز حماية فيدرالية وتوافق وكالة حكومية جديدة على الأنشطة.

ومن الناحية العملية، فإن هذا يستهدف القدرة التي يخشاها الباحثون في مجال السلامة أكثر من غيرها: الأنظمة التي يمكنها إعادة تصميم نفسها في دورة ذاتية التوجيه، مما يترك البشر مع رقابة متضائلة في كل خطوة. وسيظل الحظر قائما حتى يتم تجهيز الجهات التنظيمية لتقييم المخاطر.

وكالة فيدرالية جديدة للذكاء الاصطناعي الحدودي

من شأن مشروع القانون إنشاء وكالة فيدرالية مخصصة تركز على أقوى نماذج الذكاء الاصطناعي - تلك التي طورتها شركات OpenAI، وAnthropic، وGoogle DeepMind، وxAI - حيث تجد تلك الشركات نفسها تحت تدقيق مكثف.

وفقًا للملخص الذي تمت مشاركته مع CNBC، ستكون الوكالة مسؤولة عن:

  • كتابة لوائح السلامة لأنظمة الذكاء الاصطناعي الحدودية
  • تشغيل نظام ترخيص لاعتماد نموذج التدريب والنشر
  • إجراء عمليات تدقيق لنماذج الذكاء الاصطناعي الحدودية
  • وضع معايير أمنية للاختبار المستمر والرقابة البشرية الفعالة

سيتم دمج مدققين مستقلين في كل مختبر حدودي، وسيقدمون تقاريرهم مباشرة إلى الوكالة - وهو فحص هيكلي مصمم للتأكد من أن المختبرات لا تستطيع ببساطة تصحيح واجباتها المنزلية. ستضع الوكالة أيضًا معايير تغطي بيئات الاختبار المعزولة، والفجوات الهوائية التي تعزل أنظمة الاختبار عن الإنترنت، ومفاتيح التوقف، وأدوات التحكم التي تمنع النماذج من الهروب من إعدادات المختبر والتجوال على الإنترنت المفتوح.

ومن الجدير بالذكر أن التشريع من شأنه أن يوسع نطاق الرقابة الفيدرالية ليشمل الرقائق المتقدمة التي تستخدمها المختبرات الحدودية، بما في ذلك آليات مراقبة أو التحكم في كيفية نشر هذه المعالجات.

العقوبات الجنائية والتأمين الإلزامي

ويذهب مشروع القانون إلى أبعد من أي اقتراح سابق بشأن العقوبات. ومن شأنه أن يجرم ما يعرفه بـ "الجرائم ضد الإنسانية" لنشر نماذج الذكاء الاصطناعي التي تؤدي إلى تدمير السكان المدنيين.

سيواجه موظفو شركات الذكاء الاصطناعي عقوبات جنائية لتعطيل الضمانات، أو إيقاف المفاتيح، أو أنظمة التسجيل أو الاحتواء - أو لنشر نظام غير مصرح به عن عمد. وسيُطلب من شركات الذكاء الاصطناعي أيضاً أن تحمل تأميناً واسع النطاق على المسؤولية قبل إطلاق نماذجها، وتحويل المخاطر المالية للفشل إلى الصناعة بدلاً من الجمهور.

وعلى الجبهة الجيوسياسية، يدعو مشروع القانون الإدارة إلى متابعة اتفاقيات قابلة للتنفيذ وضوابط تصدير مستهدفة مصممة لردع الصين وغيرها من الخصوم عن تطوير أنظمة الذكاء الاصطناعي الخطيرة.

تم تصميمه بالتعاون مع مجتمع السلامة، وليس المختبرات

كان خانا صريحًا بشأن من شكلت مساهماته مشروع القانون. وبدلاً من التفاوض مع المديرين التنفيذيين للشركات التي سينظمها، قال إن التشريع تم صياغته على غرار المحادثات مع منظمات سلامة الذكاء الاصطناعي، بما في ذلك المنظمات المستقلة غير الربحية "نموذج التقييم وأبحاث التهديدات"، ومعهد أبحاث الذكاء الآلي وأبحاث باليسيد.

وقال خانا لشبكة CNBC: "أريد أن يكون هذا نموذجًا لإعطاء صوت لمجتمع سلامة الذكاء الاصطناعي". "أعتقد أنه تم رفضها بشكل غير عادل باعتبارها خيالًا علميًا ولم يتم أخذها على محمل الجد بما فيه الكفاية. يجب أن يقودوا هذا النقاش، مجتمع سلامة الذكاء الاصطناعي، وليس المديرين التنفيذيين للمختبرات الحدودية."

ووصف خانا هذا الإجراء بأنه التشريع الأكثر شمولاً المقترح لسلامة الذكاء الاصطناعي حتى الآن.

احتمالات طويلة في الكونغرس المنقسم

ينضم قانون السيطرة البشرية على الذكاء الاصطناعي إلى مجال مزدحم بمقترحات سلامة الذكاء الاصطناعي في الكابيتول هيل. ومن بينها قانون فرونتير الذي أقره النائبان جاي أوبرنولت، وهو جمهوري من كاليفورنيا، ولوري تراهان، وهو ديمقراطي من ولاية ماساتشوستس، والذي من شأنه أن يضع مدققين مستقلين في مختبرات حدودية ويمنح الحكومة سلطة إغلاق النماذج التي يُحكم عليها بأنها تشكل خطرا كارثيا. وقد حظي اقتراح ساندرز-كازار المنفصل لحظر الذكاء الاصطناعي الفائق بدعم شعبي من عشرة من الديمقراطيين في مجلس النواب، بما في ذلك خانا نفسه.

لكن الواقع السياسي مثير للقلق. ومن غير المتوقع أن تحظى أي مشاريع قوانين بمجلس النواب بالتصويت إلا بعد الانتخابات النصفية، ومن المتوقع أن يغادر مجلس الشيوخ واشنطن ولا يعود إلا بعد توجه الناخبين إلى صناديق الاقتراع.

ويعني هذا الجدول الزمني أن قانون السيطرة البشرية على الذكاء الاصطناعي سيعمل، على الأقل في الوقت الحالي، كمؤشر: مخطط تفصيلي لما سيبنيه مجتمع سلامة الذكاء الاصطناعي إذا أمسك بالقلم - تم تقديمه في اللحظة التي يحذر فيها الأشخاص الذين يبنون الذكاء الاصطناعي الحدودي، بشكل رسمي، من أن التكنولوجيا تتجاوز ضوابطها.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →