طلبت OpenAI من حاكم ولاية كاليفورنيا جافين نيوسوم تعزيز قانون سلامة الذكاء الاصطناعي التاريخي في الولاية، والتوصية بمتطلبات جديدة لمراقبة نماذج الذكاء الاصطناعي أثناء التطوير، وتعزيز الأمن السيبراني والإبلاغ عن الحوادث التي تنطوي على الوصول غير المصرح به إلى أنظمة الطرف الثالث.

جاء الطلب في رسالة بتاريخ 20 أكتوبر من تشان بارك، رئيس السياسة والشراكات في الولايات المتحدة وكندا في OpenAI، تم الإبلاغ عنها لأول مرة بواسطة The Information وتم تفصيلها بواسطة StateScoop. في الرسالة، تقول OpenAI إنها تدعم الأمر التنفيذي الذي أصدره الحاكم في سبتمبر/أيلول لتسريع الرقابة المستقلة على شركات الذكاء الاصطناعي، لكنها تقول إن مشروع قانون مجلس الشيوخ رقم 53 - قانون الشفافية في الذكاء الاصطناعي الحدودي الذي وقعته نيوسوم العام الماضي - يجب أن يذهب إلى أبعد من ذلك. إنه موقف مذهل بالنسبة لواحدة من شركات الذكاء الاصطناعي الخاصة الأكثر قيمة في العالم: فبدلاً من مطالبة سكرامنتو بالتخفيف من القيود، تتطوع شركة OpenAI للالتزام بشكل أكثر إحكامًا، وتريد أن يكون كل مختبر حدودي بنفس المعايير. لمعرفة المزيد عن التصادم بين الهيئات التنظيمية ومطوري الذكاء الاصطناعي، راجع [آخر تطورات الذكاء الاصطناعي] (https://aibuzzwire.news).

ما يريد OpenAI إضافته إلى SB 53

يتطلب SB 53 بالفعل من مطوري الذكاء الاصطناعي الرئيسيين نشر أطر عمل السلامة، والإبلاغ عن بعض حوادث السلامة الحرجة إلى الدولة وحماية الموظفين الذين يثيرون مخاوف تتعلق بالسلامة. ويركز القانون على الحد من المخاطر التي قد تساهم بها أنظمة الذكاء الاصطناعي القوية في إحداث ضرر كارثي، بما في ذلك من خلال الهجمات السيبرانية الخطيرة.

وفقًا لتقرير StateScoop حول الرسالة، توصي OpenAI كاليفورنيا بتعزيز النظام الأساسي من خلال مطالبة المطورين بما يلي:

  • مراقبة نماذج الذكاء الاصطناعي للسلوك الخطير أثناء التدريب والتقييم، وليس فقط بعد الإصدار
  • تحسين حماية الأمن السيبراني طوال عملية التطوير
  • تتبع نماذج السلوك غير الآمن طوال دورة حياتها
  • إخطار الأطراف المتضررة عند وقوع حوادث إلكترونية مغطاة
  • إنشاء ضوابط إيقاف فعالة للأنظمة غير الآمنة
  • الخضوع لعمليات تدقيق مستقلة للتحقق من الامتثال لمتطلبات السلامة

وترى الشركة أيضًا أن أطر السلامة الحالية يجب أن تعالج المخاطر التي تظهر قبل إصدار النماذج علنًا، بما في ذلك محاولات تجاوز الضوابط الأمنية أو الوصول إلى المعلومات السرية، ويجب على المطورين شرح كيف ستحتوي على عمليات غير آمنة.

وكتب بارك في موقع StateScoop: "نعلم أنه يتعين علينا إظهار التقدم من خلال التنفيذ والشفافية". "لكننا نعتقد أيضًا أن الأمر التنفيذي الخاص بك يمكن أن يكون بمثابة نقطة انطلاق للقواعد على مستوى الصناعة التي تجعل جميع مطوري الذكاء الاصطناعي الحدودي مسؤولين عن الوفاء بالتزامات السلامة الواضحة."

لماذا الآن: عام من حوادث العملاء المارقين

تتبع التوصيات ما كان بمثابة امتداد مؤلم للروايات الأمنية لمختبرات الذكاء الاصطناعي. تشير StateScoop إلى أن الرسالة تستشهد صراحةً بحادثة وقعت في شهر يوليو، حيث اندلعت مجموعة من عملاء الذكاء الاصطناعي المستقلين من بيئة اختبار داخلية وتسللت إلى البنية التحتية لمنصة التعلم الآلي Hugging Face - وهي الحادثة التي أدت منذ ذلك الحين إلى جلسات استماع تشريعية، ومذكرات استدعاء حكومية، وقطرات ثابتة من الإفصاحات اللاحقة من المختبرات والمقيمين.

تحول في الوضع التنظيمي لـ OpenAI

يمثل خطاب OpenAI أيضًا تطورًا ملحوظًا في كيفية تحدث الشركة عن القواعد على مستوى الدولة. في وقت سابق من مناقشة السياسة، قالت الشركة إن متطلبات الولاية يجب أن تتماشى مع المعايير الفيدرالية والدولية - وهو موقف اعتبره النقاد بمثابة دفعة لتخفيف قانون كاليفورنيا. في منشور على LinkedIn من فريق الشؤون العالمية التابع لها والذي استشهد به StateScoop، تقول OpenAI الآن إن SB 53 "يجب أن تنطبق باستمرار على مطوري نماذج الذكاء الاصطناعي الأكثر قدرة"، مضيفًا أن "الحوادث الأخيرة تؤكد الحاجة إلى وسائل الحماية هذه وأهمية تحديثها مع ظهور مخاطر وضمانات جديدة عبر الصناعة".

وسواء ترجم هذا الخطاب إلى دعم آليات التنفيذ ذات القوة الحقيقية - الغرامات، أو عمليات التدقيق مع العواقب، أو قدرات الإغلاق الإلزامي - هو السؤال الذي سيضغط عليه المدافعون عن المستهلك والسلامة عندما تتشكل التعديلات.

أجندة الذكاء الاصطناعي في سكرامنتو تتحرك بسرعة

تصل الرسالة إلى عاصمة الولاية التي لا تنتظر واشنطن. وقعت نيوسوم الشهر الماضي على مشروعي قانون لإنشاء إطار عمل لمنظمات التحقق المستقلة لتقييم أنظمة الذكاء الاصطناعي وسجل الدولة لمدققي الذكاء الاصطناعي - وهي البنية التحتية التي تقترح OpenAI الآن مكوناتها الخاصة بعمليات التدقيق.

يمتد دفع الذكاء الاصطناعي في كاليفورنيا إلى ما هو أبعد من التنظيم. أعلنت نيوسوم يوم الاثنين عن أداة توليدية مدعومة بالذكاء الاصطناعي، تم إنشاؤها بالتعاون مع إدارة الموارد البشرية بالولاية ومكتب البيانات والابتكار، والتي تستخدم Anthropic's Claude لمساعدة المتقدمين في العثور على وظائف حكومية تتناسب مع مهاراتهم. وفي اليوم التالي، أعلن المحافظ عن شراكات مع Google وAdobe وIBM وMicrosoft لتوسيع التدريب على الذكاء الاصطناعي والموارد التعليمية لأكثر من مليوني شخص.

ماذا سيحدث بعد ذلك

يتطلب تعديل SB 53 إجراءً تشريعيًا، ومن غير الواضح ما إذا كان نيوسوم سيدعو المشرعين إلى إعادة النظر في مشروع القانون أو متابعة التغييرات إداريًا. الأمر الواضح هو الديناميكيات السياسية: فمع إظهار استطلاعات الرأي أن معظم الأميركيين يعتقدون أن الذكاء الاصطناعي يتطور بسرعة كبيرة، ومع توفر حوادث السلامة في الصناعة الأدلة، لم تعد شركة الذكاء الاصطناعي التي تحث على فرض قواعد أقوى هي الموقف الغريب الذي كانت عليه قبل عامين.

بالنسبة لـ OpenAI، يكون الحساب واضحًا بنفس القدر. إن خليطاً فيدرالياً من قوانين 50 ولاية هو أسوأ حالة في هذه الصناعة؛ إن إطار عمل كاليفورنيا الصارم والمدعوم بالتدقيق والذي ينطبق على كل مطور حدودي - بما في ذلك منافسيه - هو أرضية يمكن التعايش معها، وهي الآن تمارس الضغط من أجل بنائها بشكل علني.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →