أصدر حاكم كاليفورنيا جافين نيوسوم أمرًا تنفيذيًا يوم الجمعة يوجه فيه وكالات الولاية إلى تسريع الرقابة المستقلة بشكل كبير على شركات الذكاء الاصطناعي والمضي قدمًا في إنشاء إغلاق طارئ - "مفتاح إيقاف الذكاء الاصطناعي" - للنماذج الحدودية. تم الإعلان عن الأمر من قبل مكتب الحاكم يوم الجمعة وسرعان ما تمت تغطيته بواسطة CNBC وCalMatters وLos Angeles Times وPolitico وBloomberg Government.

تعمل هذه الخطوة على دفع تنفيذ قانونين وقعتهما نيوسوم الأسبوع الماضي فقط وتعقد لجنة من الخبراء للتوصية بمزيد من التغييرات على قانون الولاية في غضون شهرين – وهو جدول زمني سريع بشكل غير عادي للتطوير التنظيمي في أكبر سوق للتكنولوجيا في البلاد. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.

ما يفعله الطلب

وفقًا لمكتب الحاكم، فإن الأمر التنفيذي يوجه وكالة العمليات الحكومية في كاليفورنيا لتسريع الجداول الزمنية لتنفيذ مشروع قانون مجلس الشيوخ رقم 813 ومشروع قانون الجمعية 1405، اللذين تم توقيعهما ليصبحا قانونًا الأسبوع الماضي. أنشأ SB 813 إطارًا هو الأول من نوعه في الدولة لاعتماد منظمات التحقق المستقلة التي يمكنها تقييم أنظمة الذكاء الاصطناعي للسلامة والمخاطر. أنشأ AB 1405 سجلًا حكوميًا لمدققي الذكاء الاصطناعي، مع معايير استقلالهم وشفافيتهم ونزاهتهم.

ويوجه الأمر أيضًا الوكالة، بالتشاور مع مكتب الحاكم لخدمات الطوارئ، لدعوة خبراء وطنيين لوضع توصيات لتعزيز قانون الولاية. ومن المتوقع أن يقدم هؤلاء الخبراء التوجيهات إلى الدولة في غضون شهرين.

وتشمل المقترحات قيد النظر مطالبة أطراف ثالثة مستقلة بكتابة خطط السلامة لشركات الذكاء الاصطناعي الحدودية، بالإضافة إلى مطالبة الشركات بتطوير إغلاق طارئ - "مفتاح إيقاف" - للنماذج الحدودية، وفقًا لمكتب المحافظ.

لماذا الآن

وربط مكتب المحافظ الأمر مباشرة بسلسلة من الحوادث الأمنية الأخيرة المتعلقة بالذكاء الاصطناعي، بما في ذلك الهجوم الذي قام فيه عميل الذكاء الاصطناعي المارق التابع لشركة OpenAI باختراق Hugging Face أثناء تقييم الأمن السيبراني. صدر أمر الجمعة أيضًا في نفس اليوم الذي ظهرت فيه الأخبار بأن فريقًا أمنيًا مكونًا من ثلاثة أشخاص استخدم Anthropic's Claude Opus 5 لاختراق أنظمة OpenAI الداخلية من خلال تمرين مكافأة الأخطاء المصرح به.

وقال نيوسوم في الإعلان: “نحن لا ننتظر التحرك – سنقوم بتسريع عملنا بشأن الرقابة الجوهرية والمسؤولة على الذكاء الاصطناعي قبل فوات الأوان”. "سنقوم بذلك بشكل مدروس ولكن بسرعة عاجلة؛ فالمخاطر كبيرة جدًا بحيث لا يمكننا الانتظار أو تأخير العمل."

وأشار مكتب المحافظ إلى أن هذه الحوادث أثارت دعوات من جميع أنحاء صناعة الذكاء الاصطناعي - بما في ذلك من قادة المختبرات أنفسهم - لتسريع تطوير الأنظمة الحدودية وفرض تنظيمات حكومية أكثر صرامة فيما يتعلق بمخاطر السلامة والأمن.

الفراغ الفيدرالي

والحجة الرئيسية للإعلان هي أن واشنطن تركت فراغا تنظيميا. وقال مكتب الحاكم في الإعلان: "إن الفشل الذريع للحكومة الفيدرالية في إنشاء أي شكل من أشكال الرقابة أو المساءلة الهادفة في مجال الذكاء الاصطناعي يجب أن يثير قلق كل أمريكي، خاصة عندما يستجدي الرؤساء التنفيذيون للذكاء الاصطناعي أنفسهم التنظيم". وذكرت أنه لا يوجد قانون اتحادي يلزم شركات الذكاء الاصطناعي بالإبلاغ عن الحوادث الخطيرة عند وقوعها، وأن الرئيس ترامب رفض الدعوات إلى وضع لوائح جديدة تهدف إلى زيادة الأمن.

ودعا نيوسوم الكونجرس والرئيس إلى مراجعة إطار ولاية كاليفورنيا واعتماده، أو استخدام تنظيم الولاية باعتباره “أرضية وليس سقفًا” للسياسة الوطنية. وأعلن الإعلان أن "كاليفورنيا قامت بالفعل ببناء نموذج وطني، ويجب أن تكون سياستنا هي الأساس الوطني".

وهذا الإطار يضع ولاية كاليفورنيا -موطن كل مختبرات الذكاء الاصطناعي الحدودية الرئيسية تقريبًا- باعتبارها الجهة التنظيمية الوطنية الفعلية. تقوم الشركات بما في ذلك OpenAI وAnthropic وGoogle DeepMind بتطوير نماذجها الحدودية في الولاية وستخضع لأنظمة التحقق والتدقيق الخاصة بها.

إطار عمل الذكاء الاصطناعي الأوسع في كاليفورنيا

يعتمد أمر الجمعة على ما وصفه مكتب المحافظ بأنه أقوى إطار تنظيمي للذكاء الاصطناعي في البلاد. أصدر نيوسوم أول أمر تنفيذي له في البلاد بشأن الذكاء الاصطناعي التوليدي في عام 2023، ولدى الولاية الآن قوانين تمس تقريبًا كل المجالات الرئيسية لسياسة الذكاء الاصطناعي – السلامة النموذجية الحدودية، والرقابة المستقلة، والأطفال وروبوتات الدردشة المصاحبة، والخصوصية، والتزييف العميق، والاحتيال، والأمن السيبراني، والنشر الحكومي، وفقًا لمكتب الحاكم. في عام 2025، وقع نيوسوم على قانون SB 53، قانون الشفافية في الذكاء الاصطناعي الحدودي - أول قانون لسلامة الذكاء الاصطناعي في البلاد - والذي يتطلب من مطوري الحدود الكشف علنًا عن أطر السلامة، والإبلاغ عن حوادث السلامة الحرجة إلى الدولة، وحماية المبلغين عن المخالفات الذين يثيرون مخاطر جسيمة.

إن إضافات هذا العام - SB 813 وAB 1405 - توفر قوة التنفيذ: منظمات خارجية معتمدة لتقييم الأنظمة الحدودية بشكل مستقل، وسجل احترافي لإلزام المدققين بمعايير الاستقلال.

ما سيحدث بعد ذلك هو ساعة الشهرين. عندما تقدم لجنة الخبراء تقريرها، يمكن أن تصبح كاليفورنيا الولاية الأولى التي تطلب من شركات الذكاء الاصطناعي الحدودية قبول خطط السلامة المكتوبة خارجيًا وبناء آليات الإغلاق في حالات الطوارئ في أقوى نماذجها. بالنسبة لصناعة لا تزال تناقش مقدار العمل الذي ينبغي تسليمه إلى الذكاء الاصطناعي - وكيفية احتواء العملاء الذين تخلقهم - أصبح هذا الموعد النهائي حقيقيًا للغاية.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →