فرماندار کالیفرنیا، گاوین نیوسام، روز جمعه دستوری اجرایی صادر کرد و به سازمان‌های ایالتی دستور داد تا نظارت مستقل بر شرکت‌های هوش مصنوعی را به طرز چشمگیری تسریع کنند و ایجاد یک خاموشی اضطراری - یک "سوئیچ کشتن هوش مصنوعی" - برای مدل‌های مرزی را پیش ببرند. این دستور روز جمعه توسط دفتر فرماندار اعلام شد و به سرعت توسط CNBC، CalMatters، Los Angeles Times، Politico و دولت بلومبرگ پوشش داده شد.

این اقدام اجرای دو قانونی را که Newsom هفته گذشته امضا کرد را به جلو می برد و گروهی از کارشناسان را تشکیل می دهد تا تغییرات بیشتر در قوانین ایالتی را ظرف دو ماه توصیه کنند - یک جدول زمانی غیرمعمول سریع برای توسعه نظارتی در بزرگترین بازار فناوری کشور. For more context on this story, see our ongoing AI industry coverage.

آنچه دستور انجام می دهد

به گفته دفتر فرماندار، این فرمان اجرایی به آژانس عملیات دولتی کالیفرنیا دستور می دهد تا زمان بندی اجرای لایحه 813 سنا و لایحه مجلس 1405 را که هر دو هفته گذشته به تصویب رسیدند، تسریع بخشد. SB 813 برای اولین بار در کشور چارچوبی را برای تأیید سازمان های تأیید مستقل ایجاد کرد که می توانند سیستم های هوش مصنوعی را از نظر ایمنی و خطر ارزیابی کنند. AB 1405 یک ثبت دولتی برای حسابرسان هوش مصنوعی با استانداردهایی برای استقلال، شفافیت و یکپارچگی آنها ایجاد کرد.

این دستور همچنین به آژانس دستور می دهد، با مشورت دفتر فرمانداری خدمات اضطراری، کارشناسان ملی را برای ارائه توصیه هایی برای تقویت قوانین ایالتی دعوت کند. انتظار می رود این کارشناسان ظرف دو ماه راهنمایی را به ایالت ارائه کنند.

به گفته دفتر فرماندار، پیشنهادات در دست بررسی شامل الزام اشخاص ثالث مستقل برای نوشتن برنامه‌های ایمنی برای شرکت‌های هوش مصنوعی مرزی و همچنین الزام شرکت‌ها برای ایجاد یک خاموشی اضطراری - یک "سوئیچ کشتن" - برای مدل‌های مرزی است.

چرا حالا

دفتر فرماندار این دستور را مستقیماً به مجموعه ای از حوادث امنیتی اخیر هوش مصنوعی مرتبط کرد، از جمله حمله ای که در آن عامل هوش مصنوعی سرکش خود OpenAI، Hugging Face را طی ارزیابی امنیت سایبری نقض کرد. دستور روز جمعه نیز در همان روز منتشر شد که اخباری منتشر شد مبنی بر اینکه یک تیم امنیتی سه نفره از Claude Opus 5 متعلق به Anthropic برای نقض سیستم‌های داخلی OpenAI از طریق یک تمرین پاداش باگ مجاز استفاده کرده‌اند.

نیوسام در این اطلاعیه گفت: "ما منتظر اقدام نیستیم - ما قصد داریم تا قبل از اینکه خیلی دیر شود، کار خود را بر روی نظارت اساسی و مسئولانه هوش مصنوعی تسریع کنیم." ما قصد داریم این کار را متفکرانه اما با سرعت فوری انجام دهیم؛ خطرات آنقدر زیاد است که نمی‌توان منتظر ماند و یا اقدام را به تأخیر انداخت.»

دفتر فرماندار خاطرنشان کرد که این حوادث باعث شده است که از سراسر صنعت هوش مصنوعی - از جمله از خود رهبران آزمایشگاه ها - برای سرعت بخشیدن به توسعه سیستم های مرزی و تحمیل مقررات سختگیرانه تر دولتی در مورد خطرات ایمنی و امنیتی تماس بگیرند.

خلاء فدرال

دلیل اصلی این اعلامیه این است که واشنگتن یک خلأ نظارتی را بر جای گذاشته است. دفتر فرماندار در این اطلاعیه گفت: «شکست فاحش دولت فدرال در ایجاد هر نوع نظارت یا پاسخگویی معنادار هوش مصنوعی باید هر آمریکایی را نگران کند، به ویژه زمانی که خود مدیران عامل هوش مصنوعی التماس مقررات را دارند. در این بیانیه آمده است که هیچ قانون فدرالی شرکت‌های هوش مصنوعی را ملزم نمی‌کند که در صورت وقوع حوادث خطرناک گزارش دهند و رئیس‌جمهور ترامپ درخواست‌ها برای مقررات جدید با هدف افزایش امنیت را رد کرده است.

نیوسام از کنگره و رئیس جمهور خواست تا چارچوب کالیفرنیا را بررسی و اتخاذ کنند، یا از مقررات ایالتی به عنوان "یک کف، نه سقف" برای سیاست ملی استفاده کنند. در این اطلاعیه آمده است: "کالیفرنیا قبلاً یک مدل ملی ساخته است و سیاست ما باید خط پایه ملی باشد."

این قاب، کالیفرنیا - محل تقریباً تمام آزمایشگاه‌های مرزی هوش مصنوعی - را به‌عنوان قانون‌گذار ملی بالفعل نشان می‌دهد. شرکت هایی از جمله OpenAI، Anthropic، و Google DeepMind همگی مدل های مرزی خود را در ایالت توسعه می دهند و مشمول رژیم های تأیید و ممیزی آن خواهند بود.

چارچوب گسترده‌تر هوش مصنوعی کالیفرنیا

دستور روز جمعه بر اساس چیزی است که دفتر فرماندار به عنوان قوی ترین چارچوب نظارتی هوش مصنوعی در کشور توصیف می کند. نیوسام اولین فرمان اجرایی خود را در سال 2023 در مورد هوش مصنوعی مولد صادر کرد و طبق گفته اداره دولتی، این ایالت اکنون قوانینی دارد که تقریباً همه حوزه های اصلی سیاست هوش مصنوعی را در بر می گیرد - ایمنی مدل های مرزی، نظارت مستقل، چت ربات های کودکان و همراه، حریم خصوصی، دروغ های عمیق، کلاهبرداری، امنیت سایبری و استقرار دولت، طبق گفته اداره دولتی. در سال 2025، Newsom SB 53، قانون شفافیت در هوش مصنوعی مرزی - اولین قانون ایمنی هوش مصنوعی کشور - را امضا کرد که توسعه‌دهندگان مرزی را ملزم می‌کند تا چارچوب‌های ایمنی را به طور عمومی افشا کنند، حوادث ایمنی حیاتی را به ایالت گزارش کنند و از افشاگرانی که خطرات جدی ایجاد می‌کنند محافظت کنند.

افزوده‌های امسال - SB 813 و AB 1405 - نیروی اجرایی را تامین می‌کنند: سازمان‌های شخص ثالث دارای گواهی برای ارزیابی مستقل سیستم‌های مرزی، و یک دفتر ثبت حرفه‌ای برای نگه‌داشتن حسابرسان به استانداردهای استقلال.

آنچه بعد اتفاق می افتد ساعت دو ماهه است. هنگامی که هیئت متخصص گزارش می دهد، کالیفرنیا می تواند اولین ایالتی باشد که شرکت های هوش مصنوعی مرزی را ملزم می کند تا برنامه های ایمنی نوشته شده خارجی را بپذیرند و مکانیزم های خاموش کردن اضطراری را در قدرتمندترین مدل های خود بسازند. برای صنعتی که هنوز در حال بحث است که چه مقدار از کار خود را باید در اختیار هوش مصنوعی قرار دهد - و چگونه عواملی را که ایجاد می کند مهار کند - این مهلت بسیار واقعی بود.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →