Gabenor California Gavin Newsom mengeluarkan perintah eksekutif pada hari Jumaat mengarahkan agensi negeri untuk mempercepatkan pengawasan bebas secara mendadak terhadap syarikat AI dan memajukan penciptaan penutupan kecemasan - "suis bunuh AI" - untuk model sempadan. Perintah itu diumumkan oleh pejabat gabenor pada hari Jumaat dan diliputi dengan cepat oleh CNBC, CalMatters, Los Angeles Times, Politico, dan Kerajaan Bloomberg.
Langkah itu menarik ke hadapan pelaksanaan dua undang-undang yang ditandatangani Newsom hanya minggu lalu dan memanggil panel pakar untuk mengesyorkan perubahan selanjutnya kepada undang-undang negeri dalam masa dua bulan — garis masa yang luar biasa pantas untuk pembangunan kawal selia dalam pasaran teknologi terbesar negara. For more context on this story, see our ongoing more AI stories.
Apa yang Dilakukan Pesanan
Menurut pejabat gabenor, perintah eksekutif mengarahkan Agensi Operasi Kerajaan California untuk mempercepatkan garis masa pelaksanaan untuk Rang Undang-undang Senat 813 dan Rang Undang-undang Perhimpunan 1405, kedua-duanya ditandatangani menjadi undang-undang minggu lepas. SB 813 menubuhkan rangka kerja pertama dalam negara untuk memperakui organisasi pengesahan bebas yang boleh menilai sistem AI untuk keselamatan dan risiko. AB 1405 mencipta pendaftaran negeri untuk juruaudit AI, dengan piawaian untuk kebebasan, ketelusan dan integriti mereka.
Perintah itu juga mengarahkan agensi itu, dalam perundingan dengan Pejabat Perkhidmatan Kecemasan Gabenor, untuk memanggil pakar kebangsaan untuk membangunkan cadangan untuk mengukuhkan undang-undang negeri. Pakar-pakar tersebut dijangka menyampaikan bimbingan kepada negeri dalam tempoh dua bulan.
Cadangan yang sedang dipertimbangkan termasuk menghendaki pihak ketiga bebas untuk menulis rancangan keselamatan untuk syarikat AI sempadan, serta menghendaki syarikat membangunkan penutupan kecemasan - "suis mematikan" - untuk model sempadan, menurut pejabat gabenor.
Kenapa Sekarang
Pejabat gabenor mengikat perintah itu terus kepada rentetan insiden keselamatan AI baru-baru ini, termasuk serangan di mana ejen AI penyangak OpenAI sendiri melanggar Hugging Face semasa penilaian keselamatan siber. Pesanan Jumaat juga tiba pada hari yang sama apabila berita tersebar bahawa pasukan keselamatan tiga orang menggunakan Claude Opus 5 Anthropic untuk melanggar sistem dalaman OpenAI melalui latihan hadiah pepijat yang dibenarkan.
"Kami tidak menunggu untuk bertindak - kami akan mempercepatkan kerja kami terhadap pengawasan AI yang besar dan bertanggungjawab sebelum terlambat," kata Newsom dalam pengumuman itu. "Kami akan melakukan ini dengan teliti tetapi dengan halaju yang mendesak; pertaruhannya terlalu tinggi untuk menunggu atau menangguhkan tindakan."
Pejabat gabenor menyatakan bahawa insiden itu telah mendorong panggilan dari seluruh industri AI — termasuk daripada pemimpin makmal sendiri — untuk mempercepatkan pembangunan sistem sempadan dan mengenakan peraturan kerajaan yang lebih ketat mengenai risiko keselamatan dan keselamatan.
Vakum Persekutuan
Hujah utama pengumuman itu ialah Washington telah meninggalkan kekosongan peraturan. "Kegagalan kerajaan persekutuan untuk mencipta sebarang bentuk pengawasan atau akauntabiliti AI yang bermakna harus membimbangkan setiap orang Amerika, terutamanya apabila CEO AI sendiri meminta peraturan," kata pejabat gabenor dalam pengumuman itu. Ia menyatakan bahawa tiada undang-undang persekutuan menghendaki syarikat AI melaporkan insiden berbahaya apabila ia berlaku, dan Presiden Trump telah menolak panggilan untuk peraturan baharu yang bertujuan untuk meningkatkan keselamatan.
Newsom menyeru Kongres dan presiden untuk menyemak dan menerima pakai rangka kerja California, atau menggunakan peraturan negeri sebagai "lantai, bukan siling" untuk dasar negara. "California telah membina model nasional, dan dasar kita harus menjadi garis dasar nasional," pengumuman itu diumumkan.
Pembingkaian itu meletakkan California - rumah kepada hampir setiap makmal AI sempadan utama - sebagai pengawal selia negara de facto. Syarikat termasuk OpenAI, Anthropic dan Google DeepMind semuanya membangunkan model sempadan mereka di negeri ini dan akan tertakluk kepada rejim pengesahan dan auditnya.
Rangka Kerja AI Lebih Luas California
Perintah hari Jumaat dibina berdasarkan apa yang disifatkan oleh pejabat gabenor sebagai rangka kerja kawal selia AI terkuat di negara ini. Newsom mengeluarkan perintah eksekutif pertamanya dalam negara mengenai AI generatif pada tahun 2023, dan negeri itu kini mempunyai undang-undang yang menyentuh hampir setiap bidang utama dasar AI — keselamatan model sempadan, pengawasan bebas, chatbot kanak-kanak dan teman, privasi, palsu, penipuan, keselamatan siber dan penggunaan kerajaan, menurut pejabat gabenor. Pada 2025, Newsom menandatangani SB 53, Akta Ketelusan dalam Kepintaran Buatan Sempadan — undang-undang keselamatan AI pertama negara — yang memerlukan pemaju sempadan mendedahkan rangka kerja keselamatan secara terbuka, melaporkan insiden keselamatan kritikal kepada negeri dan melindungi pemberi maklumat yang menimbulkan risiko serius.
Tambahan tahun ini — SB 813 dan AB 1405 — membekalkan otot penguatkuasaan: organisasi pihak ketiga yang diperakui untuk menilai secara bebas sistem sempadan, dan pendaftaran profesional untuk mengekalkan juruaudit mengikut piawaian kebebasan.
Apa yang berlaku seterusnya ialah jam dua bulan. Apabila panel pakar melaporkan kembali, California boleh menjadi negeri pertama yang memerlukan syarikat AI sempadan menerima pelan keselamatan bertulis luaran dan membina mekanisme penutupan kecemasan ke dalam model mereka yang paling berkuasa. Untuk industri yang masih memperdebatkan berapa banyak kerjanya sendiri harus diserahkan kepada AI - dan cara mengandungi ejen yang diciptanya - tarikh akhir itu menjadi sangat nyata.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
