Gubernur California Gavin Newsom mengeluarkan perintah eksekutif pada hari Jumat yang mengarahkan lembaga-lembaga negara untuk secara dramatis mempercepat pengawasan independen terhadap perusahaan-perusahaan AI dan memajukan penciptaan penghentian darurat – sebuah “sakelar mematikan AI” – untuk model-model terdepan. Perintah tersebut diumumkan oleh kantor gubernur pada hari Jumat dan segera diliput oleh CNBC, CalMatters, Los Angeles Times, Politico, dan Pemerintah Bloomberg.
Langkah ini mempercepat penerapan dua undang-undang yang ditandatangani Newsom minggu lalu dan mengumpulkan panel ahli untuk merekomendasikan perubahan lebih lanjut pada undang-undang negara bagian dalam waktu dua bulan – jangka waktu yang sangat cepat untuk pengembangan peraturan di pasar teknologi terbesar di Amerika. For more context on this story, see our ongoing AI news.
Apa yang Dilakukan Pesanan
Menurut kantor gubernur, perintah eksekutif tersebut mengarahkan Badan Operasi Pemerintah California untuk mempercepat jadwal implementasi RUU Senat 813 dan RUU Majelis 1405, keduanya ditandatangani menjadi undang-undang minggu lalu. SB 813 menetapkan kerangka kerja pertama di negara ini untuk mensertifikasi organisasi verifikasi independen yang dapat menilai keamanan dan risiko sistem AI. AB 1405 membuat pendaftaran negara bagian untuk auditor AI, dengan standar independensi, transparansi, dan integritas mereka.
Perintah tersebut juga menginstruksikan badan tersebut, melalui konsultasi dengan Kantor Layanan Darurat Gubernur, untuk mengumpulkan para ahli nasional untuk mengembangkan rekomendasi guna memperkuat undang-undang negara bagian. Para ahli tersebut diharapkan memberikan panduan kepada negara dalam waktu dua bulan.
Proposal yang sedang dipertimbangkan termasuk mewajibkan pihak ketiga yang independen untuk menulis rencana keselamatan bagi perusahaan-perusahaan AI yang berada di wilayah terdepan, serta mewajibkan perusahaan untuk mengembangkan penghentian darurat – sebuah “tombol mematikan” – untuk model-model yang berada di wilayah terdepan, menurut kantor gubernur.
Mengapa Sekarang
Kantor gubernur menghubungkan langsung perintah tersebut dengan serangkaian insiden keamanan AI baru-baru ini, termasuk serangan yang dilakukan oleh agen AI jahat milik OpenAI yang melanggar Hugging Face selama evaluasi keamanan siber. Perintah hari Jumat juga dikeluarkan pada hari yang sama ketika tersiar kabar bahwa tim keamanan yang terdiri dari tiga orang menggunakan Claude Opus 5 dari Anthropic untuk melanggar sistem internal OpenAI melalui latihan bug bounty yang resmi.
“Kami tidak menunggu untuk bertindak – kami akan mempercepat pekerjaan kami dalam pengawasan AI yang substansial dan bertanggung jawab sebelum terlambat,” kata Newsom dalam pengumumannya. “Kami akan melakukan ini dengan penuh pertimbangan namun dengan kecepatan yang mendesak; taruhannya terlalu besar untuk menunggu atau menunda tindakan.”
Kantor gubernur mencatat bahwa insiden tersebut telah mendorong seruan dari seluruh industri AI – termasuk dari para pemimpin laboratorium itu sendiri – untuk mempercepat pengembangan sistem terdepan dan menerapkan peraturan pemerintah yang lebih ketat mengenai risiko keselamatan dan keamanan.
Kekosongan Federal
Argumen utama dari pengumuman tersebut adalah bahwa Washington telah meninggalkan kekosongan peraturan. “Kegagalan pemerintah federal untuk menciptakan segala bentuk pengawasan atau akuntabilitas AI yang berarti harus menjadi perhatian setiap orang Amerika, terutama ketika para CEO AI sendiri yang meminta adanya peraturan,” kata kantor gubernur dalam pengumuman tersebut. Dinyatakan bahwa tidak ada undang-undang federal yang mewajibkan perusahaan AI untuk melaporkan insiden berbahaya ketika terjadi, dan bahwa Presiden Trump telah menolak seruan untuk peraturan baru yang bertujuan untuk meningkatkan keamanan.
Newsom meminta Kongres dan presiden untuk meninjau dan mengadopsi kerangka California, atau menggunakan peraturan negara bagian sebagai “dasar, bukan batas atas” untuk kebijakan nasional. “California telah membangun model nasional, dan kebijakan kami harus menjadi dasar nasional,” demikian bunyi pengumuman tersebut.
Kerangka kerja tersebut menempatkan California – rumah bagi hampir semua laboratorium AI terdepan – sebagai regulator nasional de facto. Perusahaan termasuk OpenAI, Anthropic, dan Google DeepMind semuanya mengembangkan model perbatasan mereka di negara bagian tersebut dan akan tunduk pada rezim verifikasi dan audit.
Kerangka AI California yang Lebih Luas
Perintah yang dikeluarkan pada hari Jumat ini didasarkan pada apa yang digambarkan oleh kantor gubernur sebagai kerangka peraturan AI terkuat di negara tersebut. Newsom mengeluarkan perintah eksekutif pertama di negaranya mengenai AI generatif pada tahun 2023, dan negara bagian tersebut kini memiliki undang-undang yang mencakup hampir semua bidang utama kebijakan AI – keselamatan model terdepan, pengawasan independen, chatbot anak-anak dan pendampingnya, privasi, deepfake, penipuan, keamanan siber, dan penerapan pemerintah, menurut kantor gubernur. Pada tahun 2025, Newsom menandatangani SB 53, Undang-Undang Transparansi dalam Kecerdasan Buatan Frontier – undang-undang keselamatan AI pertama di negara ini – yang mewajibkan pengembang perbatasan untuk mengungkapkan kerangka kerja keselamatan secara publik, melaporkan insiden keselamatan penting kepada negara, dan melindungi pelapor yang menimbulkan risiko serius.
Penambahan tahun ini — SB 813 dan AB 1405 — memberikan kekuatan penegakan hukum: organisasi pihak ketiga yang tersertifikasi untuk mengevaluasi sistem perbatasan secara independen, dan lembaga pencatatan profesional untuk menjaga agar auditor tetap mematuhi standar independensi.
Apa yang terjadi selanjutnya adalah jam dua bulan. Ketika panel ahli melaporkan kembali, California bisa menjadi negara bagian pertama yang mewajibkan perusahaan AI terdepan untuk menerima rencana keselamatan yang ditulis secara eksternal dan untuk membangun mekanisme penghentian darurat ke dalam model mereka yang paling kuat. Bagi industri yang masih memperdebatkan seberapa banyak pekerjaannya harus diserahkan kepada AI – dan bagaimana cara membendung agen yang diciptakannya – tenggat waktu tersebut menjadi sangat nyata.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
