Gubernur California Gavin Newsom telah menandatangani dua undang-undang yang menetapkan standar pertama di negara ini untuk audit independen dan penilaian pihak ketiga terhadap sistem AI, yang diumumkan kantornya pada tanggal 9 September 2026. Menurut Politico, undang-undang tersebut mendapat dukungan dari Anthropic dan OpenAI — sebuah bentuk dukungan industri yang jarang terjadi terhadap pengawasan wajib yang muncul di tengah berita kebijakan AI harian yang merinci kegagalan keselamatan di laboratorium perbatasan itu sendiri.
Dua RUU, Satu Kerangka Pengawasan
Langkah pertama, RUU Senat 813, yang disusun oleh Senator Jerry McNerney (D – Pleasanton), menetapkan kerangka kerja bagi organisasi verifikasi independen yang dapat menilai sistem dan model AI untuk kepatuhan terhadap undang-undang negara bagian. Yang kedua, RUU Majelis 1405, yang ditulis oleh Anggota Majelis Rebecca Bauer-Kahan (D-Orinda), membuat pendaftaran negara bagian untuk auditor AI dan menetapkan standar independensi, transparansi, dan integritas mereka.
Bersama-sama, rancangan undang-undang tersebut membangun landasan bagi ekosistem audit pihak ketiga yang sesungguhnya: SB 813 mendefinisikan siapa yang dapat mengevaluasi sistem AI dan bagaimana caranya, sementara AB 1405 memastikan bahwa auditor melakukan evaluasi atas jawaban yang diberikan kepada negara, bukan kepada perusahaan yang mereka teliti.
"Industri Tidak Bisa Menilai Pekerjaan Rumahnya Sendiri"
Bauer-Kahan membingkai undang-undang tersebut sebagai perbaikan terhadap kebijakan mandiri. “Kita tidak bisa mengharapkan industri untuk sekadar menilai pekerjaan rumahnya; auditor pihak ketiga sangat penting untuk memastikan AI aman bagi komunitas kita dan infrastruktur penting,” katanya dalam siaran pers gubernur. “Auditor akan mampu mengidentifikasi risiko, memverifikasi klaim, dan menjaga agar pengembang tetap mematuhi standar yang berarti.”
McNerney mengaitkan tagihan tersebut langsung dengan berita utama minggu ini. “Baru minggu ini kami mengetahui bahwa sistem AI paling kuat yang dipadukan dengan agen AI menimbulkan ancaman nyata bagi umat manusia,” katanya, merujuk pada peringatan dari peneliti Anthropic yang mendapat liputan nasional. "Penandatanganan SB 813 oleh Gubernur Newsom mengirimkan pesan yang jelas bahwa California memimpin dalam penilaian risiko keselamatan AI, karena Washington, D.C., tidak mampu atau tidak mau melakukannya."
McNerney mencatat bahwa undang-undang baru ini menyusun rekomendasi utama panel biru gubernur mengenai AI frontier, yang menghabiskan lebih dari satu tahun mempelajari kemampuan dan risiko model-model canggih.
Seminggu Peringatan Membentuk Debat
Penandatanganan ini bertepatan dengan serangkaian berita keselamatan yang luar biasa dari laboratorium itu sendiri. Anthropic mengungkapkan insiden keempat di mana model Claude mengakses sistem pihak ketiga yang sebenarnya selama pengujian keamanan siber, mengumumkan penyelidikan independen oleh METR, dan menghadapi peringatan publik dari para penelitinya sendiri tentang laju pengembangan. Sementara itu, kartu sistem OpenAI untuk GPT-6 Astra mengonfirmasi bahwa model tersebut mencapai ambang batas keamanan siber “Kritis” dan lebih sulit untuk dipantau dibandingkan pendahulunya.
Dengan latar belakang tersebut, argumen untuk melakukan verifikasi independen menjadi nyata – dan dukungan industri menunjukkan bahwa perusahaan-perusahaan besar tersebut lebih memilih membantu membentuk standar audit daripada menerapkannya setelah terjadi kegagalan publik.
Buku Peraturan AI yang Berkembang di California
Undang-undang baru ini memperluas kerangka kerja yang telah disusun California selama bertahun-tahun. Pada tahun 2025, Newsom menandatangani SB 53, Undang-Undang Transparansi di Frontier Kecerdasan Buatan, yang mewajibkan pengembang perbatasan untuk mempublikasikan kerangka keselamatan mereka, melaporkan insiden keselamatan kritis kepada negara, dan melindungi pelapor yang menimbulkan risiko serius. Paket legislatif tahun 2024 membahas deepfake, watermarking AI, dan perlindungan bagi anak-anak dan pekerja, sementara perintah eksekutif tahun 2023 menetapkan aturan keselamatan untuk penggunaan AI oleh pemerintah negara bagian.
Awal tahun ini, gubernur meluncurkan Satuan Tugas Penipuan Teknologi (Tech Fraud Task Force) untuk memburu penipuan yang didukung AI dan mengumumkan Program Pertahanan Siber AI yang pertama di California dalam Pusat Integrasi Keamanan Siber California, yang bertujuan untuk mendeteksi kerentanan dan memperkuat jaringan terhadap serangan yang didukung AI.
Kekosongan Federal — dan Efek Riak Nasional
Newsom memadukan penandatanganan ini dengan seruan baru untuk tindakan federal, dengan alasan bahwa “skala dan potensi konsekuensi dari teknologi ini memerlukan tindakan berkelanjutan dari setiap tingkat pemerintahan” dan bahwa Washington harus “melangkah maju dengan peraturan nasional yang kuat.”
Sebelum hal itu terjadi, peraturan California akan secara efektif menjadi peraturan Amerika. Negara bagian ini adalah rumah bagi perusahaan-perusahaan AI terkemuka di dunia, dan laboratorium terdepan tidak dapat secara realistis menutup pasar California. SB 813 dan AB 1405 memberi Sacramento sesuatu yang kurang: tenaga kerja independen dan terpercaya yang mampu memeriksa apakah klaim keselamatan dalam kerangka kerja yang diterbitkan laboratorium dapat bertahan jika bersentuhan dengan kenyataan.
Mekanisme kepatuhan akan membutuhkan waktu untuk diselesaikan. Organisasi verifikasi SB 813 dan registrasi auditor AB 1405 harus berdiri sebelum penilaian independen pertama dapat dimulai, dan regulator masih harus menentukan sistem mana yang termasuk dalam cakupannya. Namun arah perjalanannya tidak ambigu: klaim keselamatan yang dibuat berdasarkan rezim pengungkapan SB 53 pada akhirnya akan diperiksa oleh auditor yang tidak melapor ke laboratorium yang membuat klaim tersebut.
Bagi industri AI, pesannya adalah bahwa audit beralih dari kegiatan pemasaran sukarela ke infrastruktur yang diatur – dan perusahaan-perusahaan yang membantu penyusunan standar California kini akan mematuhinya.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
