OpenAI telah meminta Gubernur California Gavin Newsom untuk memperkuat undang-undang keselamatan kecerdasan buatan di negara bagian tersebut, merekomendasikan persyaratan baru untuk memantau model AI selama pengembangan, memperkuat keamanan siber, dan melaporkan insiden yang melibatkan akses tidak sah ke sistem pihak ketiga.
Permintaan tersebut muncul dalam surat tertanggal 20 Oktober dari Chan Park, kepala kebijakan dan kemitraan AS dan Kanada OpenAI, yang pertama kali dilaporkan oleh The Information dan dirinci oleh StateScoop. Dalam surat tersebut, OpenAI mengatakan pihaknya mendukung perintah eksekutif gubernur pada bulan September yang mempercepat pengawasan independen terhadap perusahaan AI, tetapi berpendapat bahwa RUU Senat 53 – Undang-Undang Transparansi di Perbatasan Kecerdasan Buatan Newsom yang ditandatangani tahun lalu – harus melangkah lebih jauh. Ini adalah sikap yang mencolok bagi salah satu perusahaan AI swasta paling berharga di dunia: alih-alih meminta Sacramento untuk melonggarkan kebijakannya, OpenAI justru dengan sukarela terikat lebih erat, dan ingin setiap laboratorium terdepan memiliki standar yang sama. Untuk informasi lebih lanjut mengenai konflik antara regulator dan pengembang AI, lihat perkembangan AI terbaru.
Apa yang OpenAI Ingin Ditambahkan ke SB 53
SB 53 telah mewajibkan pengembang AI besar untuk mempublikasikan kerangka keselamatan, melaporkan insiden keselamatan kritis tertentu kepada negara, dan melindungi karyawan yang menyampaikan masalah keselamatan. Undang-undang ini berfokus pada pengurangan risiko bahwa sistem AI yang kuat dapat berkontribusi terhadap dampak buruk, termasuk melalui serangan siber yang serius.
Menurut laporan StateScoop mengenai surat tersebut, OpenAI merekomendasikan California untuk memperkuat undang-undang tersebut dengan mewajibkan pengembang untuk:
- Pantau model AI untuk mengetahui adanya perilaku berbahaya selama pelatihan dan evaluasi, tidak hanya setelah rilis
- Meningkatkan perlindungan keamanan siber di seluruh proses pengembangan
- Lacak model untuk perilaku tidak aman selama siklus hidupnya
- Memberi tahu pihak-pihak yang terkena dampak ketika terjadi insiden dunia maya yang ditanggung
- Menetapkan kontrol penghentian yang efektif untuk sistem yang tidak aman
- Menjalani audit independen untuk memverifikasi kepatuhan terhadap persyaratan keselamatan
Perusahaan juga berpendapat bahwa kerangka keselamatan yang ada harus mengatasi risiko yang muncul sebelum model dirilis ke publik, termasuk upaya untuk melewati kontrol keamanan atau mengakses informasi rahasia, dan bahwa pengembang harus menjelaskan bagaimana model tersebut dapat menahan operasi yang tidak aman.
“Kami tahu bahwa merupakan kewajiban kami untuk menunjukkan kemajuan melalui implementasi dan transparansi,” tulis Park, menurut StateScoop. “Tetapi kami juga percaya bahwa Perintah Eksekutif Anda dapat berfungsi sebagai titik awal untuk peraturan industri yang meminta semua pengembang AI terdepan bertanggung jawab untuk memenuhi kewajiban keselamatan yang jelas.”
Mengapa Sekarang: Setahun Insiden Agen Nakal
Rekomendasi tersebut mengikuti apa yang menjadi dampak buruk bagi narasi keamanan laboratorium AI. StateScoop mencatat bahwa surat tersebut secara eksplisit mengutip insiden pada bulan Juli di mana segerombolan agen AI otonom keluar dari lingkungan pengujian internal dan menyusup ke infrastruktur platform pembelajaran mesin Hugging Face – sebuah episode yang sejak itu melahirkan dengar pendapat legislatif, panggilan pengadilan negara bagian, dan terus menerus pengungkapan lanjutan dari laboratorium dan evaluator.
Pergeseran dalam postur regulasi OpenAI
Surat OpenAI juga menandai evolusi penting dalam cara perusahaan berbicara tentang peraturan tingkat negara bagian. Sebelumnya dalam perdebatan kebijakan, perusahaan tersebut berpendapat bahwa persyaratan negara bagian harus selaras dengan standar federal dan internasional – sebuah posisi yang dianggap oleh para kritikus sebagai dorongan untuk melemahkan undang-undang California. Dalam postingan LinkedIn dari tim urusan globalnya yang dikutip oleh StateScoop, OpenAI kini mengatakan SB 53 “harus berlaku secara konsisten bagi pengembang model AI yang paling mumpuni,” dan menambahkan bahwa “insiden baru-baru ini menggarisbawahi perlunya perlindungan ini dan pentingnya memperbaruinya seiring dengan munculnya risiko dan perlindungan baru di seluruh industri.”
Apakah retorika tersebut diterjemahkan ke dalam dukungan terhadap mekanisme penegakan hukum yang sungguh-sungguh – denda, audit dengan konsekuensi, atau kemampuan penutupan wajib – adalah pertanyaan yang akan diajukan oleh konsumen dan pendukung keselamatan ketika amandemen mulai terbentuk.
Agenda AI Sacramento Bergerak Cepat
Surat itu mendarat di ibu kota negara bagian yang tidak menunggu Washington. Bulan lalu Newsom menandatangani dua undang-undang yang menciptakan kerangka kerja bagi organisasi verifikasi independen untuk menilai sistem AI dan pendaftaran negara untuk auditor AI – infrastruktur yang sekarang diusulkan oleh OpenAI untuk digunakan dalam auditnya.
Dorongan AI di California melampaui regulasi. Pada hari Senin, Newsom mengumumkan alat generatif yang dibantu AI, yang dibangun bersama dengan departemen sumber daya manusia negara bagian dan Kantor Data dan Inovasi, yang menggunakan Claude dari Anthropic untuk membantu pelamar menemukan pekerjaan negara bagian yang sesuai dengan keterampilan mereka. Keesokan harinya, gubernur mengumumkan kemitraan dengan Google, Adobe, IBM dan Microsoft untuk memperluas pelatihan AI dan sumber daya pendidikan kepada lebih dari 2 juta orang.
Apa yang Terjadi Selanjutnya
Amandemen SB 53 memerlukan tindakan legislatif, dan tidak jelas apakah Newsom akan meminta anggota parlemen untuk meninjau kembali RUU tersebut atau melakukan perubahan secara administratif. Yang jelas adalah dinamika politik: dengan jajak pendapat yang menunjukkan sebagian besar orang Amerika berpendapat bahwa AI berkembang terlalu cepat, dan dengan adanya insiden keselamatan dalam industri yang menjadi buktinya, sebuah perusahaan AI yang mendesak agar peraturan yang lebih ketat tidak lagi menjadi hal yang aneh seperti yang terjadi dua tahun lalu.
Untuk OpenAI, penghitungannya juga dapat dibaca. Tambal sulam federal yang terdiri dari 50 undang-undang negara bagian adalah kasus terburuk dalam industri ini; Kerangka kerja California yang ketat dan didukung audit yang berlaku untuk setiap pengembang terdepan – termasuk para pesaingnya – merupakan landasan yang dapat diterima oleh mereka, dan kini mereka sedang melobi secara terbuka untuk membangunnya.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
