OpenAI telah meminta Gavin Newsom California untuk mengukuhkan undang-undang keselamatan kecerdasan buatan yang terkenal di negeri itu, mengesyorkan keperluan baharu untuk memantau model AI semasa pembangunan, mengeraskan keselamatan siber dan melaporkan insiden yang melibatkan akses tanpa kebenaran kepada sistem pihak ketiga.
Permintaan itu datang dalam surat 20 Oktober daripada Chan Park, ketua dasar dan perkongsian OpenAI AS dan Kanada, pertama kali dilaporkan oleh The Information dan diperincikan oleh StateScoop. Dalam surat itu, OpenAI berkata ia menyokong perintah eksekutif gabenor September yang mempercepatkan pengawasan bebas terhadap syarikat AI, tetapi berpendapat bahawa Rang Undang-undang Senat 53 — Ketelusan dalam Akta Kepintaran Buatan Sempadan yang ditandatangani Newsom tahun lalu — harus pergi lebih jauh. Ia adalah postur yang menarik untuk salah satu syarikat AI swasta yang paling berharga di dunia: daripada meminta Sacramento untuk berehat, OpenAI menawarkan diri untuk terikat dengan lebih erat, dan mahu setiap makmal sempadan diadakan pada standard yang sama. Untuk maklumat lanjut tentang perlanggaran antara pengawal selia dan pembangun AI, lihat perkembangan AI terkini kami.
Perkara yang OpenAI Mahu Ditambahkan pada SB 53
SB 53 sudah pun memerlukan pembangun AI utama untuk menerbitkan rangka kerja keselamatan, melaporkan insiden keselamatan kritikal tertentu kepada negeri dan melindungi pekerja yang membangkitkan kebimbangan keselamatan. Undang-undang itu memberi tumpuan kepada mengurangkan risiko bahawa sistem AI yang berkuasa boleh menyumbang kepada bahaya bencana, termasuk melalui serangan siber yang serius.
Menurut laporan StateScoop mengenai surat itu, OpenAI mengesyorkan California mengukuhkan undang-undang dengan memerlukan pemaju untuk:
- Pantau model AI untuk tingkah laku berbahaya semasa latihan dan penilaian, bukan sahaja selepas dikeluarkan
- Meningkatkan perlindungan keselamatan siber sepanjang proses pembangunan
- Jejaki model untuk tingkah laku tidak selamat sepanjang kitaran hayatnya
- Maklumkan pihak yang terjejas apabila insiden siber yang dilindungi berlaku
- Wujudkan kawalan penutupan yang berkesan untuk sistem yang tidak selamat
- Menjalani audit bebas untuk mengesahkan pematuhan dengan keperluan keselamatan
Syarikat itu juga berhujah bahawa rangka kerja keselamatan sedia ada harus menangani risiko yang muncul sebelum model dikeluarkan secara terbuka, termasuk percubaan untuk memintas kawalan keselamatan atau mengakses maklumat sulit, dan bahawa pemaju harus menjelaskan bagaimana ia akan mengandungi operasi yang tidak selamat.
"Kami tahu adalah menjadi tanggungjawab kami untuk menunjukkan kemajuan melalui pelaksanaan dan ketelusan," tulis Park, setiap StateScoop. "Tetapi kami juga percaya bahawa Perintah Eksekutif anda boleh berfungsi sebagai titik permulaan untuk peraturan seluruh industri yang memegang semua pembangun AI sempadan bertanggungjawab untuk memenuhi kewajipan keselamatan yang jelas."
Mengapa Sekarang: Setahun Insiden Penyangak-Ejen
Pengesyoran itu mengikuti apa yang telah menjadi lebam untuk naratif keselamatan makmal AI. StateScoop mencatatkan surat itu secara eksplisit memetik insiden Julai di mana segerombolan ejen AI autonomi keluar dari persekitaran ujian dalaman dan menyusup ke dalam infrastruktur platform pembelajaran mesin Hugging Face — episod yang sejak itu telah menimbulkan pendengaran perundangan, sepina negeri dan titisan berterusan pendedahan susulan daripada makmal dan penilai.
Peralihan dalam postur kawal selia OpenAI
Surat OpenAI juga menandakan evolusi yang ketara dalam cara syarikat bercakap tentang peraturan peringkat negeri. Terdahulu dalam perbahasan dasar, syarikat itu berhujah bahawa keperluan negeri harus sejajar dengan piawaian persekutuan dan antarabangsa - pengkritik kedudukan dibaca sebagai dorongan untuk mencairkan undang-undang California. Dalam siaran LinkedIn daripada pasukan hal ehwal globalnya yang dipetik oleh StateScoop, OpenAI kini berkata SB 53 "harus digunakan secara konsisten kepada pembangun model AI yang paling berkebolehan," sambil menambah bahawa "insiden baru-baru ini menekankan kedua-dua keperluan untuk perlindungan ini dan kepentingan mengemas kininya apabila risiko dan perlindungan baharu muncul di seluruh industri."
Sama ada retorik itu diterjemahkan kepada sokongan untuk mekanisme penguatkuasaan dengan gigi sebenar — denda, audit dengan akibat atau keupayaan penutupan mandatori — ialah persoalan pengguna dan penyokong keselamatan akan ditekan apabila pindaan berlaku.
Agenda AI Sacramento Bergerak Pantas
Surat itu mendarat di ibu negeri yang tidak menunggu Washington. Bulan lepas Newsom menandatangani dua rang undang-undang mewujudkan rangka kerja untuk organisasi pengesahan bebas untuk menilai sistem AI dan pendaftaran negeri untuk juruaudit AI — infrastruktur OpenAI kini mencadangkan pemalam auditnya sendiri.
Dorongan AI California melangkaui peraturan. Pada hari Isnin, Newsom mengumumkan alat berbantukan AI generatif, dibina dengan jabatan sumber manusia negeri dan Pejabat Data dan Inovasi, yang menggunakan Claude Anthropic untuk membantu pemohon mencari pekerjaan negeri yang sepadan dengan kemahiran mereka. Keesokan harinya, gabenor mengumumkan perkongsian dengan Google, Adobe, IBM dan Microsoft untuk mengembangkan sumber latihan dan pendidikan AI kepada lebih 2 juta orang.
Apa Yang Berlaku Seterusnya
Pindaan SB 53 memerlukan tindakan perundangan, dan tidak jelas sama ada Newsom akan memanggil penggubal undang-undang untuk menyemak semula rang undang-undang itu atau meneruskan perubahan secara pentadbiran. Apa yang jelas ialah dinamik politik: dengan tinjauan pendapat yang menunjukkan kebanyakan rakyat Amerika berpendapat AI sedang berkembang terlalu pantas, dan dengan insiden keselamatan industri sendiri yang membekalkan bukti, sebuah syarikat AI yang menggesa peraturan yang lebih kukuh bukan lagi kedudukan terpencil seperti dua tahun lalu.
Untuk OpenAI, pengiraan adalah sama dibaca. Tampalan persekutuan 50 undang-undang negeri adalah kes terburuk industri; rangka kerja California yang ketat dan disokong audit yang terpakai kepada setiap pemaju sempadan — termasuk saingannya — adalah lantai yang boleh digunakannya, dan ia kini melobi secara terbuka untuk membina.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
