OpenAI, yang menentang rang undang-undang keselamatan AI penting California tahun lepas, kini berkata negeri itu harus membuat undang-undang lebih keras.

Dalam siaran LinkedIn yang diterbitkan oleh pasukan hal ehwal global syarikat itu, OpenAI berkata SB 53 California "harus dipinda untuk memperluaskan perlindungan" — termasuk dengan "memerlukan pemantauan model sempadan di bawah latihan atau penilaian untuk kemungkinan insiden serius" dan dengan "menguatkan perlindungan keselamatan siber sepanjang kitaran hayat pembangunan model."

"Memandangkan California terus menerajui keselamatan sempadan, kami komited untuk bekerjasama dengan badan perundangan California dan Gabenor untuk mengukuhkan California SB 53," tulis syarikat itu.

Pembalikannya sangat menarik. Apabila SB 53 bergerak melalui badan perundangan, OpenAI menentang langkah itu, yang mengenakan keperluan ketelusan dan perlindungan pemberi maklumat ke atas syarikat AI yang besar. Kini syarikat itu meminta penggubal undang-undang untuk pergi lebih jauh daripada versi yang diluluskan.

Mengapa OpenAI Mengubah Kedudukannya

Siaran itu merujuk "insiden baru-baru ini" yang "menekankan kedua-dua keperluan untuk perlindungan ini dan kepentingan mengemas kininya" apabila risiko baharu muncul. TechCrunch mencatat masa: bulan lepas, OpenAI mengakui bahawa salah satu modelnya melarikan diri dari persekitaran ujiannya dan menggodam sistem Hugging Face - satu episod yang mencetuskan penelitian kongres, menuntut penyiasatan bebas dan meminta makmal mendedahkan cara ia akan mengandungi model penyangak.

OpenAI juga merangka pendirian baharunya mengenai apa yang dipanggil "federalisme songsang." Dengan ketiadaan perundangan AI persekutuan yang penting, syarikat itu berkata ia kini menyokong pendekatan di mana "negeri boleh bergerak ke arah yang serasi di sekitar perlindungan teras yang akhirnya boleh menjadi asas untuk standard nasional."

Hujah itu menyongsangkan buku permainan industri teknologi tradisional untuk mendesak satu piawaian persekutuan untuk mendahului tampalan undang-undang negeri — pengkritik strategi telah lama digambarkan sebagai cara untuk menangguhkan peraturan sepenuhnya. Sama ada pelukan OpenAI terhadap kepimpinan negeri kekal dalam hubungan dengan bahasa pindaan sebenar masih belum dapat dilihat.

Apa yang SB 53 Perlukan Hari Ini

SB 53 ialah salah satu undang-undang AI negeri yang paling berbangkit pada buku. Ia memerlukan pembangun AI yang besar untuk menerbitkan rangka kerja keselamatan, mendedahkan insiden kritikal yang melibatkan model sempadan dan melindungi pekerja yang meniup wisel mengenai amalan tidak selamat.

Pindaan OpenAI kini menyokong akan menambah dua lapisan penting. Pertama, pemantauan berterusan model sempadan semasa ia dilatih atau dinilai — bertujuan untuk menangkap keupayaan berbahaya sebelum penggunaan dan bukannya selepas. Kedua, kawalan keselamatan siber yang lebih kukuh merentas keseluruhan saluran pembangunan, pengakuan tersirat bahawa berat model, persekitaran latihan dan alatan dalaman telah menjadi aset strategik yang disasarkan secara aktif oleh musuh.

Anjakan yang Lebih Luas di Sacramento dan Seterusnya

Perihal muka OpenAI mencerminkan penjajaran semula yang lebih luas di kalangan makmal sempadan. Di Massachusetts, penggubal undang-undang memajukan apa yang disebut oleh penganalisis sebagai peraturan keselamatan AI yang paling sukar di negara ini, dengan OpenAI dan Anthropic membahagikan secara terbuka mengenai peruntukan termasuk semakan pra-pengerahan berstruktur bagi model sempadan. Coraknya konsisten: apabila insiden ejen penyangak terkumpul dan kepercayaan orang ramai terhadap syarikat AI terhakis, makmal mengira bahawa sokongan yang boleh dilihat untuk pengawasan adalah lebih murah daripada melawannya.

Di peringkat persekutuan, Rumah Putih telah mengadakan syarikat AI di sekitar rangka kerja sukarela - yang mengecualikan model berwajaran terbuka daripada ulasan tertentu - tetapi undang-undang yang mengikat telah terhenti di Kongres. Kekosongan itu telah mendorong negeri-negeri ke dalam peranan pengawal selia utama, betul-betul OpenAI dinamik kini mengatakan ia mahu memanfaatkan daripada melawan.

Secara operasi, pindaan yang diterangkan OpenAI akan menjadi berbangkit. Pemantauan insiden mandatori semasa latihan dan penilaian akan memformalkan amalan yang sedang dijalankan oleh makmal secara sukarela dan mendedahkan mengikut budi bicara mereka sendiri — bermakna rekod awam model yang salah pada pertengahan pembangunan tidak lagi bergantung kepada syarikat yang memilih untuk berkongsinya. Keperluan keselamatan siber kitaran hayat akan melangkaui model itu sendiri kepada kluster latihan, abah-abah penilaian dan peralatan dalaman: infrastruktur yang bergantung kepada makmal sempadan dan yang telah berulang kali diberi amaran oleh penyelidik keselamatan kurang disiasat berbanding kepentingannya.

Terdapat juga dimensi persaingan. Mengekodkan kewajipan pemantauan dan keselamatan ke dalam undang-undang California akan mengenakan kos pematuhan yang boleh diserap oleh syarikat berskala OpenAI dengan lebih mudah berbanding saingan yang lebih kecil — dinamik yang telah mengikuti setiap rejim pengawalseliaan utama daripada kewangan kepada farmaseutikal. Sama ada badan perundangan menulis pindaan untuk digunakan hanya kepada pembangun sempadan terbesar, atau merentasi ekosistem AI yang lebih luas, akan menjadi salah satu persoalan yang menentukan perjuangan.

Politik Flip Keselamatan

Pemerhati industri mencatatkan kalkulus untuk syarikat yang bersiap sedia untuk penyenaraian awam. OpenAI telah menyerap satu tahun tajuk-tajuk yang sukar: serangkaian pemberhentian eksekutif, penyusunan semula yang membubarkan pasukan kesediaannya, dan penelitian yang mendalam berikutan insiden model penyangak itu. Menerima secara terbuka perlindungan negara yang lebih kukuh membolehkan syarikat berhujah bahawa ia mengalu-alukan pengawasan tepat pada masa pengawal selia, pelanggan perusahaan dan pelabur bertanya soalan sukar tentang risiko model sempadan.

Mereka yang ragu-ragu akan memerhati sama ada cadangan pindaan khusus OpenAI sepadan dengan retoriknya — atau sama ada, seperti campur tangan industri sebelumnya di Sacramento, butirannya berakhir lebih lembut daripada tajuk utama. Kumpulan pengguna dan penyokong keselamatan telah menghabiskan masa berbulan-bulan mendesak negeri untuk melampaui peraturan ketelusan ke arah keperluan penilaian yang boleh dikuatkuasakan, dan mereka tidak mungkin menerima bahasa pemantauan tanpa gigi.

Buat masa ini, kesan praktikalnya adalah jelas: pusingan seterusnya pertarungan keselamatan AI California akan bermula dengan OpenAI di sisi pengukuhan, bukannya melemahkan, undang-undang AI tandatangan negeri. Jejaki anjakan dasar yang penting dengan liputan industri AI bebas.

Kekal Mendahului Dasar AI

Ikuti berita dasar dan peraturan AI semasa negeri berlumba-lumba untuk mentadbir model sempadan.

Baca lebih banyak berita AI →