OpenAI mengumumkan sokongannya pada hari Selasa untuk Rang Undang-undang Senat California 1119, undang-undang yang akan mewujudkan perlindungan menyeluruh untuk cara orang muda menggunakan kecerdasan buatan, dan menggesa Gabenor Gavin Newsom menandatangani rang undang-undang itu menjadi undang-undang.

Pengendorsan itu datang dalam surat umum kepada Newsom yang dikarang oleh Ann O'Leary, naib presiden dasar global OpenAI, dan catatan blog yang diterbitkan di tapak syarikat itu. Di dalamnya, syarikat itu merangka SB 1119 sebagai jalan tengah yang bermakna: perlindungan yang kukuh untuk pengguna bawah 18 tahun, tanpa memotong remaja daripada alatan yang dikatakan membantu mereka belajar, mencipta dan bersedia untuk masa depan. Pengumuman itu adalah yang terbaru dalam cerita dasar AI yang membentuk semula cara kerajaan melayan pengguna termuda AI. For more context on this story, see our ongoing AI industry coverage.

Mengapa OpenAI Menerima Peraturan — Yang Ini, Bagaimanapun

Kedudukan OpenAI bergantung pada statistik yang menarik dari jawatannya sendiri: hampir sembilan daripada sepuluh remaja yang menggunakan ChatGPT beralih kepadanya untuk pembelajaran, maklumat, pembinaan kemahiran atau produktiviti dalam minggu tertentu. "Remaja adalah generasi pertama yang membesar dengan AI, " tulis syarikat itu, dengan alasan bahawa peluang datang dengan tanggungjawab untuk mereka bentuk pengalaman di sekitar keperluan pembangunan berbeza golongan muda.

Syarikat itu jelas tentang vakum persekutuan yang memotivasikan posturnya. "Dengan ketiadaan tindakan persekutuan, California mempunyai peluang untuk menetapkan standard yang kukuh untuk keselamatan AI belia," surat kepada Newsom menyatakan. OpenAI berkata rang undang-undang itu dibina berdasarkan komitmen Ketua Pegawai Eksekutif Sam Altman yang dibuat tahun lepas apabila menggariskan prinsip syarikat mengenai keselamatan remaja, serta kerja syarikat mengenai Akta AI Selamat Ibu Bapa & Kanak-kanak.

Apa yang SB 1119 Perlukan

Menurut ringkasan rang undang-undang OpenAI, SB 1119 memerlukan syarikat AI untuk:

  • Tentukan umur pengguna sebelum memberikan akses;
  • Kenal pasti dan atasi risiko keselamatan sebelum menyediakan produk kepada golongan muda;
  • Menjalani audit bebas terhadap usaha tersebut;
  • Lindungi golongan muda daripada kandungan berbahaya, termasuk kandungan yang mencederakan diri sendiri dan mengeksploitasi seksual, dan interaksi berisiko tinggi yang lain;
  • Berikan alat ibu bapa untuk membimbing dan mengehadkan penggunaan anak-anak mereka;
  • Hubungkan golongan muda dengan sumber sokongan krisis apabila risiko keselamatan yang serius timbul; dan
  • Hadkan pengiklanan yang disasarkan dan lindungi maklumat peribadi golongan muda.

Bagi pengguna yang dikenal pasti berumur 13 hingga 17 tahun, perlindungan ini akan digunakan secara automatik — bukan kerana tetapan pilihan remaja boleh dimatikan.

"AI Bukan Media Sosial"

Salah satu hujah yang lebih berbangkit dalam surat OpenAI ialah penggubal undang-undang perbezaan yang tertanam dalam rang undang-undang itu sendiri: AI bukan media sosial. Daripada mengalihkan peraturan dipacu iklan yang dibina untuk platform seperti Instagram ke chatbots dan alat kajian, SB 1119 menyesuaikan perlindungan untuk mengekalkan apa yang dipanggil OpenAI sebagai ciri pendidikan dan kritikal keselamatan — termasuk perkara yang disifatkannya sebagai penggunaan bertanggungjawab bagi ciri memori ChatGPT, yang membantu perlindungan mengenali corak dari semasa ke semasa.

Pengkritik had umur selimut telah memberi amaran bahawa peraturan berat boleh mendorong remaja ke arah alternatif yang kurang terkawal atau menyekat akses kepada alat pembelajaran yang benar-benar berguna. Sokongan OpenAI mencadangkan pemain terbesar industri melihat SB 1119 sebagai mencapai keseimbangan yang boleh dilaluinya.

ChatGPT untuk Remaja Sudah Bersiaran

Pengendorsan bil tidak berlaku dalam ruang hampa. OpenAI telah melancarkan ChatGPT untuk Remaja, pengalaman khusus untuk pengguna yang lebih muda yang syarikat itu katakan secara automatik meletakkan sesiapa sahaja yang dianggarkan sistemnya berumur di bawah 18 tahun — atau yang menyatakan umur mereka antara 13 dan 17 tahun — ke dalam mod yang dilindungi. Perlindungan terdapat sebahagian daripada pengalaman garis dasar, kata syarikat itu, bukan tetapan ikut serta.

Butiran anggaran umur itu lebih penting daripada yang pertama kali muncul. Anggaran, bukan ID yang disahkan, menentukan pengalaman yang diperoleh pengguna dan syarikat menyatakan konteks daripada perbualan sebelumnya — termasuk ingatan — membantu menggunakan perlindungan secara konsisten dan mengenali corak berkenaan dari semasa ke semasa. Sejauh mana anggaran itu berfungsi dalam amalan, dan apa yang berlaku apabila remaja salah menyatakan umur mereka, akan membentuk sama ada pengawal selia menganggap kepolisan diri industri sebagai boleh dipercayai.

Produk remaja juga bersandar kepada pembelajaran: ciri seperti Kuiz, Visualisasi Pembelajaran dan mod Belajar dibangunkan dengan pendidik dan pakar pembelajaran untuk membimbing pelajar melalui masalah langkah demi langkah, menurut OpenAI. Syarikat meletakkan alat tersebut sebagai bukti bahawa keperluan keselamatan dan produk yang berguna tidak berada dalam ketegangan — hujah yang ia sampaikan secara berkesan kepada Newsom sama seperti kepada orang ramai.

Politik di Sacramento

Dalam suratnya, OpenAI memuji Newsom bersama Senator Steve Padilla dan Adun Buffy Wicks dan Rebecca Bauer-Kahan atas kepimpinan mereka dalam isu itu. Rang undang-undang itu kini berada di tangan gabenor, dan kempen melobi awam OpenAI — lengkap dengan surat yang boleh dimuat turun — menjelaskan bahawa syarikat itu mahukan tandatangannya.

Langkah itu juga mendarat apabila pengawal selia di tempat lain mengetatkan skru. Kesatuan Eropah baru-baru ini telah menetapkan ChatGPT sebagai enjin carian Dalam Talian Sangat Besar di bawah Akta Perkhidmatan Digitalnya, memberikan OpenAI sehingga akhir Disember 2026 untuk mematuhi peraturan EU yang lebih ketat mengenai kanak-kanak bawah umur dan ketelusan. Menghadapi sebutan atas-bawah Brussels, OpenAI nampaknya mengira bahawa menyokong undang-undang negeri yang disesuaikan di Sacramento adalah cara yang lebih baik untuk membentuk peraturan sebelum ia ditulis untuknya.

Sama ada Newsom menandatangani — dan sama ada negeri lain mengikuti petunjuk California — akan pergi jauh ke arah menjawab soalan Kongres setakat ini dibiarkan terbuka: siapa yang menetapkan peraturan untuk pengguna termuda AI?

Kekal Termaklum mengenai Dasar AI

Ikuti setiap perkembangan yang berlaku. Baca lebih banyak berita AI di AI Buzz Wire →