OpenAI mengumumkan dukungannya pada hari Selasa untuk RUU Senat California 1119, undang-undang yang akan menetapkan perlindungan menyeluruh terhadap cara generasi muda menggunakan kecerdasan buatan, dan mendesak Gubernur Gavin Newsom untuk menandatangani undang-undang tersebut menjadi undang-undang.

Dukungan tersebut disampaikan dalam surat publik kepada Newsom yang ditulis oleh Ann O'Leary, wakil presiden kebijakan global OpenAI, dan postingan blog yang dipublikasikan di situs perusahaan. Di dalamnya, perusahaan membingkai SB 1119 sebagai jalan tengah yang berarti: perlindungan yang kuat bagi pengguna di bawah 18 tahun, tanpa memisahkan remaja dari alat yang dikatakan dapat membantu mereka belajar, berkreasi, dan bersiap menghadapi masa depan. Pengumuman ini adalah yang terbaru dari serangkaian kisah kebijakan AI yang mengubah cara pemerintah memperlakukan pengguna AI termuda. For more context on this story, see our ongoing AI news.

Mengapa OpenAI Menganut Regulasi — Yang Ini

Penentuan posisi OpenAI didasarkan pada statistik yang mencolok dari postingannya sendiri: hampir sembilan dari sepuluh remaja yang menggunakan ChatGPT menggunakannya untuk pembelajaran, informasi, pengembangan keterampilan, atau produktivitas pada minggu tertentu. “Remaja adalah generasi pertama yang tumbuh dengan AI,” tulis perusahaan tersebut, dengan alasan bahwa peluang datang bersamaan dengan tanggung jawab untuk merancang pengalaman sesuai dengan kebutuhan perkembangan anak muda yang berbeda.

Perusahaan secara eksplisit menyatakan bahwa kekosongan federal memotivasi sikapnya. “Dengan tidak adanya tindakan federal, California memiliki peluang untuk menetapkan standar yang kuat untuk keselamatan AI bagi generasi muda,” demikian isi surat yang ditujukan kepada Newsom. OpenAI mengatakan rancangan undang-undang tersebut didasarkan pada komitmen yang dibuat CEO Sam Altman tahun lalu ketika menguraikan prinsip-prinsip perusahaan mengenai keselamatan remaja, serta upaya perusahaan dalam Undang-Undang AI Aman untuk Orang Tua & Anak.

Apa yang Dibutuhkan SB 1119

Menurut ringkasan RUU OpenAI, SB 1119 akan mewajibkan perusahaan AI untuk:

  • Tentukan usia pengguna sebelum memberikan akses;
  • Identifikasi dan atasi risiko keselamatan sebelum membuat produk tersedia bagi generasi muda;
  • Menjalani audit independen atas upaya-upaya tersebut;
  • Melindungi generasi muda dari konten berbahaya, termasuk konten yang membahayakan diri sendiri dan eksploitatif secara seksual, serta interaksi berisiko tinggi lainnya;
  • Berikan alat kepada orang tua untuk memandu dan membatasi penggunaan oleh anak-anak mereka;
  • Menghubungkan generasi muda dengan sumber daya pendukung krisis ketika risiko keselamatan serius muncul; dan
  • Batasi iklan bertarget dan lindungi informasi pribadi anak muda.

Untuk pengguna yang diidentifikasi berusia 13 hingga 17 tahun, perlindungan ini akan berlaku secara otomatis — bukan sebagai pengaturan opsional yang dapat dinonaktifkan oleh remaja.

"AI Bukan Media Sosial"

Salah satu argumen yang lebih penting dalam surat OpenAI adalah perbedaan yang tertanam dalam RUU itu sendiri: AI bukanlah media sosial. Daripada memindahkan aturan berbasis iklan yang dibuat untuk platform seperti Instagram ke chatbots dan alat belajar, SB 1119 menyesuaikan perlindungan untuk mempertahankan apa yang disebut OpenAI sebagai fitur yang penting bagi pendidikan dan keselamatan — termasuk apa yang digambarkannya sebagai penggunaan fitur memori ChatGPT secara bertanggung jawab, yang membantu pengamanan mengenali pola terkait dari waktu ke waktu.

Kritik terhadap pembatasan usia telah memperingatkan bahwa peraturan yang terlalu ketat dapat mendorong remaja menuju alternatif yang kurang diatur atau menghalangi akses terhadap alat pembelajaran yang benar-benar berguna. Dukungan OpenAI menunjukkan bahwa pemain terbesar di industri ini memandang SB 1119 sebagai solusi yang mampu menyeimbangkan kehidupannya.

ChatGPT untuk Remaja Sudah Tayang

Pengesahan RUU ini tidak terjadi dalam ruang hampa. OpenAI telah meluncurkan ChatGPT untuk Remaja, sebuah pengalaman khusus untuk pengguna muda yang menurut perusahaan secara otomatis menempatkan siapa pun yang perkiraan sistemnya berusia di bawah 18 tahun — atau yang menyatakan usia mereka antara 13 dan 17 tahun — ke dalam mode terlindungi. Perlindungan di sana adalah bagian dari pengalaman dasar, kata perusahaan, bukan pengaturan keikutsertaan.

Detail perkiraan usia tersebut lebih penting daripada yang terlihat pada pandangan pertama. Perkiraan, bukan ID terverifikasi, menentukan pengalaman yang didapat pengguna, dan perusahaan mengatakan konteks dari percakapan sebelumnya — termasuk memori — membantu menerapkan perlindungan secara konsisten dan mengenali pola terkait dari waktu ke waktu. Seberapa baik estimasi tersebut diterapkan dalam praktiknya, dan apa yang terjadi ketika remaja salah menyatakan usia mereka, akan menentukan apakah regulator memperlakukan kebijakan mandiri di industri sebagai sesuatu yang kredibel.

Produk remaja ini juga bersandar pada pembelajaran: fitur-fitur seperti Kuis, Visualisasi Pembelajaran, dan mode Belajar dikembangkan bersama para pendidik dan pakar pembelajaran untuk memandu siswa melewati masalah langkah demi langkah, menurut OpenAI. Perusahaan memposisikan alat-alat tersebut sebagai bukti bahwa persyaratan keselamatan dan kegunaan produk tidak bertentangan — sebuah argumen yang secara efektif diajukan kepada Newsom dan juga kepada publik.

Politik di Sacramento

Dalam suratnya, OpenAI memuji Newsom bersama Senator Steve Padilla dan Anggota Majelis Buffy Wicks serta Rebecca Bauer-Kahan atas kepemimpinan mereka dalam masalah ini. RUU tersebut sekarang berada di tangan gubernur, dan kampanye lobi publik OpenAI – lengkap dengan surat yang dapat diunduh – memperjelas bahwa perusahaan menginginkan tanda tangannya.

Langkah ini juga dilakukan ketika regulator di tempat lain memperketat peraturannya. Uni Eropa baru-baru ini menetapkan ChatGPT sebagai mesin pencari Online Sangat Besar berdasarkan Undang-Undang Layanan Digitalnya, sehingga memberi OpenAI waktu hingga akhir Desember 2026 untuk mematuhi peraturan Uni Eropa yang lebih ketat mengenai anak di bawah umur dan transparansi. Menghadapi penunjukan Brussels yang bersifat top-down, OpenAI tampaknya memperhitungkan bahwa mendukung undang-undang negara bagian yang disesuaikan di Sacramento adalah cara yang lebih baik untuk membentuk peraturan sebelum peraturan tersebut dibuat untuk itu.

Apakah penandatanganan Newsom – dan apakah negara bagian lain akan mengikuti jejak California – akan mampu menjawab pertanyaan yang sejauh ini dibiarkan terbuka oleh Kongres: siapa yang menetapkan aturan bagi pengguna AI termuda?

Tetap Terinformasi tentang Kebijakan AI

Ikuti setiap perkembangan yang terjadi. Baca berita AI selengkapnya di AI Buzz Wire →