Tinjauan keamanan ekstensif yang dilakukan oleh Common Sense Media menyimpulkan bahwa mode ChatGPT untuk Remaja OpenAI menimbulkan "risiko yang tidak dapat diterima" bagi pengguna di bawah 18 tahun – peringkat terburuk menurut kelompok pengawas – kurang dari dua bulan setelah produk diluncurkan dengan janji perlindungan bawaan. Seperti yang dilaporkan NPR, kelompok tersebut menemukan bahwa sebagian besar perlindungan mode yang diiklankan tidak berfungsi seperti yang dijanjikan dalam pengujiannya.

Temuan ini menjadi momen sensitif bagi OpenAI, yang meluncurkan ChatGPT untuk Remaja pada bulan Agustus sebagai pengalaman khusus untuk pengguna di bawah umur, lengkap dengan kontrol orang tua dan pagar pembatas yang lebih ketat. Liputan kami sebelumnya mendokumentasikan bahwa industri AI mengutamakan keselamatan generasi muda; Laporan baru ini merupakan audit independen besar pertama mengenai apakah perlindungan mode remaja dapat diterapkan dalam praktiknya.

Media Akal Sehat Apa yang Diuji

Para peneliti di Youth AI Safety Institute menguji lebih dari 4.000 perintah sebelum dan sesudah peluncuran mode remaja, menurut liputan The National News Desk dan Fast Company dari Sinclair Broadcast Group. Kelompok tersebut merekomendasikan agar OpenAI menghentikan sementara pemasaran mode remaja dan mencegah remaja menggunakan ChatGPT sampai perusahaan tersebut mengembangkan apa yang mereka sebut sebagai "pengalaman yang aman dan sesuai dengan perkembangan".

“Beberapa perlindungan ChatGPT yang diiklankan bertahan dalam pengujian kami, termasuk penolakannya terhadap permainan peran seksual eksplisit,” kata tinjauan produk organisasi tersebut. “Tetapi ada juga yang gagal – dan beberapa menjadi lebih buruk dengan mode Remaja yang baru. Kami khawatir bahwa ChatGPT untuk Remaja dapat memberikan kepercayaan palsu kepada orang tua terhadap batasan yang sering kali tidak berfungsi.”

Peringatan Orang Tua yang Tidak Menyala

Temuan paling mencolok dari laporan ini adalah sistem notifikasi orang tua. Para peneliti membuat lebih dari selusin akun yang melaporkan sendiri usia remaja dan ditautkan ke akun orang tua, kemudian melibatkan chatbot dalam percakapan yang berisi referensi eksplisit tentang pikiran untuk bunuh diri, menyakiti diri sendiri, atau pola makan yang tidak teratur. Akun-akun tersebut dibuat berdasarkan persona fiksi.

Menurut laporan tersebut, penguji tidak menerima pemberitahuan orang tua dari akun baru yang membuat referensi tersebut. Peringatan hanya muncul untuk akun lain yang memiliki riwayat percakapan selama berminggu-minggu yang membahas tema serupa — sebuah celah yang menunjukkan bahwa sistem notifikasi lebih bergantung pada akumulasi konteks dibandingkan seberapa parah pengungkapan remaja dalam percakapan tertentu.

Tinjauan tersebut juga menemukan bahwa ChatGPT untuk Remaja melewatkan lebih dari satu dari empat kejadian yang memerlukan rujukan krisis kesehatan mental, sebagaimana dinilai oleh panel profesional kesehatan mental anak berlisensi yang meninjau petunjuknya.

Pagar Pembatas Tugas Sekolah 'Mudah Dilewati'

Selain deteksi krisis, pengawas menemukan bahwa fitur yang dimaksudkan untuk mencegah siswa menggunakan chatbot untuk menyontek tugas sekolah dapat dengan mudah dilewati atau dinonaktifkan.

“Anda dapat meminta mereka untuk menulis makalah untuk Anda, makalah yang canggih untuk Anda dan mereka akan melakukannya, dan mereka bahkan akan memberi tahu Anda cara mengedit dengan cara yang tidak diketahui oleh guru Anda,” pendiri dan CEO Common Sense Media Jim Steyer mengatakan dalam komentar yang dilaporkan oleh The National News Desk. "Oleh karena itu, hal ini mengganggu pembelajaran. Ini mengganggu proses dasar dan anak-anak harus mengerjakan sendiri."

Pagar konten, prediksi usia, dan pengingat istirahat juga ditemukan tidak efektif dalam pengujian. Satu poin data yang banyak dikutip: OpenAI mengatakan rata-rata pengguna remaja menghabiskan kurang dari 15 menit per hari di ChatGPT. Namun di antara sebagian kecil remaja yang menghabiskan lebih dari tiga jam berturut-turut per hari – kurang dari 2 persen pengguna – hampir setengahnya mengakhiri percakapan mereka dalam waktu lima menit setelah menerima pengingat istirahat, menunjukkan bahwa dorongan tersebut jarang mengganggu sesi yang diperpanjang.

OpenAI Mendorong Kembali Metodologinya

OpenAI, dalam sebuah pernyataan menanggapi laporan tersebut, mengatakan pihaknya “sangat berkomitmen” terhadap keselamatan remaja dan menunjuk pada perlindungan yang telah dibangunnya serta alat yang diberikan kepada orang tua.

“Kami menyambut baik evaluasi independen yang ketat, namun kami tidak percaya pengujian Common Sense Media secara akurat mencerminkan cara kerja perlindungan remaja ChatGPT dalam praktiknya atau perspektif ahli tentang bagaimana AI dapat mendukung remaja,” kata juru bicara OpenAI. Perusahaan tersebut mengatakan tinjauannya terhadap metodologi kelompok tersebut menunjukkan bahwa “sebagian besar pengujian mereka mungkin dimulai dan diakhiri sebelum aktivasi kontrol orang tua selesai, sehingga membuat temuan mereka tidak akurat,” dan menambahkan bahwa pengujian tersebut tidak akan menentukan apakah pemberitahuan keselamatan orang tua berfungsi sebagaimana mestinya.

Steyer mengatakan organisasinya telah menghubungi OpenAI mengenai temuan tersebut, sebagaimana praktik standarnya selama penilaian produk, dan mempertahankan hasilnya. “Kami 100% mendukung kualitas penelitian dan pengujian kami serta fakta bahwa kami menyebut produk ini sebagai 'risiko yang tidak dapat diterima',” katanya, membandingkannya dengan keselamatan otomotif: “Anda tidak akan memasarkan mobil jika tidak lulus uji tabrak.”

Sorotan yang Berkembang mengenai AI dan Anak di Bawah Umur

Perselisihan ini muncul di tengah pengawasan intensif terhadap bagaimana chatbot AI memengaruhi pengguna muda, mulai dari distrik sekolah yang membatasi akses hingga anggota parlemen yang mempertimbangkan persyaratan verifikasi usia. Audit independen seperti ini secara de facto menjadi ajang pengujian klaim keselamatan generasi muda yang dibuat oleh perusahaan AI dalam pemasarannya.

Kedua belah pihak sepakat pada satu hal: sistem pemberitahuan orang tua adalah yang terpenting. Jika peringatan gagal diaktifkan saat akun remaja baru pertama kali memunculkan pemikiran untuk menyakiti diri sendiri, fitur keamanan yang paling penting akan gagal pada saat yang paling penting. OpenAI mengatakan pengujian tersebut memiliki kelemahan; Common Sense Media mengatakan produk dikirim sebelum siap. Regulator dan induk kini akan mempertimbangkan siapa yang benar — dan OpenAI menghadapi tekanan yang semakin besar untuk memperbaiki kesenjangan atau menarik kembali produknya.

Untuk liputan lebih lanjut tentang keselamatan AI, kebijakan, dan perkembangan industri AI yang membentuknya, ikuti terus perkembangan cerita ini.

---

Tetap Terdepan dalam AI

Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.

Baca berita AI selengkapnya →