Tinjauan keamanan ekstensif dening Common Sense Media nyimpulake manawa mode OpenAI's ChatGPT for Teens nduwe "risiko sing ora bisa ditampa" kanggo pangguna ing umur 18 taun - rating paling awon klompok pengawas - kurang saka rong wulan sawise produk kasebut diluncurake kanthi janji proteksi sing dibangun. Kaya sing dilaporake NPR, klompok kasebut nemokake manawa umume perlindungan sing diiklanake mode kasebut ora bisa ditindakake kaya sing dijanjekake ing tes kasebut.

Temuan kasebut tiba ing wektu sing sensitif kanggo OpenAI, sing ngluncurake ChatGPT kanggo Remaja ing wulan Agustus minangka pengalaman khusus kanggo pangguna sing durung umur, lengkap karo kontrol wong tuwa lan pager sing luwih ketat. Jangkoan sadurunge kita nyathet yen industri AI nyurung lan narik kawigaten para pemuda; laporan anyar punika audit sawijining utama pisanan apa pangayoman mode teen terus munggah ing laku.

Apa Media Common Sense Diuji

Peneliti ing Youth AI Safety Institute grup nguji luwih saka 4,000 pituduh sadurunge lan sawise diluncurake mode remaja, miturut jangkoan Sinclair Broadcast Group's The National News Desk and Fast Company. Klompok kasebut nyaranake supaya OpenAI ngaso marketing mode remaja lan nyegah remaja nggunakake ChatGPT nganti perusahaan ngembangake apa sing diarani "pengalaman sing aman, cocok kanggo perkembangan."

"Sawetara proteksi sing diiklanake ChatGPT ditindakake nganti tes kita, kalebu nolak peran seksual sing jelas," ujare review produk organisasi kasebut. "Nanging liyane gagal - lan sawetara dadi luwih elek karo mode Teen anyar. Kita kuwatir yen ChatGPT kanggo Teens bisa menehi kapercayan palsu marang wong tuwa ing pager sing asring ora bisa digunakake."

Tandha wong tuwa sing ora murub

Temuan paling nggumunake laporan kasebut kalebu sistem kabar wong tuwa. Peneliti nggawe luwih saka rolas akun sing nyatakake umur remaja lan disambungake menyang akun wong tuwa, banjur ngobrol karo chatbot sing ngemot referensi eksplisit babagan pikiran bunuh diri, cilaka diri, utawa mangan sing ora teratur. Akun kasebut dibangun ing personas fiksi.

Miturut laporan kasebut, penguji ora nampa tandha wong tuwa saka akun anyar sing nggawe referensi kasebut. Lansiran mung teka kanggo akun liyane sing duwe pirang-pirang minggu riwayat obrolan sing nyakup tema sing padha - jurang sing nuduhake sistem kabar luwih gumantung marang konteks akumulasi tinimbang keruwetan apa sing diungkapake remaja ing obrolan tartamtu.

Tinjauan kasebut uga nemokake manawa ChatGPT kanggo Remaja ora kejawab luwih saka siji ing patang kasus sing njamin rujukan krisis kesehatan mental, kaya sing diadili dening panel profesional kesehatan mental bocah sing dilisensi sing mriksa panjaluk kasebut.

Pengawal Sekolah 'Gampang Dilewati'

Ngluwihi deteksi krisis, pengawas nemokake manawa fitur sing dimaksudake kanggo nyegah siswa nggunakake chatbot kanggo ngapusi tugas sekolah gampang dilewati utawa mateni langsung.

"Sampeyan bisa njaluk dheweke nulis kertas kanggo sampeyan, kertas sing canggih kanggo sampeyan lan bakal ditindakake, lan malah bakal menehi pitutur marang sampeyan carane nyunting kanthi cara sing ora dingerteni guru sampeyan," ujare pangadeg lan CEO Common Sense Media Jim Steyer ing komentar sing dilaporake dening The National News Desk. "Mulane, iku ngganggu sinau. Iku ngganggu proses dhasar lan bocah-bocah kudu nindakake pakaryan dhewe."

Pengawal konten, prediksi umur, lan pangeling istirahat uga ditemokake ora efektif ing tes. Siji titik data sing akeh dikutip: OpenAI ujar manawa pangguna remaja rata-rata mbuwang kurang saka 15 menit saben dina ing ChatGPT. Nanging ing antarane bagean cilik saka remaja sing nglampahi luwih saka telung jam berturut-turut saben dina - kurang saka 2 persen pangguna - meh setengah mungkasi obrolan ing limang menit sawise nampa pangeling istirahat, nyaranake nudges arang diselani sesi lengkap.

OpenAI Nyurung Metodologi

OpenAI, ing pratelan sing nanggapi laporan kasebut, ujar manawa "komitmen banget" kanggo safety remaja lan nuduhake perlindungan sing wis dibangun lan alat sing diwenehake marang wong tuwa.

"We welcome evaluasi independen sing ketat, nanging kita ora ngandel yen tes Common Sense Media kanthi akurat nggambarake cara perlindungan remaja ChatGPT bisa digunakake ing praktik utawa perspektif pakar babagan carane AI bisa ndhukung remaja," ujare juru bicara OpenAI. Perusahaan kasebut ujar manawa tinjauan metodologi klompok kasebut nuduhake manawa "sebagéan gedhé tes kasebut bisa uga wis diwiwiti lan rampung sadurunge ngaktifake kontrol parental rampung, nggawe temuan kasebut ora akurat," nambahake manawa tes kasebut ora bakal nemtokake manawa kabar safety wong tuwa bisa digunakake kaya sing dirancang.

Steyer ujar manawa organisasi kasebut wis sesambungan karo OpenAI babagan temuan kasebut, kaya praktik standar sajrone pambiji produk, lan adhedhasar asile. "Kita 100% ngadeg ing mburi kualitas riset lan tes lan kasunyatan manawa kita menehi label produk iki minangka 'risiko sing ora bisa ditrima,'" ujare, mbandhingake keamanan otomotif: "Sampeyan ora bakal nyelehake mobil ing pasar yen ora lulus tes kacilakan."

Sorotan Tuwuh ing AI lan Bocah cilik

Sengketa kasebut ana ing tengah-tengah pengawasan sing intensif babagan carane AI chatbots mengaruhi pangguna enom, saka distrik sekolah sing mbatesi akses menyang anggota parlemen sing nimbang syarat verifikasi umur. Audit independen kaya iki dadi papan uji coba de facto kanggo klaim keamanan pemuda sing digawe perusahaan AI ing marketing.

Loro-lorone setuju ing siji bab: sistem notifikasi parental punika crux. Yen tandha ora bisa murub nalika akun remaja anyar pisanan nggawe pikirane ngrusak awake dhewe, fitur safety sing paling penting bakal gagal ing wektu sing paling penting. OpenAI ujar manawa tes kasebut cacat; Common Sense Media ujar manawa produk dikirim sadurunge siap. Regulator lan wong tuwa saiki bakal nimbang sapa sing bener - lan OpenAI ngadhepi tekanan sing mundhak kanggo ndandani kesenjangan utawa narik maneh produk kasebut.

Kanggo jangkoan luwih akeh babagan safety, kabijakan, lan [perkembangan industri AI] (https://aibuzzwire.news) sing mbentuk, tindakake terus nalika crita iki berkembang.

---

Tetep Ahead of AI

Entuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.

Waca liyane AI warta →