Jaksa Agung Oregon Dan Rayfield menggugat OpenAI pada hari Selasa, meminta ganti rugi setidaknya 2,035 miliar dolar dan menuduh perusahaan tersebut salah mengartikan ChatGPT sebagai aman bagi pengguna muda sementara dengan sengaja mengizinkan interaksi berbahaya dengan remaja, menurut Oregon Public Broadcasting.
Gugatan tersebut, yang diungkapkan oleh OPB dan dikonfirmasi oleh beberapa media di Oregon termasuk KGW, KATU dan KOIN, menjadikan Oregon salah satu negara bagian paling agresif dalam kampanye hukum yang meningkat terhadap chatbot AI dan anak di bawah umur. Hal ini menyusul tuntutan yang diajukan oleh delapan negara bagian AS pada bulan Oktober, yang masing-masing mengklaim bahwa teknologi tersebut mempunyai pengaruh yang berbahaya terhadap remaja. For more context on this story, see our ongoing artificial intelligence updates.
Apa yang Dituduhkan dalam Pengaduan
Pengaduan setebal 53 halaman di negara bagian tersebut menuduh OpenAI salah menggambarkan produknya dan melanggar Undang-Undang Praktik Perdagangan yang Melanggar Hukum di Oregon, dan menggambarkan tindakan perusahaan tersebut sebagai tindakan yang disengaja – sebuah faktor yang memberatkan berdasarkan undang-undang tersebut – sehingga menghasilkan apa yang disebut dalam pengaduan tersebut sebagai hasil yang tidak adil, tidak adil, mengejutkan, dan tidak masuk akal.
OpenAI memungkinkan pengguna berusia 13 tahun untuk menggunakan ChatGPT, selama orang tua atau wali menandatanganinya. Pejabat Departemen Kehakiman Oregon menuduh perusahaan tersebut sering gagal memastikan bahwa orang tua benar-benar mengizinkan pengguna di bawah umur. Keluhan tersebut juga ditujukan pada ChatGPT for Teens, versi berorientasi remaja yang baru-baru ini dirilis oleh perusahaan yang menghubungkan akun orang tua ke akun anak. Menurut negara bagian, perlindungan versi tersebut yang konon lebih kuat dapat dengan mudah dilewati, dan gagal memperingatkan orang tua ketika pengguna muda bertanya tentang bunuh diri, menyakiti diri sendiri, gangguan makan, atau topik kesehatan mental lainnya.
Gugatan tersebut meminta pengadilan untuk memaksa OpenAI menerapkan perlindungan yang lebih kuat dan memberi kompensasi kepada warga Oregon dengan kerugian setidaknya 2,035 miliar dolar.
Rayfield: Produk 'Terus Menimbulkan Bahaya'
Dalam wawancara dengan OPB, Rayfield mengatakan OpenAI menyadari bahaya yang dapat ditimbulkan oleh produknya. OpenAI terus menatap mata para orang tua dan mengatakan bahwa produk ini adalah produk yang aman ketika produk ini terus menimbulkan kerugian di komunitas kita, katanya.
Jaksa Agung mengatakan kepada OPB bahwa tidak ada insiden spesifik di Oregon yang memicu pengajuan tersebut. Sebaliknya, katanya, gugatan tersebut muncul dari berbagai insiden di seluruh negeri dan kekhawatiran kantornya bahwa kemajuan teknologi melampaui perlindungan konsumen. Alat-alat tersebut bisa menjadi sangat luar biasa jika janji-janji mereka benar-benar terwujud, katanya, namun apa yang kita lihat di sisi lain adalah kehancuran.
Pengajuan tersebut dilakukan di tengah meningkatnya kekhawatiran masyarakat di Oregon terhadap remaja dan platform online. Remaja yang menembak dan membunuh tiga anak dan seorang guru di Sekolah Dasar Silver Rail Bend bulan lalu telah dikaitkan oleh berbagai sumber dengan kelompok ekstremis daring, dan pada bulan September, kantor Kejaksaan Negeri Multnomah County menyalahkan pengaruh ekstremis daring yang menyebabkan seorang siswa SMA Benson melepaskan bahan kimia beracun di sekolahnya. Rayfield menolak untuk mengatakan apakah produk OpenAI terlibat dalam insiden tersebut, dengan alasan penyelidikan yang sedang berlangsung – dan gugatan itu sendiri tidak bergantung pada satu kasus di Oregon.
Bagian dari Perhitungan Hukum yang Lebih Luas untuk OpenAI
Oregon kini menjadi salah satu negara bagian yang terus berkembang yang mendesak OpenAI ke pengadilan atas keselamatan generasi muda. Delapan negara bagian mengajukan gugatan serupa pada bulan Oktober, dan proses litigasi yang terakumulasi menunjukkan tantangan yang semakin besar dari setiap negara bagian terhadap cara industri AI mengatur sendiri akses kecil – sebuah area di mana peraturan federal masih lemah.
Juru bicara OpenAI, Drew Pusateri, mengeluarkan pernyataan setelah pengajuan tersebut mengatakan bahwa perusahaan berkomitmen untuk mengembangkan kebijakan AI yang berlaku untuk seluruh industri AI dan bukan hanya satu perusahaan. Perusahaan menunjuk pada perlindungan yang ada saat ini, termasuk kontrol orang tua, pengingat istirahat, dan perlindungan model yang sesuai dengan usia, dan mengatakan akan terus bekerja sama dengan para ahli untuk membangun perlindungan tambahan. Perusahaan sebelumnya menegaskan bahwa menjaga keamanan masyarakat adalah prioritas utama.
Apa yang Terjadi Selanjutnya
Kasus Oregon akan menguji teori hukum baru: bukan bahwa ChatGPT menyebabkan kerugian tertentu, namun bahwa pemasaran keselamatan perusahaan itu sendiri – klaim bahwa produk tersebut aman untuk remaja – merupakan praktik perdagangan yang tidak adil ketika tindakan pengamanan dapat diabaikan. Jika teori ini dapat bertahan, hal ini dapat membuka jalan yang lebih murah dan lebih cepat bagi jaksa agung negara bagian lainnya dibandingkan dengan litigasi tanggung jawab produk, yang memerlukan pembuktian penyebab kerugian individu.
Sudut Perlindungan Konsumen yang Dibangun untuk Kecepatan
Pilihan undang-undang itu penting. Undang-Undang Praktik Perdagangan yang Melanggar Hukum di Oregon adalah undang-undang perlindungan konsumen, bukan undang-undang pertanggungjawaban produk, dan undang-undang ini memiliki jangka waktu yang lebih pendek dan batas pembuktian yang lebih rendah dibandingkan dengan pembuktian bahwa pertukaran chatbot tertentu menyebabkan tragedi tertentu. Hal ini juga memungkinkan hukuman perdata untuk pelanggaran yang disengaja – label yang memberatkan yang secara eksplisit diterapkan pada pengaduan tersebut. Penegakan perlindungan konsumen terhadap platform teknologi atas klaim yang menyesatkan memiliki sejarah panjang di pengadilan Oregon, dan undang-undang tersebut merupakan salah satu undang-undang yang paling banyak diatur di negara tersebut.
Kerangka kerja tersebut juga menentukan solusi yang dicari oleh negara. Daripada memberikan ganti rugi bagi satu keluarga korban, pengaduan tersebut meminta kompensasi bagi warga Oregon secara kolektif – setidaknya 2,035 miliar dolar – ditambah perubahan yang diperintahkan pengadilan pada produk itu sendiri: perlindungan yang lebih kuat dan verifikasi izin orang tua. Kemenangan ini akan memberikan negara pengawasan berkelanjutan terhadap fitur-fitur remaja ChatGPT dibandingkan pembayaran satu kali saja.
Bagi OpenAI, pengaduan tersebut diajukan pada saat yang sulit: perusahaan tersebut sudah membela klaim hak cipta, menghadapi tuntutan hukum California atas intrusi dunia maya terkait AI, dan bersiap menghadapi pengawasan ketat pasca IPO. Tuntutan senilai miliaran dolar dari satu negara bagian kemungkinan besar tidak akan mengubah keuangan negara tersebut, namun pengadilan menemukan bahwa representasi keselamatan generasi muda di negara bagian tersebut menipu dan akan membawa konsekuensi peraturan yang jauh melampaui Oregon.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →