Peguam Negara Oregon Dan Rayfield menyaman OpenAI pada hari Selasa, menuntut ganti rugi sekurang-kurangnya 2.035 bilion dolar dan menuduh syarikat itu menyalahgambar ChatGPT sebagai selamat untuk pengguna muda sambil dengan sengaja membenarkan interaksi berbahaya dengan remaja, menurut Penyiaran Awam Oregon.

Tuntutan itu, yang didedahkan oleh OPB dan disahkan oleh beberapa cawangan Oregon termasuk KGW, KATU dan KOIN, menjadikan Oregon sebagai salah satu negeri yang paling agresif dalam kempen undang-undang yang semakin meningkat ke atas chatbot AI dan kanak-kanak di bawah umur. Ia mengikuti saman oleh lapan negeri A.S. pada bulan Oktober, masing-masing mendakwa teknologi itu sangat berpengaruh terhadap remaja. For more context on this story, see our ongoing more AI stories.

Apa yang Didakwa Aduan

Aduan negeri setebal 53 muka surat itu menuduh OpenAI menyalahgambarkan produknya yang melanggar Akta Amalan Perdagangan Melanggar Undang-undang Oregon, dan menggambarkan kelakuan syarikat itu sebagai sengaja — faktor yang memburukkan di bawah undang-undang — menghasilkan apa yang disebut aduan itu sebagai hasil yang tidak adil, tidak adil, mengejutkan dan tidak wajar.

OpenAI membenarkan pengguna seawal 13 tahun menggunakan ChatGPT, selagi ibu bapa atau penjaga mendaftar keluar. Pegawai Jabatan Kehakiman Oregon mendakwa syarikat itu sering gagal mengesahkan bahawa ibu bapa benar-benar bersetuju untuk pengguna bawah umur. Aduan itu juga menyasarkan ChatGPT untuk Remaja, versi berorientasikan belia syarikat yang dikeluarkan baru-baru ini yang memautkan akaun ibu bapa kepada anak. Menurut kerajaan, perlindungan versi itu yang dikatakan lebih kuat mudah dipintas, dan ia gagal memberi amaran kepada ibu bapa apabila pengguna muda bertanya tentang bunuh diri, mencederakan diri sendiri, gangguan makan atau topik kesihatan mental yang lain.

Saman itu meminta mahkamah memaksa OpenAI melaksanakan perlindungan yang lebih kukuh dan memberi pampasan kepada warga Oregon dengan sekurang-kurangnya 2.035 bilion dolar sebagai ganti rugi.

Rayfield: Produk 'Terus Menyebabkan Kemudaratan'

Dalam temu bual dengan OPB, Rayfield berkata OpenAI sedar tentang bahaya yang boleh ditimbulkan oleh produknya. OpenAI terus memandang mata ibu bapa dan mengatakan produk ini adalah produk yang selamat apabila ia terus menyebabkan kemudaratan dalam komuniti kita, katanya.

Peguam negara memberitahu OPB tidak ada insiden Oregon khusus yang mencetuskan pemfailan. Sebaliknya, katanya, saman itu timbul daripada insiden di seluruh negara dan kebimbangan pejabatnya bahawa kemajuan teknologi mengatasi perlindungan pengguna. Alat itu boleh menjadi sangat menakjubkan jika janji mereka ditepati, katanya, tetapi apa yang kita lihat di sisi lain adalah kemusnahan.

Pemfailan itu dibuat di tengah-tengah kebimbangan orang ramai yang memuncak di Oregon tentang remaja dan platform dalam talian. Remaja yang menembak dan membunuh tiga kanak-kanak dan seorang guru di Bend's Silver Rail Elementary bulan lepas telah dikaitkan oleh pelbagai sumber kepada kumpulan pelampau dalam talian, dan pada bulan September pejabat Peguam Daerah Multnomah County menyalahkan pengaruh pelampau dalam talian untuk pelajar Sekolah Menengah Benson yang melepaskan bahan kimia toksik di sekolahnya. Rayfield enggan menyatakan sama ada produk OpenAI mempunyai sebarang penglibatan dalam insiden tersebut, memetik penyiasatan yang sedang dijalankan — dan tuntutan mahkamah itu sendiri tidak bergantung pada mana-mana kes Oregon.

Sebahagian daripada Pengiraan Undang-undang yang Lebih Luas untuk OpenAI

Oregon kini adalah antara kumpulan negeri yang semakin berkembang mendesak OpenAI di mahkamah berhubung keselamatan belia. Lapan negeri memfailkan saman serupa pada bulan Oktober, dan litigasi terkumpul mewakili cabaran negeri demi negeri yang semakin meningkat tentang cara industri AI mengawal sendiri akses kecil - kawasan di mana peraturan persekutuan kekal nipis.

Jurucakap OpenAI, Drew Pusateri, mengeluarkan kenyataan selepas pemfailan mengatakan syarikat itu komited untuk membangunkan dasar AI yang terpakai kepada keseluruhan industri AI dan bukan hanya satu syarikat. Syarikat itu menunjukkan perlindungan yang dikatakan wujud hari ini, termasuk kawalan ibu bapa, peringatan rehat dan perlindungan model yang sesuai dengan umur, dan berkata ia akan terus bekerjasama dengan pakar untuk membina perlindungan tambahan. Syarikat itu sebelum ini menegaskan bahawa menjaga keselamatan komuniti adalah keutamaan.

Apa Yang Berlaku Seterusnya

Kes Oregon akan menguji teori undang-undang baru: bukan ChatGPT menyebabkan kecederaan tertentu, tetapi pemasaran keselamatan syarikat itu sendiri — dakwaan bahawa produk itu selamat untuk remaja — membentuk amalan perdagangan yang tidak adil apabila perlindungan boleh dipintas. Jika teori itu bertahan dalam gerakan awal, ia boleh membuka laluan yang lebih murah dan lebih pantas untuk peguam negara lain daripada litigasi liabiliti produk, yang memerlukan pembuktian sebab untuk kemudaratan individu.

Sudut Perlindungan Pengguna Dibina untuk Kepantasan

Pilihan statut penting. Akta Amalan Perdagangan Melanggar Undang-undang Oregon ialah undang-undang perlindungan pengguna, bukan rejim liabiliti produk, dan ia membawa garis masa yang lebih pendek dan bar pembuktian yang lebih rendah daripada membuktikan bahawa pertukaran chatbot tertentu menyebabkan tragedi tertentu. Ia juga membenarkan penalti sivil untuk pelanggaran yang disengajakan — label yang memburukkan aduan itu terpakai secara jelas. Penguatkuasaan perlindungan pengguna terhadap platform teknologi berhubung tuntutan yang mengelirukan mempunyai sejarah yang panjang di mahkamah Oregon, dan statut itu adalah salah satu perkataan yang lebih meluas di negara ini.

Pembingkaian itu juga membentuk remedi yang dicari oleh negara. Daripada ganti rugi untuk keluarga mangsa tunggal, aduan itu meminta pampasan untuk warga Oregon secara kolektif — sekurang-kurangnya 2.035 bilion dolar — ditambah dengan perubahan yang diarahkan mahkamah kepada produk itu sendiri: perlindungan yang lebih kukuh dan pengesahan persetujuan ibu bapa. Kemenangan akan memberi negeri pengawasan berterusan terhadap ciri belia ChatGPT dan bukannya pembayaran sekali sahaja.

Untuk OpenAI, aduan itu tiba pada saat yang sukar: syarikat itu sudah pun mempertahankan tuntutan hak cipta, menghadapi tuntutan mahkamah California berhubung pencerobohan siber berkaitan AI, dan bersiap sedia untuk penelitian pasca IPO yang sengit. Permintaan berbilion dolar dari satu negeri tidak mungkin membentuk semula kewangannya, tetapi mahkamah mendapati bahawa perwakilan keselamatan belianya adalah mengelirukan akan membawa akibat kawal selia jauh di luar Oregon.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →