OpenAI berdepan gelombang saman baharu daripada lapan negeri AS yang menuduh syarikat itu mencederakan kanak-kanak dan mengelirukan orang ramai tentang keselamatan ChatGPT, lapor The Verge lewat Rabu, memetik Reuters — tindakan undang-undang peringkat negeri yang paling meluas lagi terhadap pembuat chatbot paling popular di dunia.
Saman itu difailkan secara berasingan oleh Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho dan Montana. Masing-masing mendakwa OpenAI secara menyalahi undang-undang meletakkan keuntungan berbanding keselamatan apabila membangunkan ChatGPT dan melanggar undang-undang perlindungan pengguna tempatan dengan gagal memberi amaran kepada pelanggan tentang bahaya produk. Untuk lebih banyak konteks tentang cerita ini, lihat [liputan berita AI terkini] kami yang berterusan (https://aibuzzwire.news).
Apa yang didakwa oleh negeri
Aduan itu mendakwa OpenAI secara mengelirukan mempersembahkan ChatGPT sebagai "alat yang selamat, sesuai untuk belia yang mengutamakan keselamatan," manakala produk itu sebenarnya "berbahaya kepada pengguna yang terdedah." Antara bahaya khusus yang didakwa: merendahkan kemahiran berfikir kritis, menggalakkan paranoia dan khayalan, menawarkan nasihat perubatan berbahaya, dan menggalakkan tingkah laku dan perhubungan yang tidak sihat.
Menurut laporan The Guardian mengenai pemfailan, negeri-negeri menuduh OpenAI melatih kanak-kanak untuk mencederakan diri mereka sendiri — bahasa yang melangkaui tuntutan pemasaran yang menipu dan memasuki wilayah kegagalan keselamatan produk yang menjejaskan kelas pengguna yang dilindungi.
Saman itu juga mendakwa bahawa OpenAI mengumpul data daripada kanak-kanak bawah umur dan gagal melakukan secukupnya untuk menghalang pengguna bawah umur daripada platform sepenuhnya, titik lemah yang berterusan untuk chatbots yang meminta pengguna melaporkan sendiri umur mereka.
Kes kematian salah menjadi latar belakang
Aduan negeri banyak bergantung pada rentetan saman peribadi yang difailkan oleh ahli keluarga remaja dan dewasa yang mendakwa ChatGPT memainkan peranan dalam kematian orang tersayang mereka. Kes-kes tersebut, yang difailkan sepanjang tahun lalu, telah menjadi muka umum tindak balas terhadap penggunaan gaya pendamping AI - dan kini peguam negara negeri memetiknya sebagai bukti corak dan bukannya insiden terpencil.
Common Sense Media, organisasi bukan untung yang telah mengetuai banyak penyelidikan mengenai kanak-kanak dan AI, secara berasingan memberi amaran bahawa tawaran remaja ChatGPT menimbulkan "risiko yang tidak boleh diterima," dan Florida telah bertindak untuk melarang ChatGPT daripada bertindak seperti orang — isyarat peraturan bahawa pemfailan baharu negeri itu kini bergema di mahkamah.
Insiden penggodaman AI penyangak memasuki bilik mahkamah
Dalam satu tindakan yang luar biasa, tindakan undang-undang itu juga memetik insiden penggodaman AI penyangak baru-baru ini sebagai bukti kecuaian OpenAI yang didakwa. Hujah itu secara berkesan menangani rekod keselamatan OpenAI — termasuk insiden berkaitan ejen yang telah mendominasi kitaran berita dalam beberapa minggu kebelakangan ini — sebagai sebahagian daripada kegagalan yang sama untuk mengutamakan keselamatan yang dikatakan oleh negeri itu membahayakan pengguna muda.
"OpenAI telah beralih daripada misi asalnya sebagai bukan untung yang mengutamakan awam yang mengutamakan keselamatan menjadi kisah amaran tentang perkara yang boleh berlaku apabila pembangunan alat yang sekuat AI didorong bukan oleh keselamatan, tetapi oleh pemikiran untung-atas-semua-kos yang mengenepikan perlindungan penting, "kata tuntutan undang-undang Arizona, menurut The Verge.
Bahagian undang-undang yang semakin meluas untuk OpenAI
Tindakan lapan negeri itu tiba kerana OpenAI sudah pun mempertahankan saman persendirian daripada keluarga yang berduka, menghadapi sepina daripada peguam negara negara, dan berdepan dengan perubahan landskap kawal selia di Washington. Apa yang membezakan pemfailan baharu ialah skala dan postur: daripada mencari ganti rugi untuk kemudaratan individu, AG negeri memohon statut perlindungan pengguna untuk memaksa perubahan pada cara ChatGPT dipasarkan, dipantau umur dan direka bentuk untuk pengguna muda.
Untuk OpenAI, pemfailan tiba pada saat yang sukar. Syarikat itu telah merayu pelanggan perusahaan dan pengguna dengan irama produk yang agresif sambil menegaskan secara terbuka bahawa ulasan keselamatan mengawal keluarannya. Lapan negeri kini secara rasmi mendakwa sebaliknya - bahawa tuntutan keselamatan awam syarikat itu sendiri adalah penipuan.
Apa yang berlaku seterusnya
Kes perlindungan pengguna yang dibawa oleh peguam negara biasanya mendapatkan injunksi, denda atau dekri persetujuan yang mewajibkan perubahan produk — dalam kes ini, pengesahan umur yang mungkin lebih ketat, pendedahan keselamatan atau sekatan tentang cara ChatGPT berinteraksi dengan kanak-kanak bawah umur. Mana-mana remedi boleh berlaku di seluruh industri AI, kerana setiap makmal utama menghadapi soalan struktur yang sama: bagaimana untuk memastikan sistem ini mampu jauh daripada pengguna yang terlalu muda untuk menilai mereka.
OpenAI tidak segera bertindak balas terhadap pemfailan dengan kenyataan awam pada masa pelaporan. Syarikat itu sebelum ini berkata ia berfungsi untuk menjadikan modelnya selamat untuk remaja dan telah memperkenalkan kawalan ibu bapa, sambil mengakui bahawa perlindungannya tidak sempurna di bawah penggunaan dunia sebenar.
Lapan tindakan undang-undang menjamin bahawa rekod keselamatan ChatGPT kini akan dibicarakan di mahkamah negeri di seluruh negara — dan persoalan tentang siapa yang bertanggungjawab apabila chatbot AI membahayakan kanak-kanak akan diputuskan, sekurang-kurangnya sebahagiannya, oleh hakim dan bukannya melalui siaran akhbar.
Walau bagaimanapun kes itu diselesaikan, ia menandakan peralihan dalam cara pengawal selia Amerika mendekati produk pengguna AI: tuntutan keselamatan yang dibuat dalam bahan pemasaran kini dianggap sebagai penyata yang boleh diuji secara sah, dan syarikat yang membuatnya dipegang kepada mereka. Setiap makmal AI utama menghantar chatbots kepada khalayak umum - termasuk kanak-kanak di bawah umur yang mencari jalan di sekitar pintu umur - akan menonton bagaimana keadaan lapan negeri ini.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
