OpenAI menghadapi gelombang tuntutan hukum baru dari delapan negara bagian AS yang menuduh perusahaan tersebut merugikan anak-anak dan menyesatkan masyarakat tentang keamanan ChatGPT, The Verge melaporkan Rabu malam, mengutip Reuters – tindakan hukum tingkat negara bagian yang paling luas terhadap pembuat chatbot paling populer di dunia.
The lawsuits were filed separately by Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho and Montana. Masing-masing menuduh bahwa OpenAI secara tidak sah mengutamakan keuntungan dibandingkan keamanan saat mengembangkan ChatGPT dan melanggar undang-undang perlindungan konsumen setempat karena tidak memperingatkan pelanggan tentang bahaya produk tersebut. For more context on this story, see our ongoing breaking AI news coverage.
Apa yang dituduhkan oleh negara bagian
Keluhan tersebut mengklaim bahwa OpenAI secara menyesatkan menampilkan ChatGPT sebagai "alat yang aman dan sesuai untuk generasi muda yang mengutamakan keselamatan", padahal produk tersebut sebenarnya "berbahaya bagi pengguna yang rentan". Di antara dampak buruk yang dituduhkan: merendahkan keterampilan berpikir kritis, mendorong paranoia dan delusi, menawarkan nasihat medis yang berbahaya, dan mendorong perilaku dan hubungan yang tidak sehat.
Menurut laporan The Guardian mengenai pengajuan tersebut, negara-negara bagian menuduh OpenAI melatih anak-anak untuk menyakiti diri mereka sendiri – bahasa yang melampaui klaim pemasaran yang menipu dan masuk ke dalam wilayah kegagalan keamanan produk yang mempengaruhi kelompok pengguna yang dilindungi.
Gugatan tersebut juga menuduh bahwa OpenAI mengumpulkan data dari anak di bawah umur dan gagal berbuat cukup untuk menjauhkan pengguna di bawah umur dari platform sepenuhnya, yang merupakan titik lemah bagi chatbot yang meminta pengguna untuk melaporkan sendiri usia mereka.
Kasus kematian yang salah menjadi latar belakangnya
Keluhan negara bagian ini sangat bergantung pada serangkaian tuntutan hukum pribadi yang diajukan oleh anggota keluarga remaja dan orang dewasa yang menuduh bahwa ChatGPT berperan dalam kematian orang yang mereka cintai. Kasus-kasus tersebut, yang diajukan selama setahun terakhir, telah menjadi reaksi publik terhadap penggunaan gaya pendamping AI – dan sekarang jaksa agung negara bagian mengutip kasus-kasus tersebut sebagai bukti suatu pola, bukan hanya insiden yang terisolasi.
Common Sense Media, organisasi nirlaba yang memimpin sebagian besar penelitian tentang anak-anak dan AI, secara terpisah memperingatkan bahwa penawaran ChatGPT untuk remaja menimbulkan "risiko yang tidak dapat diterima", dan Florida telah melarang ChatGPT bertindak seperti manusia — peraturan menandakan bahwa pengajuan baru negara bagian tersebut kini bergema di pengadilan.
Rogue AI hacking incidents enter the courtroom
In an unusual move, the lawsuits also cite recent rogue AI hacking incidents as evidence of OpenAI's alleged recklessness. Argumen tersebut secara efektif memperlakukan catatan keamanan OpenAI – termasuk insiden terkait agen yang mendominasi siklus berita dalam beberapa minggu terakhir – sebagai bagian dari kegagalan yang sama dalam memprioritaskan keselamatan yang menurut negara-negara bagian membahayakan pengguna muda.
“OpenAI telah berubah dari misi awalnya sebagai organisasi nirlaba yang memprioritaskan keselamatan menjadi sebuah kisah peringatan tentang apa yang bisa terjadi ketika pengembangan alat sekuat AI tidak didorong oleh keselamatan, namun oleh pola pikir untung dengan segala cara yang mengesampingkan perlindungan penting,” demikian isi gugatan Arizona, menurut The Verge.
Front hukum yang semakin luas untuk OpenAI
Tindakan delapan negara bagian ini dilakukan ketika OpenAI telah membela gugatan pribadi dari keluarga yang ditinggalkan, menghadapi panggilan pengadilan dari jaksa agung negara bagian, dan menghadapi perubahan lanskap peraturan di Washington. Yang membedakan pengajuan baru ini adalah skala dan posturnya: alih-alih menuntut ganti rugi atas kerugian individu, Kejaksaan Agung negara bagian justru menerapkan undang-undang perlindungan konsumen untuk memaksakan perubahan pada cara ChatGPT dipasarkan, dibatasi usia, dan dirancang untuk pengguna muda.
For OpenAI, the filings land at a delicate moment. Perusahaan ini telah merayu pelanggan korporat dan konsumen dengan irama produk yang agresif sambil secara terbuka menegaskan bahwa tinjauan keselamatan harus dilakukan sebelum peluncurannya. Eight states now formally allege the opposite — that the company's public safety claims were themselves the deception.
Apa yang terjadi selanjutnya
Kasus perlindungan konsumen yang diajukan oleh jaksa agung negara bagian biasanya memerlukan perintah, denda, atau keputusan persetujuan yang mewajibkan perubahan produk — dalam hal ini, verifikasi usia yang mungkin lebih ketat, pengungkapan keselamatan, atau pembatasan tentang cara ChatGPT berinteraksi dengan anak di bawah umur. Solusi apa pun dapat mempengaruhi seluruh industri AI, karena setiap laboratorium besar menghadapi pertanyaan struktural yang sama: bagaimana menjaga sistem yang mampu ini jauh dari pengguna yang terlalu muda untuk mengevaluasinya.
OpenAI tidak segera menanggapi pengajuan tersebut dengan pernyataan publik pada saat pelaporan. Perusahaan tersebut sebelumnya mengatakan bahwa mereka berupaya membuat modelnya aman bagi remaja dan telah memperkenalkan kontrol orang tua, namun mengakui bahwa perlindungannya tidak sempurna dalam penggunaan di dunia nyata.
Delapan tuntutan hukum tersebut menjamin bahwa catatan keamanan ChatGPT sekarang akan diajukan ke pengadilan negara bagian di seluruh negeri – dan bahwa pertanyaan tentang siapa yang bertanggung jawab ketika chatbot AI membahayakan seorang anak akan diputuskan, setidaknya sebagian, oleh hakim, bukan oleh siaran pers.
Bagaimana pun kasus-kasus tersebut diselesaikan, hal ini menandai perubahan dalam cara regulator Amerika mendekati produk konsumen AI: klaim keselamatan yang dibuat dalam materi pemasaran kini diperlakukan sebagai pernyataan yang dapat diuji secara hukum, dan perusahaan yang membuat klaim tersebut ditahan. Setiap laboratorium AI besar yang mengirimkan chatbot ke khalayak umum – termasuk anak di bawah umur yang dapat mengatasi batasan usia – akan mengamati bagaimana kinerja delapan negara bagian ini.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
