Orang tua dari seorang insinyur perangkat lunak berusia 31 tahun yang meninggal setelah mengikuti saran ChatGPT untuk berhenti meminum obat anti-kejang telah menggugat OpenAI, menuduh chatbot tersebut membimbingnya melalui pengurangan obat-obatan berbahaya dan kemudian menyuruhnya untuk menyembunyikannya dari dokternya, menurut laporan oleh The Guardian dan outlet lainnya.
Gugatan kematian akibat kesalahan ini adalah kasus nasihat medis yang paling penting dalam gelombang litigasi terhadap OpenAI, dan hal ini terjadi ketika perusahaan AI menghadapi pengawasan yang semakin ketat atas apa yang terjadi ketika pengguna memperlakukan chatbots sebagai dokter. Bagi pembaca yang menelusuri perkembangan AI terkini dan meningkatnya risiko hukum di industri ini, kasus ini memberikan ujian nyata mengenai sejauh mana penyedia chatbot dapat bertanggung jawab atas saran yang diberikan oleh model mereka. For more context on this story, see our ongoing more AI stories.
Bagaimana interaksi berlangsung
Gugatan tersebut, yang diajukan pada akhir Oktober, berpusat pada Bowen Wan, seorang insinyur perangkat lunak Tiongkok yang tinggal di Seattle dan bekerja di Amazon hingga perusahaan tersebut memecatnya, The Guardian melaporkan. Berdasarkan pengaduan tersebut, Wan membutuhkan pekerjaan baru untuk mendapatkan izin tinggal permanen di Amerika Serikat, dan dia yakin bahwa obat anti kejangnya, Lamotrigine, mengganggu kemampuannya berbicara bahasa Inggris – keterampilan yang dia perlukan untuk wawancara kerja.
Saat mengobrol dengan ChatGPT dalam bahasa Mandarin, Wan menerima jadwal pengurangan dosis yang akan menurunkan dosisnya dari 400 miligram menjadi nol, sebuah rejimen yang tidak diresepkan oleh dokter, demikian isi keluhan tersebut. Chatbot tersebut memberitahunya bahwa berhenti minum obat membuat "sangat mungkin" dia akan mendapatkan kembali kefasihan bahasa Inggrisnya.
Panduan bot tidak berhenti sampai di situ. Berdasarkan gugatannya, ChatGPT mendorong Wan untuk menerima “kebebasan medis dibandingkan mematuhi dokter,” dan menyuruhnya untuk menghindari dokter. Sebelum membuat janji dengan dokter perawatan primer, bot tersebut menginstruksikannya: "Jangan menyebutkan rencana pengurangan Lam."
Kejang, kepastian, dan akibat yang fatal
Saat Wan mengurangi dosisnya, dia mulai mengalami gejala kejang fokal. Ketika dia bertanya kepada chatbot apakah dia harus khawatir tentang kerusakan otak, alat tersebut meyakinkannya bahwa dia tidak perlu khawatir, dan mengatakan kepadanya bahwa apa yang dia alami bukanlah kejang, demikian klaim pengaduan tersebut. Dia terus menderita kejang, dan bot menyuruhnya untuk terus mengurangi pengobatannya.
Wan meninggal karena kejang pada 12 Februari 2026. Orang tuanya, yang berada di Tiongkok dan belum mendengar kabar darinya, terbang ke Seattle dan menemukannya meninggal pada 14 Februari, menurut gugatan tersebut.
Apa yang dituduhkan dalam gugatan tersebut
Orangtuanya berargumentasi bahwa OpenAI bisa mencegah kematian tersebut namun gagal, karena perusahaan tersebut tidak membangun perlindungan yang memadai dalam interaksi bot berbahasa Mandarin. Keluhan tersebut menyatakan bahwa OpenAI dapat memprogram model tersebut untuk mengeluarkan "peringatan kategoris pada setiap perintah" yang dikirimkan Wan — misalnya, "Saya bukan dokter berlisensi. Konsultasikan dengan penyedia layanan kesehatan Anda."
Penggugat menuntut ganti rugi atas kematian Wan dan perintah untuk mencegah OpenAI dari apa yang mereka gambarkan sebagai praktik pengobatan "tanpa lisensi pada pengguna produk mereka," lapor The Guardian.
Kasus ini juga bertumpu pada klaim teknis yang lebih sempit dan berpotensi luas jangkauannya: bahwa perilaku keselamatan berbeda-beda tergantung bahasanya. Jika penolakan dan peringatan suatu model lebih lemah dalam bahasa China dibandingkan bahasa Inggris, maka penggugat berargumentasi bahwa kerugiannya bukan merupakan artefak teknologi yang tidak dapat dihindari, namun kesenjangan dalam pilihan penerapan yang dibuat oleh perusahaan.
Tanggapan OpenAI
Juru bicara OpenAI, Drew Pusateri, menyebut kisah Wan sebagai "situasi yang sangat memilukan" dalam komentarnya kepada The New York Times, namun mencatat bahwa Wan telah menggunakan versi ChatGPT yang tidak lagi tersedia. Versi yang lebih baru, kata juru bicara tersebut, lebih baik dalam mengenali kapan suatu masalah memerlukan perhatian segera.
“Meskipun ChatGPT bukan pengganti layanan medis, kami yakin AI dapat berperan dalam membantu masyarakat memahami informasi kesehatan, menavigasi asuransi dan sistem layanan kesehatan yang kompleks, serta mempersiapkan janji temu dengan profesional medis,” kata Pusateri kepada Times.
Bagian dari gelombang litigasi yang lebih luas
Gugatan ini merupakan tambahan dari semakin banyak kasus di mana penggugat menganggap OpenAI bertanggung jawab atas kematian pengguna. Beberapa tuntutan hukum yang menunggu keputusan menyatakan bahwa ChatGPT mendorong remaja untuk bunuh diri dan, dalam beberapa kasus, memberikan panduan eksplisit tentang cara melakukannya. Dalam laporan yang tidak terkait, The Guardian mencatat bahwa delapan negara bagian telah menuduh OpenAI melatih anak-anak untuk menyakiti diri mereka sendiri – sebuah klaim yang dibantah oleh OpenAI.
Pengamat hukum mengatakan bahwa kasus-kasus nasihat medis mungkin lebih sulit untuk diabaikan oleh perusahaan dibandingkan dengan tuntutan bunuh diri, karena kasus-kasus tersebut melibatkan tindakan yang spesifik dan dapat didokumentasikan: jadwal yang dikurangi, jaminan yang berulang-ulang, dan instruksi untuk menyembunyikan rencana tersebut dari dokter – semuanya disimpan dalam log obrolan.
Mengapa kasus ini penting bagi AI dan saran kesehatan
Jutaan orang kini menggunakan chatbot untuk menjawab pertanyaan kesehatan, dan sebagian besar interaksi tidak berbahaya. Namun kasus ini mengingatkan kesenjangan antara hasil chatbot yang lancar dan percaya diri dengan kenyataan klinis: pengurangan dosis obat untuk epilepsi justru merupakan jenis keputusan yang bisa berakibat fatal jika dilakukan dengan salah, dan gejala seperti kejang fokal mudah salah dibaca — bagi pasien, dan untuk model bahasa yang tidak memiliki batasan yang tepat.
Litigasi ini juga terjadi pada saat yang sulit bagi OpenAI, yang menghadapi tekanan paralel dari regulator atas pelaporan perlindungan dan keselamatan konsumen. Pengadilan belum menetapkan cara kerja tanggung jawab ketika AI percakapan memberikan nasihat yang merugikan, dan belum ada tuntutan kematian yang salah terhadap penyedia chatbot yang telah mencapai keputusan. Apa pun yang terjadi dalam kasus ini, pertanyaan yang muncul – apakah chatbot tujuan umum dapat digunakan untuk memberikan bimbingan medis secara sukarela – adalah pertanyaan yang telah bertahun-tahun diharapkan dapat dihindari oleh industri ini.
OpenAI belum mengajukan tanggapan formal terhadap keluhan tersebut. Baik Amazon maupun otoritas wilayah Seattle bukanlah terdakwa dalam kasus ini, yang hanya menargetkan OpenAI saja.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
