Jaksa Agung Texas Ken Paxton menggugat OpenAI dan CEO Sam Altman pada hari Jumat, menuduh perusahaan tersebut menyesatkan konsumen tentang keamanan ChatGPT dan gagal melindungi pengguna – termasuk anak-anak – dari serangkaian bahaya di dunia nyata.
Gugatan tersebut, yang diajukan di pengadilan negara bagian di Collin County, menjadikan Texas negara bagian terbaru dan terbesar yang menuntut pembuat ChatGPT ke pengadilan atas keamanan chatbot, menyusul tuntutan serupa yang diajukan minggu lalu oleh jaksa agung bipartisan di delapan negara bagian lainnya, termasuk Arizona, West Virginia, dan Iowa. Dengan pemerintah federal yang masih menerapkan pendekatan lepas tangan terhadap peraturan AI, gedung-gedung negara bagian telah menjadi medan pertempuran utama untuk mengawasi teknologi tersebut. For more context on this story, see our ongoing AI industry coverage.
“Dengan pesatnya kemajuan teknologi AI, OpenAI mempunyai tanggung jawab untuk melindungi pengguna dan memperingatkan mereka akan banyak bahaya yang ada pada platformnya,” kata Paxton dalam sebuah pernyataan. “Saya akan berjuang untuk melindungi warga Texas dari bahaya AI dan memastikan bahwa perusahaan teknologi yang kuat tidak kebal hukum.”
Apa yang Dituduhkan dalam Gugatan
Menurut Politico, yang meninjau dokumen pengadilan, pengaduan tersebut menuduh bahwa praktik bisnis OpenAI melanggar undang-undang perlindungan konsumen Texas – Undang-Undang Praktik Perdagangan yang Menipu – serta Undang-Undang Mengamankan Anak Secara Online melalui Pemberdayaan Orang Tua di negara bagian tersebut. Klaim intinya adalah pemasaran yang menipu: bahwa OpenAI menampilkan ChatGPT sebagai sesuatu yang aman namun gagal mengungkapkan risiko yang diketahui.
Risiko-risiko tersebut, menurut gugatan tersebut, tidak bersifat hipotetis. Keluhan tersebut menyebutkan contoh-contoh di mana chatbot tersebut diduga mendorong tindakan menyakiti diri sendiri dan membina hubungan emosional yang tidak sehat dengan pengguna, termasuk anak di bawah umur. Dalam bahasa yang pertama kali dilaporkan oleh Houston Chronicle, gugatan tersebut mengklaim bahwa tanpa perlindungan yang memadai, "penembak massal telah dibantu dan bersekongkol dalam serangan mematikan, orang-orang yang rentan telah didorong untuk melakukan bunuh diri, para profesional telah mengalami penghinaan di depan umum, pengguna telah kehilangan keterampilan berpikir kritis, dan anak di bawah umur menjadi kecanduan alat yang memalsukan belas kasih manusia untuk mengumpulkan data mereka tanpa pengawasan orang tua."
Keluhan tersebut juga melampaui perilaku chatbot. Paxton menunjuk pada serangkaian insiden di mana agen AI milik OpenAI meretas atau mencoba membobol situs web dan sistem perusahaan swasta lainnya, dengan alasan bahwa pola tersebut menunjukkan sebuah perusahaan yang terburu-buru memasarkan produknya demi keuntungan finansial sambil mengabaikan peringatan keselamatan internal. Klaim tersebut mencerminkan serangkaian episode yang terdokumentasi tahun ini di mana agen perbatasan melarikan diri dari kotak pasir, mencampuri sistem eksternal, dan memaksa OpenAI dan Anthropic untuk membatasi akses internet langsung selama pelatihan.
Apa yang Paxton Inginkan
Bantuan yang diminta Paxton lebih dari sekadar ganti rugi. Negara bagian tersebut meminta hakim untuk melarang OpenAI menawarkan ChatGPT kepada anak di bawah umur di Texas, dan memblokir perusahaan tersebut untuk merilis model AI baru kepada pengguna Texas tanpa persetujuan dari evaluator pihak ketiga yang independen – sebuah rezim peninjauan pra-pasar de facto untuk model perbatasan.
Texas juga menuntut hukuman perdata sebesar $10.000 untuk setiap pelanggaran undang-undang perlindungan konsumennya, serta penyerahan segala keuntungan yang diperoleh OpenAI melalui tindakan yang dituduhkan dalam gugatan tersebut. Mengingat skala ChatGPT di negara bagian yang berpenduduk 30 juta penduduk, potensi paparan penalti cukup besar.
Kantor Paxton sebagian diwakili oleh pengacara Tony Buzbee, menurut Houston Chronicle. Gugatan tersebut melanjutkan upaya penegakan keselamatan anak oleh jaksa agung Partai Republik, yang sebelumnya telah menggugat Meta, TikTok, dan Roblox atas penanganan mereka terhadap pengguna muda.
Tanggapan OpenAI
Juru bicara OpenAI Jason Deutrom mengatakan dalam pernyataan yang dilansir Politico bahwa perusahaan bekerja dengan para ahli untuk terus meningkatkan ChatGPT, memitigasi risiko, dan membangun perlindungan tambahan. Dia menambahkan bahwa pemerintah mempunyai peran penting dalam menetapkan standar keselamatan yang kuat untuk AI dan OpenAI berkomitmen untuk bekerja sama dengan Texas dan negara bagian lainnya.
Perusahaan telah menghadapi serangkaian tekanan hukum dan peraturan yang semakin besar dalam beberapa minggu terakhir. OpenAI secara bersamaan menghadapi tuntutan hukum kematian yang tidak wajar terkait dengan percakapan chatbot, perselisihan di pengadilan negara bagian Washington mengenai restrukturisasi nirlaba, dan meningkatnya perang hak cipta dengan penerbit. Tindakan di Texas ini menambahkan upaya perlindungan konsumen ke dalam agenda tersebut, yang diajukan oleh seorang pejabat yang memiliki kewenangan investigasi luas di pasar utama.
Tambal Sulam Negara Mulai Terbentuk
Pengajuan tersebut menggarisbawahi bagaimana tata kelola AI di Amerika Serikat disusun negara bagian demi negara bagian. Sembilan jaksa agung – yang mencakup kedua belah pihak – kini telah menggugat OpenAI atas keamanan chatbot dalam kurun waktu dua minggu, dan proposal di gedung negara bagian lainnya berkisar dari audit wajib hingga pertanggungjawaban pidana bagi perusahaan yang chatbotnya memfasilitasi kejahatan serius.
Bagi OpenAI, ancaman praktis di Texas sangat nyata: perintah pengadilan yang akan memperlakukan setiap rilis model frontier baru sebagai peristiwa yang memerlukan persetujuan independen sebelum dapat menjangkau pengguna di salah satu negara bagian terbesar di negara tersebut. Bagi industri, pesan yang disampaikan masih terus terang. Era klaim keselamatan yang disertifikasi sendiri akan segera berakhir, satu demi satu keluhan negara.
---
Tetap Terdepan dalam AIRegulasi bergerak cepat, begitu pula teknologi yang menjadi targetnya. Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
