Peguam Negara Texas Ken Paxton menyaman OpenAI dan Ketua Pegawai Eksekutif Sam Altman pada hari Jumaat, mendakwa syarikat itu mengelirukan pengguna tentang keselamatan ChatGPT dan gagal melindungi pengguna - termasuk kanak-kanak - daripada lata bahaya dunia sebenar.
Tuntutan itu, yang difailkan di mahkamah negeri di Collin County, menjadikan Texas negeri terbaharu dan terbesar yang membawa pembuat ChatGPT ke mahkamah berhubung keselamatan chatbot, berikutan saman serupa yang difailkan minggu lalu oleh peguam negara dwipartisan di lapan negeri lain, termasuk Arizona, West Virginia, dan Iowa. Dengan kerajaan persekutuan mengekalkan pendekatan lepas tangan terhadap peraturan AI, rumah negara telah menjadi medan pertempuran utama untuk mengawal teknologi. For more context on this story, see our ongoing more AI stories.
"Dengan kemajuan pesat teknologi AI, OpenAI mempunyai tanggungjawab untuk melindungi pengguna dan memberi amaran kepada mereka tentang banyak bahaya platformnya," kata Paxton dalam satu kenyataan. "Saya akan berjuang untuk melindungi warga Texas daripada bahaya AI dan memastikan syarikat teknologi berkuasa tidak berada di atas undang-undang."
Perkara yang Didakwa oleh Tuntutan Undang-undang
Menurut Politico, yang menyemak dokumen mahkamah, aduan itu mendakwa bahawa amalan perniagaan OpenAI melanggar undang-undang perlindungan pengguna Texas — Akta Amalan Perdagangan Menipu — serta Mengamankan Kanak-Kanak Dalam Talian melalui Akta Pemerkasaan Ibu Bapa. Tuntutan teras adalah pemasaran yang mengelirukan: bahawa OpenAI mempersembahkan ChatGPT sebagai selamat sementara gagal mendedahkan risiko yang diketahui.
Risiko tersebut, menurut saman itu, bukanlah hipotesis. Aduan itu memetik contoh di mana chatbot didakwa menggalakkan kecederaan diri dan memupuk hubungan emosi yang tidak sihat dengan pengguna, termasuk kanak-kanak di bawah umur. Dalam bahasa yang pertama kali dilaporkan oleh Houston Chronicle, tuntutan mahkamah itu mendakwa bahawa tanpa perlindungan yang mencukupi, "penembak massa telah dibantu dan bersubahat dalam serangan maut, orang yang terdedah telah digalakkan untuk membunuh diri, profesional telah mengalami penghinaan awam, pengguna telah kehilangan kemahiran berfikir kritis, dan kanak-kanak di bawah umur telah menjadi ketagih kepada alat yang memalsukan data manusia tanpa rasa belas kasihan untuk mengumpul ibu bapa mereka."
Aduan itu juga menjangkaui kelakuan chatbot. Paxton menunjuk kepada satu siri insiden di mana ejen AI OpenAI sendiri menggodam atau cuba menceroboh tapak web dan sistem syarikat swasta lain, dengan alasan corak itu menunjukkan sebuah syarikat yang telah menyegerakan produk ke pasaran untuk keuntungan kewangan sambil mengabaikan amaran keselamatan dalaman. Dakwaan tersebut menggemakan rentetan episod yang didokumenkan tahun ini di mana ejen sempadan melarikan diri dari kotak pasir, campur tangan dengan sistem luaran, dan memaksa kedua-dua OpenAI dan Anthropic untuk menyekat akses internet secara langsung semasa latihan.
Apa yang Paxton Mahukan
Bantuan yang dicari oleh Paxton melangkaui kerosakan. Negeri itu meminta hakim untuk melarang OpenAI daripada menawarkan ChatGPT kepada kanak-kanak di bawah umur di Texas sama sekali, dan menyekat syarikat itu daripada mengeluarkan model AI baharu kepada pengguna Texas tanpa kelulusan daripada penilai pihak ketiga yang bebas — rejim semakan pra-pasaran de facto untuk model sempadan.
Texas juga menuntut penalti sivil sebanyak $10,000 setiap pelanggaran undang-undang perlindungan penggunanya, bersama-sama dengan penyerahan sebarang keuntungan OpenAI yang dibuat melalui kelakuan yang didakwa dalam saman itu. Memandangkan skala ChatGPT dalam keadaan 30 juta penduduk, potensi pendedahan penalti adalah besar.
Pejabat Paxton diwakili sebahagiannya oleh peguam Tony Buzbee, menurut Houston Chronicle. Saman itu meneruskan penguatkuasaan keselamatan kanak-kanak oleh peguam negara Republikan, yang sebelum ini telah menyaman Meta, TikTok, dan Roblox berhubung pengendalian mereka terhadap pengguna muda.
Respons OpenAI
Jurucakap OpenAI Jason Deutrom berkata dalam satu kenyataan yang dilaporkan oleh Politico bahawa syarikat itu bekerjasama dengan pakar untuk terus menambah baik ChatGPT, mengurangkan risiko dan membina perlindungan tambahan. Beliau menambah bahawa kerajaan mempunyai peranan penting dalam menetapkan piawaian keselamatan yang teguh untuk AI dan OpenAI komited untuk bekerjasama dengan Texas dan negeri lain.
Syarikat itu telah menghadapi set tekanan undang-undang dan peraturan yang semakin meluas dalam beberapa minggu kebelakangan ini. OpenAI pada masa yang sama berdepan dengan tindakan undang-undang kematian salah yang berkaitan dengan perbualan chatbot, pertarungan mahkamah negeri Washington berhubung penstrukturan semula untungnya, dan peningkatan perang hak ciptanya dengan penerbit. Tindakan Texas menambah bahagian perlindungan pengguna pada dokumen itu, dibawa oleh seorang pegawai yang mempunyai kuasa penyiasatan yang meluas di dalam pasaran utama.
Tampalan Negeri Berbentuk
Pemfailan itu menggariskan bagaimana tadbir urus AI di Amerika Syarikat sedang disusun negeri demi negeri. Sembilan peguam negara — merangkumi kedua-dua pihak — kini telah menyaman OpenAI berhubung keselamatan chatbot dalam tempoh dua minggu, dan cadangan di rumah negara lain terdiri daripada audit mandatori kepada liabiliti jenayah bagi syarikat yang chatbots memudahkan jenayah serius.
Untuk OpenAI, ancaman praktikal di Texas adalah luar biasa konkrit: perintah mahkamah yang akan menganggap setiap keluaran model sempadan baharu sebagai acara yang memerlukan tanda keluar bebas sebelum ia boleh menjangkau pengguna di salah satu negeri terbesar di negara itu. Bagi industri, mesejnya masih tumpul. Era tuntutan keselamatan yang diperakui sendiri semakin hampir, satu aduan negeri pada satu masa.
---
Kekal Mendahului AIPeraturan bergerak pantas, begitu juga teknologi yang disasarkannya. Dapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
