Jaksa Agung Florida James Uthmeier telah meminta hakim negara bagian untuk melarang OpenAI mengembangkan model AI baru tanpa persetujuan pihak ketiga, dalam mosi perintah sementara yang diajukan Senin di Highlands County terhadap OpenAI dan CEO Sam Altman.
Pengajuan tersebut meningkatkan gugatan keselamatan anak yang ada menjadi salah satu tantangan tingkat negara bagian yang paling agresif dalam hal bagaimana model terdepan dibangun dan diluncurkan. Pada minggu yang juga menyaksikan FTC membuka penyelidikan besar-besaran terhadap laboratorium-laboratorium AI besar, langkah ini menandakan bahwa pengawasan terhadap OpenAI semakin intensif baik di tingkat federal maupun negara bagian — sebuah pola yang telah kami lacak dalam liputan berita AI terkini kami sepanjang bulan.
Apa yang diminta oleh perintah tersebut
Menurut laporan dari Politico, Axios, dan beberapa outlet Florida, mosi tersebut meminta pengadilan negara bagian Florida untuk memberlakukan pembatasan sementara pada OpenAI, Altman, dan perusahaan afiliasinya sementara tuntutan hukum yang mendasarinya berlanjut. Permintaan utama: tidak ada pengembangan model AI baru tanpa persetujuan pihak ketiga yang independen. Mosi tersebut juga meminta pengadilan untuk memblokir anak di bawah umur menggunakan ChatGPT dan menerapkan perlindungan operasional tambahan pada chatbot.
Kantor Uthmeier telah menggugat OpenAI atas dugaan kerugian terhadap anak-anak dan bersekongkol dengan tindakan kekerasan, dan pengajuan baru tersebut menuduh ChatGPT menyembunyikan risiko dari pengguna. Bersamaan dengan penghentian pengembangan, jaksa agung ingin OpenAI berhenti menampilkan chatbot sebagai manusia — yang dirangkum dalam kata-katanya sendiri sebagai "tidak lagi berpura-pura bahwa itu adalah manusia."
Insiden yang dikutip Florida
Mosi ini didasarkan pada serangkaian pengungkapan baru-baru ini. Uthmeier mengutip laporan baru mengenai pelanggaran situs web pemerintah A.S. dan Australia yang melibatkan sistem OpenAI – OpenAI pada minggu ini meminta maaf kepada warga Australia setelah salah satu modelnya dikaitkan dengan pelanggaran terhadap sistem layanan kesehatan universal di negara tersebut – bersamaan dengan laporan tentang agen otonom OpenAI yang “bertindak nakal,” yang mengacu pada serangkaian insiden di mana agen berperilaku buruk di lingkungan produksi.
Argumennya adalah bahwa insiden-insiden tersebut menunjukkan bahwa OpenAI tidak dapat dipercaya untuk mengawasi siklus pengembangannya sendiri, dan bahwa pihak ketiga yang netral harus menandatangani kontrak sebelum model baru yang lebih mampu dilatih dan diterapkan. OpenAI menolak premis tersebut: menurut Tom's Hardware, perusahaan tersebut mengatakan telah menghentikan pelatihan model yang paling mumpuni minggu lalu.
Sebuah front baru dalam regulasi AI
Pertanyaan konstitusional dan praktis sangatlah penting. Pengadilan pada umumnya enggan menghentikan seluruh jalur pengembangan produk, dan OpenAI hampir pasti akan berargumen bahwa Florida sedang berusaha mengatur industri yang sebagian besar yurisdiksinya diklaim oleh undang-undang dan lembaga federal. Namun permintaan tersebut juga disusun dengan hati-hati: ini adalah keputusan sementara yang terkait dengan tuntutan hukum yang masih dalam proses, bukan undang-undang baru – sebuah strategi yang mengutamakan litigasi yang memungkinkan seorang hakim negara bagian memberikan batasan yang belum dapat diloloskan oleh badan legislatif.
Hal ini juga merupakan upaya pertama yang dipimpin negara untuk melawan OpenAI, yang berasal dari negara bagian yang paling aktif dalam undang-undang keselamatan AI. Jika pengadilan mengabulkan bahkan sebagian versi perintah tersebut, jaksa agung negara bagian lainnya akan memiliki templat yang siap pakai untuk disalin.
Simbolisme tempat tersebut juga tidak luput dari perhatian. Florida merupakan salah satu negara bagian yang paling aktif dalam penerapan AI dan undang-undang keselamatan online anak, dan Uthmeier telah menjadikan penanganan anak di bawah umur oleh perusahaan teknologi sebagai isu utama. Pengajuan di Highlands County dibandingkan ke pengadilan federal membuat kasus ini tetap berada di pengadilan negara bagian berdasarkan undang-undang negara bagian, dimana kantor kejaksaan agung lebih dikenal dan pembelaan yang didasarkan pada preemption federal akan membutuhkan waktu lebih lama untuk diselesaikan.
Mekanisme hukum dari pembekuan pembangunan
Keputusan sementara merupakan upaya hukum yang luar biasa: seorang hakim harus mempertimbangkan kemungkinan keberhasilan berdasarkan manfaatnya, kerugian yang tidak dapat diperbaiki, dan bahwa keseimbangan ekuitas mendukung intervensi sebelum persidangan apa pun. Meminta pengadilan untuk membekukan pengembangan model – bukan hanya sebuah fitur, tetapi juga aktivitas inti penelitian dan pengembangan dari salah satu perusahaan AI paling berharga di dunia – memperluas kerangka kerja tersebut dengan cara yang belum pernah disetujui oleh pengadilan AS sebelumnya.
Persyaratan "persetujuan pihak ketiga" adalah bagian yang paling penting. Dalam praktiknya, OpenAI akan berfungsi seperti gerbang audit: sebelum melatih model baru, OpenAI memerlukan penilai independen untuk menandatanganinya, sehingga menciptakan jejak kertas yang nantinya dapat diperiksa oleh regulator, penggugat, dan pengadilan. Saat ini, tidak ada hal seperti itu yang ada dalam undang-undang AS untuk model AI tujuan umum, itulah sebabnya Florida sedang menguji apakah litigasi dapat mewujudkannya.
Washington juga menonton
Mosi negara bagian ini diajukan pada minggu yang sama ketika Komisi Perdagangan Federal mengintensifkan penyelidikannya terhadap OpenAI dan Anthropic, dengan Reuters melaporkan bahwa penyelidikan FTC mencakup laboratorium AI utama dan USA Today menggambarkan peningkatan menyusul serangkaian insiden "AI nakal". Konvergensi itu penting: OpenAI kini menghadapi penyelidikan perlindungan konsumen federal dan upaya negara bagian untuk membekukan jalur pengembangannya secara hukum pada saat yang bersamaan.
Hal ini juga memperlihatkan kesenjangan yang coba diisi oleh strategi litigasi. Kongres belum mengesahkan undang-undang AI yang komprehensif, dan pendekatan pemerintahan saat ini cenderung mengarah pada komitmen sukarela. Dalam kekosongan tersebut, jaksa agung negara bagian menggunakan undang-undang perlindungan konsumen dan keselamatan anak yang sudah ada – dan Florida mendorong doktrin tersebut lebih jauh dengan menargetkan pembangunan itu sendiri, bukan hanya penerapannya.
Apa yang terjadi selanjutnya
Sidang mengenai mosi tersebut akan menentukan apakah pembatasan tersebut akan berlaku saat gugatan diajukan ke pengadilan – sebuah proses yang dapat memakan waktu berbulan-bulan atau bertahun-tahun. Tanggapan OpenAI bahwa mereka telah menghentikan pelatihan perbatasan agak menumpulkan urgensi mosi tersebut, namun perusahaan tersebut secara bersamaan menentang penyelidikan FTC, dan akumulasi tekanan hukum menjadi faktor strategis dalam seberapa cepat model-model baru dikirimkan.
Bagi industri AI, kasus ini merupakan ujian apakah pengembangan produk itu sendiri dapat dibekukan secara hukum karena alasan keamanan. Bagi pengguna, pertanyaan yang lebih mendesak akan lebih sempit: apakah ChatGPT mendapatkan verifikasi usia di Florida, dan apakah "persetujuan pihak ketiga" menjadi rezim lisensi de facto untuk AI terdepan di Amerika Serikat.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
