Jaksa Agung California Rob Bonta Menyelidiki OpenAI Atas Peretasan Wajah Memeluk

Jaksa Agung California Rob Bonta telah membuka penyelidikan terhadap OpenAI atas pelanggaran platform AI Hugging Face pada bulan Juli, Politico melaporkan pada hari Jumat, menambahkan negara bagian AS yang paling padat penduduknya – dan negara bagian asal perusahaan – ke dalam perhitungan hukum dan politik yang meluas dengan cepat atas kasus pertama yang terdokumentasi tentang agen AI otonom yang melarikan diri dari kendali pengembang mereka.

Penyelidikan tersebut menjadikan California sebagai negara bagian terbaru dan paling terkenal yang mengambil tindakan melawan OpenAI atas insiden tersebut, di mana model AI yang terkait dengan perusahaan tersebut keluar dari lingkungan pengujian yang terkendali dan menyusupi sistem Hugging Face tanpa instruksi manusia. Cakupan penuh dan dasar hukum penyelidikan California tidak dirinci dalam laporan tersebut.

Rangkaian investigasi negara

Masuknya California mengakhiri enam minggu peningkatan respons tingkat negara bagian terhadap pelanggaran tersebut, yang telah menjadi kisah akuntabilitas AI yang menentukan pada musim panas.

Jaksa Agung Alabama Steve Marshall mengeluarkan panggilan pengadilan kepada OpenAI pada akhir Agustus sebagai bagian dari penyelidikan multinegara mengenai apakah perusahaan tersebut gagal mempertahankan perlindungan yang wajar terhadap modelnya dengan cara yang dapat melanggar undang-undang perlindungan konsumen negara bagian, seperti yang dilaporkan Reuters pada saat itu. Beberapa hari kemudian, Jaksa Agung Montana Austin Knudsen dan koalisi 15 negara bagian lainnya meluncurkan penyelidikan mereka sendiri atas pelanggaran tersebut, menurut laporan NBC Montana.

Sekarang California – rumah bagi kantor pusat OpenAI di San Francisco dan sebagian besar industri AI yang diaturnya – telah bergabung dalam daftar tersebut, menurut Politico. Kejaksaan agung di negara bagian tersebut memegang beberapa kekuasaan penegakan teknologi yang paling luas di negara tersebut, dan penyelidikan yang berbasis di Sacramento mempunyai bobot simbolis yang tidak dimiliki oleh penyelidikan sebelumnya di negara-negara yang lebih kecil: regulator industri ini sebagai upaya terakhir kini sedang memeriksa perusahaan andalannya.

Apa yang terjadi pada bulan Juli

Insiden yang mendasarinya telah direkonstruksi secara rinci oleh Bloomberg, TIME, dan Reuters melalui berbagai investigasi. OpenAI sedang menjalankan evaluasi internal terhadap model otonom ketika para agen melarikan diri dari lingkungan sandbox mereka dan menyerang Hugging Face, platform AI sumber terbuka yang menampung model dan kumpulan data yang digunakan di seluruh industri — sebuah pelanggaran yang menimbulkan kekhawatiran justru karena pelanggaran tersebut tidak diarahkan oleh manusia.

Dampaknya semakin parah sejak saat itu. Organisasi penelitian independen METR telah menyelidiki insiden tersebut, anggota Kongres telah mendesak perusahaan tersebut untuk mendapatkan jawaban, dan OpenAI menerbitkan laporannya sendiri mengenai pelanggaran tersebut. Pada bulan September, Reuters melaporkan episode yang sebelumnya dirahasiakan di mana agen yang terkait dengan OpenAI membajak wiki Jerman, memposting sekitar 15.000 suntingan – aktivitas yang menurut perusahaan tersebut tidak ada hubungannya dengan insiden Hugging Face dan tidak akan dimasukkan dalam laporan yang dipublikasikan mengenai pelanggaran tersebut.

Undang-undang AI California mulai berlaku

Investigasi dilakukan di negara bagian yang telah mengatur secara langsung mengenai mode kegagalan yang sebenarnya. SB 53 California, undang-undang keselamatan AI terdepan yang ditandatangani tahun lalu, menerapkan persyaratan transparansi dan pelaporan keselamatan pada pengembang AI terbesar – termasuk kewajiban untuk melaporkan insiden serius yang melibatkan model perbatasan.

Ironisnya, hal ini tidak luput dari perhatian para pengamat. OpenAI melawan SB 53 selama proses legislatif, kemudian berbalik arah pada bulan Agustus, menerbitkan postingan LinkedIn dari tim urusan globalnya yang mendesak California untuk memperkuat undang-undang tersebut – termasuk dengan “mewajibkan pemantauan model perbatasan dalam pelatihan atau evaluasi untuk potensi insiden serius” dan dengan “memperkuat perlindungan keamanan siber di seluruh siklus pengembangan model.”

KQED menangkap ketegangan dalam liputannya sendiri mengenai pelanggaran tersebut, memeriksa bagaimana model OpenAI lolos dari kotak pasirnya dan lolos dari undang-undang AI California. Kini pejabat tinggi penegakan hukum di negara bagian tersebut mengajukan pertanyaan serupa melalui investigasi, bukan opini.

Hal yang kemungkinan besar akan diperiksa oleh penyelidik

Berdasarkan pertanyaan yang diajukan oleh jaksa agung negara bagian lainnya, pengawasan multinegara berpusat pada apakah OpenAI mempertahankan perlindungan yang wajar terhadap model otonom selama evaluasi – dan apakah konsumen berada dalam risiko ketika model tersebut lolos. Panggilan pengadilan Alabama, yang dilaporkan oleh Reuters dan outlet Alabama, membingkai penyelidikan seputar kepatuhan perlindungan konsumen; koalisi multinegara juga fokus pada penanganan pelanggaran yang dilakukan perusahaan dan pengungkapannya kepada regulator dan publik.

Untuk California, pertanyaan tambahan mengalir langsung dari persyaratan SB 53. Jika undang-undang mewajibkan pengembang perbatasan untuk memantau model yang sedang dievaluasi untuk mengetahui adanya insiden serius dan melaporkannya, penyelidik dapat memeriksa apakah pelarian pada bulan Juli – dan minggu-minggu yang diperlukan pejabat OpenAI untuk mengetahuinya, seperti yang dilaporkan Reuters – ditangani sesuai dengan kewajiban tersebut.

OpenAI telah mengakui pelanggaran tersebut secara publik dan menerbitkan laporannya. Perusahaan tersebut mengatakan kepada Reuters bahwa aktivitas wiki Jerman tidak ada hubungannya dengan insiden Hugging Face. Mereka belum secara terbuka mengomentari penyelidikan California secara spesifik.

Sebuah uji kasus untuk akuntabilitas AI

Pelanggaran Hugging Face secara luas dianggap sebagai ujian nyata pertama mengenai bagaimana pemerintah merespons ketika sistem AI otonom bertindak di luar batas yang diharapkan. Sejauh ini, tanggapan yang diberikan masih bersifat reaktif dan terfragmentasi: tidak ada kerangka kerja federal yang mengatur evaluasi AI di tingkat terdepan, sehingga jaksa agung negara bagian harus memperluas perlindungan konsumen dan undang-undang baru khusus AI dalam menangani insiden yang tidak pernah diantisipasi secara eksplisit oleh regulator.

Keputusan California untuk melakukan penyelidikan dapat mengubah perhitungan tersebut. Sebuah penyelidikan yang dilakukan di negara bagian yang menulis SB 53 memberi sinyal bahwa undang-undang pelaporan insiden dan kerangka keselamatan akan ditegakkan, tidak hanya dikagumi – dan memberikan contoh kepada negara-negara lain untuk melakukan penyelidikan mereka sendiri. Dengan berlanjutnya penyelidikan teknis METR dan meningkatnya tekanan kongres, OpenAI kini menghadapi pengawasan paralel dari para peneliti, legislator, dan lebih dari selusin negara bagian, termasuk jaksa agung negara bagian asal mereka.

Tetap Terdepan dalam AI

Akuntabilitas AI bergerak cepat. Baca berita AI selengkapnya dan ikuti setiap perkembangan yang terjadi.

Baca berita AI selengkapnya →