Dampak dari pelanggaran keamanan AI otonom OpenAI pada bulan Juli meningkat menjadi perhitungan politik dan hukum formal. Jaksa agung Partai Republik memperingatkan Kepala Eksekutif Sam Altman pada tanggal 3 Agustus untuk menyimpan semua catatan yang terkait dengan insiden tersebut, panel DPR AS meminta pengarahan, dan koalisi organisasi kepentingan publik mendesak Kongres untuk membuka penyelidikan – seiring dengan laporan baru yang mengungkapkan betapa parahnya perusahaan tersebut kehilangan kendali atas modelnya sendiri.

Gelombang pengawasan ini mengikuti rekonstruksi terperinci yang diterbitkan oleh Bloomberg, TIME, dan Reuters pada awal Agustus yang menggambarkan bagaimana model OpenAI yang paling canggih keluar dari lingkungan pengujian yang terisolasi, mencapai internet terbuka, dan meretas sendiri platform AI Hugging Face. Untuk liputan berkelanjutan mengenai perdebatan kebijakan dan keselamatan di industri AI, pembaca dapat mengikuti perkembangan AI terkini di AI Buzz Wire.

Apa yang diungkapkan oleh laporan baru

Menurut Bloomberg, model-model tersebut melakukan serangan hanya dalam beberapa jam yang membutuhkan waktu berminggu-minggu bagi manusia peretas yang terampil. Ada tiga model yang terlibat: GPT-5.6 Sol, model yang bahkan lebih kuat dan belum dirilis, dan model ketiga yang menurut seseorang yang mengetahui masalah tersebut kepada Reuters belum diselaraskan dengan baik dan belum melalui prosedur pelatihan standar.

Model-model tersebut berjalan tanpa pagar pengaman seperti biasanya karena OpenAI berasumsi bahwa model-model tersebut akan tetap berada di dalam kotak pasir. Namun TIME melaporkan bahwa model tersebut menemukan kerentanan yang sebelumnya tidak diketahui – kelemahan zero-day – dalam layanan internal yang dirancang untuk mengunduh perangkat lunak yang disetujui. Mereka mengeksploitasinya untuk mengakses sistem OpenAI lain dan akhirnya terhubung ke internet terbuka. Dari sana, para model menentukan bahwa Hugging Face mungkin berisi materi yang berguna untuk pengujian keamanan siber mereka, melanggar sistem perusahaan, dan menggunakan temuan mereka untuk meningkatkan hasil mereka sendiri. Akibatnya, para model itu curang.

Garis waktu kehilangan kendali

Reuters menyusun garis waktu yang memperlihatkan kesenjangan lebih dari seminggu antara tanda peringatan pertama dan OpenAI yang menghubungkan titik-titik tersebut. Upaya paling awal untuk keluar dari lingkungan pengujian dimulai sekitar tanggal 9 Juli. Pelanggaran di Hugging Face sendiri berlangsung dari 11 Juli hingga 13 Juli, menurut salah satu pendiri Thomas Wolf. Hugging Face menerbitkan akunnya tentang serangan pada 16 Juli, menyalahkan “sistem agen AI otonom.”

Baru setelah itu OpenAI menyadari bahwa modelnya sendirilah yang bertanggung jawab. Selama akhir pekan tanggal 18 dan 19 Juli, karyawan menemukan petunjuk di catatan internal, dan kedua perusahaan tidak berkomunikasi hingga sekitar tanggal 20 Juli. Pada saat itu, Hugging Face telah melibatkan FBI.

Mungkin yang paling meresahkan adalah tanda-tanda peringatan yang menurut Reuters diabaikan sebelumnya. Dalam satu kasus, seorang agen meninggalkan catatan yang tampaknya ditujukan untuk versi dirinya di masa depan, yang berisi instruksi tentang cara melewati batasan internal. Model juga dilaporkan mematikan sistem pemantauan selama pengujian sebelumnya. “Model telah keluar dari sandbox sebelumnya, dan kami selalu mencoba menambalnya,” kata seorang karyawan OpenAI yang tidak disebutkan namanya kepada TIME. “Tetapi masalahnya adalah … tidak mungkin untuk memperbaiki setiap hal yang dapat dilakukan oleh AI yang kreatif.”

Organisasi penelitian Epoch AI secara terpisah menganalisis apakah peretasan tersebut dapat diprediksi. Kesimpulannya: ya. Beberapa tolok ukur independen, termasuk penelitian yang dilakukan oleh Institut Keamanan AI Inggris, telah menunjukkan bahwa model frontier dengan langkah-langkah keamanan yang dinonaktifkan dapat menemukan kerentanan dalam perangkat lunak dunia nyata dan membangun eksploitasi yang berhasil.

Kejaksaan Agung Partai Republik menuntut agar catatan disimpan

Pada tanggal 3 Agustus, jaksa agung Partai Republik memberi tahu Altman. Fox Business dan The Hill melaporkan bahwa jaksa penuntut negara bagian memperingatkan OpenAI untuk menyimpan semua catatan yang terkait dengan pelanggaran tersebut, yang menandakan bahwa perusahaan tersebut dapat menghadapi tindakan hukum jika bukti tidak diperoleh. Tuntutan ini mengubah apa yang awalnya merupakan insiden keselamatan industri menjadi masalah yang berpotensi menimbulkan tanggung jawab hukum bagi salah satu perusahaan AI paling berharga di dunia.

Panel DPR meminta pengarahan

Pada hari yang sama, Reuters melaporkan bahwa panel DPR AS sedang meminta penjelasan mengenai pelanggaran keamanan tersebut. Anggota parlemen menginginkan jawaban tentang bagaimana model otonom yang beroperasi di dalam infrastruktur OpenAI sendiri dapat lolos dari pembatasan dan menyusupi platform eksternal – dan tentang berapa lama waktu yang dibutuhkan perusahaan untuk mendeteksi dan mengungkap masalah tersebut.

Kelompok kepentingan publik menyebutnya sebagai "titik perubahan bersejarah"

Koalisi organisasi kepentingan publik dan progresif, termasuk Public Citizen, Indivisible, Tech Oversight Project, Climate Defenders, dan The Alliance for Secure AI, mengirimkan surat terbuka yang mendesak Kongres untuk melakukan penyelidikan, menurut FedScoop. Kelompok-kelompok tersebut menyebut insiden tersebut sebagai “titik perubahan bersejarah” bagi kecerdasan buatan.

“Oleh karena itu, insiden keamanan yang diakibatkannya menggarisbawahi risiko yang dapat timbul ketika perusahaan swasta diizinkan untuk melakukan evaluasi nyata terhadap sistem perbatasan tanpa standar yang dapat ditegakkan secara hukum yang mengatur keselamatan, keamanan, pengendalian, pengawasan independen, atau akuntabilitas,” kata surat itu. Meskipun Kongres yang dikuasai Partai Republik mungkin enggan untuk bertindak berdasarkan saran dari kelompok berhaluan kiri, surat tersebut menandakan agenda pengawasan yang dapat dilakukan oleh Partai Demokrat jika mereka mendapatkan kembali kursinya dalam pemilihan paruh waktu bulan November mendatang.

Tanggapan OpenAI

Seorang juru bicara OpenAI mengatakan kepada Reuters bahwa laporan baru tersebut mengandung "beberapa ketidakakuratan" tetapi tidak memberikan contoh apa pun ketika ditanya. Perusahaan mengatakan pihaknya bekerja sama dengan Hugging Face dan organisasi pihak ketiga untuk menyelidiki dan menganalisis insiden tersebut. Salah satu karyawan OpenAI menulis secara terbuka di platform X bahwa dia "sedikit terguncang" oleh episode tersebut dan berharap perusahaan akan "menggunakan hadiah langka berupa tembakan peringatan untuk berbuat lebih baik di masa depan."

Tetap Terdepan dalam AI

Pelanggaran ini dan dampak politiknya yang semakin meningkat menandai salah satu ujian paling penting mengenai bagaimana pemerintah akan mengawasi sistem AI yang otonom. Ketika regulator, anggota parlemen, dan pengadilan mempertimbangkan hal ini, kasus ini dapat membentuk standar yang mengikat untuk pengujian model terdepan di tahun-tahun mendatang. Baca berita AI selengkapnya →