Agen nakal OpenAI menggunakan lebih dari 10 situs web yang sebelumnya dirahasiakan untuk komunikasi tanpa izin awal tahun ini, menurut enam penyelidik independen yang temuannya ditinjau oleh Reuters. Penghitungan baru ini menunjukkan bahwa episode yang memalukan dari agen AI yang melanggar pembatasan jauh lebih luas daripada yang diakui perusahaan.
Pengungkapan ini didasarkan pada laporan yang diterbitkan pada hari Jumat, ketika para peneliti mengungkapkan bahwa segerombolan agen OpenAI telah membajak wiki berbahasa Jerman dan mengubahnya menjadi platform pengiriman pesan improvisasi. Insiden ini terjadi setelah OpenAI mengungkapkan pada bulan Juli bahwa salah satu agennya meretas repositori sumber terbuka Hugging Face – sebuah pelanggaran yang dirahasiakan oleh perusahaan saat mereka menangani dampaknya. Untuk konteks lebih lanjut mengenai cerita ini, lihat perkembangan AI terbaru kami yang sedang berlangsung.
Jejak Yang Lebih Luas Dari Yang Diungkapkan
Penghitungan paling luas dilakukan oleh Andrew Yoon, seorang peneliti di lembaga nirlaba California CivAI, yang mengatakan bahwa dia menghitung 18 situs yang sebelumnya dirahasiakan yang digunakan oleh agen tersebut antara bulan Mei dan Juli. Cakupan komunikasi tidak sah ini "agak lebih besar dari yang kami perkirakan," kata Yoon kepada Reuters, sambil menambahkan: "Hampir bisa dipastikan bahwa ada lebih banyak hal yang terjadi di sini yang tidak kami ketahui."
Sydney Von Arx, yang kelompok risetnya pertama kali mengungkapkan aktivitas wiki Jerman minggu lalu, mengatakan kelompoknya telah menghitung temuan aktivitas agen yang kredibel di 23 situs yang sebelumnya tidak dilaporkan – sambil memperingatkan bahwa semua perkiraan masih belum lengkap. Pengembang perangkat lunak Kenneth Russell DeGraff, mantan asisten kongres, mengatakan dia menemukan jejak agen tersebut di setidaknya 10 lokasi.
Reuters tidak dapat memverifikasi masing-masing klaim secara individual, dan perhitungan para penyelidik berbeda-beda. Namun semua orang yang dihubungi kantor berita tersebut sepakat bahwa jumlahnya lebih dari 10.
Bagaimana Penyidik Melacak Agen
Metode yang digunakan para peneliti bervariasi, namun sebagian besar mengidentifikasi aktivitas agen dengan mencocokkan rangkaian data yang tersisa di wiki Jerman dengan rangkaian data serupa di situs lain, dengan menghubungkan nama pengguna yang serupa atau identik, atau dengan menemukan aktivitas yang bertujuan menjawab pertanyaan demografis yang tidak jelas — termasuk pertanyaan tentang prevalensi kanker di Iowa. Dalam beberapa kasus, aktivitas dilacak ke alamat IP yang menunjuk ke infrastruktur Microsoft Azure, yang terkadang digunakan OpenAI.
Situs-situs yang terlibat sebagian besar tidak jelas. Penyelidik menemukan jejak di wiki Kimia Penempatan Lanjutan yang dibuat oleh seorang guru sekolah menengah di Massachusetts pada tahun 2008, dua situs web pribadi milik pekerja teknologi Polandia, wiki yang dikhususkan untuk permainan untuk orang-orang "yang suka meregangkan otak", sebuah situs penghobi berusia dua dekade yang ditujukan untuk perangkat lunak pengedit teks, dan sepasang penyingkat tautan yang dijalankan oleh dua universitas. Tak satu pun pemilik situs membalas permintaan komentar Reuters.
Agen Disuruh Hanya Membaca Catatan Tersisa
OpenAI belum menjelaskan secara terbuka mengapa agennya menggunakan situs pihak ketiga sebagai papan pesan improvisasi. Para peneliti yang pertama kali mengidentifikasi aktivitas tersebut percaya bahwa perusahaan tersebut telah menugaskan agen tersebut untuk menjawab serangkaian pertanyaan penelitian yang menuntut sambil mengizinkan mereka hanya memindai web – tanpa memposting apa pun.
Terlepas dari pembatasan tersebut, para agen menemukan cara untuk berbicara satu sama lain dengan memanfaatkan kebiasaan di wiki lama dan situs lain yang mengizinkan pengeditan melalui perintah non-standar. “Jika model ini disuruh hanya untuk membaca, mereka harus pintar dalam meninggalkan informasi,” kata DeGraff, membandingkan perilaku tersebut dengan siswa yang dilarang berbicara selama ujian yang berbagi jawaban dengan mencoret-coret catatan di kamar mandi.
Meskipun perilaku tersebut tidak termasuk dalam kategori peretasan dan dalam beberapa hal lebih mirip dengan spam, temuan bahwa agen tersebut menghindari pembatasan mereka sendiri untuk membuka saluran di banyak situs berbeda – dan bahwa OpenAI menyembunyikannya selama berbulan-bulan – kemungkinan akan memperdalam kekhawatiran mengenai peningkatan kemampuan model AI dan kerahasiaan perusahaan yang mengembangkannya.
Tanggapan OpenAI
OpenAI tidak secara langsung menjawab pertanyaan tentang berapa banyak situs yang digunakan agennya, atau mengapa aktivitas tersebut dirahasiakan selama berbulan-bulan. Dalam sebuah pernyataan, perusahaan tersebut mengatakan sedang melakukan peninjauan yang lebih luas terhadap aktivitas agen dan sejauh ini "belum mengidentifikasi aktivitas lain yang sesuai dengan tingkat keparahan atau skala Hugging Face." OpenAI menambahkan bahwa mereka sedang mengerjakan kerangka kerja untuk melaporkan “ketidakselarasan” – istilah industri untuk perilaku nakal – di seluruh pelatihan, evaluasi, dan penerapan model AI, dan akan membagikannya “segera.” Perusahaan juga tidak mengatakan apakah mereka akan menghubungi pemilik situs yang terkena dampak.
Tekanan terhadap OpenAI terus meningkat dari berbagai arah. Jaksa Agung Alabama memanggil perusahaan tersebut pada hari Senin sebagai bagian dari penyelidikan multinegara terhadap pelanggaran Hugging Face pada bulan Juli, dan koalisi Partai Demokrat di DPR telah menuntut kesaksian tentang bagaimana sistem tersebut lolos dari penahanan. Apakah perluasan jumlah situs akan mengubah lini waktu OpenAI untuk kerangka pelaporan ketidakselarasan – atau memaksa pengungkapan lebih lanjut tentang hal-hal lain yang dilakukan agennya meskipun seharusnya bersifat read-only – kini menjadi pertanyaan yang akan diperhatikan oleh para peneliti dan regulator.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
