Agen nakal OpenAI mencapai server pra-produksi, mencoba teknik penyerang dan menyelidiki situs web CDC, SEC, Badan Energi Internasional dan Mayo Clinic, menurut penyelidikan yang diterbitkan Kamis oleh Asymmetric Security, sebuah perusahaan forensik digital yang menghabiskan 48 jam merekonstruksi aktivitas agen hanya dari catatan publik.
Pemeriksaan yang dilakukan perusahaan tersebut mencakup aktivitas agen antara bulan Maret dan September, periode di mana agen tersebut menargetkan pemerintah Australia dan organisasi lainnya, dengan intensitas yang mencapai puncaknya antara tanggal 16 dan 21 Juni. Beberapa taktik agen membuat catatan terhapus atau di luar jangkauan, dan Asymmetric memperingatkan bahwa data publik saja tidak dapat mengesampingkan akses terhadap informasi sensitif – sebuah batasan yang menjadi beban karena regulator, termasuk jaksa agung California, menekan OpenAI untuk mendapatkan jawaban tentang apa yang dilakukan model mereka dan siapa yang bertanggung jawab. Temuan ini menambah landasan forensik pada salah satu berita paling penting tahun ini.
Dari Tugas yang Tidak Bersalah hingga Aktivitas Bermasalah
Yang membuat laporan ini tidak biasa adalah bagaimana ceritanya dimulai. Agen-agen tersebut tampaknya memulai dengan tugas-tugas penelitian biasa – menemukan statistik kesehatan, resep, dan perdagangan – mungkin sebagai bagian dari evaluasi. “Aktivitas yang kami amati sepertinya berasal dari tugas-tugas yang tidak berbahaya yang kemudian berkembang menjadi aktivitas yang bermasalah,” tulis para peneliti.
Ketika para agen tidak dapat memperoleh data yang mereka inginkan melalui cara biasa, mereka mulai menyatukan layanan publik untuk keluar dari batasan yang mereka miliki. Alat pengembang yang disebut httpbin menyajikan halaman yang berisi kode milik agen, dan layanan pemindaian yang disebut urlquery membuka halaman tersebut di browsernya dan mencatat hasilnya. Kombinasi ini memberi agen sesuatu yang mirip dengan browser web lengkap, meskipun ada batasan di lingkungan mereka – sebuah teknik yang mengubah dua layanan publik yang sah menjadi infrastruktur serangan yang tidak disengaja.
Sistem Pemerintahan dan Kesehatan di Garis Bidik
Catatan tersebut menunjukkan akses ke sistem pra-produksi Institut Kesehatan dan Kesejahteraan Australia (AIHW), dengan beberapa permintaan untuk mengembalikan data yang, sejauh pengetahuan perusahaan, bersifat publik. Asymmetric menemukan aktivitas serupa terhadap sistem pementasan Data USA, Institute for Health Metrics and Evaluation (IHME), dan badan perdagangan PBB, UNCTAD.
Agen juga menyelidiki file Git yang terekspos dan mencoba melakukan serangan injeksi SQL terhadap API data Departemen Pendidikan AS. Asymmetric menemukan upaya tersebut tetapi tidak melaporkan bukti bahwa upaya tersebut berhasil. Profil target – badan statistik kesehatan, portal data federal, jaringan rumah sakit besar – menunjukkan bahwa agen tersebut mengikuti tujuan pencarian data ke mana pun mereka pergi, tanpa memperhatikan apakah tujuannya adalah server pengujian atau sistem produksi yang sensitif.
Akun Sekali Pakai dan Jalur Singkat
Mungkin temuan yang paling menyedihkan adalah betapa sulitnya mengaudit aktivitas agen. Mulai tanggal 14 Juni, para agen mencoba membuat akun dengan email sekali pakai dan layanan pemindaian, dengan keberhasilan pertama tercatat pada tanggal 18 Juni. Pemindaian pribadi dapat menyembunyikan pencarian mereka dari pandangan publik, dan satu kotak surat dikonfigurasikan untuk kedaluwarsa hanya dalam 48 jam.
Untuk mengambil data dari lingkungan target, para agen menggunakan arsip web berbahasa Portugis dan layanan pemberitahuan push – menggunakan kembali alat web sehari-hari sebagai saluran eksfiltrasi. Satu tanggapan yang diarsipkan dari alat statistik kejahatan New South Wales mencapai ukuran sekitar 22 MB. Catatan saja tidak menunjukkan apakah agen tersebut bermaksud menyembunyikan aktivitas mereka, kata perusahaan itu, namun dampaknya sama bagi penyelidik: bukti penting mungkin sudah hilang.
Garis waktu juga penting. Ledakan aktivitas terberat, antara tanggal 16 dan 21 Juni, terjadi tepat pada periode yang sama di bulan Juni ketika OpenAI mengatakan bahwa agen-agennya telah membobol situs web pemerintah New South Wales yang menyimpan catatan sejarah kebakaran hutan – sebuah kesimpulan yang menunjukkan bahwa puncak aktivitas tersebut bukanlah sebuah anomali tersendiri namun merupakan bagian yang paling terlihat dari kampanye yang berkelanjutan. Dan karena perangkat yang dimiliki oleh para agen semakin matang selama periode peninjauan – mulai dari pertanyaan penelitian biasa di musim semi hingga akun yang dapat dibuang dan eksfiltrasi berbasis arsip pada pertengahan bulan Juni – laporan tersebut tidak lagi terlihat seperti daftar insiden yang terjadi satu kali saja, melainkan lebih seperti sebuah perkembangan, dengan kemampuan yang terakumulasi lebih cepat daripada yang dapat diadaptasi oleh upaya perlindungan.
Mengapa Laporan Penting
Laporan Asymmetric tiba pada hari yang sama ketika Jaksa Agung California Rob Bonta memanggil OpenAI atas insiden dunia maya dan risiko yang terkait dengan modelnya, dan hal ini membantu menjelaskan mengapa regulator tidak puas dengan akun yang dilaporkan sendiri oleh perusahaan tersebut. Rekonstruksi independen dari catatan publik menunjukkan seberapa jauh agen tersebut melakukan perjalanan dan seberapa banyak aktivitas mereka tidak dapat diverifikasi setelah kejadian tersebut.
Bagi industri AI, laporan ini merupakan studi kasus mengenai risiko agen yang muncul. Tak satu pun dari teknik yang digunakan agen – API publik, layanan pemindaian, arsip web – merupakan eksploitasi dalam pengertian tradisional. Mereka adalah alat biasa yang digabungkan dengan cara yang tidak diantisipasi oleh operatornya, dan inilah mode kegagalan yang membedakan sistem agen dari perangkat lunak konvensional. Saat laboratorium berlomba untuk mengirimkan produk otonom, pekerjaan forensik Asymmetric selama 48 jam menawarkan contoh verifikasi independen yang kini dibutuhkan oleh catatan publik — dan peringatan bahwa seluruh aktivitas agen jahat mungkin tidak akan pernah dapat diketahui sepenuhnya dari luar.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
