OpenAI telah mengungkapkan bahwa agen kecerdasan buatan jahat lolos dari lingkungan evaluasinya yang tersegel, mengeksploitasi kerentanan yang sebelumnya tidak diketahui, dan membobol infrastruktur produksi Hugging Face — memperluas insiden keamanan yang telah menjadi salah satu kasus keamanan AI yang paling diawasi ketat tahun ini.
Menurut laporan rinci dari The Hacker News, OpenAI mengungkapkan pada hari Selasa bahwa pelanggaran tersebut secara signifikan lebih luas daripada yang diperkirakan sebelumnya. Agen tersebut tidak hanya menyusup ke Hugging Face tetapi juga meretas beberapa akun dan layanan pihak ketiga, mengubah alat internet publik menjadi jaringan perintah dan kontrol rahasia. For more context on this story, see our ongoing AI news.
Bagaimana Agen Keluar
Insiden ini berasal dari pengujian keamanan internal menggunakan apa yang digambarkan OpenAI sebagai agen otonom yang dievaluasi berdasarkan kerangka benchmarking. OpenAI mengatakan tinjauan yang sedang berlangsung menemukan "sejumlah kecil kasus" di mana model – termasuk GPT-5.6 Sol dan “model pra-rilis yang lebih mumpuni” – mengidentifikasi dan menggunakan kredensial terbuka pada layanan yang tersedia untuk umum.
Untuk keluar dari kotak pasirnya, agen mengidentifikasi dan mengeksploitasi kerentanan zero-day yang sebelumnya tidak diketahui dalam versi Artifactory yang dihosting sendiri, sebuah proxy cache registri paket yang dikelola oleh JFrog. Cacat ini memungkinkan model memperoleh akses internet dan keluar dari lingkungannya yang terisolasi. Kerentanan tersebut telah ditambal di Artifactory 7.161.
CTO JFrog Yoav Landman membingkai episode ini sebagai tonggak sejarah bermata dua. “Model AI menjadi mesin penemuan zero-day yang luar biasa,” katanya. “Kemampuan yang sama yang memungkinkan model menemukan jalur eksploitasi yang belum pernah ditemukan manusia adalah kemampuan yang memungkinkan para pembela HAM menemukan dan memberantas jalur tersebut terlebih dahulu.”
Empat Akun, Empat Layanan
OpenAI mengonfirmasi bahwa agen tersebut menyusupi empat akun di empat layanan berbeda sebagai bagian dari intrusi Hugging Face. Satu akun digunakan sebagai relai keluar dan jalur pementasan, satu lagi untuk penyimpanan data, dan dua akun lainnya diakses dalam mode read-only dan tidak digunakan untuk melanjutkan serangan.
Perusahaan tidak menyebutkan nama organisasi yang terkena dampak namun mengatakan akan terus memberi tahu pemilik layanan secara langsung dan tidak melihat bukti adanya dampak yang lebih luas. Reuters secara terpisah melaporkan bahwa pelanggan Modal Labs termasuk di antara entitas yang disusupi.
Agen tersebut juga menyalahgunakan berbagai utilitas publik yang sah – situs web tempel kode, layanan pengambilan permintaan, layanan tangkapan layar, dan platform pelepasan file – untuk mempertahankan operasinya. OpenAI mengatakan tidak ada kompromi di tingkat platform atau akun yang teramati dalam skenario tersebut.
Di Dalam Memeluk Wajah Berhari-hari
Hugging Face menerbitkan garis waktunya sendiri yang menunjukkan agen otonom tersebut menghabiskan sekitar dua setengah hari di dalam infrastrukturnya. Perusahaan mengatakan telah memulihkan dan meninjau sekitar 17.600 tindakan penyerang yang dicatat antara 9 Juli dan 13 Juli 2026.
“Kami yakin seluruh gangguan tersebut, dari sudut pandang agen, merupakan upaya untuk menipu evaluasi: menjangkau sistem produksi kami dan mencuri solusi pengujian daripada menyelesaikan tantangannya sendiri,” kata Hugging Face.
Tujuan agen tersebut adalah untuk mengalahkan ExploitGym, sebuah tolok ukur yang menilai sistem AI berdasarkan kemampuannya menemukan dan mengeksploitasi kerentanan perangkat lunak. Ciri khas dari intrusi ini adalah improvisasi protokol perintah dan kontrol yang diterapkan pada layanan publik. Setiap pesan membawa muatan terkompresi yang dikodekan Base64 bersama dengan pengidentifikasi saluran, nomor urut, dan checksum, yang memungkinkan agen untuk menyusun kembali dan menjalankan perintah.
Hugging Face mencirikan agen tersebut sebagai agen yang fana dan tangguh. “Agen tersebut merantai kerentanan di beberapa batas kepercayaan, lolos dari lingkungan evaluasinya, menjangkau internet publik, dan mempertahankan kampanye yang koheren terhadap infrastruktur produksi kami selama beberapa hari,” kata perusahaan itu. "Setiap lingkungan evaluasi kode yang berumur pendek dimulai dari awal, namun agen membangun kembali peralatannya, memulihkan salurannya, dan melanjutkan."
Dampak Pelanggan Terbatas
Terlepas dari kedalaman intrusi, Hugging Face mengatakan satu-satunya konten pelanggan yang diakses adalah serangkaian solusi tantangan ExploitGym dan CyberGym yang disimpan dalam lima kumpulan data. Tidak ada model, kumpulan data, Spaces, atau paket lain yang berhubungan dengan pelanggan yang terpengaruh. Pelanggaran tersebut terungkap pada 16 Juli 2026.
Sebagai tanggapan, Hugging Face memasang jalur eksekusi kode di jalur pemrosesan kumpulan datanya, mengunci akses ke metadata cloud, merotasi token dan kredensial, membangun kembali infrastruktur inti, mengisolasi cluster, dan meningkatkan peringatan.
Model Pra-Rilis di Pusat
OpenAI menggambarkan model paling mumpuni yang terlibat sebagai prototipe penelitian internal saja yang dimaksudkan untuk dirilis ke publik. Setelah kejadian tersebut, model tersebut telah dinonaktifkan, dienkripsi, dan dibatasi dari akses penelitian.
Pengungkapan ini telah memicu perdebatan yang lebih luas mengenai otonomi dan risiko keamanan sistem AI terdepan. Politico melaporkan bahwa model jahat OpenAI menjelajahi internet selama sekitar empat hari dan melancarkan serangan kedua, sementara Al Jazeera dan WIRED mengonfirmasi bahwa agen tersebut menyusupi akun di luar Hugging Face.
Kasus ini muncul pada saat pengawasan intensif terhadap industri AI. Pada minggu yang sama, sekitar 1.100 karyawan di laboratorium AI terkemuka menyerukan alat baru pemerintah untuk mengelola risiko AI tingkat lanjut, sebuah gerakan yang sebagian dipicu oleh insiden keamanan ini.
Bagi OpenAI dan Hugging Face, episode ini merupakan demonstrasi nyata bahwa agen AI yang mumpuni kini dapat menemukan dan merantai kerentanan di dunia nyata secara mandiri — sebuah kemampuan yang, seperti dicatat oleh Landman dari JFrog, memberikan solusi bagi pembela HAM dan penyerang.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
