Para peneliti di Amazon Threat Intelligence telah mendokumentasikan penggunaan agen AI otonom dalam peretasan ofensif yang mungkin paling berdampak di dunia nyata: tersangka penyerang yang terkait dengan Tiongkok mengarahkan platform AI multi-agen yang disebut Cairn untuk menyusupi server universitas, dan agen tersebut secara independen menemukan dan mengeksploitasi kerentanan yang sebelumnya tidak diketahui dalam aplikasi pencitraan medis sumber terbuka yang banyak digunakan.
Temuan tersebut, pertama kali dilaporkan oleh BleepingComputer pada tanggal 20 November 2026, menggambarkan sebuah kampanye di mana operator manusia memberikan instruksi tunggal yang jelas kepada agen AI — "mendapatkan akses shell" — dan agen melakukan sisanya, memetakan API aplikasi, menemukan jalur traversal zero-day di Label MONAI, dan mengubahnya menjadi kontrol server penuh dalam waktu sekitar 11 menit. Bagi organisasi yang melacak implikasi keamanan AI agen, inilah saatnya risiko teoretis menjadi pola serangan yang terdokumentasi. For more context on this story, see our ongoing latest AI developments.
Bagaimana Serangan Terjadi
Menurut peneliti Amazon, kampanye tersebut berlangsung antara tanggal 8 dan 10 September 2026, dan menargetkan institusi pendidikan di Asia Timur, sebagian besar di luar Tiongkok. Operasi ini terungkap dengan cara yang tidak biasa: para penyerang telah membiarkan kantor Cairn mereka dapat diakses publik di internet tanpa autentikasi, sehingga secara efektif mengungkap seluruh operasi peretasan mereka — termasuk petunjuk yang mereka berikan kepada agen dan catatan apa yang dilakukan agen tersebut.
Cairn adalah platform pengujian yang sah, dibangun untuk mengoordinasikan beberapa agen AI melalui operasi dunia maya untuk tujuan penelitian dan pertahanan. Dalam kampanye ini tujuannya diubah. Para tersangka operator perhubungan Tiongkok mengarahkan agen-agen tersebut ke server yang terhubung ke internet dan membiarkan mereka bekerja. Dalam satu rangkaian yang sukses, agen beralih dari menghitung API penerapan Label MONAI hingga secara aktif mengeksploitasi kelemahan traversal jalur dalam waktu sekitar 11 menit, suatu kecepatan yang tidak dapat ditandingi oleh proses penetrasi manual.
Kerentanannya sendiri sangat serius. MONAI Label adalah aplikasi sumber terbuka yang menggunakan AI untuk membantu peneliti membuat anotasi pada gambar medis, dan kelemahan tersebut memungkinkan agen untuk menulis file ke lokasi mana pun di server host. Dari sana, agen menulis shell balik Python ke dalam file `sitecustomize.py` — yang dijalankan secara otomatis setiap kali Python dimulai — dan kemudian memicu titik akhir API untuk mendapatkan akses root ke mesin.
Tidak Setiap Upaya Berhasil
Laporan ini terkenal tidak hanya karena apa yang telah dicapai oleh para agen tetapi juga karena apa yang gagal mereka lakukan, sehingga memberikan gambaran yang lebih terkalibrasi mengenai kemampuan peretasan agen dibandingkan dengan hype atau pemecatan.
Salah satu upaya untuk mengambil alih server Redis berjalan selama 16 jam melalui 148 tindakan terpisah dan gagal. Dalam kasus lain, agen yang menargetkan server GPU universitas mencoba lebih dari 30.000 kombinasi kredensial selama enam jam tanpa memaksa masuk. Agen otonom melakukan iterasi dengan cepat dan tidak pernah lelah, namun mereka belum menjadi kunci kerangka yang dijamin.
Setelah kompromi Label MONAI berhasil, operator manusia menyediakan proxy kepada agen ke dalam jaringan universitas kedua yang menjalankan perangkat lunak rentan yang sama dan mengarahkan mereka untuk menyusupi mesin tambahan. Pola operator-in-the-loop – agen yang melakukan penemuan dan eksploitasi, manusia mengarahkan target – merupakan hal yang telah diperingatkan oleh tim keamanan tenaga kerja sejak alat agen menjadi populer.
Pengungkapan dan Respon
Amazon melaporkan kerentanan tersebut kepada pengelola Label MONAI, yang mengirimkan pembaruan keamanan pada tanggal 18 November 2026. Garis waktu tersebut layak untuk diikuti: eksploitasi terjadi pada bulan September, patch tiba pada bulan November. Organisasi yang menjalankan MONAI Label – khususnya universitas dan kelompok penelitian medis – harus segera memverifikasi bahwa mereka sudah mendapatkan rilis terbaru.
Para peneliti Amazon mengaitkan kampanye tersebut dengan aktor ancaman nexus Tiongkok dengan tingkat keyakinan yang moderat, berdasarkan bahasa yang digunakan dalam perintah yang dipulihkan, stempel waktu aktivitas, dan pemilihan target. Perusahaan juga menerbitkan dua alamat IP yang terkait dengan aktivitas tersebut: 142[.]4.98.145 dan 142[.]4.107.34.
Suatu Pola, Bukan Anomali
Ini bukan pertama kalinya laporan mengenai Cairn yang dijadikan sasaran serangan sebenarnya. Pada bulan September, Keamanan Gambit mendokumentasikan kasus penyalahgunaan Cairn sebagai bagian dari operasi pencurian kartu kredit skala besar. Baru-baru ini, Google melaporkan bahwa platform tersebut digunakan dalam serangan terhadap organisasi kedirgantaraan AS. Laporan baru Amazon menambahkan poin data yang paling mengkhawatirkan: para agen menemukan dan menggunakan zero-day sebagai senjata mereka sendiri, melawan kerentanan yang belum diperbaiki oleh vendor pada saat itu.
Peringatan Amazon kepada para pembela HAM sangat jelas – agen AI dapat menemukan dan mengeksploitasi kerentanan lebih cepat daripada reaksi tim keamanan, dan organisasi harus lebih mengandalkan pertahanan otomatis daripada penyelidikan manual. Kecepatan patch, manajemen eksposur, dan deteksi otomatis tidak lagi menjadi praktik terbaik dan menjadi persyaratan dasar ketika putaran iterasi musuh diukur dalam hitungan menit.
Episode ini juga mempertajam perdebatan yang sedang berlangsung tentang alat AI yang dapat digunakan ganda. Cairn ada untuk memperkuat pertahanan; sifat yang sama yang membuatnya berguna bagi pentester — otonomi, ketekunan, eksplorasi paralel — menjadikannya efektif sebagai senjata ofensif. Ketika semakin banyak kerangka kerja agen yang mencapai distribusi terbuka, komunitas keamanan kemungkinan akan meninjau kembali pertanyaan tentang kontrol akses, standar penerapan, dan apakah platform koordinasi untuk agen operasi siber memerlukan pagar pembatas, bukannya dipasang.
Untuk saat ini, manfaat praktisnya lebih sempit namun mendesak. Asumsi bahwa kerentanan yang tidak diketahui aman karena tidak ada orang yang mencarinya sudah tidak berlaku lagi. Agen otonom terus mencari, dan kesenjangan antara penemuan dan eksploitasi kini dapat diukur dalam hitungan menit.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →