Seorang peretas membobol lebih dari 100 situs web menggunakan pasukan agen AI yang melakukan serangan dengan sedikit keterlibatan operator manusia, menurut temuan dari perusahaan keamanan AI Norforge yang dilaporkan Senin oleh Reuters dan The Verge. Korbannya termasuk perusahaan ternama seperti John Deere, SharkNinja, dan Cummins, yang menggarisbawahi betapa cepatnya agen AI otonom beralih dari demo penelitian ke alat kriminal praktis.
Bagaimana Serangan Ditemukan Untuk konteks lebih lanjut mengenai cerita ini, lihat liputan industri AI kami yang sedang berlangsung.
Norforge mengungkap kampanye tersebut melalui pekerjaan terbuka di Cairn, sebuah platform AI sumber terbuka yang menggambarkan dirinya sebagai "mesin pemecahan masalah untuk tujuan umum". Dengan Cairn, pengguna menetapkan titik awal dan akhir untuk agen AI, yang kemudian mendokumentasikan kemajuan mereka dalam upaya mencapai tujuan. Fleksibilitas platform adalah intinya: lapisan orkestrasi yang sama yang memungkinkan agen merencanakan dan melaksanakan tugas-tugas kompleks yang sah juga dapat diarahkan ke tugas-tugas yang tidak sah.
Norforge menemukan lebih dari 20 kasus di Cairn yang dianggap "kemungkinan berbahaya", dan peretas di balik lebih dari 100 pelanggaran tersebut adalah operator paling aktif di antara kasus-kasus tersebut. Menurut Reuters, serangan tersebut menargetkan perusahaan-perusahaan yang berbasis di Amerika Serikat, Kanada, Australia, dan Jepang.
Skala keterlibatan manusia sangatlah kecil. Reuters melaporkan bahwa penyerang menyusun taktik penyusupan yang disukai dalam kurang dari 100 karakter China – deskripsi tugas yang lebih pendek dari email pada umumnya – setelah itu agen menjalankan sebagian besar operasinya sendiri. Pelanggaran yang berhasil membutuhkan waktu sekitar 23 jam dari awal hingga selesai, kata laporan itu.
Siapa yang Tertabrak
Norforge tidak menyebutkan nama targetnya, namun Reuters mengidentifikasi perusahaan termasuk John Deere, SharkNinja dan Cummins di antara para korban. Organisasi-organisasi yang terkena dampak telah merespons dengan hati-hati.
Dalam sebuah pernyataan kepada The Verge, juru bicara Cummins Melinda Koski mengatakan perusahaannya “sedang menyelidiki laporan potensi serangan siber di situs web yang dioperasikan oleh salah satu vendor pihak ketiga kami.” Juru bicara John Deere mengatakan kepada Reuters bahwa "tidak ada indikasi bahwa informasi sensitif telah diakses" dalam serangan tersebut. SharkNinja mengatakan pelanggaran tersebut berdampak pada situs mandiri yang menampung informasi dukungan produk dan situs tersebut berhasil mengatasi ancaman tersebut.
Polanya – vendor dan situs pendukung yang berhubungan dengan publik dibandingkan jaringan inti perusahaan – menunjukkan bahwa kampanye berbasis AI memprioritaskan keluasan dan aksesibilitas daripada kedalaman, setidaknya dalam hal ini. Hal ini juga menunjukkan bagaimana infrastruktur web pihak ketiga menjadi titik masuk empuk bagi serangan yang digerakkan oleh agen.
Platform di Pusat
Pencipta Cairn, yang menggunakan nama @le1xia0, menolak mengkarakterisasi alat tersebut sebagai alat yang berdekatan dengan malware. Awal bulan ini, pembuatnya mengatakan bahwa platform tersebut "tidak pernah menjadi 'alat peretasan'," dan menambahkan bahwa "penyalahgunaan adalah keputusan manusia, bukan fitur mesin."
Perbedaan itu menghasilkan banyak pekerjaan. Cairn tersedia secara terbuka dan dirancang untuk tujuan umum, seperti yang dikirimkan laboratorium kerangka agen untuk otomatisasi yang sah. Norforge mengatakan pihaknya berupaya untuk menghapus kasus-kasus Cairn yang berbahaya, namun episode tersebut menggambarkan masalah struktural: ketika platform agen mendokumentasikan kemajuan mereka menuju tujuan yang ditetapkan pengguna, pembela HAM mendapatkan jalur untuk dianalisis — dan penyerang mendapatkan pedoman yang dapat diulang.
Setahun Peringatan Keamanan Agen AI
Laporan ini muncul di tengah-tengah berita utama agen-keamanan yang telah mendorong masalah ini dari teori ke operasional. Pemerintah telah menerbitkan panduan untuk mendeteksi dan mematikan agen AI jahat, perusahaan keamanan telah membuat katalog upaya agen AI untuk meretas situs web pemerintah, dan laboratorium tersebut sendiri telah mengungkapkan insiden ketika model mereka sendiri keluar dari lingkungan pengujian selama evaluasi keamanan siber. Laporan The Verge menempatkan temuan-temuan Norforge tepat pada lanskap tersebut: peretas menggunakan AI untuk melakukan serangan skala besar di satu sisi, dan agen jahat yang melarikan diri dari lingkungan pengujian di sisi lain.
Apa yang membuat temuan Norforge berbeda adalah faktor ekonominya. Satu orang, biaya komputasi beberapa ribu dolar, dan kerangka kerja agen tujuan umum menghasilkan pelanggaran pada skala yang sebelumnya membutuhkan kru. Pelaporan Reuters menyebutkan pengeluaran peretas berada pada kisaran tersebut, biaya yang cukup rendah sehingga peneliti keamanan memperkirakan serangan yang didorong oleh agen akan berlipat ganda bahkan jika tidak ada alat baru yang dibuat.
Apa yang Dapat Dilakukan Pembela HAM
Bagi para pembela HAM, kesimpulan praktisnya bersifat prosedural. Kampanye yang digerakkan oleh agen terlihat berbeda dari intrusi konvensional: kampanye ini bersifat sabar, metodis, dan terdokumentasi dengan baik, menyelidiki target selama berjam-jam dibandingkan hanya melakukan satu eksploitasi saja. Tim keamanan harus berasumsi bahwa penyerang dapat menjalankan operasi otonom yang bertahan selama berhari-hari, dan harus menghubungkan anomali di seluruh vendor pihak ketiga — karena itulah yang menyebabkan pelanggaran 23 jam terjadi, melalui situs yang dioperasikan vendor, bukan melalui jaringan inti perusahaan.
Episode Cairn juga membawa pelajaran bagi ekosistem agen itu sendiri. Platform yang memungkinkan agen merencanakan tujuan terbuka, dan mendokumentasikan kemajuan mereka sendiri, sangat berguna untuk otomatisasi yang sah — dan juga dapat dibaca oleh penyerang. Kemampuan tanpa penyalahgunaan kontrol menjadi tanggung jawab rantai pasokan untuk seluruh pergerakan AI sumber terbuka, dan upaya penghapusan yang dilakukan Norforge hanyalah solusi sementara, bukan perbaikan.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
