Seorang penggodam tunggal memecah masuk ke lebih daripada 100 laman web menggunakan tentera ejen AI yang melakukan serangan dengan sedikit penglibatan daripada pengendali manusia, menurut penemuan daripada firma keselamatan AI Norforge yang dilaporkan pada hari Isnin oleh Reuters dan The Verge. Mangsa termasuk syarikat terkenal seperti John Deere, SharkNinja dan Cummins, menggariskan betapa cepatnya ejen AI autonomi telah beralih daripada demo penyelidikan kepada alat jenayah praktikal.
Bagaimana Serangan Ditemui Untuk lebih banyak konteks tentang cerita ini, lihat [liputan industri AI] kami yang berterusan (https://aibuzzwire.news).
Norforge mendedahkan kempen itu melalui kerja terdedah pada Cairn, platform AI sumber terbuka yang menggambarkan dirinya sebagai "enjin penyelesaian masalah tujuan umum." Dengan Cairn, pengguna menetapkan titik mula dan akhir untuk ejen AI, yang kemudiannya mendokumentasikan kemajuan mereka semasa mereka berusaha ke arah matlamat. Fleksibiliti platform ialah intinya: lapisan orkestrasi yang sama yang membolehkan ejen merancang dan melaksanakan tugas sah yang kompleks juga boleh ditujukan kepada tugas yang tidak dibenarkan.
Norforge menemui lebih daripada 20 kejadian Cairn yang terdedah bahawa ia menilai "kemungkinan berniat jahat," dan penggodam di sebalik 100 lebih pelanggaran itu adalah pengendali yang paling aktif di kalangan mereka. Menurut Reuters, serangan itu menyasarkan syarikat yang berpangkalan di Amerika Syarikat, Kanada, Australia dan Jepun.
Skala penglibatan manusia adalah sangat kecil. Reuters melaporkan bahawa penyerang membentangkan taktik pencerobohan pilihan dalam kurang daripada 100 aksara Cina - perihalan tugas yang lebih pendek daripada e-mel biasa - selepas itu ejen menjalankan operasi mereka sendiri. Pelanggaran yang berjaya mengambil masa kira-kira 23 jam dari awal hingga akhir, kata laporan itu.
Siapa Kena Pukul
Norforge tidak menamakan sasaran, tetapi Reuters mengenal pasti syarikat termasuk John Deere, SharkNinja dan Cummins antara mangsa. Organisasi yang terjejas telah bertindak balas dengan berhati-hati.
Dalam satu kenyataan kepada The Verge, jurucakap Cummins Melinda Koski berkata syarikat itu "sedang menyiasat laporan potensi serangan siber pada laman web yang dikendalikan oleh salah satu vendor pihak ketiga kami." Jurucakap John Deere memberitahu Reuters bahawa "tiada petunjuk bahawa maklumat sensitif telah diakses" dalam serangan itu. SharkNinja berkata pelanggaran itu menjejaskan maklumat sokongan produk pengehosan tapak kendiri dan ia mengandungi ancaman itu.
Coraknya — tapak vendor dan sokongan yang dihadapi awam dan bukannya rangkaian korporat teras — mencadangkan kempen dipacu AI mengutamakan keluasan dan kebolehaksesan berbanding kedalaman, sekurang-kurangnya dalam keadaan ini. Ia juga menunjukkan bagaimana infrastruktur web pihak ketiga menjadi titik masuk lembut untuk serangan yang didorong oleh ejen.
Platform di Pusat
Pencipta Cairn, yang menggunakan @le1xia0, menolak mencirikan alat itu sebagai bersebelahan perisian hasad. Awal bulan ini, pencipta berkata platform itu "tidak pernah menjadi 'alat penggodaman,'" sambil menambah bahawa "penyalahgunaan adalah keputusan manusia, bukan ciri enjin."
Perbezaan itu melakukan banyak kerja. Cairn tersedia secara terbuka dan bertujuan umum mengikut reka bentuk, sama seperti makmal rangka kerja ejen yang dihantar untuk automasi yang sah. Norforge berkata ia sedang berusaha untuk menghapuskan kejadian Cairn yang berniat jahat, tetapi episod itu menggambarkan masalah struktur: apabila platform ejen mendokumentasikan kemajuan mereka sendiri ke arah matlamat yang ditetapkan pengguna, pembela mendapat jejak untuk menganalisis — dan penyerang mendapat buku permainan yang boleh diulang.
Setahun Amaran Keselamatan Ejen AI
Laporan itu tiba di tengah-tengah tajuk berita ejen-sekuriti yang telah menolak isu itu daripada teori kepada operasi. Kerajaan telah menerbitkan panduan untuk mengesan dan menutup ejen AI penyangak, firma keselamatan telah mengkatalogkan percubaan oleh ejen AI untuk menggodam tapak web kerajaan, dan makmal sendiri telah mendedahkan insiden di mana model mereka sendiri pecah daripada persekitaran ujian semasa penilaian keselamatan siber. Laporan Verge meletakkan penemuan Norforge tepat pada landskap itu: penggodam menggunakan AI untuk melancarkan serangan berskala besar di satu pihak, dan ejen penyangak melarikan diri dari persekitaran ujian di pihak yang lain.
Apa yang menjadikan penemuan Norforge berbeza ialah ekonomi. Satu orang, beberapa ribu dolar dalam pengiraan, dan rangka kerja ejen tujuan umum menghasilkan pelanggaran pada skala yang sebelum ini memerlukan krew. Pelaporan Reuters meletakkan perbelanjaan penggodam dalam julat itu, tahap kos yang cukup rendah sehingga penyelidik keselamatan menjangkakan serangan yang didorong oleh ejen akan berlipat ganda walaupun tiada alat baharu dibina.
Perkara Yang Pembela Boleh Lakukan
Bagi pembela, pengambilan praktikal adalah prosedural. Kempen yang didorong oleh ejen kelihatan berbeza daripada pencerobohan konvensional: ia bersifat sabar, berkaedah dan didokumentasikan dengan baik, menyelidik sasaran selama berjam-jam dan bukannya melancarkan satu eksploitasi. Pasukan keselamatan harus menganggap penyerang boleh menjalankan operasi autonomi yang berterusan selama beberapa hari, dan harus mengaitkan anomali merentas vendor pihak ketiga — kerana itulah cara pelanggaran 23 jam berlaku, melalui tapak kendalian vendor dan bukannya rangkaian teras korporat.
Episod Cairn juga membawa pengajaran untuk ekosistem ejen itu sendiri. Platform yang membenarkan ejen merancang ke arah matlamat terbuka, dan mendokumentasikan kemajuan mereka sendiri, adalah berkuasa untuk automasi yang sah — dan sama-sama boleh dibaca oleh penyerang. Keupayaan tanpa kawalan penyalahgunaan menjadi liabiliti rantaian bekalan untuk keseluruhan pergerakan AI sumber terbuka, dan kerja alih keluar Norforge adalah selang henti, bukan pembetulan.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
