Penggodam menggunakan rangka kerja penggodaman disokong AI yang cepat muncul dalam pencerobohan yang menyasarkan sektor aeroangkasa AS, kata bahagian perisikan ancaman Google pada hari Isnin dalam penemuan yang dilaporkan oleh Nextgov. Alat itu, yang dikenali sebagai Cairn, ialah rangka kerja ujian penembusan yang tersedia secara terbuka yang terikat dengan komuniti keselamatan sumber terbuka China — dan kemunculannya dalam pencerobohan langsung menandakan satu lagi langkah dalam penghijrahan AI agenik daripada demo penyelidikan ke dalam operasi pengintipan sebenar.

Google tidak menamakan organisasi aeroangkasa yang telah diakses, menyatakan maklumat yang mungkin diambil atau mengaitkan pencerobohan itu kepada kerajaan tertentu. Laporan itu secara amnya merangkumi aktiviti yang diperhatikan sepanjang suku terakhir, dan ia mendarat di tengah-tengah liputan industri AI hari ini mengenai sistem agen yang digunakan semula lebih cepat daripada yang boleh disesuaikan oleh pembela.

Perkara yang Cairn dan Sepupunya Boleh Lakukan

Cairn berbeza daripada penggodaman berbantukan chatbot yang mendominasi laporan ancaman terdahulu. Daripada manusia yang mendorong pembantu AI langkah demi langkah, Cairn menggunakan ejen AI yang berkongsi maklumat antara satu sama lain dan memutuskan teknik penggodaman mana yang perlu dicuba seterusnya semasa mereka berusaha untuk menembusi sistem.

Penyelidik Google berkata sistem sumber terbuka lain - termasuk ARTEX, CyberStrikeAI dan PentAGI - kini digunakan untuk "melaksanakan pencerobohan berbilang peringkat pada halaju operasi yang lebih besar" berbanding dengan aktiviti terdahulu di mana penggodam secara manual menggesa chatbots AI untuk membantu dengan langkah individu. ARTEX telah dibenderakan secara berasingan dalam nasihat keselamatan siber FBI yang disiarkan pada hari Jumaat.

Penemuan Paling Membimbangkan: Eksploitasi Automatik Sepenuhnya

Satu penemuan menonjol daripada laporan suku tahunan. Penyelidik Google menemui sistem penyerang yang dikonfigurasikan untuk mengkaji pembetulan perisian, membangunkan serangan berdasarkan perkara yang dipelajari dan melaksanakan serangan tersebut secara automatik — tanpa melibatkan manusia dalam gelung. Syarikat itu berkata ia adalah kali pertama penyelidiknya mengenal pasti penyerang mengautomasikan sepenuhnya proses itu.

Implikasinya adalah nyata: perlumbaan antara keluaran tampalan dan eksploitasi boleh runtuh dari beberapa minggu ke beberapa jam, memberikan tekanan lanjut kepada organisasi yang sudah bergelut untuk memasang kemas kini keselamatan sebelum penjenayah mencapai mereka. The Hacker News, meliputi penemuan yang sama, meringkaskan teknik sebagai penggodam menggunakan ejen AI untuk membina dan menjalankan eksploitasi terus daripada tampung perisian.

"Memandangkan halangan masuk yang rendah, kemudahan untuk menyepadukan eksploitasi baharu, dan potensi penskalaan besar-besaran, kami percaya kemungkinan besar pelaku ancaman akan terus menggunakan rangka kerja ini dalam kempen yang menyasarkan organisasi di seluruh dunia," kata syarikat itu, menurut Nextgov.

Pasukan Cina Mengindustrikan Analisis; Perekrut Korea Utara Pergi Sintetik

Laporan itu juga memperincikan cara pelakon berkaitan kerajaan melipat model ke dalam pelbagai peringkat operasi mereka. Kolektif penggodaman Cina telah menggunakan model AI untuk menganalisis fail yang dicuri dan menghasilkan laporan risikan siap untuk pelanggan. Dalam satu contoh, kontraktor menggunakan AI untuk menterjemah dan menganalisis maklumat yang dicuri, memikirkan cara organisasi yang disasarkan distrukturkan dan menyusun penemuan ke dalam laporan risikan — menggunakan teknologi untuk kerja tafsiran kompleks yang mengikuti kecurian dan bukannya kecurian itu sendiri.

Google juga memerhatikan koperasi China yang disyaki bereksperimen dengan alat penggodaman automatik, termasuk satu kumpulan berkaitan China yang membangunkan sistemnya sendiri, mungkin untuk digunakan dalam operasi pengintipan.

Sementara itu, pelakon Korea Utara menggunakan AI untuk mempertajam kejuruteraan sosial mereka. Satu kumpulan Google menjejaki organisasi mata wang kripto yang disasarkan di Amerika Utara dan Eropah menggunakan profil perekrut yang direka. Perekrut palsu mengarahkan sasaran kepada perkhidmatan mesyuarat palsu, di mana arahan untuk menyelesaikan masalah teknikal yang sepatutnya menyebabkan mereka menjalankan kod berniat jahat.

Setelah masuk, penyerang menukar tetapan untuk Kod Claude — pembantu pengekodan AI Anthropic — dalam repositori kod syarikat, supaya melancarkan pembantu akan mencetuskan muat turun perisian hasad. Mempersenjatai alat pembangun yang dipercayai bermakna tindakan berniat jahat menunggang pada jurutera perisian yang sudah dipercayai.

Penemuan itu menggemakan pengumuman Jabatan Kehakiman minggu lalu yang menyasarkan FaceStealer, skim panggilan video palsu Korea Utara yang dikaitkan dengan lebih daripada $400 juta dalam kecurian, di samping perintah mahkamah meliputi lebih daripada $1.2 bilion yang dicuri daripada Binance. Laporan Google tidak menghubungkan penemuannya kepada mana-mana kes.

Operasi Pengaruh Menjadi Lebih Automatik Juga

Di sebalik jenayah pengintipan dan kewangan, Google berkata operasi pengaruh yang dikaitkan dengan Rusia, China dan Iran kini secara rutin menggunakan model AI untuk menghasilkan kandungan dan mengautomasikan pengedarannya — menyerahkan lebih banyak kerja menyamar sebagai orang biasa dalam talian kepada mesin.

Jurang Yang Semakin Luas

Diambil bersama, penemuan itu melakarkan masalah pertahanan yang berkembang dengan setiap keluaran sumber terbuka. Rangka kerja ujian penembusan seperti Cairn, ARTEX, CyberStrikeAI dan PentAGI ialah alat undang-undang yang dibina oleh dan untuk komuniti keselamatan, dan seni bina ejennya menjadikannya benar-benar berguna untuk pasukan merah. Sifat yang sama menjadikannya senjata serangan turnkey untuk sesiapa sahaja yang memuat turunnya.

Mesej Google kepada pembela secara berkesan adalah andaian perancangan dan bukannya ramalan: anggap pencerobohan seterusnya yang anda hadapi telah dilaksanakan pada kelajuan mesin, pada garis masa yang ditetapkan oleh ejen yang membaca nota tampalan anda sebelum anda selesai menggunakannya.

---

Kekal Mendahului AI

Dapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.

Baca lebih banyak berita AI →