Laporan Booz Allen Memberi Amaran Model AI Menghampiri Keupayaan Serangan Siber Autonomi

Salah satu kontraktor keselamatan siber terbesar di Amerika Syarikat telah meletakkan beberapa perkara tentang perkara yang telah diberi amaran oleh penyelidik keselamatan sepanjang tahun: model AI sempadan yang dibina untuk chatbots dan pembantu pengekodan kini mampu menjalankan serangan siber sebahagian besarnya dengan sendiri. Untuk liputan berterusan tentang perkembangan keselamatan AI, lihat AI Buzz Wire.

Laporan baharu daripada Booz Allen Hamilton, diliputi oleh SC Media dan The Register dan membuat pusingan merentasi dunia keselamatan perindustrian sepanjang minggu lalu, menilai 18 model AI — sembilan dari Amerika Syarikat dan sembilan dari China — dan mendapati bahawa salah seorang daripada mereka menyelesaikan rantaian pembunuhan siber penuh secara autonomi dalam ujian: mengenal pasti kelemahan, memperoleh akses kepada rangkaian sasaran dan meningkatkan kawalan peringkat pentadbir manusia.

Satu model menamatkan rantaian bunuh

Laporan itu, yang dikenali sebagai Indeks Senjata Siber, menjaringkan Claude Mythos milik Anthropic sebagai satu-satunya model yang melengkapkan keseluruhan urutan serangan secara autonomi. Beberapa orang lain datang dengan tidak selesa. Menurut liputan SC Media mengenai penemuan, XAI's Grok-4.5 dan OpenAI's GPT-5.6 Sol menunjukkan kemajuan serangan autonomi yang ketara, mencapai akses domain penuh atau pergerakan sisi dalam rangkaian yang terjejas — langkah perantaraan yang dilakukan oleh operator antara kemasukan awal dan kawalan penuh.

Rantaian pembunuhan, dari segi keselamatan siber, merangkumi peninjauan melalui eksploitasi, peningkatan dan kegigihan. Model yang melengkapkannya tanpa bantuan telah berfungsi dengan berkesan sebagai pengendali siber yang menyinggung perasaan, bukan alat yang hanya menulis kod eksploit apabila ditanya.

Abah-abah lebih penting daripada model

Mungkin penemuan paling penting dalam laporan itu melibatkan perisian, bukan model. Abah-abah serangan — perancah yang menghubungkan model AI kepada alat penggodaman sebenar, pengimbas dan rangka kerja eksploitasi — secara mendadak menguatkan apa sahaja keupayaan serangan yang sudah dimiliki oleh model. Model peringkat pertengahan yang disambungkan ke abah-abah berkebolehan boleh mengatasi prestasi model yang lebih kukuh yang beroperasi mentah, yang bermaksud halangan kepada keupayaan serangan autonomi semakin berkurangan atas sebab-sebab yang tiada kaitan dengan keluaran model seterusnya.

Penganalisis Booz Allen memberi amaran bahawa serangan didorong AI arus perdana daripada kumpulan penjenayah yang bermotifkan kewangan dan pelakon tajaan kerajaan kini akan berlaku. Unjuran mereka: kebanyakan model yang diuji dijangka mencapai tahap persenjataan yang setanding dengan pemimpin hari ini dalam tempoh enam bulan. Firma itu juga menggesa kerajaan AS untuk menetapkan tarikh akhir bagi pengendali infrastruktur kritikal untuk menunjukkan daya tahan terhadap serangan yang didayakan AI, dan untuk membangunkan keupayaan AI ofensif dan defensif yang unggul sendiri.

Amaran yang sepadan dengan industri itu sendiri

Penilaian itu berlaku di tengah-tengah rangkaian makluman serupa dari dalam industri AI itu sendiri. Anthropic sebelum ini telah membenderakan serangan siber dipacu AI sebagai titik infleksi kritikal, dan pelancaran model sempadan OpenAI sendiri disertai dengan pendedahan awam yang luar biasa tentang keupayaan siber lanjutan — termasuk keputusan untuk menyekat akses sementara syarikat menilai perkara yang boleh dilakukan oleh modelnya kepada rangkaian sebenar. Pelaporan berasingan mengenai penemuan Booz Allen, yang dibawa oleh Industrial Cyber, merangka laporan yang sama sebagai amaran bahawa tingkap tindak balas untuk infrastruktur kritikal semakin mengecil apabila autonomi AI meningkat.

Perbahasan dasar suapan ini tidak lagi bersifat hipotesis. Penggubal undang-undang telah membuka pertanyaan mengenai risiko keselamatan siber model AI asal asing yang berjalan di dalam infrastruktur kritikal AS, dan pengendali grid telah melaporkan lonjakan permintaan elektrik dipacu AI bertepatan dengan minat yang ditaja kerajaan yang semakin meningkat dalam sistem tenaga. Ujian yang didokumenkan di mana model AI komersil melengkapkan rantai bunuh sendiri menukar abstraksi tersebut menjadi penanda aras.

Apa yang harus diambil oleh pembela daripadanya

Bagi pasukan keselamatan, implikasi praktikal laporan itu lebih sempit daripada tajuk utamanya. Kesalahan autonomi menganggap pertahanan autonomi: keupayaan agen yang sama yang membiarkan rantai model mengeksploitasi telah digunakan di bahagian biru, amaran percubaan, mengaitkan telemetri dan menampal pada kelajuan mesin. Jurang yang dikenal pasti oleh Booz Allen adalah organisasi — kebanyakan pengendali infrastruktur kritikal masih mengukur tindak balas insiden dalam beberapa jam, manakala serangan berbantukan AI memampatkan garis masa yang setara kepada minit.

Syor firma mengenai tarikh akhir yang sukar adalah pertaruhan bahawa peraturan, bukan tekanan pasaran, akan menutup jurang itu. Sama ada AS meneruskannya - dan sama ada vendor AI menganggap penilaian keupayaan menyinggung perasaan sebagai pintu pra-keluaran seperti cara farmakologi merawat ujian klinikal - akan membentuk bagaimana unjuran laporan enam bulan akan datang sebenarnya berlaku.

Pasaran ofensif sudah terbentuk

Jika sebarang pengesahan diperlukan bahawa keupayaan ini menjadi kategori produk, ia tiba sehari selepas laporan itu diedarkan. Seperti yang dilaporkan oleh SC Media secara berasingan pada 4 September, syarikat permulaan yang dipanggil Abliteration.ai melancarkan perkhidmatan yang secara jelas bertujuan untuk membolehkan operasi siber yang menyinggung perasaan, pasukan merah dan ujian ejen dengan model AI yang ditolak oleh penyedia lain. Masa tersebut menggariskan perkara teras laporan mengenai abah-abah: kesesakan untuk serangan autonomi bukan lagi keupayaan model tetapi perkakas di sekelilingnya, dan perkakas adalah sesuatu yang kini dibekalkan oleh pasaran sendiri.

Pasukan pertahanan tidak perlu menunggu kitaran penanda aras seterusnya untuk bertindak mengikut penemuan. Tetingkap penggunaan senjata enam bulan laporan itu, secara fungsional, tarikh akhir untuk inventori aset, pembahagian dan pengukuran masa tindak balas — kawalan yang tidak menarik yang menentukan sama ada penyerang autonomi memenuhi rangkaian yang keras atau yang terbuka.

Kekal Mendahului AI

Jejaki cerita keselamatan AI yang penting. Baca lebih banyak berita AI sebelum ia mencapai rangkaian anda.

Baca lebih banyak berita AI →