ISIS dan Kumpulan Pengganas Lain Menggunakan Setiap AI Chatbot Utama untuk Perancangan Serangan, Kajian Cambridge Dedah

Organisasi pengganas termasuk ISIS secara sistematik mengeksploitasi setiap chatbot AI utama untuk perancangan serangan, pembangunan senjata, dan keselamatan operasi, menurut kajian terobosan dari Program Cambridge mengenai Sains dan Dasar AI (CASP). Penemuan, yang diterbitkan pada 11 Julai 2026, mewakili bukti empirikal paling terperinci setakat ini kumpulan pelampau yang menggunakan alat AI yang tersedia secara komersial. Untuk liputan berterusan tentang keselamatan AI dan perkembangan industri, lawati AI Buzz Wire.

Di dalam Kajian Cambridge

Penyelidik Antonia Jülich menjalankan 57 temu bual dengan 27 bekas ahli ISIS dan sekutu serantaunya untuk mendokumenkan cara organisasi pengganas telah menyepadukan AI ke dalam operasi mereka. Kajian mendapati bahawa ISIS telah menubuhkan unit AI khusus dalam kedua-dua puak utamanya, menganggap model bahasa besar sebagai infrastruktur operasi teras dan bukannya alat eksperimen.

Menurut penyelidikan itu, ISIS telah menawarkan latihan kejuruteraan dan jailbreak segera kepada pengendalinya sejak sekurang-kurangnya 2023. Organisasi itu juga telah melanjutkan latihan ini kepada kumpulan bersekutu, termasuk komander Boko Haram di Nigeria, mengajar mereka cara memintas penapis keselamatan AI yang digunakan oleh syarikat teknologi utama secara sistematik.

Setiap Chatbot Utama Terkompromi

Kajian itu mendokumenkan bahawa operasi pengganas secara aktif menggunakan ChatGPT, Claude, Gemini, Grok, Meta AI dan DeepSeek merentasi operasi mereka. Kumpulan menggunakan AI untuk:

• Perancangan serangan — menjana senario taktikal dan mengenal pasti kelemahan dalam infrastruktur sasaran

• Pembinaan peranti bahan letupan — mendapatkan maklumat teknikal untuk membina peranti buatan yang lebih berkuasa

• Penyelenggaraan senjata — menyelesaikan masalah dan membaiki senjata api dan peralatan lain

• Keselamatan operasi — membangunkan strategi komunikasi dan penyulitan yang lebih canggih

Mungkin yang paling membimbangkan, kajian itu mendapati penapis keselamatan AI yang digunakan oleh penyedia chatbot utama gagal menghalang penyalahgunaan ini dengan pasti. Penyelidik menyatakan bahawa kumpulan itu telah membangunkan kaedah sistematik untuk memintas pagar ini, menjadikan langkah keselamatan sukarela sebahagian besarnya tidak berkesan terhadap musuh yang ditentukan.

Kajian Kes Maut

Penyelidikan termasuk contoh yang sangat menarik dari ISWAP (Wilayah Afrika Barat ISIS). Menurut akaun yang disediakan oleh bekas komander ISWAP yang dikenali sebagai Munzir, kumpulan itu menggunakan AI untuk mempelajari cara meniru teknik lompat motosikal yang digambarkan dalam filem, berhasrat menggunakannya untuk membersihkan parit pertahanan. Latihan latihan terbukti membawa bencana: lapan belas pejuang mati dalam percubaan manuver, manakala hanya lapan berjaya menamatkan lompatan.

Anekdot ini menggambarkan kedua-dua akibat dunia sebenar penggunaan AI pengganas dan sifat maklumat yang kadangkala tidak dapat diramalkan oleh model ini. Walaupun AI mungkin telah menerangkan teknik itu dengan tepat, pelaksanaan fizikal dalam persekitaran pertempuran membawa kepada keputusan bencana.

Jülich menulis bahawa bekas ahli menggambarkan "semangat kuat" untuk alat AI dalam organisasi, dengan beberapa menyatakan bahawa kumpulan itu sebelum ini mempertimbangkan untuk membangunkan senjata mangsa besar-besaran menggunakan maklumat bersumberkan AI. Walaupun penggunaan AI oleh Boko Haram setakat ini kekal konvensional, penyelidik memberi amaran ini harus diambil sebagai penunjuk awal ancaman yang lebih luas.

"Ini sepatutnya menjadi amaran untuk mengambil serius risiko pengganas yang mengejar bantuan AI untuk senjata kimia dan biologi," kajian itu menyimpulkan.

Penapis Keselamatan Terbukti Tidak Mencukupi

Penemuan kajian mengenai penapis keselamatan AI amat membimbangkan industri teknologi. Walaupun berbilion-bilion dolar dilaburkan dalam penyederhanaan kandungan, pasukan merah dan pagar keselamatan, penyelidikan menunjukkan bahawa pengguna yang teguh boleh memintas perlindungan ini secara konsisten.

Anthropic sendiri sebelum ini telah mengakui bahawa jailbreak - teknik untuk memintas langkah keselamatan AI - mungkin tidak akan pernah dihapuskan sepenuhnya daripada model bahasa besar. Kajian Cambridge menyediakan bukti konkrit yang menyokong penilaian itu, menunjukkan bahawa pelakon bukan negara yang mempunyai kepakaran teknikal terhad boleh belajar untuk mengalahkan penapis keselamatan secara sistematik melalui latihan bersama dan teknik kejuruteraan segera.

Walau bagaimanapun, penyelidik juga mencatatkan nuansa penting. Chatbots tujuan umum seperti ChatGPT dan Claude, semasa menerima perhatian paling ramai, terutamanya menjadikan pengetahuan sedia ada lebih mudah diakses daripada menjana maklumat berbahaya yang benar-benar baharu. Kebimbangan jangka panjang yang lebih besar, kata mereka, terletak pada sistem AI khusus yang dibangunkan untuk sains hayat dan domain sensitif lain, di mana AI boleh mempercepatkan akses kepada ancaman baru yang sebenar.

Implikasi untuk Dasar AI

Penemuan Cambridge tiba pada saat kritikal untuk tadbir urus AI. Kerajaan di seluruh dunia sedang membahaskan cara mengawal model AI sempadan, dengan Akta AI EU telah berkuat kuasa dan Amerika Syarikat melaksanakan komitmen keselamatan sukarela daripada makmal AI terkemuka.

Kajian itu menunjukkan bahawa pendekatan semasa yang tertumpu pada kawal selia kendiri industri secara sukarela mungkin tidak mencukupi untuk menghalang penggunaan alat AI yang berniat jahat. Hakikat bahawa ISIS telah mengendalikan program latihan AI khusus selama bertahun-tahun tanpa pengesanan oleh penyedia platform menimbulkan persoalan serius tentang keberkesanan langkah keselamatan sedia ada.

Pakar keselamatan telah lama memberi amaran bahawa model AI boleh mendemokrasikan akses kepada pengetahuan berbahaya. Penyelidikan Cambridge memberikan bukti empirikal yang paling menarik lagi bahawa ancaman ini bukan teori tetapi sudah beroperasi, dengan organisasi pengganas secara aktif menyepadukan AI ke dalam aktiviti harian mereka.

Penemuan ini juga merumitkan perdebatan berterusan tentang model AI sumber terbuka. Walaupun model proprietari seperti ChatGPT dan Claude mempunyai penapis keselamatan yang boleh dikemas kini dan dipertingkatkan, alternatif sumber terbuka seperti DeepSeek — yang kajian mengesahkan ISIS turut menggunakan — tidak menawarkan kawalan terpusat sedemikian. Sebaik sahaja model terbuka dikeluarkan, ciri keselamatannya tidak boleh diubah suai oleh pembangun asal.

Ketika kerajaan dan syarikat AI bergelut dengan cabaran ini, kajian Cambridge menjelaskan satu perkara: jurang antara keupayaan keselamatan dan inovasi musuh semakin melebar, dan organisasi pengganas secara aktif mengeksploitasinya.

Kekal Mendahului AI

Untuk liputan lanjut tentang keselamatan AI, dasar dan perkembangan industri, lawati AI Buzz Wire.

Baca lebih banyak berita AI →