ISIS dan Kelompok Teroris Lainnya Menggunakan Setiap Chatbot AI Utama untuk Perencanaan Serangan, Studi Cambridge Mengungkapkan

Organisasi teroris termasuk ISIS secara sistematis mengeksploitasi setiap chatbot AI utama untuk perencanaan serangan, pengembangan senjata, dan keamanan operasional, menurut sebuah studi inovatif dari Program Cambridge tentang Sains dan Kebijakan AI (CASP). Temuan tersebut, yang dipublikasikan pada 11 Juli 2026, mewakili bukti empiris paling rinci hingga saat ini mengenai kelompok ekstremis yang mempersenjatai alat AI yang tersedia secara komersial. Untuk liputan berkelanjutan mengenai keselamatan AI dan perkembangan industri, kunjungi AI Buzz Wire.

Di dalam Studi Cambridge

Peneliti Antonia Jülich melakukan 57 wawancara dengan 27 mantan anggota ISIS dan afiliasi regionalnya untuk mendokumentasikan bagaimana organisasi teroris mengintegrasikan AI ke dalam operasi mereka. Studi tersebut menemukan bahwa ISIS telah membentuk unit AI khusus di kedua faksi utamanya, dan memperlakukan model bahasa besar sebagai infrastruktur operasional inti dibandingkan sebagai alat eksperimental.

Menurut penelitian tersebut, ISIS telah menawarkan pelatihan rekayasa dan jailbreak kepada para anggotanya setidaknya sejak tahun 2023. Organisasi tersebut juga telah memperluas pelatihan ini kepada kelompok-kelompok sekutunya, termasuk para komandan Boko Haram di Nigeria, dengan mengajari mereka cara menerobos filter keamanan AI yang diterapkan oleh perusahaan-perusahaan teknologi besar secara sistematis.

Setiap Chatbot Besar Disusupi

Studi tersebut mendokumentasikan bahwa agen teroris secara aktif menggunakan ChatGPT, Claude, Gemini, Grok, Meta AI, dan DeepSeek di seluruh operasi mereka. Kelompok tersebut menggunakan AI untuk:

• Perencanaan serangan — menghasilkan skenario taktis dan mengidentifikasi kerentanan pada infrastruktur target

• Konstruksi alat peledak — mencari informasi teknis untuk membuat alat improvisasi yang lebih kuat

• Pemeliharaan senjata — memecahkan masalah dan memperbaiki senjata api dan peralatan lainnya

• Keamanan operasional — mengembangkan strategi komunikasi dan enkripsi yang lebih canggih

Mungkin yang paling mengkhawatirkan, penelitian ini menemukan bahwa filter keamanan AI yang diterapkan oleh penyedia chatbot besar gagal mencegah penyalahgunaan ini. Para peneliti mencatat bahwa kelompok-kelompok tersebut telah mengembangkan metode sistematis untuk menghindari pagar pembatas ini, sehingga tindakan keselamatan sukarela sebagian besar tidak efektif terhadap musuh yang gigih.

Studi Kasus yang Mematikan

Penelitian ini mencakup contoh yang sangat mencolok dari ISWAP (Provinsi Afrika Barat milik ISIS). Menurut akun yang diberikan oleh mantan komandan ISWAP yang diidentifikasi sebagai Munzir, kelompok tersebut menggunakan AI untuk mempelajari cara meniru teknik lompat sepeda motor yang digambarkan dalam sebuah film, dengan maksud untuk menggunakannya untuk membersihkan parit pertahanan. Latihan tersebut terbukti membawa bencana: delapan belas pejuang tewas saat melakukan manuver, sementara hanya delapan yang berhasil menyelesaikan lompatan.

Anekdot ini menggambarkan konsekuensi penggunaan AI oleh teroris di dunia nyata dan sifat informasi yang diberikan oleh model ini yang terkadang tidak dapat diprediksi. Meskipun AI mungkin telah mendeskripsikan teknik ini secara akurat, eksekusi fisik di lingkungan pertempuran menimbulkan akibat yang sangat buruk.

Jülich menulis bahwa mantan anggota menggambarkan "antusiasme yang kuat" terhadap alat AI di dalam organisasi, dan beberapa orang mencatat bahwa kelompok tersebut sebelumnya telah mempertimbangkan untuk mengembangkan senjata korban massal menggunakan informasi yang bersumber dari AI. Meskipun penggunaan AI oleh Boko Haram sejauh ini masih bersifat konvensional, peneliti memperingatkan bahwa hal ini harus dianggap sebagai indikator awal adanya ancaman yang lebih luas.

“Ini harus menjadi peringatan untuk menganggap serius risiko teroris yang menggunakan bantuan AI untuk senjata kimia dan biologi,” studi tersebut menyimpulkan.

Filter Keamanan Terbukti Tidak Memadai

Temuan penelitian mengenai filter keamanan AI sangat mengkhawatirkan bagi industri teknologi. Meskipun miliaran dolar telah diinvestasikan untuk moderasi konten, kerja sama merah, dan pagar pengaman, penelitian menunjukkan bahwa pengguna yang gigih dapat secara konsisten mengabaikan perlindungan ini.

Anthropic sendiri sebelumnya telah mengakui bahwa jailbreak – teknik untuk menghindari langkah-langkah keamanan AI – kemungkinan besar tidak akan pernah sepenuhnya dihilangkan dari model bahasa besar. Studi Cambridge memberikan bukti nyata yang mendukung penilaian tersebut, yang menunjukkan bahwa bahkan aktor non-negara dengan keahlian teknis terbatas dapat belajar untuk secara sistematis mengalahkan filter keselamatan melalui pelatihan bersama dan teknik rekayasa yang cepat.

Namun, peneliti juga mencatat nuansa penting. Chatbot dengan tujuan umum seperti ChatGPT dan Claude, meskipun mendapat perhatian paling banyak dari publik, pada dasarnya membuat pengetahuan yang ada lebih mudah diakses daripada menghasilkan informasi berbahaya yang benar-benar baru. Kekhawatiran jangka panjang yang lebih besar, menurut mereka, terletak pada sistem AI khusus yang sedang dikembangkan untuk ilmu hayati dan bidang sensitif lainnya, di mana AI dapat mempercepat akses terhadap ancaman yang benar-benar baru.

Implikasi terhadap Kebijakan AI

Temuan Cambridge ini tiba pada saat yang kritis bagi tata kelola AI. Pemerintah di seluruh dunia sedang memperdebatkan cara mengatur model AI terdepan, dengan UU AI UE yang sudah berlaku dan Amerika Serikat yang menjalankan komitmen keselamatan sukarela dari laboratorium AI terkemuka.

Studi tersebut menunjukkan bahwa pendekatan yang ada saat ini yang berfokus pada pengaturan mandiri industri secara sukarela mungkin tidak cukup untuk mencegah penggunaan alat AI yang berbahaya. Fakta bahwa ISIS telah menjalankan program pelatihan AI khusus selama bertahun-tahun tanpa terdeteksi oleh penyedia platform menimbulkan pertanyaan serius tentang efektivitas langkah-langkah keamanan yang ada.

Pakar keamanan telah lama memperingatkan bahwa model AI dapat mendemokratisasi akses terhadap pengetahuan berbahaya. Penelitian Cambridge memberikan bukti empiris yang paling meyakinkan bahwa ancaman ini tidak bersifat teoritis namun sudah operasional, dimana organisasi teroris secara aktif mengintegrasikan AI ke dalam aktivitas sehari-hari mereka.

Temuan ini juga memperumit perdebatan yang sedang berlangsung mengenai model AI sumber terbuka. Meskipun model berpemilik seperti ChatGPT dan Claude memiliki filter keamanan yang dapat diperbarui dan ditingkatkan, alternatif sumber terbuka seperti DeepSeek – yang menurut penelitian juga digunakan oleh ISIS – tidak menawarkan kontrol terpusat seperti itu. Setelah model terbuka dirilis, karakteristik keselamatannya tidak dapat diubah oleh pengembang aslinya.

Ketika pemerintah dan perusahaan AI bergulat dengan tantangan-tantangan ini, studi Cambridge memperjelas satu hal: kesenjangan antara kemampuan keselamatan dan inovasi yang berlawanan semakin lebar, dan organisasi-organisasi teroris secara aktif mengeksploitasinya.

Tetap Terdepan dalam AI

Untuk liputan lebih lanjut tentang keselamatan AI, kebijakan, dan perkembangan industri, kunjungi AI Buzz Wire.

Baca berita AI selengkapnya →