Organisasi teroris kalebu ISIS kanthi sistematis ngeksploitasi saben chatbot AI utama kanggo ngrancang serangan, pangembangan senjata, lan keamanan operasional, miturut studi terobosan saka Program Cambridge babagan Ilmu lan Kebijakan AI (CASP). Temuan kasebut, sing diterbitake tanggal 11 Juli 2026, minangka bukti empiris sing paling rinci nganti saiki babagan kelompok ekstremis sing nggunakake alat AI sing kasedhiya kanthi komersial. Kanggo liputan sing terus-terusan babagan keamanan AI lan pangembangan industri, bukak AI Buzz Wire.

Ing Cambridge Study

Peneliti Antonia Jülich nindakake 57 wawancara karo 27 mantan anggota ISIS lan afiliasi regional kanggo nyathet kepiye organisasi teroris nggabungake AI menyang operasi. Panliten kasebut nemokake yen ISIS wis nggawe unit AI khusus ing loro faksi utama, nganggep model basa gedhe minangka infrastruktur operasional inti tinimbang alat eksperimen.

Miturut riset kasebut, ISIS wis nawarake latihan teknik lan jailbreak sing cepet kanggo para operasine wiwit paling ora 2023. Organisasi kasebut uga wis nggedhekake latihan iki kanggo kelompok sekutu, kalebu komandan Boko Haram ing Nigeria, ngajari dheweke kanthi sistematis ngliwati saringan safety AI sing disebarake dening perusahaan teknologi utama.

Saben Chatbot Utama Dikompromi

Panaliten kasebut nyathet manawa para teroris aktif nggunakake ChatGPT, Claude, Gemini, Grok, Meta AI, lan DeepSeek ing operasi. Klompok kasebut nggunakake AI kanggo:

  • Perencanaan serangan - ngasilake skenario taktis lan ngenali kerentanan ing infrastruktur target
  • Konstruksi piranti sing mbledhos - sumber informasi teknis kanggo mbangun piranti improvisasi sing luwih kuat
  • Pangopènan senjata - ngatasi masalah lan ndandani senjata api lan peralatan liyane
  • Keamanan operasional — ngembangaken strategi komunikasi lan enkripsi sing luwih canggih

Mbok menawa sing paling nggumunake, panliten kasebut nemokake manawa saringan safety AI sing disebarake dening panyedhiya chatbot utama gagal nyegah penyalahgunaan iki. Peneliti nyathet yen klompok kasebut wis ngembangake cara sing sistematis kanggo ngubengi pagar pembatas kasebut, nggawe langkah-langkah safety sukarela umume ora efektif nglawan mungsuh sing wis ditemtokake.

Sinau Kasus Agawe

Panliten kasebut kalebu conto utamane saka ISWAP (Provinsi Afrika Kulon ISIS). Miturut akun sing diwenehake dening mantan komandan ISWAP sing diidentifikasi minangka Munzir, grup kasebut nggunakake AI kanggo sinau carane niru teknik lompat motor sing digambarake ing film, sing arep digunakake kanggo mbusak trenches pertahanan. Latihan latihan kasebut mbuktekake mbebayani: wolulas pejuang mati nalika nyoba maneuver, dene mung wolung sing bisa ngrampungake lompat.

Anekdot iki nggambarake konsekuensi nyata saka panggunaan AI teroris lan informasi sing kadhangkala ora bisa ditebak saka model kasebut. Nalika AI bisa uga nggambarake teknik kasebut kanthi tepat, eksekusi fisik ing lingkungan pertempuran nyebabake asil bencana.

Jülich nyerat manawa mantan anggota kasebut nggambarake "semangat kuat" kanggo alat AI ing organisasi kasebut, kanthi sawetara nyathet yen klompok kasebut sadurunge nganggep ngembangake senjata korban massal nggunakake informasi sumber AI. Nalika Boko Haram nggunakake AI nganti saiki tetep konvensional, peneliti ngelingake yen iki kudu dianggep minangka indikator awal ancaman sing luwih akeh.

"Iki kudu dadi bebaya kanggo njupuk risiko teroris sing ngupayakake bantuan AI kanggo senjata kimia lan biologi," ujare panaliten kasebut.

Filter-filter Keamanan Mbuktekake Ora Cekap

Panemuan panaliten babagan saringan safety AI utamane kanggo industri teknologi. Sanajan milyaran dolar nandur modal ing moderasi konten, tim abang, lan pager keamanan, riset kasebut nuduhake manawa pangguna sing ditemtokake bisa terus-terusan ngliwati proteksi kasebut.

Anthropic dhewe sadurunge ngakoni yen jailbreak - teknik kanggo ngubengi langkah-langkah safety AI - ora bakal bisa diilangi saka model basa gedhe. Sinau Cambridge nyedhiyakake bukti konkrit sing ndhukung penilaian kasebut, nuduhake manawa aktor non-negara kanthi keahlian teknis sing winates bisa sinau kanthi sistematis ngalahake saringan safety liwat latihan bareng lan teknik teknik cepet.

Nanging, peneliti uga nyathet nuansa penting. Chatbots tujuan umum kaya ChatGPT lan Claude, nalika entuk perhatian umum, utamane nggawe kawruh sing ana luwih gampang diakses tinimbang ngasilake informasi mbebayani sing bener-bener anyar. Keprigelan jangka panjang sing luwih gedhe, ujare, ana ing sistem AI khusus sing dikembangake kanggo ilmu urip lan domain sensitif liyane, ing ngendi AI bisa nyepetake akses menyang ancaman anyar.

Implikasi kanggo Kebijakan AI

Temuan Cambridge teka ing wayahe kritis kanggo pamrentah AI. Pamrentah ing saindenging jagad debat babagan carane ngatur model AI perbatasan, kanthi Undhang-undhang AI EU wis dileksanakake lan Amerika Serikat ngupayakake komitmen safety sukarela saka laboratorium AI sing unggul.

Panliten kasebut nuduhake manawa pendekatan saiki sing fokus ing regulasi mandiri industri sukarela bisa uga ora cukup kanggo nyegah panggunaan alat AI sing ala. Kasunyatan manawa ISIS wis ngoperasikake program latihan AI khusus sajrone pirang-pirang taun tanpa dideteksi dening panyedhiya platform nyebabake pitakonan serius babagan efektifitas langkah-langkah keamanan sing wis ana.

Pakar keamanan wis suwe ngelingake yen model AI bisa demokratisasi akses menyang kawruh sing mbebayani. Riset Cambridge nyedhiyakake bukti empiris sing paling kuat nanging ancaman iki dudu teoritis nanging wis operasional, kanthi organisasi teroris aktif nggabungake AI menyang kegiatan saben dinane.

Temuan kasebut uga nggawe debat babagan model AI open-source. Nalika model proprietary kaya ChatGPT lan Claude duwe saringan safety sing bisa dianyari lan apik, alternatif mbukak-sumber kaya DeepSeek - kang sinau nandheske ISIS uga nggunakake - ora nawakake kontrol terpusat kuwi. Sawise model mbukak dirilis, karakteristik safety ora bisa diowahi dening pangembang asli.

Nalika pamrentah lan perusahaan AI ngadhepi tantangan kasebut, panliten Cambridge nerangake siji perkara: jurang antarane kemampuan safety lan inovasi adversarial saya tambah akeh, lan organisasi teroris aktif ngeksploitasi.

Tetep Ahead saka AI

Kanggo jangkoan liyane babagan keamanan, kabijakan, lan pangembangan industri AI, bukak AI Buzz Wire.

Waca liyane AI warta →