Terroristorganisationer inklusive ISIS utnyttjar systematiskt alla större AI-chatbotar för attackplanering, vapenutveckling och operativ säkerhet, enligt en banbrytande studie från Cambridge Program on AI Science and Policy (CASP). Fynden, publicerade den 11 juli 2026, representerar de mest detaljerade empiriska bevisen hittills på att extremistgrupper beväpnar kommersiellt tillgängliga AI-verktyg. Besök AI Buzz Wire för löpande bevakning av AI-säkerhet och industriutveckling.

Inuti Cambridge-studien

Forskaren Antonia Jülich genomförde 57 intervjuer med 27 före detta medlemmar av ISIS och dess regionala medlemsförbund för att dokumentera hur terroristorganisationer har integrerat AI i sin verksamhet. Studien fann att ISIS har etablerat dedikerade AI-enheter inom båda sina stora fraktioner, och behandlar stora språkmodeller som kärnoperativ infrastruktur snarare än experimentella verktyg.

Enligt forskningen har ISIS erbjudit snabb ingenjörs- och jailbreak-utbildning till sina operatörer sedan åtminstone 2023. Organisationen har också utökat denna utbildning till allierade grupper, inklusive Boko Haram-befälhavare i Nigeria, och lärt dem hur man systematiskt kan kringgå AI-säkerhetsfilter som används av stora teknikföretag.

Varje större chatbot har äventyrats

Studien dokumenterar att terrorister aktivt använder ChatGPT, Claude, Gemini, Grok, Meta AI och DeepSeek i sina verksamheter. Grupperna använder AI för:

  • Attacksplanering — generera taktiska scenarier och identifiera sårbarheter i målinfrastruktur
  • Explosiv enhetskonstruktion — inhämtning av teknisk information för att bygga mer kraftfulla improviserade enheter
  • Vapenunderhåll — felsökning och reparation av skjutvapen och annan utrustning
  • Driftssäkerhet — utveckla mer sofistikerade kommunikations- och krypteringsstrategier

Det kanske mest oroväckande är att studien fann att AI-säkerhetsfilter som distribuerats av de stora chatbot-leverantörerna inte på ett tillförlitligt sätt förhindrade detta missbruk. Forskare noterade att grupperna hade utvecklat systematiska metoder för att kringgå dessa skyddsräcken, vilket gjorde frivilliga säkerhetsåtgärder i stort sett ineffektiva mot beslutsamma motståndare.

En dödlig fallstudie

Forskningen inkluderar ett särskilt slående exempel från ISWAP (ISIS Västafrikaprovins). Enligt en redogörelse från en tidigare ISWAP-befälhavare identifierad som Munzir, använde gruppen AI för att lära sig att replikera en motorcykelhoppningsteknik avbildad i en film, med avsikt att använda den för att rensa defensiva skyttegravar. Träningsövningen visade sig vara katastrofal: arton fighters dog när de försökte manövern, medan endast åtta lyckades genomföra hoppet.

Denna anekdot illustrerar både de verkliga konsekvenserna av terroristanvändning av AI och den ibland oförutsägbara karaktären hos den information som dessa modeller ger. Även om AI kan ha beskrivit tekniken exakt, ledde det fysiska utförandet i en stridsmiljö till katastrofala resultat.

Jülich skriver att tidigare medlemmar beskrev "stark entusiasm" för AI-verktyg inom organisationen, med några som noterade att gruppen tidigare hade övervägt att utveckla massolycksvapen med hjälp av AI-baserad information. Även om Boko Harams användning av AI hittills har förblivit konventionell, varnar forskaren att detta bör ses som en tidig indikator på ett bredare hot.

"Detta borde vara en varning för att ta risken för terrorister som eftersträvar AI-hjälp för kemiska och biologiska vapen på allvar", avslutas studien.

Säkerhetsfilter visar sig vara otillräckliga

Studiens resultat om AI-säkerhetsfilter är särskilt oroande för teknikindustrin. Trots miljarder dollar investerade i innehållsmoderering, red-teaming och skyddsräcken visar forskningen att beslutsamma användare konsekvent kan kringgå dessa skydd.

Anthropic själv har tidigare erkänt att jailbreaks - tekniker för att kringgå AI-säkerhetsåtgärder - sannolikt aldrig helt kommer att elimineras från stora språkmodeller. Cambridge-studien ger konkreta bevis som stöder den bedömningen, och visar att även icke-statliga aktörer med begränsad teknisk expertis kan lära sig att systematiskt besegra säkerhetsfilter genom delad utbildning och snabba ingenjörstekniker.

Men forskare noterade också en viktig nyans. Chatbotar för allmänna ändamål som ChatGPT och Claude, samtidigt som de får mest uppmärksamhet från allmänheten, gör i första hand befintlig kunskap mer tillgänglig snarare än att generera genuint ny farlig information. Den större långsiktiga oro, menar de, ligger i att specialiserade AI-system utvecklas för biovetenskap och andra känsliga domäner, där AI kan påskynda tillgången till genuint nya hot.

Konsekvenser för AI-policy

Cambridge-fynden kommer vid ett kritiskt ögonblick för AI-styrning. Regeringar över hela världen diskuterar hur man ska reglera frontier AI-modeller, med EU AI Act som redan är i kraft och USA eftersträvar frivilliga säkerhetsåtaganden från ledande AI-laboratorier.

Studien tyder på att nuvarande tillvägagångssätt fokuserade på frivillig industrisjälvreglering kan vara otillräckliga för att förhindra skadlig användning av AI-verktyg. Det faktum att ISIS har drivit dedikerade AI-utbildningsprogram i flera år utan upptäckt av plattformsleverantörer väcker allvarliga frågor om effektiviteten av befintliga säkerhetsåtgärder.

Säkerhetsexperter har länge varnat för att AI-modeller kan demokratisera tillgången till farlig kunskap. Cambridgeforskningen ger de mest övertygande empiriska bevisen hittills för att detta hot inte är teoretiskt utan redan operativt, med terroristorganisationer som aktivt integrerar AI i sina dagliga aktiviteter.

Resultaten komplicerar också den pågående debatten om AI-modeller med öppen källkod. Medan proprietära modeller som ChatGPT och Claude har säkerhetsfilter som kan uppdateras och förbättras, erbjuder öppen källkodsalternativ som DeepSeek - som studien bekräftar att ISIS också använder - ingen sådan centraliserad kontroll. När en öppen modell väl har släppts kan dess säkerhetsegenskaper inte ändras av den ursprungliga utvecklaren.

När regeringar och AI-företag brottas med dessa utmaningar, gör Cambridge-studien en sak tydlig: klyftan mellan säkerhetskapacitet och motståndskraftig innovation ökar, och terroristorganisationer utnyttjar det aktivt.

Ligg före AI

Besök AI Buzz Wire för mer täckning av AI-säkerhet, policy och industriutveckling.

Läs mer AI-nyheter →