Terroristische organisaties, waaronder ISIS, exploiteren systematisch elke grote AI-chatbot voor aanvalsplanning, wapenontwikkeling en operationele veiligheid, blijkt uit een baanbrekend onderzoek van het Cambridge Program on AI Science and Policy (CASP). De bevindingen, gepubliceerd op 11 juli 2026, vertegenwoordigen het meest gedetailleerde empirische bewijs tot nu toe van extremistische groeperingen die commercieel verkrijgbare AI-instrumenten bewapenen. Bezoek AI Buzz Wire voor voortdurende berichtgeving over AI-veiligheid en industriële ontwikkelingen.

Binnen de Cambridge-studie

Onderzoeker Antonia Jülich hield 57 interviews met 27 voormalige leden van ISIS en zijn regionale afdelingen om te documenteren hoe terroristische organisaties AI in hun operaties hebben geïntegreerd. Uit het onderzoek blijkt dat ISIS binnen beide grote facties speciale AI-eenheden heeft opgericht, waarbij grote taalmodellen worden beschouwd als een operationele kerninfrastructuur in plaats van als experimentele instrumenten.

Volgens het onderzoek biedt ISIS al sinds minstens 2023 snelle engineering- en jailbreaktrainingen aan aan zijn agenten. De organisatie heeft deze training ook uitgebreid naar geallieerde groepen, waaronder Boko Haram-commandanten in Nigeria, en leert hen hoe ze systematisch AI-veiligheidsfilters kunnen omzeilen die door grote technologiebedrijven worden ingezet.

Elke grote chatbot is gecompromitteerd

Het onderzoek documenteert dat terroristische agenten ChatGPT, Claude, Gemini, Grok, Meta AI en DeepSeek actief gebruiken tijdens hun operaties. De groepen zetten AI in voor:

  • Aanvalsplanning — het genereren van tactische scenario's en het identificeren van kwetsbaarheden in de doelinfrastructuur
  • Constructie van explosieve apparaten — technische informatie verzamelen voor het bouwen van krachtigere geïmproviseerde apparaten
  • Wapenonderhoud — probleemoplossing en reparatie van vuurwapens en andere uitrusting
  • Operationele beveiliging — ontwikkeling van meer geavanceerde communicatie- en encryptiestrategieën

Het meest alarmerende is misschien wel dat uit het onderzoek bleek dat AI-veiligheidsfilters die door de grote aanbieders van chatbots werden ingezet, er niet in slaagden dit misbruik op betrouwbare wijze te voorkomen. Onderzoekers merkten op dat de groepen systematische methoden hadden ontwikkeld om deze vangrails te omzeilen, waardoor vrijwillige veiligheidsmaatregelen grotendeels ineffectief waren tegen vastberaden tegenstanders.

Een dodelijke casestudy

Het onderzoek omvat een bijzonder treffend voorbeeld uit ISWAP (de provincie West-Afrika van ISIS). Volgens een verslag van een voormalige ISWAP-commandant, geïdentificeerd als Munzir, gebruikte de groep AI om te leren hoe ze een motorspringtechniek konden repliceren die in een film is afgebeeld, met de bedoeling deze te gebruiken om verdedigingsloopgraven vrij te maken. De trainingsoefening bleek desastreus: achttien jagers kwamen om bij een poging tot de manoeuvre, terwijl slechts acht de sprong met succes voltooiden.

Deze anekdote illustreert zowel de reële gevolgen van terroristisch AI-gebruik als de soms onvoorspelbare aard van de informatie die deze modellen bieden. Hoewel de AI de techniek misschien nauwkeurig heeft beschreven, leidde de fysieke uitvoering in een gevechtsomgeving tot catastrofale resultaten.

Jülich schrijft dat voormalige leden "sterk enthousiasme" voor AI-tools binnen de organisatie beschreven, waarbij sommigen opmerkten dat de groep eerder had overwogen om massaslachtwapens te ontwikkelen met behulp van AI-informatie. Hoewel het gebruik van AI door Boko Haram tot nu toe conventioneel is gebleven, waarschuwt de onderzoeker dat dit moet worden opgevat als een vroege indicator van een bredere dreiging.

“Dit zou een waarschuwing moeten zijn om het risico serieus te nemen dat terroristen AI-hulp voor chemische en biologische wapens nastreven”, concludeert de studie.

Veiligheidsfilters blijken ontoereikend

De bevindingen van het onderzoek over AI-veiligheidsfilters zijn vooral zorgwekkend voor de technologische industrie. Ondanks dat er miljarden dollars zijn geïnvesteerd in contentmoderatie, red-teaming en veiligheidsvoorzieningen, toont het onderzoek aan dat vastberaden gebruikers deze beveiligingen consequent kunnen omzeilen.

Anthropic zelf heeft eerder erkend dat jailbreaks – technieken om AI-veiligheidsmaatregelen te omzeilen – waarschijnlijk nooit volledig zullen worden geëlimineerd uit grote taalmodellen. Het Cambridge-onderzoek levert concreet bewijs ter ondersteuning van deze beoordeling, waaruit blijkt dat zelfs niet-statelijke actoren met beperkte technische expertise kunnen leren om systematisch veiligheidsfilters te omzeilen door middel van gedeelde training en snelle technische technieken.

Onderzoekers merkten echter ook een belangrijke nuance op. Chatbots voor algemeen gebruik, zoals ChatGPT en Claude, krijgen weliswaar de meeste publieke aandacht, maar maken vooral bestaande kennis toegankelijker in plaats van echt nieuwe gevaarlijke informatie te genereren. Het grotere probleem op de lange termijn ligt volgens hen in het feit dat gespecialiseerde AI-systemen worden ontwikkeld voor de levenswetenschappen en andere gevoelige domeinen, waar AI de toegang tot werkelijk nieuwe bedreigingen zou kunnen versnellen.

Implicaties voor AI-beleid

De bevindingen van Cambridge komen op een cruciaal moment voor AI-beheer. Regeringen over de hele wereld debatteren over de vraag hoe ze grensverleggende AI-modellen kunnen reguleren, terwijl de EU AI Act al van kracht is en de Verenigde Staten vrijwillige veiligheidsverplichtingen nastreven van toonaangevende AI-laboratoria.

De studie suggereert dat de huidige aanpak gericht op vrijwillige zelfregulering door de industrie mogelijk onvoldoende is om kwaadwillig gebruik van AI-instrumenten te voorkomen. Het feit dat ISIS jarenlang speciale AI-trainingsprogramma’s heeft uitgevoerd zonder dat dit door platformaanbieders werd opgemerkt, roept ernstige vragen op over de effectiviteit van de bestaande veiligheidsmaatregelen.

Beveiligingsexperts waarschuwen al lang dat AI-modellen de toegang tot gevaarlijke kennis kunnen democratiseren. Het Cambridge-onderzoek levert het meest overtuigende empirische bewijs tot nu toe dat deze dreiging niet theoretisch is, maar al operationeel is, waarbij terroristische organisaties AI actief integreren in hun dagelijkse activiteiten.

De bevindingen bemoeilijken ook het voortdurende debat over open-source AI-modellen. Terwijl propriëtaire modellen als ChatGPT en Claude veiligheidsfilters hebben die kunnen worden bijgewerkt en verbeterd, bieden open source-alternatieven zoals DeepSeek – waarvan de studie bevestigt dat ISIS ook gebruik maakt – een dergelijke gecentraliseerde controle niet. Zodra een open model is uitgebracht, kunnen de veiligheidskenmerken ervan niet door de oorspronkelijke ontwikkelaar worden gewijzigd.

Terwijl overheden en AI-bedrijven met deze uitdagingen worstelen, maakt het onderzoek van Cambridge één ding duidelijk: de kloof tussen veiligheidscapaciteiten en vijandige innovatie wordt groter, en terroristische organisaties maken daar actief misbruik van.

Blijf AI een stap voor

Bezoek AI Buzz Wire voor meer berichtgeving over de veiligheid, het beleid en de sectorontwikkelingen op het gebied van AI.

Lees meer AI-nieuws →