ISIS und andere Terrorgruppen nutzen jeden großen KI-Chatbot zur Angriffsplanung, wie eine Cambridge-Studie zeigt

Laut einer bahnbrechenden Studie des Cambridge Program on AI Science and Policy (CASP) nutzen Terrororganisationen, darunter ISIS, systematisch jeden großen KI-Chatbot für die Angriffsplanung, Waffenentwicklung und Betriebssicherheit aus. Die am 11. Juli 2026 veröffentlichten Ergebnisse stellen den bisher detailliertesten empirischen Beweis dafür dar, dass extremistische Gruppen kommerziell erhältliche KI-Tools als Waffe einsetzen. Für eine fortlaufende Berichterstattung über KI-Sicherheit und Branchenentwicklungen besuchen Sie AI Buzz Wire.

Im Inneren der Cambridge-Studie

Die Forscherin Antonia Jülich führte 57 Interviews mit 27 ehemaligen Mitgliedern des IS und seiner regionalen Ableger, um zu dokumentieren, wie Terrororganisationen KI in ihre Operationen integriert haben. Die Studie ergab, dass der IS in seinen beiden Hauptfraktionen eigene KI-Einheiten eingerichtet hat, die große Sprachmodelle als zentrale operative Infrastruktur und nicht als experimentelle Werkzeuge betrachten.

Den Untersuchungen zufolge bietet ISIS seinen Aktivisten seit mindestens 2023 zeitnahe Technik- und Jailbreak-Schulungen an. Die Organisation hat diese Schulung auch auf verbündete Gruppen, darunter Boko-Haram-Kommandeure in Nigeria, ausgeweitet und ihnen beigebracht, wie sie die von großen Technologieunternehmen eingesetzten KI-Sicherheitsfilter systematisch umgehen können.

Jeder große Chatbot ist kompromittiert

Die Studie dokumentiert, dass Terroristen bei ihren Einsätzen aktiv ChatGPT, Claude, Gemini, Grok, Meta AI und DeepSeek nutzen. Die Gruppen setzen KI für Folgendes ein:

• Angriffsplanung – Erstellung taktischer Szenarien und Identifizierung von Schwachstellen in der Zielinfrastruktur

• Konstruktion von Sprengkörpern – Beschaffung technischer Informationen für den Bau leistungsstärkerer improvisierter Sprengkörper

• Waffenwartung – Fehlerbehebung und Reparatur von Schusswaffen und anderer Ausrüstung

• Betriebssicherheit – Entwicklung ausgefeilterer Kommunikations- und Verschlüsselungsstrategien

Am alarmierendsten ist vielleicht, dass die Studie ergab, dass die von den großen Chatbot-Anbietern eingesetzten KI-Sicherheitsfilter diesen Missbrauch nicht zuverlässig verhindern konnten. Die Forscher stellten fest, dass die Gruppen systematische Methoden zur Umgehung dieser Leitplanken entwickelt hatten, wodurch freiwillige Sicherheitsmaßnahmen gegenüber entschlossenen Gegnern weitgehend wirkungslos wurden.

Eine tödliche Fallstudie

Die Forschung umfasst ein besonders eindrucksvolles Beispiel aus ISWAP (ISIS-Provinz Westafrika). Laut einem Bericht eines ehemaligen ISWAP-Kommandanten namens Munzir lernte die Gruppe mithilfe von KI, wie sie eine in einem Film dargestellte Motorradsprungtechnik nachbilden konnte, um damit Verteidigungsgräben zu räumen. Die Trainingsübung erwies sich als katastrophal: Achtzehn Kämpfer starben bei dem Versuch, das Manöver durchzuführen, während nur acht den Sprung erfolgreich abschlossen.

Diese Anekdote veranschaulicht sowohl die realen Folgen des Einsatzes terroristischer KI als auch die manchmal unvorhersehbare Natur der Informationen, die diese Modelle liefern. Während die KI die Technik möglicherweise genau beschrieben hat, führte die physische Ausführung in einer Kampfumgebung zu katastrophalen Ergebnissen.

Jülich schreibt, dass ehemalige Mitglieder von einer „starken Begeisterung“ für KI-Tools innerhalb der Organisation berichteten, wobei einige anmerkten, dass die Gruppe zuvor darüber nachgedacht hatte, Waffen mit KI-Quellen zu entwickeln, die Massenopfer fordern. Während der Einsatz von KI durch Boko Haram bisher konventionell blieb, warnt der Forscher, dass dies als Frühindikator für eine umfassendere Bedrohung gewertet werden sollte.

„Dies sollte eine Warnung sein, das Risiko ernst zu nehmen, dass Terroristen KI-Unterstützung für chemische und biologische Waffen anstreben“, heißt es in der Studie abschließend.

Sicherheitsfilter erweisen sich als unzureichend

Die Ergebnisse der Studie zu KI-Sicherheitsfiltern sind für die Technologiebranche besonders besorgniserregend. Obwohl Milliarden von Dollar in die Moderation von Inhalten, Red-Teaming und Sicherheitsmaßnahmen investiert werden, zeigt die Untersuchung, dass entschlossene Benutzer diese Schutzmaßnahmen konsequent umgehen können.

Anthropic selbst hat zuvor eingeräumt, dass Jailbreaks – Techniken zur Umgehung von KI-Sicherheitsmaßnahmen – wahrscheinlich nie vollständig aus großen Sprachmodellen entfernt werden. Die Cambridge-Studie liefert konkrete Belege für diese Einschätzung und zeigt, dass selbst nichtstaatliche Akteure mit begrenztem technischem Fachwissen lernen können, Sicherheitsfilter durch gemeinsame Schulungen und zeitnahe technische Techniken systematisch zu umgehen.

Allerdings stellten die Forscher auch eine wichtige Nuance fest. Allzweck-Chatbots wie ChatGPT und Claude erhalten zwar die meiste öffentliche Aufmerksamkeit, machen aber in erster Linie vorhandenes Wissen zugänglicher, anstatt wirklich neue gefährliche Informationen zu generieren. Sie argumentieren, dass die größere langfristige Sorge darin besteht, dass spezielle KI-Systeme für die Biowissenschaften und andere sensible Bereiche entwickelt werden, in denen KI den Zugang zu wirklich neuartigen Bedrohungen beschleunigen könnte.

Implikationen für die KI-Politik

Die Ergebnisse von Cambridge kommen zu einem kritischen Zeitpunkt für die KI-Governance. Regierungen auf der ganzen Welt diskutieren darüber, wie bahnbrechende KI-Modelle reguliert werden können. Das EU-KI-Gesetz ist bereits in Kraft und die Vereinigten Staaten verfolgen freiwillige Sicherheitsverpflichtungen führender KI-Labors.

Die Studie legt nahe, dass aktuelle Ansätze, die sich auf die freiwillige Selbstregulierung der Industrie konzentrieren, möglicherweise nicht ausreichen, um den böswilligen Einsatz von KI-Tools zu verhindern. Die Tatsache, dass ISIS seit Jahren spezielle KI-Trainingsprogramme durchführt, ohne dass dies von Plattformanbietern entdeckt wird, wirft ernsthafte Fragen hinsichtlich der Wirksamkeit bestehender Sicherheitsmaßnahmen auf.

Sicherheitsexperten warnen schon lange davor, dass KI-Modelle den Zugang zu gefährlichem Wissen demokratisieren könnten. Die Cambridge-Forschung liefert den bisher überzeugendsten empirischen Beweis dafür, dass diese Bedrohung nicht theoretisch, sondern bereits real ist, da Terrororganisationen KI aktiv in ihre täglichen Aktivitäten integrieren.

Die Ergebnisse erschweren auch die anhaltende Debatte über Open-Source-KI-Modelle. Während proprietäre Modelle wie ChatGPT und Claude über Sicherheitsfilter verfügen, die aktualisiert und verbessert werden können, bieten Open-Source-Alternativen wie DeepSeek – das laut der Studie auch von ISIS verwendet wird – keine solche zentralisierte Kontrolle. Sobald ein offenes Modell veröffentlicht wird, können seine Sicherheitseigenschaften vom ursprünglichen Entwickler nicht mehr geändert werden.

Während sich Regierungen und KI-Unternehmen mit diesen Herausforderungen auseinandersetzen, macht die Cambridge-Studie eines deutlich: Die Kluft zwischen Sicherheitsfähigkeiten und gegnerischer Innovation wird immer größer, und Terrororganisationen nutzen sie aktiv aus.

Bleiben Sie der KI immer einen Schritt voraus

Weitere Informationen zu KI-Sicherheit, Richtlinien und Branchenentwicklungen finden Sie unter AI Buzz Wire.

Weitere KI-Neuigkeiten lesen →