Podle průlomové studie Cambridgeského programu pro vědu a politiku AI (CASP) teroristické organizace včetně ISIS systematicky využívají každého velkého chatbota AI pro plánování útoků, vývoj zbraní a operační bezpečnost. Zjištění zveřejněná 11. července 2026 představují dosud nejpodrobnější empirické důkazy o tom, že extremistické skupiny vyzbrojovaly komerčně dostupné nástroje umělé inteligence. Pro průběžné pokrytí bezpečnosti AI a průmyslového vývoje navštivte [AI Buzz Wire] (https://aibuzzwire.news).

Uvnitř Cambridgeské studie

Výzkumník Antonia Jülich provedl 57 rozhovorů s 27 bývalými členy ISIS a jeho regionálními pobočkami, aby zdokumentoval, jak teroristické organizace integrovaly AI do svých operací. Studie zjistila, že ISIS zřídil v obou svých hlavních frakcích specializované jednotky umělé inteligence, které považují velké jazykové modely za základní operační infrastrukturu spíše než za experimentální nástroje.

Podle výzkumu ISIS nabízí rychlý inženýrský a útěk z vězení svým pracovníkům minimálně od roku 2023. Organizace také rozšířila tento výcvik na spojenecké skupiny, včetně velitelů Boko Haram v Nigérii, a naučila je, jak systematicky obcházet bezpečnostní filtry AI nasazené velkými technologickými společnostmi.

Každý hlavní chatbot ohrožen

Studie dokumentuje, že terorističtí agenti ve svých operacích aktivně používají ChatGPT, Claude, Gemini, Grok, Meta AI a DeepSeek. Skupiny využívají AI pro:

  • Plánování útoků – generování taktických scénářů a identifikace zranitelností v cílové infrastruktuře
  • Výbušná konstrukce zařízení – získávání technických informací pro stavbu výkonnějších improvizovaných zařízení
  • Údržba zbraní – odstraňování problémů a opravy střelných zbraní a dalšího vybavení
  • Provozní zabezpečení – vývoj sofistikovanějších komunikačních a šifrovacích strategií

Snad nejvíce alarmující je, že studie zjistila, že bezpečnostní filtry AI nasazené hlavními poskytovateli chatbotů nedokázaly spolehlivě zabránit tomuto zneužití. Výzkumníci poznamenali, že skupiny vyvinuly systematické metody pro obcházení těchto mantinelů, takže dobrovolná bezpečnostní opatření jsou proti odhodlaným protivníkům do značné míry neúčinná.

Smrtící případová studie

Výzkum zahrnuje zvláště pozoruhodný příklad z ISWAP (západní Afrika ISIS). Podle popisu poskytnutého bývalým velitelem ISWAP identifikovaným jako Munzir se skupina pomocí AI naučila replikovat techniku ​​skákání na motorce zobrazenou ve filmu, zamýšlela ji použít k vyčištění obranných zákopů. Cvičení se ukázalo jako katastrofální: osmnáct bojovníků zemřelo při pokusu o manévr, zatímco pouze osm úspěšně dokončilo seskok.

Tato anekdota ilustruje jak skutečné důsledky používání teroristické umělé inteligence, tak někdy nepředvídatelnou povahu informací, které tyto modely poskytují. Zatímco AI možná přesně popsala techniku, fyzické provedení v bojovém prostředí vedlo ke katastrofickým výsledkům.

Jülich píše, že bývalí členové popsali „silné nadšení“ pro nástroje umělé inteligence v rámci organizace, přičemž někteří poznamenali, že skupina dříve zvažovala vývoj zbraní pro hromadné oběti pomocí informací získaných z umělé inteligence. Zatímco používání umělé inteligence Boko Haram dosud zůstalo konvenční, výzkumník varuje, že by se to mělo brát jako časný indikátor širší hrozby.

„Mělo by to být varování, abychom brali vážně riziko teroristů usilujících o pomoc AI pro chemické a biologické zbraně,“ uzavírá studie.

Bezpečnostní filtry se ukázaly jako nedostatečné

Zjištění studie o bezpečnostních filtrech AI jsou zvláště znepokojivá pro technologický průmysl. Navzdory miliardám dolarů investovaným do moderování obsahu, red-teamingu a bezpečnostních zábradlí výzkum ukazuje, že odhodlaní uživatelé mohou tyto ochrany důsledně obcházet.

Sama společnost Antropic již dříve přiznala, že útěky z vězení – techniky pro obcházení bezpečnostních opatření AI – pravděpodobně nebudou nikdy zcela odstraněny z velkých jazykových modelů. Cambridgeská studie poskytuje konkrétní důkazy podporující toto hodnocení a ukazuje, že i nestátní aktéři s omezenými technickými znalostmi se mohou naučit systematicky překonávat bezpečnostní filtry prostřednictvím sdíleného školení a rychlých inženýrských technik.

Vědci však také zaznamenali důležitou nuanci. Univerzální chatboti, jako jsou ChatGPT a Claude, se sice těší největší pozornosti veřejnosti, ale primárně zpřístupňují stávající znalosti spíše než generují skutečně nové nebezpečné informace. Větší dlouhodobá obava spočívá ve specializovaných systémech umělé inteligence vyvíjených pro biologické vědy a další citlivé oblasti, kde by umělá inteligence mohla urychlit přístup ke skutečně novým hrozbám.

Důsledky pro zásady AI

Zjištění Cambridge přichází v kritickém okamžiku pro řízení AI. Vlády po celém světě diskutují o tom, jak regulovat hraniční modely umělé inteligence, přičemž zákon EU o umělé inteligenci již vstoupil v platnost a Spojené státy přijaly dobrovolné bezpečnostní závazky předních laboratoří umělé inteligence.

Studie naznačuje, že současné přístupy zaměřené na dobrovolnou průmyslovou samoregulaci mohou být nedostatečné k tomu, aby zabránily škodlivému používání nástrojů AI. Skutečnost, že ISIS provozuje specializované školicí programy AI po léta, aniž by je poskytovatelé platforem odhalili, vyvolává vážné otázky o účinnosti stávajících bezpečnostních opatření.

Bezpečnostní experti již dlouho varují, že modely umělé inteligence by mohly demokratizovat přístup k nebezpečným znalostem. Cambridgeský výzkum poskytuje dosud nejpřesvědčivější empirický důkaz, že tato hrozba není teoretická, ale již funkční, přičemž teroristické organizace aktivně integrují umělou inteligenci do svých každodenních aktivit.

Zjištění také komplikují pokračující debatu o open-source modelech umělé inteligence. Zatímco proprietární modely jako ChatGPT a Claude mají bezpečnostní filtry, které lze aktualizovat a vylepšovat, alternativy s otevřeným zdrojovým kódem, jako je DeepSeek – které studie potvrzuje, že ISIS také používá – takovou centralizovanou kontrolu nenabízejí. Jakmile je otevřený model uvolněn, nemůže původní vývojář upravit jeho bezpečnostní charakteristiky.

Jak se vlády a společnosti zabývající se umělou inteligencí potýkají s těmito výzvami, Cambridgeská studie objasňuje jednu věc: propast mezi bezpečnostními schopnostmi a nepřátelskými inovacemi se rozšiřuje a teroristické organizace ji aktivně využívají.

Udržujte si náskok před AI

Další informace o bezpečnosti, zásadách a vývoji v oboru AI najdete na AI Buzz Wire.

Přečtěte si další zprávy o AI →