Jak wynika z przełomowego badania przeprowadzonego w ramach Cambridge Program on AI Science and Policy (CASP), organizacje terrorystyczne, w tym ISIS, systematycznie wykorzystują każdy większy chatbot AI do planowania ataków, opracowywania broni i zapewniania bezpieczeństwa operacyjnego. Wyniki opublikowane 11 lipca 2026 r. stanowią najbardziej szczegółowy jak dotąd dowód empiryczny na to, że grupy ekstremistyczne wykorzystują dostępne na rynku narzędzia sztucznej inteligencji. Aby uzyskać bieżące informacje na temat bezpieczeństwa sztucznej inteligencji i rozwoju branży, odwiedź AI Buzz Wire.

Wewnątrz badania Cambridge

Badaczka Antonia Jülich przeprowadziła 57 wywiadów z 27 byłymi członkami ISIS i jego regionalnymi oddziałami, aby udokumentować, w jaki sposób organizacje terrorystyczne włączają sztuczną inteligencję do swoich operacji. Badanie wykazało, że ISIS utworzyło wyspecjalizowane jednostki AI w ramach obu swoich głównych frakcji, traktując duże modele językowe jako podstawową infrastrukturę operacyjną, a nie narzędzia eksperymentalne.

Według badań ISIS zapewnia swoim agentom szybkie szkolenia w zakresie inżynierii i ucieczki z więzienia co najmniej od 2023 r. Organizacja rozszerzyła to szkolenie również na grupy sojusznicze, w tym dowódców Boko Haram w Nigerii, ucząc ich, jak systematycznie omijać filtry bezpieczeństwa sztucznej inteligencji stosowane przez duże firmy technologiczne.

Każdy większy chatbot został naruszony

Badanie pokazuje, że agenci terrorystyczni aktywnie wykorzystują w swoich operacjach ChatGPT, Claude, Gemini, Grok, Meta AI i DeepSeek. Grupy wykorzystują sztuczną inteligencję do:

  • Planowanie ataku — generowanie scenariuszy taktycznych i identyfikacja podatności w docelowej infrastrukturze
  • Konstrukcja urządzeń wybuchowych — pozyskiwanie informacji technicznych do budowy improwizowanych urządzeń o większej mocy
  • Konserwacja broni — rozwiązywanie problemów i naprawa broni palnej i innego sprzętu
  • Bezpieczeństwo operacyjne — opracowywanie bardziej wyrafinowanych strategii komunikacji i szyfrowania

Być może najbardziej niepokojące jest to, że badanie wykazało, że filtry bezpieczeństwa AI stosowane przez głównych dostawców chatbotów nie zapobiegają w sposób niezawodny tym nadużyciom. Badacze zauważyli, że grupy opracowały systematyczne metody omijania tych poręczy, przez co dobrowolne środki bezpieczeństwa są w dużej mierze nieskuteczne w przypadku zdeterminowanych przeciwników.

Zabójcze studium przypadku

Badanie obejmuje szczególnie uderzający przykład z ISWAP (Prowincja Afryki Zachodniej ISIS). Według relacji dostarczonej przez byłego dowódcę ISWAP zidentyfikowanego jako Munzir, grupa wykorzystała sztuczną inteligencję, aby nauczyć się odtworzyć technikę skoków na motocyklu przedstawioną w filmie, chcąc wykorzystać ją do oczyszczenia okopów obronnych. Ćwiczenia szkoleniowe okazały się katastrofalne: osiemnastu zawodników zginęło podczas wykonywania manewru, a tylko ośmiu pomyślnie ukończyło skok.

Ta anegdota ilustruje zarówno rzeczywiste konsekwencje stosowania sztucznej inteligencji przez terrorystów, jak i czasami nieprzewidywalny charakter informacji dostarczanych przez te modele. Chociaż sztuczna inteligencja mogła dokładnie opisać tę technikę, fizyczne wykonanie w środowisku bojowym doprowadziło do katastrofalnych skutków.

Jülich pisze, że byli członkowie opisali „duży entuzjazm” dla narzędzi sztucznej inteligencji w organizacji, a niektórzy zauważyli, że grupa rozważała wcześniej opracowanie broni masowego ofiarowania z wykorzystaniem informacji pochodzących ze sztucznej inteligencji. Choć wykorzystanie sztucznej inteligencji przez Boko Haram jak dotąd pozostaje konwencjonalne, badacz ostrzega, że ​​należy to traktować jako wczesny wskaźnik szerszego zagrożenia.

„To powinno być ostrzeżenie, aby poważnie traktować ryzyko, że terroryści będą szukać pomocy AI w zakresie broni chemicznej i biologicznej” – podsumowuje badanie.

Filtry bezpieczeństwa okazują się niewystarczające

Wyniki badania dotyczące filtrów bezpieczeństwa AI są szczególnie niepokojące dla branży technologicznej. Pomimo miliardów dolarów zainwestowanych w moderację treści, tworzenie zespołów red-team i barierki zabezpieczające, badanie pokazuje, że zdeterminowani użytkownicy mogą konsekwentnie omijać te zabezpieczenia.

Sama firma Anthropic przyznała już wcześniej, że jailbreaki – techniki obchodzenia zabezpieczeń związanych ze sztuczną inteligencją – prawdopodobnie nigdy nie zostaną całkowicie wyeliminowane z dużych modeli językowych. Badanie Cambridge dostarcza konkretnych dowodów potwierdzających tę ocenę, pokazując, że nawet podmioty niepaństwowe posiadające ograniczoną wiedzę techniczną mogą nauczyć się systematycznie pokonywać filtry bezpieczeństwa dzięki wspólnym szkoleniom i szybkim technikom inżynieryjnym.

Jednak badacze zauważyli również ważny niuans. Chatboty ogólnego przeznaczenia, takie jak ChatGPT i Claude, choć cieszą się największym zainteresowaniem opinii publicznej, przede wszystkim zwiększają dostępność istniejącej wiedzy, zamiast generować naprawdę nowe niebezpieczne informacje. Twierdzą, że większym problemem długoterminowym jest opracowywanie wyspecjalizowanych systemów sztucznej inteligencji na potrzeby nauk przyrodniczych i innych wrażliwych dziedzin, w których sztuczna inteligencja mogłaby przyspieszyć dostęp do rzeczywiście nowych zagrożeń.

Konsekwencje dla polityki dotyczącej sztucznej inteligencji

Ustalenia z Cambridge docierają do krytycznego momentu dla zarządzania sztuczną inteligencją. Rządy na całym świecie debatują nad tym, jak uregulować pionierskie modele sztucznej inteligencji, biorąc pod uwagę już obowiązującą unijną ustawę o sztucznej inteligencji, a Stany Zjednoczone wywiązują się z dobrowolnych zobowiązań w zakresie bezpieczeństwa ze strony wiodących laboratoriów zajmujących się sztuczną inteligencją.

Badanie sugeruje, że obecne podejście skupiające się na dobrowolnej samoregulacji branży może być niewystarczające, aby zapobiec złośliwemu wykorzystaniu narzędzi sztucznej inteligencji. Fakt, że ISIS od lat prowadzi dedykowane programy szkoleniowe w zakresie sztucznej inteligencji bez wykrycia przez dostawców platform, rodzi poważne pytania dotyczące skuteczności istniejących środków bezpieczeństwa.

Eksperci ds. bezpieczeństwa od dawna ostrzegają, że modele sztucznej inteligencji mogą zdemokratyzować dostęp do niebezpiecznej wiedzy. Badanie Cambridge dostarcza najbardziej przekonujących dowodów empirycznych jak dotąd na to, że zagrożenie to nie jest teoretyczne, ale już operacyjne, a organizacje terrorystyczne aktywnie włączają sztuczną inteligencję do swoich codziennych działań.

Odkrycia komplikują również toczącą się debatę na temat modeli sztucznej inteligencji typu open source. Chociaż zastrzeżone modele, takie jak ChatGPT i Claude, mają filtry bezpieczeństwa, które można aktualizować i ulepszać, alternatywy typu open source, takie jak DeepSeek – z którego badanie potwierdza również ISIS – nie oferują takiej scentralizowanej kontroli. Po wydaniu otwartego modelu jego właściwości bezpieczeństwa nie mogą być modyfikowane przez pierwotnego twórcę.

Badanie Cambridge jasno pokazuje, że w miarę jak rządy i firmy zajmujące się sztuczną inteligencją zmagają się z tymi wyzwaniami, jedno jest jasne: przepaść między możliwościami w zakresie bezpieczeństwa a kontradyktoryjnymi innowacjami powiększa się, a organizacje terrorystyczne aktywnie ją wykorzystują.

Wyprzedź sztuczną inteligencję

Więcej informacji na temat bezpieczeństwa sztucznej inteligencji, polityki i rozwoju branży można znaleźć na stronie AI Buzz Wire.

Przeczytaj więcej aktualności o sztucznej inteligencji →