Терористичні організації, включаючи ІДІЛ, систематично використовують усі основні чат-боти зі штучним інтелектом для планування атак, розробки зброї та оперативної безпеки, згідно з революційним дослідженням Кембриджської програми з науки та політики щодо штучного інтелекту (CASP). Висновки, опубліковані 11 липня 2026 року, являють собою найдетальніші на сьогодні емпіричні докази того, що екстремістські групи використовували комерційно доступні інструменти штучного інтелекту. Для постійного висвітлення безпеки штучного інтелекту та розвитку галузі відвідайте AI Buzz Wire.

У Кембриджському дослідженні

Дослідниця Антонія Юліх провела 57 інтерв’ю з 27 колишніми членами ІДІЛ та її регіональними філіями, щоб задокументувати, як терористичні організації інтегрували штучний інтелект у свої операції. Дослідження показало, що ІДІЛ створила спеціальні підрозділи ШІ в обох своїх основних фракціях, розглядаючи великі мовні моделі як основну операційну інфраструктуру, а не як експериментальні інструменти.

Згідно з дослідженням, ІДІЛ пропонує своїм оперативникам оперативне навчання інженерам та втечі з в’язниці принаймні з 2023 року. Організація також поширила це навчання на союзні угруповання, зокрема командирів Боко Харам у Нігерії, навчаючи їх систематично обходити фільтри безпеки штучного інтелекту, які встановлюють великі технологічні компанії.

Кожен великий чат-бот зламано

Дослідження підтверджує, що терористи активно використовують ChatGPT, Claude, Gemini, Grok, Meta AI і DeepSeek у своїх операціях. Групи використовують ШІ для:

  • Планування атак — створення тактичних сценаріїв і виявлення вразливостей у цільовій інфраструктурі
  • Конструкція вибухових пристроїв — пошук технічної інформації для створення потужніших саморобних пристроїв
  • Обслуговування зброї — усунення несправностей та ремонт вогнепальної зброї та іншого обладнання
  • Операційна безпека — розробка більш складних стратегій зв’язку та шифрування

Можливо, найбільш тривожним є те, що дослідження виявило, що фільтри безпеки штучного інтелекту, застосовані основними постачальниками чат-ботів, не змогли надійно запобігти цьому зловживанню. Дослідники відзначили, що групи розробили систематичні методи обходу цих огорож, роблячи добровільні заходи безпеки значною мірою неефективними проти рішучих ворогів.

Смертельне прикладне дослідження

Дослідження включає особливо яскравий приклад із ISWAP (західноафриканська провінція ІДІЛ). Згідно з розповіддю, наданою колишнім командиром ISWAP, названим Мунзіром, група використовувала штучний інтелект, щоб навчитися відтворювати техніку стрибків на мотоциклі, зображену у фільмі, з наміром використовувати її для очищення оборонних окопів. Навчання виявилися катастрофічними: вісімнадцять бійців загинули під час спроби маневру, і лише вісім успішно виконали стрибок.

Цей анекдот ілюструє як реальні наслідки використання ШІ терористами, так і іноді непередбачуваний характер інформації, яку надають ці моделі. Хоча ШІ, можливо, точно описав техніку, фізична страта в бойовому середовищі призвела до катастрофічних результатів.

Юліх пише, що колишні члени організації описали «сильний ентузіазм» щодо інструментів штучного інтелекту, причому деякі зазначали, що група раніше розглядала можливість розробки зброї для масових поразок з використанням інформації, отриманої зі штучного інтелекту. У той час як Боко Харам використовує штучний інтелект поки що залишається традиційним, дослідник попереджає, що це слід сприймати як ранній показник ширшої загрози.

«Це повинно бути попередженням про те, щоб серйозно поставитися до ризику того, що терористи шукають допомоги ШІ для хімічної та біологічної зброї», — підсумовується в дослідженні.

Фільтри безпеки виявилися невідповідними

Висновки дослідження щодо фільтрів безпеки ШІ викликають особливе занепокоєння в технологічній галузі. Незважаючи на мільярди доларів, інвестованих у модерацію вмісту, ред-теамінг і захисні огорожі, дослідження показує, що цілеспрямовані користувачі можуть постійно обходити ці засоби захисту.

Сама Anthropic раніше визнавала, що джейлбрейки — методи обходу заходів безпеки штучного інтелекту — ймовірно, ніколи не будуть повністю виключені з великих мовних моделей. Кембриджське дослідження надає конкретні докази, що підтверджують цю оцінку, показуючи, що навіть недержавні суб’єкти з обмеженим технічним досвідом можуть навчитися систематично руйнувати фільтри безпеки шляхом спільного навчання та оперативних інженерних методів.

Однак дослідники відзначили і важливий нюанс. Чат-боти загального призначення, такі як ChatGPT і Claude, хоч і привертають найбільшу увагу громадськості, насамперед роблять наявні знання більш доступними, а не генерують справді нову небезпечну інформацію. Більше довгострокове занепокоєння, стверджують вони, полягає в тому, що спеціалізовані системи ШІ розробляються для наук про життя та інших чутливих областей, де ШІ може прискорити доступ до справді нових загроз.

Наслідки для політики AI

Висновки Кембриджа приходять у критичний момент для управління ШІ. Уряди в усьому світі обговорюють, як регулювати передові моделі штучного інтелекту, оскільки Закон ЄС про штучний інтелект уже набув чинності, а Сполучені Штати дотримуються добровільних зобов’язань щодо безпеки від провідних лабораторій ШІ.

Дослідження показує, що поточні підходи, зосереджені на добровільному саморегулюванні галузі, можуть бути недостатніми для запобігання зловмисному використанню інструментів ШІ. Той факт, що ІДІЛ роками керувала спеціальними навчальними програмами штучного інтелекту, не виявляючи їх постачальниками платформ, викликає серйозні сумніви щодо ефективності існуючих заходів безпеки.

Експерти з безпеки давно попереджають, що моделі ШІ можуть демократизувати доступ до небезпечних знань. Кембриджське дослідження надає найпереконливіші емпіричні докази того, що ця загроза не теоретична, а вже дієва, оскільки терористичні організації активно інтегрують штучний інтелект у свою щоденну діяльність.

Ці висновки також ускладнюють поточну дискусію про моделі ШІ з відкритим кодом. У той час як пропрієтарні моделі, такі як ChatGPT і Claude, мають фільтри безпеки, які можна оновлювати та вдосконалювати, альтернативи з відкритим кодом, такі як DeepSeek, які, як підтверджує дослідження, також використовує ISIS, не пропонують такого централізованого контролю. Після випуску відкритої моделі її характеристики безпеки не можуть бути змінені початковим розробником.

У той час як уряди та компанії зі штучним інтелектом борються з цими проблемами, дослідження Кембриджа чітко пояснює одну річ: розрив між можливостями безпеки та конкурентними інноваціями збільшується, і терористичні організації активно цим користуються.

Будьте попереду ШІ

Щоб дізнатися більше про безпеку штучного інтелекту, політику та розробки галузі, відвідайте AI Buzz Wire.

Читати більше новин AI →