Согласно новаторскому исследованию Кембриджской программы по науке и политике в области искусственного интеллекта (CASP), террористические организации, включая ИГИЛ, систематически используют каждого крупного чат-бота с искусственным интеллектом для планирования атак, разработки оружия и оперативной безопасности. Результаты, опубликованные 11 июля 2026 года, представляют собой наиболее подробные на сегодняшний день эмпирические доказательства того, что экстремистские группы используют в качестве оружия коммерчески доступные инструменты искусственного интеллекта. Для постоянного освещения вопросов безопасности ИИ и развития отрасли посетите AI Buzz Wire.

Внутри Кембриджского исследования

Исследователь Антония Юлих провела 57 интервью с 27 бывшими членами ИГИЛ и его региональных филиалов, чтобы задокументировать, как террористические организации интегрировали ИИ в свои операции. Исследование показало, что ИГИЛ создало специальные подразделения ИИ в обеих своих основных группировках, рассматривая большие языковые модели как основную операционную инфраструктуру, а не как экспериментальные инструменты.

Согласно исследованию, ИГИЛ предлагает своим боевикам оперативную инженерную подготовку и обучение побегу из тюрьмы, по крайней мере, с 2023 года. Организация также распространила это обучение на союзные группировки, в том числе на командиров «Боко Харам» в Нигерии, обучая их систематическому обходу фильтров безопасности искусственного интеллекта, развернутых крупными технологическими компаниями.

Каждый крупный чат-бот скомпрометирован

Исследование документально подтверждает, что террористы активно используют ChatGPT, Claude, Gemini, Grok, Meta AI и DeepSeek в своих операциях. Группы используют ИИ для:

  • Планирование атак — создание тактических сценариев и выявление уязвимостей в целевой инфраструктуре.
  • Конструкция взрывных устройств — поиск технической информации для создания более мощных самодельных устройств.
  • Техническое обслуживание оружия — устранение неисправностей и ремонт огнестрельного оружия и другого оборудования.
  • Эксплуатационная безопасность — разработка более сложных стратегий связи и шифрования.

Пожалуй, самое тревожное то, что исследование показало, что фильтры безопасности искусственного интеллекта, используемые крупными поставщиками чат-ботов, не смогли надежно предотвратить такое злоупотребление. Исследователи отметили, что группы разработали систематические методы обхода этих препятствий, что делает добровольные меры безопасности в значительной степени неэффективными против решительных противников.

Смертельный пример

Исследование включает особенно яркий пример из ISWAP (провинция Западной Африки, принадлежащая ИГИЛ). Согласно сообщению бывшего командира ISWAP, известного как Мунзир, группа использовала искусственный интеллект, чтобы научиться воспроизводить технику прыжков на мотоцикле, показанную в фильме, намереваясь использовать ее для расчистки оборонительных траншей. Учения оказались катастрофическими: восемнадцать истребителей погибли при попытке маневра, и только восемь успешно совершили прыжок.

Этот анекдот иллюстрирует как реальные последствия использования ИИ террористами, так и порой непредсказуемый характер информации, которую предоставляют эти модели. Хотя ИИ, возможно, точно описал технику, физическое исполнение в боевой обстановке привело к катастрофическим результатам.

Юлих пишет, что бывшие члены организации описали «сильный энтузиазм» по поводу инструментов искусственного интеллекта, при этом некоторые отмечают, что группа ранее рассматривала возможность разработки оружия массового поражения с использованием информации, полученной от искусственного интеллекта. Хотя использование ИИ Боко Харам до сих пор остается традиционным, исследователь предупреждает, что это следует воспринимать как ранний индикатор более широкой угрозы.

«Это должно быть предупреждением о необходимости серьезно отнестись к риску, связанному с тем, что террористы преследуют помощь ИИ в создании химического и биологического оружия», - делается вывод в исследовании.

Фильтры безопасности оказались неадекватными

Результаты исследования по фильтрам безопасности AI особенно важны для технологической отрасли. Несмотря на миллиарды долларов, вложенные в модерацию контента, красные команды и меры безопасности, исследования показывают, что решительные пользователи могут постоянно обходить эти меры защиты.

Сама Anthropic ранее признавала, что джейлбрейки — методы обхода мер безопасности ИИ — скорее всего, никогда не будут полностью исключены из больших языковых моделей. Кембриджское исследование предоставляет конкретные доказательства, подтверждающие эту оценку, показывая, что даже негосударственные субъекты с ограниченными техническими знаниями могут научиться систематически преодолевать фильтры безопасности посредством совместного обучения и оперативных инженерных методов.

Однако исследователи также отметили важный нюанс. Чат-боты общего назначения, такие как ChatGPT и Claude, хотя и привлекают наибольшее внимание общественности, в первую очередь делают существующие знания более доступными, а не генерируют действительно новую опасную информацию. Более серьезная долгосрочная проблема, по их мнению, заключается в разработке специализированных систем ИИ для наук о жизни и других чувствительных областей, где ИИ может ускорить доступ к действительно новым угрозам.

Последствия для политики в области ИИ

Выводы Кембриджа приходятся на критический момент для управления ИИ. Правительства во всем мире обсуждают, как регулировать передовые модели искусственного интеллекта: Закон ЕС об искусственном интеллекте уже вступил в силу, а Соединенные Штаты выполняют добровольные обязательства по безопасности от ведущих лабораторий искусственного интеллекта.

Исследование предполагает, что нынешние подходы, ориентированные на добровольное саморегулирование отрасли, могут оказаться недостаточными для предотвращения злонамеренного использования инструментов ИИ. Тот факт, что ИГИЛ в течение многих лет проводило специальные программы обучения искусственному интеллекту, которые не были обнаружены поставщиками платформ, поднимает серьезные вопросы об эффективности существующих мер безопасности.

Эксперты по безопасности уже давно предупреждают, что модели ИИ могут демократизировать доступ к опасным знаниям. Кембриджское исследование предоставило наиболее убедительные эмпирические доказательства того, что эта угроза не является теоретической, а уже действует: террористические организации активно интегрируют ИИ в свою повседневную деятельность.

Полученные результаты также усложняют продолжающиеся дебаты о моделях ИИ с открытым исходным кодом. В то время как запатентованные модели, такие как ChatGPT и Claude, имеют фильтры безопасности, которые можно обновлять и улучшать, альтернативы с открытым исходным кодом, такие как DeepSeek, которые, как подтверждает исследование, также использует ИГИЛ, не предлагают такого централизованного контроля. После выпуска открытой модели ее характеристики безопасности не могут быть изменены первоначальным разработчиком.

Пока правительства и компании, занимающиеся искусственным интеллектом, борются с этими проблемами, Кембриджское исследование проясняет одну вещь: разрыв между возможностями безопасности и состязательными инновациями увеличивается, и террористические организации активно этим пользуются.

Будьте впереди ИИ

Для получения дополнительной информации о безопасности, политике и отраслевых разработках в области искусственного интеллекта посетите [AI Buzz Wire] (https://aibuzzwire.news).

Подробнее новости AI →