Европейская комиссия, исполнительная власть Европейского Союза, в октябре подверглась кибератаке, которая была осуществлена с использованием искусственного интеллекта и нарушила работу внутренних служб более чем на десять дней, подтвердил чиновник на этой неделе. Агентство Associated Press сообщило, что атака на руководителя ЕС была осуществлена с помощью инструмента искусственного интеллекта, что является одним из наиболее важных публично раскрытых случаев использования искусственного интеллекта в атаке на правительственное учреждение на сегодняшний день.
Что случилось Подробнее об этой истории — в нашем последние разработки в ИИ.
По данным Associated Press, атака произошла в октябре и использовала общедоступный инструмент искусственного интеллекта, известный как ARTEX. Вторжение вынудило Комиссию отключить внутренние приложения, включая кадровые ресурсы и системы расчета заработной платы, которые обслуживают десятки тысяч ее сотрудников. Techzine сообщил, что в результате кибератаки были отключены кадровые системы Комиссии, а издание Hromadske и испанская Escudo Digital сообщили, что внутренние службы оставались затронутыми более десяти дней.
Комиссия заявляет, что ей удалось сдержать большую часть вторжений, сообщает Escudo Digital, но следователи все еще работают над выяснением того, были ли скомпрометированы личные данные, принадлежащие сотрудникам. Euronews охарактеризовал инцидент как крупномасштабную кибератаку, масштабы которой пока неизвестны, а Digital Watch Observatory сообщила, что в результате атаки могли быть раскрыты значительные объемы личных данных. Ни один злоумышленник публично не назван, и Комиссия не приписала операцию какому-либо государству или группе.
Почему важны детали ARTEX
Что отличает этот инцидент, так это не цель (институты ЕС регулярно проверяются), а инструменты. ARTEX — это общедоступный инструмент искусственного интеллекта, и его использование показывает, как быстро наступательные возможности, которые когда-то требовались элитным командам, распространяются в широко доступное программное обеспечение. CyberSecurityNews сообщила, что хакеры атаковали Европейскую комиссию с помощью инструмента искусственного интеллекта ARTEX, что она охарактеризовала как крупную кибератаку, а Times of India отметила, что раскрытие информации произошло как раз в тот момент, когда ФБР предупреждало о кибероперациях с помощью искусственного интеллекта, а предупреждения Бюро об инструментах искусственного интеллекта вновь оказались в центре внимания после взлома.
Для ЕС такая символика неудобна. Блок потратил годы на создание одной из самых обширных в мире нормативных рамок для цифровых технологий, от GDPR до Закона об искусственном интеллекте, и позиционировал себя как мировой законодатель правил в области искусственного интеллекта. Тот факт, что один из ее основных институтов был нарушен на десять дней в результате атаки с использованием общедоступного инструмента искусственного интеллекта, подчеркивает разрыв между регулированием искусственного интеллекта и защитой от его неправильного использования.
Расследование и открытые вопросы
Несколько важных вопросов остаются без ответа. Комиссия не сообщила, как злоумышленники получили первоначальный доступ, использовался ли инструмент ARTEX для организации самого вторжения, для автоматизации разведки или создания убедительных приманок — лишь то, что атака была осуществлена с его помощью. Компания также не подтвердила, действительно ли персональные данные сотрудников покинули ее сети, как сообщает Euronews, оценка все еще продолжается.
Продолжительность перерыва примечательна сама по себе. Платформы расчета заработной платы и управления персоналом имеют решающее значение для учреждения, в котором работают десятки тысяч человек по всему Брюсселю и десятки национальных офисов, и их отключение более десяти дней предполагает либо постоянные усилия по выселению злоумышленников, либо преднамеренный карантин для предотвращения горизонтального перемещения — решение, которое отдает приоритет сдерживанию, а не непрерывности. Румынское издание Informat.ro сообщило, что внутренние приложения были отключены лишь временно, что соответствует поэтапному восстановлению, при котором системы возвращаются постепенно по мере проверки их чистоты.
Раскрытие также произошло на фоне более широкой нестабильности, связанной с искусственным интеллектом, в критических системах. Украинские СМИ сообщили на этой неделе, что искусственный интеллект, возможно, был косвенно причастен к серии крупномасштабных сбоев в ИТ в Соединенных Штатах, а в отдельных сообщениях обнаруженные ИИ уязвимости связаны с недавними сбоями в установке исправлений — закономерность, которая сделала операции, управляемые ИИ, постоянной темой на брифингах по безопасности по обе стороны Атлантики.
Предупреждающий выстрел для учреждений во всем мире
Аналитики безопасности в течение последних двух лет предупреждали, что генеративный ИИ снизит барьер для сложных операций — автоматизирует исследование уязвимостей, разрабатывает убедительный масштабный фишинг и ускоряет каждый этап вторжения. Инцидент с Комиссией является самым ярким публичным подтверждением того, что это происходит против важных правительственных целей, с использованием инструментов, которые может скачать каждый. Собственная система агентств ЕС по кибербезопасности, построенная на основе ENISA и директивы NIS2 по безопасности критической инфраструктуры, теперь сталкивается с испытаниями, о которых регуляторы в основном писали, а не испытали на себе.
До сих пор ответом было сдерживание, а не возмездие или называние. Поскольку расследование продолжается, это дело, скорее всего, станет предметом обостряющихся политических дебатов по обе стороны Атлантики об атаках с использованием ИИ на правительственные системы и о том, нужны ли общедоступные мощные инструменты ИИ для защиты, которые регуляторы до сих пор сосредоточивали на применении к коммерческим моделям, а не к злоумышленникам.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →