IBM опубликовала свой последний отчет о стоимости утечки данных, в котором показано, что каждое четвертое злонамеренное взлом в настоящее время осуществляется с помощью искусственного интеллекта, при этом средняя стоимость утечки данных достигает примерно 6 миллионов долларов за инцидент.

Результаты, опубликованные в IBM Newsroom 29 июля и опубликованные изданиями Network World, Cybersecurity Dive и Security Boulevard, рисуют суровую картину того, как искусственный интеллект меняет ландшафт угроз кибербезопасности. Организации, отслеживающие [развития отрасли искусственного интеллекта] (https://aibuzzwire.news), найдут в отчете отрезвляющее напоминание о том, что одна и та же технология, способствующая повышению производительности, одновременно вооружает противников.

Цифры, стоящие за угрозой

Согласно исследованию IBM, 25 процентов злонамеренных нарушений безопасности в настоящее время в той или иной степени связаны с искусственным интеллектом — будь то посредством автоматических фишинговых кампаний, вредоносных программ, созданных искусственным интеллектом, или крупномасштабного подброса учетных данных с помощью машинного обучения. Network World сообщила, что только за последний год количество атак с использованием ИИ увеличилось на 56 процентов, и эта цифра подчеркивает быстрое внедрение инструментов ИИ злоумышленниками.

По данным отчета Network World, средняя стоимость утечки данных выросла примерно до 6 миллионов долларов, что на 12 процентов больше, чем в прошлом году. ASIS International подтвердила среднюю стоимость в 6 миллионов долларов, отметив, что атаки с использованием искусственного интеллекта помогают поднять затраты на взломы до новых максимумов.

Cybersecurity Dive подробно остановился на последствиях, сообщив, что неуправляемое внедрение ИИ на предприятиях создает совершенно новые категории рисков, хотя и повышает операционную эффективность. В отчете говорится, что организации, развертывающие инструменты искусственного интеллекта без надлежащего управления безопасностью, непреднамеренно расширяют зону своих атак.

Критическая инфраструктура под прицелом

Один из наиболее тревожных выводов касается атак на критически важную инфраструктуру. Stock Titan сообщил, что 62 процента атак с использованием искусственного интеллекта были направлены против критически важных секторов инфраструктуры, включая энергетику, здравоохранение, финансовые услуги и государственные системы.

Такая концентрация атак на основные службы отражает стратегический расчет злоумышленников: организации критической инфраструктуры часто хранят конфиденциальные данные, используют устаревшие системы, которые труднее защитить, и сталкиваются с серьезными последствиями простоев, что увеличивает вероятность того, что они будут платить выкуп или страдать от длительных сбоев.

TradingView сообщил о канадском аспекте, отметив, что затраты на утечку данных в этой стране достигли рекордного уровня, поскольку атаки все чаще нацелены на критическую инфраструктуру. BNN Bloomberg подтвердил аналогичные тенденции в освещении выводов IBM.

Как ИИ меняет поверхность атаки

В отчете IBM подчеркивается несколько способов, которыми ИИ усиливает киберугрозы:

Автоматизированная социальная инженерия

Инструменты на базе искусственного интеллекта могут генерировать весьма убедительные фишинговые электронные письма, фальшивые голосовые вызовы и синтетические идентификационные данные в таком масштабе и сложности, с которыми с трудом могут справиться традиционные тренинги по повышению осведомленности о безопасности. Network World отметила, что 56-процентное увеличение числа атак с использованием ИИ напрямую коррелирует с распространением доступных инструментов генеративного ИИ.

Ускоренная эксплуатация

Системы искусственного интеллекта могут быстро сканировать уязвимости, тестировать цепочки эксплойтов и автоматизировать начальные этапы атаки, сокращая время между взломом и кражей данных. В отчете IBM говорится, что ИИ сокращает традиционные сроки атак, давая защитникам меньше времени на обнаружение и реагирование.

Уклонение и запутывание

Вредоносное ПО на базе искусственного интеллекта может адаптировать свое поведение в режиме реального времени, чтобы избежать обнаружения традиционными инструментами безопасности, что затрудняет выявление вредоносной активности платформами защиты конечных точек и системами обнаружения вторжений.

Ответ предприятия

Отчет IBM появился в период повышенной обеспокоенности по поводу безопасности ИИ в технологической отрасли. Выводы получены наряду с другими недавними инцидентами безопасности, включая самораспространяющегося ИИ-червя, продемонстрированного в Microsoft Copilot for Word, и мошеннического ИИ-агента, который использовал уязвимости после взлома Hugging Face, — которые подчеркнули реальные последствия неадекватных мер безопасности ИИ.

Security Boulevard отмечает, что в отчете IBM говорится о резком всплеске кибератак, осуществляемых с помощью ИИ, при этом компания призывает организации внедрять системы безопасности, ориентированные на ИИ, а не полагаться на устаревшие средства защиты. IBM рекомендует внедрять программы управления ИИ, проводить регулярные оценки безопасности систем ИИ и инвестировать в возможности обнаружения и реагирования, предназначенные для противодействия угрозам с использованием ИИ.

В докладе также подчеркивается важность международного сотрудничества и обмена информацией, особенно в связи с тем, что атаки с использованием искусственного интеллекта все чаще пересекают национальные границы и нацелены на важнейшую инфраструктуру, совместно используемую несколькими странами.

Предупреждение об эпохе искусственного интеллекта

Выводы IBM представляют собой важнейшую точку данных в продолжающихся дебатах о безопасности ИИ. Поскольку организации стремятся развернуть инструменты искусственного интеллекта для получения конкурентного преимущества, последствия для безопасности становится невозможно игнорировать. Поскольку каждое четвертое нарушение в настоящее время связано с искусственным интеллектом, а средние затраты постоянно растут, финансовое обоснование надежных инвестиций в безопасность искусственного интеллекта никогда не было более ясным.

В докладе также поднимаются вопросы о балансе между оборонительными и наступательными приложениями ИИ. Злоумышленникам доступны те же возможности искусственного интеллекта, которые могут обнаруживать угрозы и автоматизировать реагирование на инциденты, и данные IBM показывают, что злоумышленники в настоящее время могут иметь преимущество.

Будьте впереди ИИ

Дополнительную информацию о безопасности и этике искусственного интеллекта можно найти на AI Buzz Wire, где рассказывается о рисках и преимуществах искусственного интеллекта.

Читать больше новостей об искусственном интеллекте →