Согласно отчету Kyodo News, опубликованному The Straits Times и другими изданиями, международное расследование, проведенное высшим координационным органом кибербезопасности Японии, выявило около 1000 серверов, подозреваемых в том, что они служат отправными точками для продвинутых кибератак с использованием искусственного интеллекта. Координационный центр группы реагирования на компьютерные чрезвычайные ситуации Японии (JPCERT/CC) провел расследование совместно с зарубежными фирмами по кибербезопасности и начал расследование в начале октября. В настоящее время он отслеживает от 600 до 700 таких серверов.
Это открытие является одним из самых ярких сигналов того, что хакерство с помощью ИИ перешло от эксперимента к инфраструктуре. Злоумышленники больше не просто просят совета у чат-ботов — они создают выделенные серверы, на которых круглосуточно работают инструменты искусственного интеллекта. Для продолжения освещения о безопасности искусственного интеллекта и анализа того, как искусственный интеллект меняет ландшафт угроз, AI Buzz Wire следит за важными расследованиями.
Что следователи нашли на серверах
Согласно отчету, расследование показало, что злоумышленники использовали серверы для развертывания инструментов искусственного интеллекта, которые сканируют системы на наличие уязвимостей и нацелены на веб-сайты по всему миру. На большинстве серверов размещались инструменты на основе искусственного интеллекта, в том числе платформа для тестирования на проникновение Artex, которая использовалась для поиска слабых мест и попыток кражи файлов конфигурации.
Некоторые общедоступные серверы также содержали программы для тестирования уязвимостей системы и инструменты для анализа внутренней структуры приложений смартфонов. Следователи заявили, что злоумышленники использовали эти инструменты для попытки несанкционированного доступа через интерфейсы, которые обмениваются информацией с внешними системами — API и сервисы, которые соединяют современные приложения с внешним миром.
Одна деталь привлекла внимание исследователей: на одном из серверов следователи обнаружили следы инструмента поддержки программирования, созданного американской компанией по искусственному интеллекту Anthropic, что позволяет предположить, что злоумышленники используют основные инструменты разработчиков для расширения своих хакерских возможностей, согласно отчету Kyodo.
Наличие основных инструментов разработчиков в инфраструктуре злоумышленников подчеркивает структурную проблему ИИ двойного назначения. Система, оптимизированная для написания кода или проверки сетей, не знает, является ли ее оператор защитником или злоумышленником, и как только использование переходит на инфраструктуру, подобную этим серверам, видимость, на которую полагаются поставщики и исследователи, в значительной степени исчезает.
ИИ снижает планку входа
Появление продвинутого искусственного интеллекта снижает технические барьеры для киберпреступников, делая взлом проще даже для людей без специальных знаний, заключили в расследовании. «Взлом, который раньше требовал времени даже для тех, кто обладал специальными знаниями, стал проще с появлением ИИ высокого уровня», — отмечается в отчете.
Аналитики по кибербезопасности, цитируемые в репортаже, говорят, что кибератаки с помощью ИИ остаются на ранней стадии, но предупредили, что угроза может быстро вырасти. «В будущем число более изощренных атак будет увеличиваться», — сказал Кен Саджо, аналитик JPCERT/CC. Другими словами, рано, но уже организовано — и уже работает в масштабах небольшой хостинговой компании.
Это предупреждение согласуется с параллельным развитием событий в Соединенных Штатах. В отчете, опубликованном в пятницу, Nacionale описала, как Artex — та же самая платформа для тестирования на проникновение, которая была обнаружена на большинстве серверов в расследовании, проводимом японцами, — изначально была создана, чтобы помочь организациям проверять свои собственные сети на наличие слабых мест, но ФБР утверждает, что злоумышленники теперь превратили ее в инструмент для взлома.
Инструменты двойного назначения, реальные последствия
Модель, которую описывает JPCERT, представляет собой дилемму двойного назначения индустрии безопасности, возникающую в масштабах Интернета. Платформы для тестирования на проникновение существуют потому, что организациям необходимо найти свои собственные недостатки раньше, чем это сделают преступники. Тот же инструментарий, направленный наружу, автоматизирует разведку, сканирование уязвимостей и атаки на учетные данные против любого, у кого есть открытый интерфейс.
Серверы, участвующие в расследовании, иллюстрируют вторую тенденцию: злоумышленники обращаются с инструментами искусственного интеллекта как с обычной инфраструктурой: выставляют их напоказ, подвергают их воздействию и в некоторых случаях настолько неправильно настраивают их, что следователи могут наблюдать, как они работают в открытом доступе. Именно эта наглядность сделала исследование возможным и дает правозащитникам редкую возможность увидеть, как организованы эти операции. Тот факт, что за серверами наблюдают с октября, также предполагает постоянные операции, а не разовые эксперименты — инфраструктура создается, обслуживается и заменяется по мере ее обнаружения, что более характерно для организованных преступных операций, чем для оппортунистических отдельных лиц.
Для организаций практические последствия очевидны. В отчете говорится, что серверы использовались для поиска уязвимостей и кражи файлов конфигурации, которые часто содержат учетные данные и данные внутренней сети. Усиление защиты конечных точек API, ограничение административных интерфейсов, ротация раскрытых секретов и мониторинг автоматического сканирования — вот базовый уровень защиты, на который указывают результаты.
Расследование JPCERT/CC продолжается, и агентство заявляет, что продолжит отслеживать выявленные им серверы. Более масштабный вопрос — как управлять инструментами, которые одновременно являются продуктами безопасности и оружием для атак — сейчас задается в залах судов, залах заседаний и, как показывает это расследование, примерно на тысяче серверов по всему миру.
Будьте впереди ИИ
От передовых моделей до передовых угроз — история ИИ развивается быстро. Будьте впереди ИИ благодаря репортажу AI Buzz Wire о важных событиях.
Читать больше новостей об искусственном интеллекте →