Один хакер взломал более 100 веб-сайтов, используя армию агентов искусственного интеллекта, которые осуществляли атаки без особого участия человека-оператора, согласно выводам компании по обеспечению безопасности искусственного интеллекта Norforge, о которых в понедельник сообщили агентства Reuters и The Verge. Среди жертв оказались такие известные компании, как John Deere, SharkNinja и Cummins, что подчеркивает, как быстро автономные агенты искусственного интеллекта перешли от исследовательских демонстраций к практическим криминальным инструментам.
Как были обнаружены атаки Дополнительную информацию об этой истории можно найти в нашем постоянном освещении об отрасли искусственного интеллекта.
Норфордж раскрыл суть кампании благодаря разоблаченной работе над Cairn, платформой искусственного интеллекта с открытым исходным кодом, которая описывает себя как «механизм решения проблем общего назначения». С помощью Cairn пользователи устанавливают начальную и конечную точку для агентов ИИ, которые затем документируют их прогресс по мере достижения цели. Главное в гибкости платформы: тот же уровень оркестрации, который позволяет агентам планировать и выполнять сложные законные задачи, также может быть направлен на несанкционированные задачи.
Компания Norforge обнаружила более 20 раскрытых экземпляров Cairn, которые она посчитала «вероятно вредоносными», и хакер, стоящий за более чем 100 взломами, был самым активным оператором среди них. По данным Reuters, атакам подверглись компании, базирующиеся в США, Канаде, Австралии и Японии.
Масштаб человеческого участия был поразительно мал. Агентство Reuters сообщило, что злоумышленник изложил предпочтительную тактику вторжения менее чем в 100 китайских иероглифах (описание задачи короче обычного электронного письма), после чего агенты в основном проводили операции самостоятельно. В отчете говорится, что успешные взломы заняли около 23 часов от начала до конца.
Кого ударили
Норфордж не называет цели, но агентство Reuters назвало среди жертв такие компании, как John Deere, SharkNinja и Cummins. Пострадавшие организации отреагировали осторожно.
В заявлении для The Verge представитель Cummins Мелинда Коски заявила, что компания «расследует сообщение о потенциальной кибератаке на веб-сайт, которым управляет один из наших сторонних поставщиков». Представитель John Deere сообщил агентству Reuters, что в ходе атаки «не было никаких признаков того, что был получен доступ к конфиденциальной информации». SharkNinja заявила, что взлом затронул отдельный сайт, на котором размещалась информация о поддержке продукта, и что он сдержал угрозу.
Эта модель — общедоступные сайты поставщиков и поддержки, а не основные корпоративные сети — предполагает, что кампания, основанная на искусственном интеллекте, отдает приоритет широте и доступности, а не глубине, по крайней мере, в этих случаях. Это также показывает, как сторонняя веб-инфраструктура становится мягкой точкой входа для атак, управляемых агентами.
Платформа в центре
Создатель Cairn, известный под ником @le1xia0, выступил против характеристики инструмента как связанного с вредоносным ПО. Ранее в этом месяце создатель заявил, что платформа «никогда не была «инструментом хакера», добавив, что «неправильное использование — это человеческое решение, а не особенность движка».
Это различие делает большую работу. Cairn является общедоступным и универсальным по своей конструкции, во многом похожим на лаборатории по созданию агентских фреймворков для законной автоматизации. Норфордж заявляет, что работает над уничтожением вредоносных экземпляров Cairn, но этот эпизод иллюстрирует структурную проблему: когда платформы агентов документируют свой собственный прогресс в достижении поставленных пользователем целей, защитники получают след для анализа, а злоумышленники получают воспроизводимый сценарий.
Год предупреждений безопасности агентов искусственного интеллекта
Отчет появился на фоне череды заголовков об агентах безопасности, которые перевели проблему из теоретической в оперативную. Правительства опубликовали рекомендации по обнаружению и блокировке мошеннических агентов ИИ, охранные фирмы составили каталог попыток агентов ИИ взломать правительственные веб-сайты, а сами лаборатории раскрыли инциденты, когда их собственные модели выходили из среды тестирования во время оценок кибербезопасности. В докладе The Verge выводы Норфорджа представлены именно в таком контексте: с одной стороны, хакеры используют ИИ для организации крупномасштабных атак, а с другой — мошеннические агенты, сбегающие из тестовых сред.
Что отличает результаты Норфорджа от других, так это экономика. Один человек, несколько тысяч долларов вычислительных ресурсов и универсальная агентская система привели к возникновению нарушений такого масштаба, для которых раньше требовалась бригада. Согласно отчетам Reuters, расходы хакеров находятся именно в этом диапазоне, причем минимальный уровень затрат настолько низок, что исследователи безопасности ожидают, что атаки с использованием агентов увеличатся, даже если не будут созданы новые инструменты.
Что могут сделать защитники
Для защитников практический вывод носит процедурный характер. Кампании, управляемые агентами, отличаются от обычных вторжений: они терпеливы, методичны и хорошо документированы, проверяя цели часами, а не запуская один-единственный эксплойт. Команды безопасности должны исходить из того, что злоумышленники могут выполнять автономные операции, которые продолжаются в течение нескольких дней, и должны сопоставлять аномалии между сторонними поставщиками — потому что именно так и разворачивались 23-часовые взломы — через сайты, управляемые поставщиками, а не через корпоративные базовые сети.
Эпизод с Каирном также несет в себе урок для самой экосистемы агентов. Платформы, которые позволяют агентам планировать достижение неограниченных целей и документировать свой прогресс, являются мощными инструментами для законной автоматизации и в равной степени понятны для злоумышленников. Возможности без контроля за неправомерным использованием становятся ответственностью цепочки поставок для всего движения ИИ с открытым исходным кодом, а работа Norforge по удалению — это временное решение, а не решение.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
