Хакеры использовали быстро развивающуюся хакерскую систему, поддерживаемую искусственным интеллектом, для взлома, нацеленного на аэрокосмический сектор США, сообщило в понедельник подразделение Google по анализу угроз в результатах, опубликованных Nextgov. Инструмент, известный как Cairn, представляет собой общедоступную платформу для тестирования на проникновение, связанную с китайским сообществом безопасности с открытым исходным кодом, и его появление в реальном вторжении знаменует собой еще один шаг в миграции агентного ИИ из исследовательских демонстраций в реальные шпионские операции.

Google не назвал аэрокосмическую организацию, к которой был получен доступ, не сообщил, какая информация могла быть получена, и не приписал вторжение конкретному правительству. В отчете широко освещается деятельность, наблюдавшаяся за последний квартал, и он составлен на фоне сегодняшнего освещения в отрасли искусственного интеллекта агентных систем, которые перепрофилируются быстрее, чем защитники могут адаптироваться.

Что могут сделать Каирн и его родственники

Cairn отличается от взлома с помощью чат-ботов, который доминировал в более ранних сообщениях об угрозах. Вместо того, чтобы человек шаг за шагом подсказывал помощнику ИИ, Каирн использует агентов ИИ, которые обмениваются информацией друг с другом и решают, какие методы взлома попробовать дальше, пытаясь проникнуть в систему.

Исследователи Google заявили, что другие системы с открытым исходным кодом, в том числе ARTEX, CyberStrikeAI и PentAGI, в настоящее время используются для «выполнения многоэтапных вторжений с большей оперативной скоростью» по сравнению с более ранними действиями, когда хакеры вручную запрашивали чат-ботов с искусственным интеллектом для помощи в отдельных шагах. ARTEX был отдельно отмечен в рекомендациях ФБР по кибербезопасности, опубликованных в пятницу.

Самый тревожный вывод: полностью автоматизированная эксплуатация

Одно открытие выделяется из ежеквартального отчета. Исследователи Google обнаружили, что система злоумышленника настроена на изучение исправлений программного обеспечения, разработку атак на основе полученных знаний и автоматическое выполнение этих атак — без участия человека в цикле. Компания заявила, что впервые ее исследователи выявили злоумышленников, полностью автоматизировавших этот процесс.

Последствия очевидны: гонка между выпусками обновлений и их эксплуатацией может превратиться из нескольких недель в часы, оказывая дополнительное давление на организации, которые уже изо всех сил пытаются установить обновления безопасности до того, как к ним доберутся преступники. Газета Hacker News, освещающая те же выводы, резюмировала технику использования хакерами агентов ИИ для создания и запуска эксплойтов непосредственно из исправлений программного обеспечения.

«Учитывая низкий порог входа, простоту интеграции новых эксплойтов и огромный потенциал масштабирования, мы считаем весьма вероятным, что злоумышленники будут продолжать использовать эти платформы в кампаниях, нацеленных на организации по всему миру», — заявили в компании, согласно Nextgov.

Китайские команды индустриализируют анализ; Северокорейские рекрутеры используют синтетический подход

В докладе также подробно описывается, как связанные с государством субъекты внедряют модели на разных этапах своей деятельности. Китайские хакерские коллективы использовали модели искусственного интеллекта для анализа украденных файлов и подготовки готовых разведывательных отчетов для клиентов. В одном случае подрядчик использовал ИИ для перевода и анализа украденной информации, выяснения структуры целевых организаций и организации результатов в разведывательные отчеты — используя технологию для сложной работы по интерпретации, которая следует за кражей, а не самой кражей.

Google также заметил, что подозреваемые китайские боевики экспериментируют с автоматизированными хакерскими инструментами, в том числе одна группа, связанная с Китаем, разрабатывает собственную систему, вероятно, для использования в шпионских операциях.

Тем временем северокорейские актеры используют ИИ для оттачивания своей социальной инженерии. Одна группа Google отслеживает целевые криптовалютные организации в Северной Америке и Европе, используя сфабрикованные профили рекрутеров. Фальшивые рекрутеры направляли жертв на поддельные службы встреч, где инструкции по устранению предполагаемой технической проблемы заставляли их запускать вредоносный код.

Оказавшись внутри, злоумышленники изменили настройки Claude Code — помощника по кодированию искусственного интеллекта от Anthropic — в репозиториях кода компании, так что запуск помощника приводил к загрузке вредоносного ПО. Использование надежного инструмента разработчика в качестве оружия означает, что вредоносные действия будут направлены на инженеров-программистов, которым уже доверяют.

Полученные данные перекликаются с заявлением Министерства юстиции на прошлой неделе, касающимся FaceStealer, северокорейской схемы фальшивых видеозвонков, связанной с кражей более 400 миллионов долларов, а также постановлениями суда, охватывающими более 1,2 миллиарда долларов, украденных у Binance. Отчет Google не связывает свои выводы ни с одним из случаев.

Операции влияния также станут более автоматизированными

Помимо шпионажа и финансовых преступлений, Google заявил, что операции по оказанию влияния, связанные с Россией, Китаем и Ираном, теперь регулярно используют модели искусственного интеллекта для создания контента и автоматизации его распространения, делегируя большую часть работы по выдаче себя за обычных людей в Интернете машинам.

Растущий разрыв

В совокупности полученные результаты обрисовывают защитную проблему, которая растет с каждым выпуском открытого исходного кода. Платформы тестирования на проникновение, такие как Cairn, ARTEX, CyberStrikeAI и PentAGI, являются легальными инструментами, созданными сообществом безопасности и для них, а их агентная архитектура делает их действительно полезными для красных команд. Те же свойства делают их готовым наступательным оружием для любого, кто их скачает.

Послание Google защитникам по сути является предположением планирования, а не прогнозом: предположим, что следующее вторжение, с которым вы столкнулись, было выполнено на скорости машины, в сроки, установленные агентом, который прочитал ваши примечания к исправлениям до того, как вы завершили их развертывание.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →