Хакери використовували швидко розвивається хакерську структуру з підтримкою штучного інтелекту під час вторгнення, націленого на аерокосмічний сектор США, повідомляє у понеділок відділ розвідки загроз Google у висновках, опублікованих Nextgov. Інструмент, відомий як Cairn, є загальнодоступним фреймворком тестування на проникнення, пов’язаним із китайською спільнотою безпеки з відкритим кодом, і його поява в живому вторгненні знаменує ще один крок у міграції агентського ШІ з дослідницьких демонстрацій у реальні шпигунські операції.
Google не назвала аерокосмічну організацію, до якої вдалося отримати доступ, не сказала, яка інформація могла бути отримана, і не приписала вторгнення конкретному уряду. Звіт широко охоплює діяльність, спостережувану за останній квартал, і він потрапляє на тлі сучасного охоплення індустрією штучного інтелекту агентних систем, які перепрофільовуються швидше, ніж можуть адаптуватися захисники.
Що можуть зробити Cairn та його кузени
Cairn відрізняється від хакерства за допомогою чат-бота, яке домінувало в попередніх звітах про загрози. Замість того, щоб людина крок за кроком підказувала помічнику зі штучним інтелектом, Cairn використовує агентів зі штучним інтелектом, які обмінюються інформацією один з одним і вирішують, які методи злому використовувати далі, коли вони намагаються проникнути в систему.
Дослідники Google заявили, що інші системи з відкритим вихідним кодом, включаючи ARTEX, CyberStrikeAI і PentAGI, тепер використовуються для «виконання багатоетапних вторгнень з більшою оперативною швидкістю» порівняно з попередніми діями, коли хакери вручну пропонували чат-ботам AI допомогти з окремими кроками. ARTEX був окремо позначений у повідомленні ФБР щодо кібербезпеки, опублікованому в п’ятницю.
Найтривожніше відкриття: повністю автоматизована експлуатація
З квартального звіту виділяється одне відкриття. Дослідники Google виявили, що система зловмисника налаштована на вивчення виправлень програмного забезпечення, розробку атак на основі отриманих даних і виконання цих атак автоматично — без участі людини в циклі. Компанія заявила, що це перший раз, коли її дослідники виявили зловмисників, повністю автоматизувавши цей процес.
Наслідки очевидні: гонка між випуском патчів і використанням може впасти з тижнів на години, створюючи додатковий тиск на організації, які вже намагаються встановити оновлення безпеки, перш ніж злочинці дістануться до них. Hacker News, охоплюючи ті самі висновки, узагальнив техніку, як хакери використовують агенти ШІ для створення та запуску експлойтів безпосередньо з програмних патчів.
«Враховуючи низький бар’єр входу, легкість інтеграції нових експлойтів і величезний потенціал масштабування, ми вважаємо, що дуже ймовірно, що суб’єкти загроз продовжуватимуть використовувати ці фреймворки в кампаніях, націлених на організації по всьому світу», – заявила компанія, згідно з Nextgov.
Китайські команди індустріалізують аналіз; Північнокорейські вербувальники переходять на синтетику
У звіті також детально описано, як пов’язані з державою суб’єкти згортають моделі на різних етапах своїх операцій. Китайські хакерські колективи використовували моделі штучного інтелекту для аналізу вкрадених файлів і створення готових звітів для клієнтів. В одному випадку підрядник використовував штучний інтелект для перекладу та аналізу викраденої інформації, визначення структури цільових організацій і систематизації результатів у звіти розвідки — використовуючи технологію для складної роботи з інтерпретації, яка слідує за крадіжкою, а не за самою крадіжкою.
Google також спостерігав за підозрюваними китайськими оперативниками, які експериментували з автоматизованими хакерськими інструментами, включаючи одну пов’язану з Китаєм групу, яка розробляла власну систему, ймовірно, для використання в шпигунських операціях.
Північнокорейські актори тим часом використовують штучний інтелект, щоб відточити свою соціальну інженерію. Одна група Google відстежує цільові криптовалютні організації в Північній Америці та Європі за допомогою сфабрикованих профілів вербувальників. Фальшиві вербувальники скеровували цілі на підроблені служби зустрічей, де інструкції щодо вирішення передбачуваної технічної проблеми спонукали їх до запуску шкідливого коду.
Опинившись усередині, зловмисники змінили налаштування для Claude Code — помічника кодування штучного інтелекту Anthropic — у сховищах кодів компанії, так що запуск помічника ініціював би завантаження зловмисного програмного забезпечення. Використання довіреного інструменту розробника як зброї означає, що зловмисна дія залежить від інженерів програмного забезпечення, яким вони вже довіряють.
Висновки перегукуються з заявою Міністерства юстиції минулого тижня, спрямованою проти FaceStealer, північнокорейської схеми фальшивих відеодзвінків, пов’язаної з крадіжкою понад 400 мільйонів доларів США, а також судових ухвал щодо понад 1,2 мільярда доларів, викрадених у Binance. Звіт Google не пов’язує свої висновки з жодним із випадків.
Операції впливу також стають більш автоматизованими
Крім шпигунства та фінансових злочинів, Google каже, що операції впливу, пов’язані з Росією, Китаєм та Іраном, тепер регулярно використовують моделі штучного інтелекту для створення контенту та автоматизації його розповсюдження, делегуючи більшу частину роботи з видання себе за звичайних людей в Інтернеті машинам.
Розрив, що збільшується
У сукупності результати окреслюють проблему захисту, яка зростає з кожним випуском з відкритим кодом. Фреймворки тестування на проникнення, такі як Cairn, ARTEX, CyberStrikeAI і PentAGI, є легальними інструментами, створеними спільнотою безпеки та для них, а їх агентська архітектура робить їх справді корисними для червоних команд. Ці ж властивості роблять їх наступальною зброєю під ключ для будь-кого, хто їх завантажує.
Повідомлення Google для захисників – це фактично припущення щодо планування, а не передбачення: припустімо, що наступне вторгнення, з яким ви зіткнулися, було здійснено зі швидкістю машини, у часовий графік, встановлений агентом, який прочитав ваші нотатки про виправлення до того, як ви завершите їх розгортання.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →