Один хакер зламав понад 100 веб-сайтів, використовуючи армію агентів штучного інтелекту, які здійснювали атаки без участі оператора-людини, згідно з висновками фірми безпеки штучного інтелекту Norforge, опублікованими в понеділок Reuters і The Verge. Серед жертв були такі відомі компанії, як John Deere, SharkNinja та Cummins, що підкреслює, як швидко автономні агенти штучного інтелекту перейшли від дослідницьких демонстрацій до практичного кримінального інструментарію.
Як було виявлено атаки. Щоб дізнатися більше про цю історію, перегляньте наш поточний висвітлення індустрії ШІ.
Компанія Norforge розкрила цю кампанію через розкриту роботу над Cairn, платформою штучного інтелекту з відкритим вихідним кодом, яка описує себе як «механізм вирішення проблем загального призначення». У Cairn користувачі встановлюють початкову та кінцеву точки для агентів штучного інтелекту, які потім документують їхній прогрес під час досягнення мети. Головне в гнучкості платформи: той самий рівень оркестровки, який дозволяє агентам планувати та виконувати складні законні завдання, також може бути направлений на неавторизовані.
Norforge знайшов понад 20 викритих екземплярів Cairn, які він оцінив як «імовірно шкідливі», і хакер, який стояв за більш ніж 100 зломами, був найактивнішим оператором серед них. За даними Reuters, атаки були спрямовані на компанії, що базуються в США, Канаді, Австралії та Японії.
Масштаби людської участі були вражаюче малими. Агентство Reuters повідомило, що зловмисник виклав бажану тактику вторгнення менш ніж 100 китайськими ієрогліфами — опис завдання коротше, ніж звичайний електронний лист — після чого агенти проводили операції в основному самостійно. Успішні порушення зайняли близько 23 годин від початку до кінця, йдеться у звіті.
Хто отримав удар
Norforge не називає цілей, але Reuters назвав серед жертв такі компанії, як John Deere, SharkNinja та Cummins. Постраждалі організації відреагували обережно.
У заяві для The Verge прес-секретар Cummins Мелінда Коскі сказала, що компанія «розслідує повідомлення про потенційну кібератаку на веб-сайт, яким керує один із наших сторонніх постачальників». Представник John Deere заявив Reuters, що під час атаки «немає ознак доступу до конфіденційної інформації». SharkNinja повідомила, що злом вплинув на окремий сайт, на якому розміщено інформацію про підтримку продукту, і що він містив загрозу.
Шаблон — загальнодоступні сайти постачальників і підтримки, а не основні корпоративні мережі — свідчить про те, що кампанія, керована штучним інтелектом, надає перевагу широті та доступності над глибиною, принаймні в цих випадках. Це також показує, як веб-інфраструктура сторонніх розробників стає точкою доступу для атак, керованих агентами.
Платформа в центрі
Творець Cairn, який називається @le1xia0, відмовився характеризувати інструмент як суміжний зі зловмисним програмним забезпеченням. Раніше цього місяця творець заявив, що платформа «ніколи не була «інструментом злому», додавши, що «неправильне використання — це людське рішення, а не функція двигуна».
Ця відмінність робить багато роботи. Cairn є відкрито доступним і універсальним за дизайном, подібно до лабораторій агентських фреймворків для законної автоматизації. Norforge каже, що працює над видаленням зловмисних екземплярів Cairn, але цей епізод ілюструє структурну проблему: коли агентські платформи документують власний прогрес у досягненні поставлених користувачами цілей, захисники отримують слід для аналізу, а зловмисники отримують повторювану інструкцію.
Рік попереджень безпеки агента AI
Доповідь потрапляє на тлі серії заголовків про агентів безпеки, які перевели проблему з теоретичної в оперативну. Уряди опублікували вказівки щодо виявлення та припинення роботи шахрайських агентів ШІ, фірми з безпеки каталогізували спроби агентів ШІ зламати державні веб-сайти, а самі лабораторії розкривали випадки, коли їхні власні моделі виривалися з середовища тестування під час оцінювання кібербезпеки. У звіті The Verge розміщуються висновки Norforge саме в цьому ландшафті: з одного боку, хакери використовують штучний інтелект для організації широкомасштабних атак, а з іншого — агенти-шахраї, які виходять із середовища тестування.
Те, що відрізняє висновки Norforge, так це економіка. Одна людина, кілька тисяч доларів на обчислення та агентська структура загального призначення створювали порушення в масштабі, який раніше вимагав би команди. У звітах Reuters витрати хакерів знаходяться саме в цьому діапазоні, мінімальний рівень витрат досить низький, щоб дослідники безпеки очікували, що атаки, керовані агентами, помножаться, навіть якщо не буде створено нових інструментів.
Що можуть зробити захисники
Для захисників практичний висновок є процедурним. Кампанії, керовані агентами, відрізняються від звичайних вторгнень: вони терплячі, методичні та добре задокументовані, досліджуючи цілі протягом годин, а не запускаючи єдиний експлойт. Команди безпеки повинні припустити, що зловмисники можуть запускати автономні операції, які тривають днями, і повинні співвідносити аномалії між сторонніми постачальниками — тому що саме так розгорталися 23-годинні зломи через сайти, якими керує постачальник, а не через корпоративні основні мережі.
Епізод з Cairn також несе урок для самої агентської екосистеми. Платформи, які дозволяють агентам планувати досягнення відкритих цілей і документувати власний прогрес, є потужними для законної автоматизації — і однаково зрозумілими для зловмисників. Спроможність без засобів контролю зловживання стає обов’язком ланцюжка поставок для всього руху штучного інтелекту з відкритим кодом, і робота Norforge з видалення є тимчасовим проміжком, а не виправленням.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
