Відповідно до звіту Kyodo News, оприлюдненого The Straits Times та іншими виданнями, міжнародне розслідування під керівництвом вищого координаційного органу Японії з кібербезпеки виявило приблизно 1000 серверів, підозрюваних у тому, що вони служать точками запуску передових кібератак, керованих ШІ. Японський координаційний центр реагування на комп’ютерні надзвичайні ситуації (JPCERT/CC) провів розслідування разом із закордонними фірмами з кібербезпеки та розпочав розслідування на початку жовтня. Зараз він відстежує від 600 до 700 із цих серверів.
Це відкриття є одним із найяскравіших сигналів того, що хакерство за допомогою ШІ перейшло від експерименту до інфраструктури. Зловмисники більше не просто запитують поради у чат-ботів — вони підтримують виділені сервери, на яких цілодобово працюють інструменти ШІ. Для продовження [безпеки AI] (https://aibuzzwire.news) і аналізу того, як штучний інтелект змінює ландшафт загроз, AI Buzz Wire стежить за важливими розслідуваннями.
Що слідчі знайшли на серверах
Згідно зі звітом, розслідування виявило, що зловмисники використовували сервери для розгортання інструментів штучного інтелекту, які сканують вразливості системи та націлюються на веб-сайти по всьому світу. Більшість серверів розміщували інструменти на базі штучного інтелекту, включаючи платформу тестування на проникнення під назвою Artex, які використовувалися для пошуку слабких місць і спроб викрасти конфігураційні файли.
Деякі загальнодоступні сервери також містили програми для тестування вразливостей системи та інструменти для аналізу внутрішньої структури додатків для смартфонів. За словами дослідників, зловмисники використовували ці інструменти для спроби несанкціонованого доступу через інтерфейси, які обмінюються інформацією із зовнішніми системами — API та службами, які з’єднують сучасні програми із зовнішнім світом.
Одна деталь впала в очі дослідникам: на одному з серверів дослідники виявили сліди інструменту підтримки програмування, створеного американською компанією штучного інтелекту Anthropic, що свідчить про те, що зловмисники використовують основні інструменти розробників, щоб розширити їхні можливості злому, згідно зі звітом Kyodo.
Наявність основного інструментарію розробника для інфраструктури зловмисників підкреслює структурну проблему штучного інтелекту подвійного призначення. Система, оптимізована для написання коду або зондування мереж, не знає, чи є її оператор захисником чи зловмисником, і коли використання переходить на інфраструктуру, як ці сервери, видимість, на яку покладаються постачальники та дослідники, значною мірою зникає.
AI знижує планку для вступу
Поява передового ШІ знижує технічні бар’єри для кіберзлочинців, спрощуючи злом навіть для людей без спеціальних знань, підсумували дослідники. «Хакінг, який раніше вимагав часу навіть для тих, хто володіє спеціальними знаннями, став легшим із появою ШІ високого рівня», — зазначається у звіті.
Аналітики з кібербезпеки, цитовані в матеріалі, заявили, що кібератаки за допомогою ШІ залишаються на ранній стадії, але попередили, що загроза може швидко зростати. «Більш витончені атаки збільшаться в майбутньому», — сказав Кен Саджо, аналітик JPCERT/CC. Іншими словами, рано, але вже організовано — і вже працює в масштабі невеликої хостингової операції.
Попередження узгоджується з паралельним розвитком у Сполучених Штатах. У звіті, опублікованому в п’ятницю, Nacionale описав, як Artex — та сама платформа для тестування на проникнення, яка є на більшості серверів під час очолюваного Японією зонду — спочатку була створена, щоб допомогти організаціям перевірити власні мережі на наявність слабких місць, але ФБР каже, що тепер зловмисники перетворили її на інструмент для злому.
Інструменти подвійного призначення, реальні наслідки
Шаблон, який описує JPCERT, — це дилема подвійного використання індустрії безпеки, яка розгортається в масштабі Інтернету. Платформи тестування на проникнення існують тому, що організаціям потрібно знайти власні недоліки раніше, ніж це зроблять злочинці. Той самий інструмент, направлений назовні, автоматизує розвідку, сканування вразливостей і атаки за обліковими даними на будь-кого з відкритим інтерфейсом.
Сервери в дослідженні ілюструють другу тенденцію: зловмисники ставляться до інструментів штучного інтелекту як до звичайної інфраструктури — піднімають їх, викривають, а в деяких випадках неправильно конфігурують настільки погано, що слідчі можуть спостерігати, як вони працюють відкрито. Завдяки цій видимості опитування стало можливим, і воно дає захисникам рідкісне вікно в те, як організовані ці операції. Той факт, що за серверами спостерігали з жовтня, також свідчить про постійні операції, а не про одноразові експерименти — інфраструктуру, яка надається, підтримується та замінюється в міру виявлення, що є більш характерним для відомих злочинних операцій, ніж для опортуністичних осіб.
Для організацій практичні наслідки є негайними. У звіті йдеться, що сервери використовувалися для пошуку вразливостей і викрадення конфігураційних файлів, які часто містять облікові дані та деталі внутрішньої мережі. Зміцнення кінцевих точок API, обмеження адміністративних інтерфейсів, ротація відкритих секретів і моніторинг для автоматичного сканування є захисною базовою лінією, на яку вказують висновки.
Розслідування JPCERT/CC триває, і агентство заявляє, що продовжить відстежувати ідентифіковані сервери. Більш масштабне питання — як керувати інструментами, які одночасно є продуктами безпеки та зброєю для атаки — зараз ставиться в залах судів, залах засідань і, як показує це дослідження, приблизно на тисячі серверів по всьому світу.
Будьте попереду ШІ
Від передових моделей до передових загроз, історія ШІ рухається швидко. Будьте попереду AI з висвітленням AI Buzz Wire важливих подій.
Читати більше новин AI →