Президент Південної Кореї Лі Чже Мен заявив у вівторок, що штучний інтелект, схоже, використовувався в хвилі кібератак на фінансовий сектор країни, хакерські атаки, які розкрили дані користувачів у семи фінансових компаніях і спричинили те, що один чиновник описав як «абсолютно новий вид кризи».
Згідно зі звітом Financial Times, президент сказав, що ознаки участі штучного інтелекту в деяких інцидентах «викликають значне занепокоєння та занепокоєння громадськості». Ці зауваження, опубліковані Reuters, New York Times і Wall Street Journal, є одним із найпряміших приписів глави держави, який пов’язує інструменти штучного інтелекту з реальними кібератаками на банки. For more context on this story, see our ongoing AI trends.
Що сталося під час хакерських атак на банк Південної Кореї
Згідно з повідомленням Financial Times, зловмисники, схоже, націлилися на менш безпечні системи, якими керують треті сторони, а не на основні платіжні мережі банків. Під час одного інциденту хакер обійшов перевірку ідентифікаційної інформації на порталі, де кредитні брокери відстежували заявки клієнтів, розкривши особисті дані приблизно 25 000 клієнтів Shinhan Bank.
На даний момент не повідомляється про викрадені кошти, але масштаби оприлюднення даних викликали тривогу фінансових регуляторів Південної Кореї. Чиновник, який добре знайомий із ситуацією, сказав Financial Times, що інциденти являють собою «абсолютно новий вид кризи» для банківської галузі країни.
"Generate AI використовувався для виявлення вразливостей і запуску атаки", - сказав президент, згідно зі звітом. «Справа не в тому, що Південна Корея має слабку кібербезпеку — подібні речі можуть статися будь-де».
Роль Artex, інструменту злому ШІ з відкритим кодом
Дослідники безпеки вважають, що тут міг бути задіяний певний інструмент. Мун Чон Хюн, голова Центру безпеки Genians, заявив минулого тижня, що, схоже, Artex — китайськомовний інструмент із відкритим кодом, який використовує штучний інтелект для пошуку та тестування вразливостей комп’ютерної системи — був задіяний у деяких атаках, повідомляє Financial Times.
У публікації на LinkedIn Мун порівняв Artex з кухонним ножем: інструментом, який може використовувати шеф-кухар для приготування їжі, або «як зброю злочинця». Аналогія відображає дилему подвійного використання, яка оточує інструменти безпеки штучного інтелекту з відкритим кодом, відколи вони почали поширюватися: ті самі можливості, які допомагають захисникам перевіряти власні системи, можуть знизити бар’єр доступу для зловмисників, які перевіряють чужі.
The Wall Street Journal, який також висвітлював цю історію, сформулював використання китайськомовного інструменту штучного інтелекту проти південнокорейських банків як викриття нової категорії ризику для фінансових установ у всьому світі.
Чому системи сторонніх виробників були слабкою стороною
У звітах постійно повторюється те, що скомпрометовані системи не були найзахищенішою інфраструктурою банків. Замість цього зловмисники, як повідомляється, переслідували периферійні, менш безпечні програми, такі як портал кредитних брокерів, де перевірка особи та моніторинг можуть бути слабшими.
Ця модель узгоджується з тим, про що попереджали фахівці з кібербезпеки, оскільки атаки за допомогою штучного інтелекту стають дедалі ефективнішими: автоматизація не обов’язково прориває найсильніший захист, але вона може швидко знаходити та використовувати найслабшу ланку у великій поверхні атаки. Дослідження вразливостей, які колись вимагали дорогої людської праці — картографування додатків, перевірка документації, розуміння потоків автентифікації та неодноразове тестування систем на незвичайну поведінку — тепер можна частково автоматизувати.
Офіційні особи Південної Кореї не сказали, чи приписують вони напади якомусь конкретному актору, і розслідування триває. Офіс президента не одразу оголосив про нові регуляторні заходи у зв’язку з цими зауваженнями, хоча інциденти, ймовірно, посилять перевірку того, як фінансові компанії контролюють сторонні програми, які торкаються даних клієнтів.
Тестовий приклад політики кібербезпеки ШІ
Південнокорейські банківські хакери з’явилися на тлі ширшої глобальної дискусії щодо ШІ та кіберзлочинності. Дослідники безпеки задокументували використання агентів штучного інтелекту для спроб атак на урядові веб-сайти, а лабораторії штучного інтелекту опублікували дослідження нових кіберможливостей у прикордонних моделях — висновки, які викликали заклики до посилення захисту потужних систем штучного інтелекту.
Справу Південної Кореї вирізняє її офіційне оформлення: чинний президент публічно приписує атаки на великі банки методам за допомогою штучного інтелекту та національна дискусія про те, чи достатні існуючі правила кібербезпеки, розроблені для людей-супротивників, для світу, де інструмент з відкритим кодом може автоматизувати виявлення вразливостей.
Для банків та інших регульованих галузей цей інцидент є нагадуванням про те, що їхній периметр безпеки виходить далеко за межі основних систем до постачальників, брокерів і порталів, які їх оточують. Для політиків це ставить питання про те, чи повинні такі інструменти подвійного призначення, як Artex, стикатися з будь-якими обмеженнями на розповсюдження — чи, як показує аналогія Муна з кухонним ножем, увага повинна залишатися на тому, як захищаються системи, а не на самих інструментах.
Поки розслідування триває, увага буде звернена на те, чи запровадить Південна Корея нові вимоги до розкриття інформації або стандарти безпеки для сторонніх фінансових додатків, і чи інші уряди наслідуватимуть цей приклад у офіційному розгляді ролі ШІ в кіберзлочинності.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
