Штучний інтелект робить фішингові шахрайства ефективнішими, і більшість людей не можуть відрізнити приманку, написану штучним інтелектом, від створеної людьми. Це основний висновок нового дослідження Університету Бригама Янга, опублікованого в рецензованому Журналі кібербезпеки та конфіденційності та висвітленого нещодавно на KSL.com і Phys.org.

«Наше дослідження — лише останнє, яке показує, наскільки складним є поточний стан штучного інтелекту», — сказав Джерсон Франсіа, дослідник кібербезпеки BYU, який бере участь у цій роботі, згідно з прес-релізом BYU.

Що зробили дослідники

Дослідження, створене командою BYU і доступне як препринт на arXiv, створило контрольоване порівняння між персоналізованими фішинговими текстовими повідомленнями, створеними GPT-4, і повідомленнями, написаними людьми-новачками — студентами, які пишуть за обмеженням часу — для тих самих 25 цілей.

Кожен учасник отримав набір із 12 персоналізованих повідомлень, створених спеціально для них. Деякі були створені ШІ, деякі написані людьми. Дослідники використовували метод, який вони називають TRAPD — підхід до порогового ранжирування для персоналізованого обману — за яким учасники ранжували повідомлення, вказували точку, на якій вони мали б намір клацнути, пояснювали свої міркування та оцінювали, чи було кожне повідомлення написано людиною чи GPT-4.

Дизайн має значення, оскільки більшість попередніх досліджень фішингу вимірювали результати абстрактно. Він вимірював відповіді на повідомлення, персоналізовані для кожного окремого учасника, саме так працює справжній фішинг.

Більше кліків, відсутність кращого виявлення

Основні цифри: повідомлення, створені за допомогою GPT-4, викликали намір клацати частіше, ніж повідомлення, написані студентами — 28% проти 21% — хоча дослідники відзначають, що ця різниця містить статистичну невизначеність, враховуючи розмір пілотного дослідження.

Більш тривожним результатом є те, що учасники не змогли зробити. Відповідаючи на запитання, чи було повідомлення написано людиною чи згенеровано штучним інтелектом, одержувачі визначили джерело не більш точно, ніж випадково. Іншими словами, додаткова обережність, яку люди, на думку людей, застосовують до машинописного тексту, не виявилася в результатах — учасники дослідження, по суті, підкидали монету щодо авторства.

Дослідження також виявило, що контекст перевершує вміст: повідомлення, пов’язані з проблемами, пов’язаними з роботою, значно частіше викликають намір натиснути, ніж повідомлення, пов’язані з хобі чи соціальними мережами. Для зловмисників це примножує силу, оскільки інформацію про роботу є однією з найлегших особистих даних, які можна знайти в Інтернеті.

Чому приманки, пов’язані з роботою, працюють найкраще

На особливу увагу захисників заслуговує висновок про повідомлення, пов’язані з роботою. Фішинг досягає успіху завдяки персоналізації — повідомлення, у якому згадується ваш роботодавець, ваша посада чи ваші поточні проекти, виглядає легітимним саме тому, що воно конкретне.

Результати BYU показують, що великі мовні моделі різко стискають робочий процес персоналізації. Дослідники пишуть, що те, що колись потребувало годин ручного дослідження та ретельного складання кваліфікованим соціальним інженером, тепер може бути наближено з простих підказок із майже нульовими граничними витратами. Перешкодою для проведення великої персоналізованої кампанії більше не є вміння. Це доступ до чат-бота та цільового списку.

Що це означає для захисників

Практичні наслідки витверезні для команд безпеки. Інформаційні тренінги часто вчать співробітників виявляти незграбні фрази, дивний тон або неприродну мову — розповідають про історично викриті спроби фішингу. Детектор, який покладається на виявлення «роботизованого» письма, тепер є значно ненадійним, оскільки одержувачі в цьому дослідженні взагалі не могли відрізнити повідомлення, написані ШІ, від написаних людиною.

Команда BYU розглядає результати як доказ того, що доступна персоналізація за допомогою ШІ може збільшити практичний масштаб загроз соціальної інженерії. Захисти, які припускають, що дешевий загальний фішинг залишиться нормою, побудовані на припущенні, яке дані більше не підтримують.

Дослідники також підкреслюють обмеження дослідження. Це був 25-цільовий пілот із використанням SMS-повідомлень, у якому були студенти-автори, а не професійні фішери — порівняння, яке, по суті, применшує розрив між результатами ШІ та середньою якістю шахрайства в реальному світі. Команда зазначає, що хоча люди-судді не можуть відрізнити джерела, два набори повідомлень залишаються обчислювально розрізненими, залишаючи простір для автоматизованих підходів виявлення.

Для організацій висновок є процедурним, а не технічним: перевіряйте запити через окремі канали, розглядайте терміновість і пов’язане з роботою оформлення як сигнали ризику, незалежно від того, наскільки витонченим є повідомлення, і припускайте, що добре написане більше не означає написане людиною.

Будьте попереду ШІ

Відстеження того, як ШІ змінює безпеку та суспільство? Читайте більше новин AI на AI Buzz Wire — незалежне висвітлення AI щодня.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →