هوش مصنوعی کلاهبرداری های فیشینگ نیزه ای را موثرتر می کند و اکثر مردم نمی توانند تفاوت بین یک فریب نوشته شده با هوش مصنوعی و یک فریب نوشته شده توسط انسان را تشخیص دهند. این یافته اصلی تحقیق جدید دانشگاه بریگام یانگ است که در مجله معتبر امنیت سایبری و حریم خصوصی منتشر شده و در پوشش اخیر KSL.com و Phys.org برجسته شده است.

جرسون فرانسیا، محقق امنیت سایبری BYU که در این کار دخیل است، گفت: «تحقیقات ما آخرین موردی است که نشان می‌دهد وضعیت فعلی هوش مصنوعی چقدر پیچیده است.

کاری که محققان انجام دادند

این مطالعه که توسط یک تیم BYU تالیف شده و به‌عنوان پیش‌چاپ در arXiv در دسترس است، یک مقایسه کنترل‌شده بین پیام‌های متنی فیشینگ شخصی‌شده تولید شده توسط GPT-4 و پیام‌های نوشته‌شده توسط انسان‌های تازه‌کار - دانش‌آموزانی که تحت محدودیت‌های زمانی می‌نویسند - برای همان ۲۵ هدف تنظیم کرد.

شرکت‌کنندگان هر کدام مجموعه‌ای از ۱۲ پیام شخصی‌شده را دریافت کردند که به‌طور خاص برای آنها ساخته شده بود. برخی از آنها توسط هوش مصنوعی و برخی توسط انسان نوشته شده بودند. محققان از روشی استفاده کردند که آن را TRAPD می نامند - رویکرد رتبه بندی آستانه برای فریب شخصی - که بر اساس آن شرکت کنندگان پیام ها را رتبه بندی کردند، نقطه ای را که قصد کلیک روی آن را داشتند نشان دادند، استدلال خود را توضیح دادند و قضاوت کردند که آیا هر پیام توسط یک شخص نوشته شده است یا توسط GPT-4.

طراحی مهم است زیرا اکثر مطالعات فیشینگ قبلی نتایج را به صورت انتزاعی اندازه گیری می کردند. این یکی پاسخ‌ها به پیام‌های شخصی‌سازی شده برای هر شرکت‌کننده را اندازه‌گیری کرد، که دقیقاً نحوه عملکرد واقعی فیشینگ نیزه است.

کلیک بیشتر، بدون تشخیص بهتر

اعداد سرفصل: پیام‌های تولید شده توسط GPT-4 تمایل به کلیک بیشتر از پیام‌های نوشته شده توسط دانش‌آموزان را برانگیخت - 28٪ در مقابل 21٪ - اگرچه محققان خاطرنشان می‌کنند که این تفاوت با توجه به اندازه مطالعه آزمایشی، عدم قطعیت آماری دارد.

نتیجه ناراحت کننده تر، کاری است که شرکت کنندگان نتوانستند انجام دهند. هنگامی که از گیرندگان پرسیده شد که آیا پیامی توسط یک انسان نوشته شده است یا توسط هوش مصنوعی تولید شده است، گیرندگان منبع را دقیق تر از شانس شناسایی کردند. به عبارت دیگر، احتیاط مضاعفی که افراد بر این باورند که برای متن‌های ماشین‌نویسی اعمال می‌کنند، در نتایج نشان داده نشد - شرکت‌کنندگان در مطالعه اساساً بر روی تألیف سکه‌ها ورق می‌زدند.

این مطالعه همچنین نشان داد که زمینه بر محتوا برتری می‌یابد: پیام‌هایی که حول موضوعات مرتبط با شغل قاب‌بندی شده‌اند، به طور قابل‌توجهی بیشتر از پیام‌های مرتبط با سرگرمی‌ها یا رسانه‌های اجتماعی، تمایل به کلیک کردن را تحریک می‌کنند. برای مهاجمان، این یک افزایش دهنده نیرو است، زیرا جزئیات استخدام جزو ساده ترین اطلاعات شخصی برای یافتن آنلاین هستند.

چرا فریب های مرتبط با شغل بهترین کار را دارند

یافته های مربوط به پیام های مربوط به کار مستحق توجه ویژه مدافعان است. Spear phishing از طریق شخصی‌سازی موفق می‌شود - پیامی که به کارفرما، نقش شما یا پروژه‌های فعلی شما اشاره می‌کند، دقیقاً به این دلیل که خاص است، مشروع است.

نتایج BYU نشان می‌دهد که مدل‌های زبان بزرگ آن گردش کار شخصی‌سازی را به‌طور چشمگیری فشرده می‌کنند. محققان می نویسند که آنچه زمانی به ساعت ها تحقیق دستی و تهیه پیش نویس دقیق توسط یک مهندس اجتماعی ماهر نیاز داشت، اکنون می تواند از طریق اعلان های ساده با هزینه نهایی تقریباً صفر برآورد شود. مانع برای اجرای یک کمپین بزرگ و شخصی شده دیگر مهارت نیست. این دسترسی به یک چت بات و یک لیست هدف است.

چه معنایی برای مدافعان دارد

پیامدهای عملی برای تیم های امنیتی نگران کننده است. آموزش آگاهی اغلب به کارمندان می‌آموزد که عبارات ناهنجار، لحن عجیب و غریب یا زبان غیرطبیعی را تشخیص دهند - این نشان می‌دهد که تلاش‌های فیشینگ از نظر تاریخی در معرض دید قرار گرفته‌اند. ردیاب‌ای که به تشخیص نوشته‌های «رباتیک» متکی است، اکنون به‌طور قابل‌توجهی غیرقابل اعتماد است، زیرا گیرندگان در این مطالعه اصلاً نمی‌توانستند پیام‌های نوشته‌شده با هوش مصنوعی را از پیام‌های نوشته‌شده توسط انسان تشخیص دهند.

تیم BYU یافته‌ها را به عنوان شواهدی مبنی بر اینکه شخصی‌سازی با کمک هوش مصنوعی در دسترس ممکن است مقیاس عملی تهدیدات مهندسی اجتماعی را افزایش دهد، قاب‌بندی می‌کند. دفاع‌هایی که فرض می‌کنند فیشینگ ارزان و عمومی به عنوان یک هنجار باقی می‌مانند، بر این فرض ساخته شده‌اند که داده‌ها دیگر پشتیبانی نمی‌کنند.

محققان همچنین بر محدودیت های مطالعه تاکید می کنند. این یک آزمایش 25 هدف بود که از پیام‌های اس ام اس استفاده می‌کرد، با نویسندگان دانشجو به جای فیشرهای حرفه‌ای - مقایسه‌ای که در هر صورت، شکاف بین خروجی هوش مصنوعی و میانگین کیفیت کلاهبرداری در دنیای واقعی را کمتر نشان می‌دهد. این تیم خاطرنشان می کند که در حالی که قضات انسانی نمی توانند منابع را از هم جدا کنند، این دو مجموعه پیام از نظر محاسباتی قابل تشخیص باقی ماندند و فضایی را برای رویکردهای تشخیص خودکار باقی گذاشتند.

برای سازمان‌ها، پیشنهاد به جای فنی رویه‌ای است: درخواست‌ها را از طریق کانال‌های جداگانه تأیید کنید، فوریت‌ها و چارچوب‌های مرتبط با شغل را بدون توجه به اینکه پیام چقدر صیقلی خوانده می‌شود، به عنوان سیگنال‌های خطر در نظر بگیرید، و فرض کنید که خوب نوشته شدن دیگر به معنای نوشته‌شده توسط انسان نیست.

از هوش مصنوعی جلوتر بمانید

ردیابی چگونه هوش مصنوعی در حال تغییر شکل امنیت و جامعه است؟ اطلاعات بیشتر اخبار هوش مصنوعی در AI Buzz Wire — پوشش مستقل هوش مصنوعی، هر روز.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →