कृत्रिम बुद्धिमत्ता स्पीयर फ़िशिंग घोटालों को और अधिक प्रभावी बना रही है, और अधिकांश लोग एआई-लिखित लालच और मानव-लिखित लालच के बीच अंतर नहीं बता सकते हैं। यह ब्रिघम यंग यूनिवर्सिटी के नए शोध का मुख्य निष्कर्ष है, जिसे पीयर-रिव्यू जर्नल ऑफ़ साइबर सिक्योरिटी एंड प्राइवेसी में प्रकाशित किया गया है और KSL.com और Phys.org द्वारा हालिया कवरेज में उजागर किया गया है।
BYU की समाचार विज्ञप्ति के अनुसार, इस काम में शामिल BYU साइबर सुरक्षा शोधकर्ता जेरसन फ्रांसिया ने कहा, "हमारा शोध यह दिखाने के लिए नवीनतम है कि AI की वर्तमान स्थिति कितनी परिष्कृत है।"
शोधकर्ताओं ने क्या किया
BYU टीम द्वारा लिखित और arXiv पर प्रीप्रिंट के रूप में उपलब्ध अध्ययन, GPT-4 द्वारा उत्पन्न वैयक्तिकृत फ़िशिंग टेक्स्ट संदेशों और मानव नौसिखियों द्वारा लिखे गए संदेशों - समय की कमी के तहत लिखने वाले छात्रों - के बीच समान 25 लक्ष्यों के लिए एक नियंत्रित तुलना स्थापित करता है।
प्रत्येक प्रतिभागियों को विशेष रूप से उनके लिए तैयार किए गए 12 वैयक्तिकृत संदेशों का एक सेट प्राप्त हुआ। कुछ AI-जनित थे, कुछ मानव-लिखित थे। शोधकर्ताओं ने एक विधि का उपयोग किया जिसे वे TRAPD कहते हैं - वैयक्तिकृत धोखे के लिए थ्रेसहोल्ड रैंकिंग दृष्टिकोण - जिसके तहत प्रतिभागियों ने संदेशों को रैंक किया, उस बिंदु को इंगित किया जिस पर वे क्लिक करना चाहते हैं, उनके तर्क को समझाया, और निर्णय लिया कि क्या प्रत्येक संदेश किसी व्यक्ति द्वारा लिखा गया था या GPT-4 द्वारा।
डिज़ाइन मायने रखता है क्योंकि पहले के अधिकांश फ़िशिंग अध्ययनों ने परिणामों को संक्षेप में मापा था। इसने प्रत्येक व्यक्तिगत प्रतिभागी के लिए वैयक्तिकृत संदेशों की प्रतिक्रियाओं को मापा, जो वास्तव में वास्तविक स्पीयर फ़िशिंग कैसे काम करती है।
अधिक क्लिक, कोई बेहतर पहचान नहीं
शीर्षक संख्या: GPT-4-जनित संदेशों ने छात्र-लिखित संदेशों की तुलना में अधिक बार क्लिक करने का इरादा पैदा किया - 28% बनाम 21% - हालांकि शोधकर्ताओं ने ध्यान दिया कि अंतर पायलट अध्ययन के आकार को देखते हुए सांख्यिकीय अनिश्चितता रखता है।
इससे भी अधिक परेशान करने वाला परिणाम वह है जो प्रतिभागी नहीं कर सके। जब पूछा गया कि क्या कोई संदेश मानव द्वारा लिखा गया था या एआई द्वारा उत्पन्न किया गया था, तो प्राप्तकर्ताओं ने स्रोत की पहचान संयोग से अधिक सटीक रूप से नहीं की। दूसरे शब्दों में, लोगों का मानना है कि वे मशीन-लिखित पाठ पर जो अतिरिक्त सावधानी बरतते हैं, वह परिणामों में दिखाई नहीं दी - अध्ययन प्रतिभागी अनिवार्य रूप से लेखकत्व पर सिक्का उछाल रहे थे।
अध्ययन में यह भी पाया गया कि संदर्भ सामग्री को मात देता है: शौक या सोशल मीडिया से जुड़े संदेशों की तुलना में नौकरी से संबंधित मामलों के आसपास तैयार किए गए संदेशों में क्लिक करने के इरादे को ट्रिगर करने की काफी अधिक संभावना थी। हमलावरों के लिए, यह एक बल गुणक है, क्योंकि रोजगार विवरण ऑनलाइन प्राप्त करने वाली सबसे आसान व्यक्तिगत जानकारी में से एक है।
नौकरी से संबंधित लालच सबसे अच्छा क्यों काम करते हैं
कार्य-संबंधी संदेशों का निष्कर्ष रक्षकों के विशेष ध्यान देने योग्य है। स्पीयर फ़िशिंग वैयक्तिकरण के माध्यम से सफल होती है - एक संदेश जो आपके नियोक्ता, आपकी भूमिका, या आपकी वर्तमान परियोजनाओं का संदर्भ देता है वह सटीक रूप से वैध लगता है क्योंकि यह विशिष्ट है।
BYU परिणाम बताते हैं कि बड़े भाषा मॉडल उस वैयक्तिकरण वर्कफ़्लो को नाटकीय रूप से संपीड़ित करते हैं। शोधकर्ताओं ने लिखा है कि एक कुशल सामाजिक इंजीनियर द्वारा घंटों तक मैन्युअल शोध और सावधानीपूर्वक प्रारूप तैयार करने की आवश्यकता अब लगभग शून्य सीमांत लागत पर सरल संकेतों से लगाई जा सकती है। एक बड़ा, वैयक्तिकृत अभियान चलाने में बाधा अब कौशल नहीं रह गई है। यह एक चैटबॉट और लक्ष्य सूची तक पहुंच है।
रक्षकों के लिए इसका क्या अर्थ है
व्यावहारिक निहितार्थ सुरक्षा टीमों के लिए गंभीर हैं। जागरूकता प्रशिक्षण अक्सर कर्मचारियों को अजीब वाक्यांशों, अजीब लहजे या अप्राकृतिक भाषा को पहचानना सिखाता है - यह बताता है कि ऐतिहासिक रूप से फ़िशिंग प्रयासों को उजागर किया गया है। एक डिटेक्टर जो "रोबोटिक" लेखन का पता लगाने पर निर्भर करता है, अब मापने योग्य रूप से अविश्वसनीय है, क्योंकि इस अध्ययन में प्राप्तकर्ता एआई-लिखित को मानव-लिखित संदेशों से बिल्कुल भी अलग नहीं कर सके।
BYU टीम ने निष्कर्षों को सबूत के रूप में तैयार किया है कि सुलभ एआई-सहायता वैयक्तिकरण सामाजिक-इंजीनियरिंग खतरों के व्यावहारिक पैमाने को बढ़ा सकता है। बचाव जो मानते हैं कि सस्ता, सामान्य फ़िशिंग आदर्श बना रहेगा, एक धारणा पर बनाया गया है कि डेटा अब समर्थन नहीं करता है।
शोधकर्ता अध्ययन की सीमाओं पर भी जोर देते हैं। यह एसएमएस संदेशों का उपयोग करने वाला 25-लक्षित पायलट था, जिसमें पेशेवर फ़िशर के बजाय छात्र लेखक थे - एक तुलना जो, यदि कुछ भी हो, एआई आउटपुट और औसत वास्तविक दुनिया घोटाले की गुणवत्ता के बीच अंतर को कम करती है। टीम का कहना है कि जबकि मानव न्यायाधीश स्रोतों को अलग नहीं बता सके, दो संदेश सेट कम्प्यूटेशनल रूप से अलग-अलग बने रहे, जिससे स्वचालित पहचान दृष्टिकोण के लिए जगह बची।
संगठनों के लिए, टेकअवे तकनीकी के बजाय प्रक्रियात्मक है: अलग-अलग चैनलों के माध्यम से अनुरोधों को सत्यापित करें, तात्कालिकता और नौकरी से संबंधित फ़्रेमिंग को जोखिम संकेतों के रूप में मानें, भले ही संदेश कितना भी अच्छा क्यों न पढ़ा गया हो, और मान लें कि अच्छी तरह से लिखे जाने का मतलब अब मानव-लिखित नहीं है।
एआई से आगे रहें
ट्रैकिंग कैसे AI सुरक्षा और समाज को नया आकार दे रहा है? एआई बज़ वायर पर अधिक एआई समाचार पढ़ें - स्वतंत्र एआई कवरेज, हर दिन।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
