AI स्पियर फिशिंग स्पॉट करणे कठीण होत आहे, BYU संशोधन शोधते

पीअर-पुनरावलोकन केलेल्या BYU अभ्यासात असे आढळले आहे की AI-लिखित भाला फिशिंग संदेश मानवी संदेशांपेक्षा अधिक क्लिकचे हेतू काढतात आणि प्राप्तकर्ते ते कोणी लिहिले हे सांगू शकत नाहीत.

कृत्रिम बुद्धिमत्ता भाल्याच्या फिशिंग घोटाळ्यांना अधिक प्रभावी बनवत आहे आणि बहुतेक लोक AI-लिखित आमिष आणि मानव-लिखित मधील फरक सांगू शकत नाहीत. ब्रिघम यंग युनिव्हर्सिटीच्या नवीन संशोधनाचा हा मुख्य निष्कर्ष आहे, जो पीअर-रिव्ह्यूड जर्नल ऑफ सायबर सिक्युरिटी अँड प्रायव्हसीमध्ये प्रकाशित झाला आहे आणि KSL.com आणि Phys.org द्वारे अलीकडील कव्हरेजमध्ये हायलाइट केला आहे.

"AI ची सद्यस्थिती किती अत्याधुनिक आहे हे दाखवण्यासाठी आमचे संशोधन अगदी नवीनतम आहे," BYU च्या वृत्त प्रकाशनानुसार, BYU सायबरसुरक्षा संशोधक जेर्सन फ्रान्सिया म्हणाले.

संशोधकांनी काय केले

अभ्यास, BYU टीमने लिहिलेला आणि arXiv वर प्रीप्रिंट म्हणून उपलब्ध आहे, GPT-4 द्वारे व्युत्पन्न केलेले वैयक्तिक फिशिंग मजकूर संदेश आणि मानवी नवशिक्यांद्वारे लिहिलेले संदेश - विद्यार्थ्यांनी वेळेच्या मर्यादेत लिहिलेले - समान 25 लक्ष्यांसाठी एक नियंत्रित तुलना सेट केली.

प्रत्येक सहभागींना त्यांच्यासाठी खास तयार केलेल्या 12 वैयक्तिक संदेशांचा संच प्राप्त झाला. काही AI-व्युत्पन्न होते, काही मानवी लिखित. संशोधकांनी एक पद्धत वापरली ज्याला ते TRAPD म्हणतात — वैयक्तिक फसवणुकीसाठी थ्रेशोल्ड रँकिंग दृष्टीकोन — ज्या अंतर्गत सहभागींनी संदेशांना रँक केले, ते कोणत्या बिंदूवर क्लिक करू इच्छितात ते सूचित केले, त्यांचे तर्क स्पष्ट केले आणि प्रत्येक संदेश एखाद्या व्यक्तीने किंवा GPT-4 द्वारे लिहिला गेला आहे का ते ठरवले.

डिझाईन महत्त्वाचे आहे कारण सर्वात पूर्वीचे फिशिंग अभ्यास अमूर्त मध्ये परिणाम मोजतात. याने प्रत्येक वैयक्तिक सहभागीसाठी वैयक्तिकृत केलेल्या संदेशांचे प्रतिसाद मोजले, जे वास्तविक भाला फिशिंग कसे कार्य करते.

अधिक क्लिक, अधिक चांगले शोध नाही

मथळा क्रमांक: GPT-4-व्युत्पन्न संदेशांनी विद्यार्थी-लिखित संदेशांपेक्षा अधिक वेळा क्लिक करण्याचा हेतू निर्माण केला — 28% विरुद्ध 21% — जरी संशोधकांनी लक्षात घ्या की पायलट अभ्यासाच्या आकारानुसार फरक सांख्यिकीय अनिश्चितता आहे.

अधिक अस्वस्थ करणारा परिणाम म्हणजे सहभागी जे करू शकले नाहीत. संदेश एखाद्या माणसाने लिहिलेला आहे की AI द्वारे व्युत्पन्न केला आहे असे विचारले असता, प्राप्तकर्त्यांनी स्त्रोत ओळखले नाही ते संधीपेक्षा अधिक अचूकपणे ओळखले. दुसऱ्या शब्दांत, अतिरिक्त सावधगिरीचा लोकांचा विश्वास आहे की ते मशीन-लिखित मजकुरावर लागू होतात परिणामांमध्ये दर्शविले गेले नाहीत — अभ्यासातील सहभागी मूलत: लेखकत्वावर नाणे-फ्लिपिंग करत होते.

अभ्यासात असेही आढळून आले आहे की संदर्भ सामग्रीवर मात करतो: छंद किंवा सोशल मीडियाशी जोडलेल्या संदेशांपेक्षा नोकरी-संबंधित बाबींवर तयार केलेले संदेश क्लिक करण्याचा हेतू जास्त प्रमाणात ट्रिगर करतात. हल्लेखोरांसाठी, ते एक बल गुणक आहे, कारण रोजगार तपशील ऑनलाइन शोधण्यासाठी सर्वात सोपा वैयक्तिक माहिती आहे.

नोकरी-संबंधित प्रलोभने सर्वोत्तम का कार्य करतात

कार्य-संबंधित संदेशांवरील शोध बचावकर्त्यांकडून विशेष लक्ष देण्यास पात्र आहेत. स्पीयर फिशिंग वैयक्तिकरणाद्वारे यशस्वी होते — एक संदेश जो तुमच्या नियोक्त्याचा, तुमची भूमिका किंवा तुमच्या सध्याच्या प्रकल्पांचा संदर्भ देतो कारण तो विशिष्ट आहे.

BYU परिणाम सूचित करतात की मोठ्या भाषेचे मॉडेल वैयक्तिकरण कार्यप्रवाह नाटकीयरित्या संकुचित करतात. एकेकाळी जे काही तास मॅन्युअल संशोधन आणि कुशल सामाजिक अभियंत्याने काळजीपूर्वक मसुदा तयार करणे आवश्यक होते ते आता साधारण-शून्य किरकोळ किमतीत साध्या प्रॉम्प्टवरून अंदाजे केले जाऊ शकते, संशोधक लिहितात. मोठी, वैयक्तिक मोहीम चालवण्याचा अडथळा आता कौशल्य नाही. हे चॅटबॉट आणि लक्ष्य सूचीमध्ये प्रवेश आहे.

बचावकर्त्यांसाठी याचा अर्थ काय आहे

सुरक्षा दलांसाठी व्यावहारिक परिणाम गंभीर आहेत. जागरुकता प्रशिक्षण अनेकदा कर्मचाऱ्यांना विचित्र वाक्यरचना, विचित्र टोन किंवा अनैसर्गिक भाषा ओळखण्यास शिकवते — हे ऐतिहासिकदृष्ट्या उघड फिशिंग प्रयत्नांना सांगते. "रोबोटिक" लेखन स्पॉटिंगवर अवलंबून असलेला डिटेक्टर आता मोजमापाने अविश्वसनीय आहे, कारण या अभ्यासातील प्राप्तकर्ते AI-लिखित मानवी-लिखित संदेशांपासून अजिबात फरक करू शकत नाहीत.

BYU टीम पुरावा म्हणून निष्कर्ष तयार करते की प्रवेशयोग्य AI-सहाय्यित वैयक्तिकरण सामाजिक-अभियांत्रिकी धोक्यांचे व्यावहारिक प्रमाण वाढवू शकते. स्वस्त, जेनेरिक फिशिंग हे सर्वसामान्य प्रमाण राहील असे गृहीत धरणारे संरक्षण डेटा यापुढे समर्थन देत नाही या गृहीतकावर तयार केले आहे.

संशोधक अभ्यासाच्या मर्यादांवरही भर देतात. हा एसएमएस संदेश वापरणारा 25-लक्ष्य पायलट होता, व्यावसायिक फिशर्स ऐवजी विद्यार्थी लेखकांसह - एक तुलना जी काही असल्यास, AI आउटपुट आणि सरासरी वास्तविक-जागतिक घोटाळ्याच्या गुणवत्तेमधील अंतर कमी करते. संघाने नोंदवले की मानवी न्यायाधीश स्त्रोत वेगळे सांगू शकत नसले तरी, दोन संदेश संच संगणकीयदृष्ट्या वेगळे केले गेले, स्वयंचलित शोध पद्धतींसाठी जागा सोडली.

संस्थांसाठी, टेकअवे हे तांत्रिक ऐवजी प्रक्रियात्मक आहे: स्वतंत्र चॅनेलद्वारे विनंत्या सत्यापित करा, संदेश किती सभ्यपणे वाचला गेला याची पर्वा न करता, निकड आणि नोकरी-संबंधित फ्रेमिंगला जोखीम सिग्नल म्हणून हाताळा आणि असे गृहीत धरा की चांगले लिखित म्हणजे मानवाने लिहिलेले नाही.