ปัญญาประดิษฐ์กำลังทำให้กลโกงฟิชชิ่งแบบหอกมีประสิทธิภาพมากขึ้นและคนส่วนใหญ่ไม่สามารถบอกความแตกต่างระหว่างเหยื่อที่เขียนโดย AI และเหยื่อที่เขียนโดยมนุษย์ได้ นั่นคือการค้นพบหลักของงานวิจัยใหม่จาก Brigham Young University ซึ่งตีพิมพ์ใน Journal of Cybersecurity and Privacy ที่ได้รับการตรวจสอบโดยผู้ทรงคุณวุฒิ และเน้นย้ำในการรายงานข่าวล่าสุดโดย KSL.com และ Phys.org

“งานวิจัยของเราเป็นเพียงงานวิจัยล่าสุดที่แสดงให้เห็นว่าสถานะปัจจุบันของ AI มีความซับซ้อนเพียงใด” เจอร์สัน ฟรานเซีย นักวิจัยด้านความปลอดภัยทางไซเบอร์ของ BYU ที่เกี่ยวข้องกับงานนี้ กล่าว ตามข่าวประชาสัมพันธ์ของ BYU

สิ่งที่นักวิจัยทำ

การศึกษานี้เขียนโดยทีมงาน BYU และพร้อมให้พิมพ์ล่วงหน้าบน arXiv ได้จัดทำการเปรียบเทียบที่มีการควบคุมระหว่างข้อความฟิชชิ่งส่วนบุคคลที่สร้างโดย GPT-4 กับข้อความที่เขียนโดยมนุษย์มือใหม่ — นักเรียนที่เขียนภายใต้ข้อจำกัดด้านเวลา — สำหรับเป้าหมาย 25 ประการเดียวกัน

ผู้เข้าร่วมแต่ละคนจะได้รับชุดข้อความส่วนตัว 12 ข้อความที่จัดทำขึ้นสำหรับพวกเขาโดยเฉพาะ บางส่วนสร้างขึ้นจาก AI บางส่วนเขียนโดยมนุษย์ นักวิจัยใช้วิธีการที่เรียกว่า TRAPD หรือ Threshold Ranking Approach for Personalization Deception ซึ่งผู้เข้าร่วมจัดอันดับข้อความ ระบุจุดที่พวกเขาตั้งใจจะคลิก อธิบายเหตุผล และตัดสินว่าแต่ละข้อความเขียนโดยบุคคลหรือ GPT-4

การออกแบบมีความสำคัญเนื่องจากการศึกษาฟิชชิ่งก่อนหน้านี้ส่วนใหญ่วัดผลลัพธ์ในรูปแบบนามธรรม สิ่งนี้วัดการตอบสนองต่อข้อความส่วนบุคคลสำหรับผู้เข้าร่วมแต่ละคน ซึ่งเป็นวิธีการทำงานของฟิชชิ่งแบบหอกอย่างแท้จริง

คลิกมากขึ้น ไม่มีการตรวจจับที่ดีขึ้น

หมายเลขพาดหัว: ข้อความที่สร้างโดย GPT-4 กระตุ้นให้เกิดความตั้งใจที่จะคลิกบ่อยกว่าข้อความที่นักเรียนเขียน — 28% เทียบกับ 21% — แม้ว่านักวิจัยจะตั้งข้อสังเกตว่าความแตกต่างนั้นมีความไม่แน่นอนทางสถิติเมื่อพิจารณาจากขนาดของการศึกษานำร่อง

ผลลัพธ์ที่น่ากังวลยิ่งกว่าคือสิ่งที่ผู้เข้าร่วมทำไม่ได้ เมื่อถามว่าข้อความเขียนโดยมนุษย์หรือสร้างโดย AI ผู้รับระบุแหล่งที่มาได้แม่นยำไม่มากไปกว่าโอกาส กล่าวอีกนัยหนึ่ง ผู้คนที่ระมัดระวังเป็นพิเศษเชื่อว่าพวกเขานำไปใช้กับข้อความที่เขียนด้วยเครื่องไม่ปรากฏในผลลัพธ์ ผู้เข้าร่วมการศึกษาโดยพื้นฐานแล้วจะต้องหยอดเหรียญกับผลงานเขียน

การศึกษายังพบว่าบริบทเอาชนะเนื้อหา: ข้อความที่เกี่ยวข้องกับงานมีแนวโน้มที่จะกระตุ้นความตั้งใจที่จะคลิกมากกว่าข้อความที่เกี่ยวข้องกับงานอดิเรกหรือโซเชียลมีเดียอย่างมีนัยสำคัญ สำหรับผู้โจมตี นั่นเป็นตัวคูณกำลัง เนื่องจากรายละเอียดการจ้างงานถือเป็นข้อมูลส่วนบุคคลที่ง่ายที่สุดในการค้นหาทางออนไลน์

เหตุใดเหยื่อที่เกี่ยวข้องกับงานจึงทำงานได้ดีที่สุด

การค้นพบข้อความที่เกี่ยวข้องกับงานสมควรได้รับความสนใจเป็นพิเศษจากกองหลัง Spear phishing ประสบความสำเร็จด้วยการปรับเปลี่ยนในแบบของคุณ — ข้อความที่อ้างอิงถึงนายจ้างของคุณ บทบาทของคุณ หรือโครงการปัจจุบันของคุณให้ความรู้สึกที่ถูกต้องตามกฎหมายเพราะมันมีความเฉพาะเจาะจง

ผลลัพธ์ของ BYU แนะนำว่าโมเดลภาษาขนาดใหญ่บีบอัดเวิร์กโฟลว์การตั้งค่าส่วนบุคคลนั้นอย่างมาก นักวิจัยเขียนว่าสิ่งที่ครั้งหนึ่งต้องใช้เวลาหลายชั่วโมงในการวิจัยด้วยตนเองและการร่างอย่างระมัดระวังโดยวิศวกรสังคมผู้มีทักษะสามารถประมาณได้จากการแจ้งเตือนง่ายๆ ด้วยต้นทุนส่วนเพิ่มที่เกือบเป็นศูนย์ อุปสรรคในการดำเนินแคมเปญขนาดใหญ่ที่เป็นส่วนตัวนั้นไม่ใช่ทักษะอีกต่อไป เป็นการเข้าถึงแชทบอทและรายการเป้าหมาย

ความหมายสำหรับผู้พิทักษ์

ผลกระทบในทางปฏิบัติกำลังสร้างความกังวลให้กับทีมรักษาความปลอดภัย การฝึกอบรมการรับรู้มักสอนให้พนักงานมองเห็นการใช้ถ้อยคำที่น่าอึดอัด น้ำเสียงแปลกๆ หรือภาษาที่ไม่เป็นธรรมชาติ ซึ่งบอกได้ว่ามีการเปิดเผยความพยายามในการฟิชชิ่งในอดีต เครื่องมือตรวจจับที่ใช้การตรวจจับการเขียนแบบ "หุ่นยนต์" ในปัจจุบันไม่น่าเชื่อถือที่สามารถวัดได้ เนื่องจากผู้รับในการศึกษานี้ไม่สามารถแยกแยะข้อความที่เขียนโดย AI ออกจากข้อความที่เขียนโดยมนุษย์ได้เลย

ทีม BYU วางกรอบการค้นพบดังกล่าวเพื่อเป็นหลักฐานว่าการปรับเปลี่ยนเฉพาะบุคคลโดยอาศัยความช่วยเหลือจาก AI ที่เข้าถึงได้อาจเพิ่มระดับการปฏิบัติจริงของภัยคุกคามทางวิศวกรรมทางสังคม การป้องกันที่ถือว่าฟิชชิ่งทั่วไปราคาถูกจะยังคงเป็นเรื่องปกตินั้นสร้างขึ้นบนสมมติฐานที่ข้อมูลไม่รองรับอีกต่อไป

นักวิจัยยังเน้นย้ำถึงขีดจำกัดของการศึกษาด้วย เป็นโครงการนำร่อง 25 เป้าหมายที่ใช้ข้อความ SMS โดยมีผู้เขียนที่เป็นนักเรียนมากกว่านักฟิชชิ่งมืออาชีพ การเปรียบเทียบนั้น (หากมี) จะเป็นการมองข้ามช่องว่างระหว่างเอาท์พุต AI และคุณภาพการหลอกลวงในโลกแห่งความเป็นจริงโดยเฉลี่ย ทีมงานตั้งข้อสังเกตว่าแม้ว่าผู้พิพากษาที่เป็นมนุษย์ไม่สามารถแยกแหล่งที่มาออกจากกันได้ แต่ชุดข้อความทั้งสองชุดยังคงสามารถแยกแยะความแตกต่างทางคอมพิวเตอร์ได้ ทำให้เกิดพื้นที่สำหรับแนวทางการตรวจจับอัตโนมัติ

สำหรับองค์กร การดำเนินการนั้นเป็นขั้นตอนมากกว่าทางเทคนิค: ตรวจสอบคำขอผ่านช่องทางที่แยกจากกัน ถือว่าความเร่งด่วนและกรอบที่เกี่ยวข้องกับงานเป็นสัญญาณความเสี่ยง ไม่ว่าข้อความจะอ่านได้ละเอียดแค่ไหน และถือว่าการเขียนที่ดีไม่ได้หมายความว่ามนุษย์เขียนอีกต่อไป

ก้าวนำหน้า AI

ติดตามว่า AI กำลังเปลี่ยนรูปแบบความปลอดภัยและสังคมอย่างไร อ่านข่าว AI เพิ่มเติมบน AI Buzz Wire — การรายงานข่าวของ AI อิสระทุกวัน

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →