เทคนิคที่กลายเป็นที่รู้จักในฐานะวิธีโจมตีโมเดล AI ได้กระโดดไปสู่เป้าหมายที่ใหญ่กว่ามาก นั่นก็คือ โฟลเดอร์สแปมของคุณ ทีมรักษาความปลอดภัยของ Microsoft รายงานว่าผู้ฉ้อโกงอีเมลใช้เวลาหลายเดือนโดยใช้ "การลักลอบขนของแบบ ASCII" ซึ่งเป็นอักขระ Unicode ที่มองไม่เห็นซึ่งมนุษย์ไม่สามารถมองเห็นได้ แต่เครื่องจักรสามารถอ่านได้ เพื่อส่งอีเมลฟิชชิ่งหลายล้านอีเมลผ่านตัวกรองสแปมขององค์กร ซึ่งเป็นหนึ่งในกรณีที่ชัดเจนที่สุดของวิธีการโจมตีในยุค AI ที่ก้าวข้ามไปสู่อาชญากรรมไซเบอร์แบบเดิมๆ

ตามรายงานของ The Register นักวิจัยด้านภัยคุกคามของ Microsoft Noam Kochavi และ Sarah Wolstencroft บรรยายถึงแคมเปญดังกล่าวในบล็อกโพสต์เมื่อวันพฤหัสบดี การดำเนินการดังกล่าวพุ่งแตะระดับสูงสุดด้วยข้อความมากกว่า 2.37 ล้านข้อความในวันธรรมดาเดียวในช่วงปลายเดือนกุมภาพันธ์ จากนั้นยังคงเพิ่มขึ้นในวันธรรมดาเป็นเวลาประมาณ 3 เดือน ก่อนที่จะค่อยๆ ลดลงในช่วงกลางเดือนมิถุนายน หากต้องการทราบบริบทเพิ่มเติมเกี่ยวกับเรื่องราวนี้ โปรดดู AI news ที่กำลังดำเนินอยู่

การลักลอบขนของ ASCII ทำงานอย่างไร

การลักลอบนำเข้า ASCII หาประโยชน์จากอักขระ Unicode ที่ถูกต้องแต่ไม่แสดงผล โดยเฉพาะอย่างยิ่งอักขระแท็ก Unicode ซึ่งเป็นบล็อกที่เดิมออกแบบมาสำหรับแท็กภาษา เมื่อแทรกลงในเอกสาร เว็บเพจ หรืออีเมล จะแสดงว่าไม่มีอะไรเลย การล่องหนดังกล่าวทำให้เทคนิคดังกล่าวกลายเป็นแก่นของการโจมตีพร้อมท์แบบอ้อมๆ โดยผู้โจมตีจะซ่อนคำแนะนำสำหรับผู้ช่วย AI ไว้ในอักขระที่มองไม่เห็นซึ่งฝังอยู่ในหน้าเว็บหรือเอกสาร การตรวจสอบโดยเจ้าหน้าที่ไม่เห็นสิ่งผิดปกติใดๆ แต่ระบบ AI ที่นำเข้าข้อความดิบสามารถอ่านและปฏิบัติตามคำสั่งที่ซ่อนอยู่ได้

นักวิจัยด้านความปลอดภัยได้สาธิตเทคนิคดังกล่าวกับแชทบอท AI และผู้ช่วยอีเมลรายใหญ่ ซึ่งเป็นสาเหตุว่าทำไมจึงมักถูกพูดถึงว่าเป็นปัญหาด้านความปลอดภัยของ AI สิ่งที่ทีมงานของ Microsoft พบแตกต่างออกไป คือ อักขระที่ซ่อนอยู่ไม่ได้จ่าหน้าถึง AI เลย

“เมื่อเราดูตัวอย่างข้อความที่ถูกตั้งค่าสถานะ สิ่งที่น่าประหลาดใจคือไม่มีคำสั่งลักลอบนำเข้าไปยังผู้ช่วย AI” Kochavi และ Wolstencroft เขียนตาม The Register "แต่กลับแทรกอักขระแท็กที่มองไม่เห็นเข้าไปในคำหลักทางการเงินทั่วไป โดยแยกออกจากกันเพื่อให้ลายเซ็นตามตัวอักษรหรือการจับคู่คำหลักล้มเหลว"

แคมเปญการเงินล่อใจระยะยาวหลายเดือน

Microsoft ตรวจพบลายเซ็นครั้งแรกเมื่อต้นเดือนกุมภาพันธ์ พ.ศ. 2569 โดยตรวจพบข้อความน่าสงสัยประมาณ 21,000 ข้อความในวันที่ 8 กุมภาพันธ์ วันรุ่งขึ้น ปริมาณพุ่งสูงขึ้นเกิน 1.3 ล้านข้อความ เมื่อถึงจุดสูงสุดในวันที่ 26 กุมภาพันธ์ แคมเปญนี้ส่งข้อความมากกว่า 2.37 ล้านข้อความในวันเดียว โดยอีเมลส่วนใหญ่มาจากโดเมนผู้ส่งที่มีธีมทางการเงินประมาณ 150 โดเมน

การดำเนินการดำเนินไปด้วยวินัยทางอุตสาหกรรมเกือบทั้งหมด ปริมาณเพิ่มขึ้นในวันธรรมดา — ระหว่าง 1 ล้านถึง 2.37 ล้านข้อความต่อวัน — และเงียบไปในช่วงสุดสัปดาห์ หลังจากช่วงแรกที่มีความเข้มข้น ปริมาณการซื้อขายรายวันในแต่ละวันก็ลดลงประมาณร้อยละ 80 ภายในปลายเดือนมีนาคม ลดลงอย่างรวดเร็วหลังวันที่ 15 พฤษภาคม และต่อเนื่องในระดับที่ต่ำกว่าโดยเพิ่มขึ้นเล็กน้อยเป็นครั้งคราวจนถึงกลางเดือนมิถุนายนเป็นอย่างน้อย

เหยื่อล่อนั้นมีประโยชน์ทางการเงิน และการหลอกลวงนั้นเรียบง่ายแต่มีประสิทธิภาพ แทนที่จะเขียนคำกระตุ้นเช่น "เงินทุน" ในข้อความธรรมดา ผู้โจมตีกลับแทรกช่องว่างแท็กที่มองไม่เห็นระหว่างตัวอักษร นักวิจัยอ้างถึงพื้นที่แท็ก Unicode U+E0020 ซึ่งต่อกันตรงกลางคำ สำหรับผู้อ่านที่เป็นมนุษย์ คำนี้ดูเป็นเรื่องปกติอย่างสมบูรณ์ สำหรับตัวกรองคำหลัก เครื่องมือ regex หรือตัวจับคู่ลายเซ็น สตริงดังกล่าวจะเป็นสตริงที่ไม่มีรายการบล็อกใดที่จะจดจำได้

เหตุใดตัวกรองจึงล้มเหลวและสิ่งที่ผู้ปกป้องควรทำ

แคมเปญได้ผลเนื่องจากการรักษาความปลอดภัยอีเมลจำนวนมากยังคงขึ้นอยู่กับการจับคู่ข้อความตามตัวอักษร คำแนะนำหลักของ Microsoft คือเนื้อหาใดๆ ที่ได้รับการประเมินโดยคำหลัก ลายเซ็น หรือตรรกะ regex ควรมีการถอดหรือพับจุดโค้ด Unicode ที่มองไม่เห็นและไม่แสดงผลออกก่อน เพื่อที่การแยกเป็นคำจะไม่ทำให้การจับคู่ตรงกันอีกต่อไป การตรวจสอบว่าไปป์ไลน์การทำให้เป็นมาตรฐานและโทเค็นไนเซชันจัดการอักขระของแท็กอย่างสม่ำเสมอถือเป็นการควบคุมที่สำคัญที่สุดในมุมมองของนักวิจัย

การแก้ไขแบบเดียวกันนี้ยังมีโบนัสสำหรับการรักษาความปลอดภัย AI เนื่องจากการลักลอบใช้ ASCII กับผู้ช่วย AI ขึ้นอยู่กับอักขระที่มองไม่เห็นตัวเดียวกันที่รอดชีวิตจากการประมวลผลล่วงหน้า การแยกอักขระออกก่อนที่เนื้อหาจะถึงตัวกรองยังช่วยลดความเสี่ยงของการแทรกพร้อมต์ที่ซ่อนอยู่ภายในอีเมลที่นำเข้า

Microsoft ยังเรียกร้องให้ผู้ปกป้องคอยดูตัวบ่งชี้พฤติกรรมมากกว่าคำหลักดิบ "กิจกรรมที่สังเกตได้มีรูปร่างที่โดดเด่น: ปริมาณจำนวนมากจากการปั่นป่วน โดเมนแบบใช้แล้วทิ้งที่มีธีมทางการเงิน ตามกำหนดเวลาวันธรรมดา / วันหยุดสุดสัปดาห์ที่เข้มงวด" นักวิจัยเขียน "การเพิ่มขึ้นอย่างฉับพลันของอักขระบล็อกแท็กที่เน้นไปที่ผู้ส่งที่มีธีมทางการเงิน โดยเปิดและปิดทุกสัปดาห์ ถือเป็นตัวบ่งชี้แคมเปญที่มีความมั่นใจสูง"

ภาพคำเตือนสำหรับการรักษาความปลอดภัยยุค AI

สำหรับนักวิจัยของ Microsoft ตอนนี้แสดงให้เห็นถึงไดนามิกที่กว้างขึ้น: เทคนิคที่บุกเบิกต่อต้านระบบ AI ไม่ได้จำกัดอยู่เพียง AI “ในขณะที่วิธีการโจมตีในยุค AI มีความเข้าใจมากขึ้น ผู้แสดงภัยคุกคามอาจปรับเปลี่ยนเพื่อใช้ในภัยคุกคามแบบเดิมๆ เช่น ฟิชชิ่งและสแปม” พวกเขาเขียน โดยสังเกตว่ากรณีนี้แสดงให้เห็นว่าวิธีจากการวิจัยด้านความปลอดภัยของ AI “สามารถข้ามไปสู่ระบบนิเวศการโจมตีที่จัดตั้งขึ้นได้อย่างรวดเร็วได้อย่างไร”

Ars Technica และช่องทางอื่น ๆ ที่ครอบคลุมการวิจัยตั้งข้อสังเกตถึงการประชด: เคล็ดลับที่พัฒนาขึ้นเพื่อจัดการกับโมเดล AI เป็นที่รู้จักกันดีที่สุดสำหรับการโจมตีตัวกรองธรรมดาที่ปกป้องกล่องจดหมายขององค์กร สำหรับทีมรักษาความปลอดภัย ข้อความก็คือภัยคุกคามในยุค AI และภัยคุกคามแบบคลาสสิกกำลังมาบรรจบกัน และการป้องกันแคมเปญถัดไปหมายถึงการขัดอักขระที่มองไม่เห็นในทุกที่ที่มีการประมวลผลข้อความ ไม่ใช่แค่ในแชทบอทเท่านั้น

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →