กลุ่มแฮ็กเกอร์ชื่อ CyberCartel ใช้เครือข่ายตัวแทน AI ที่สร้างขึ้นจากโมเดลจาก Anthropic, SpaceX และ Moonshot AI ของจีน เพื่อทำการโจมตีเป้าหมายทางการเงินในละตินอเมริกามากกว่า 400 เป้าหมายโดยอัตโนมัติ ข้อมูลรายงานเมื่อวันพุธ โดยอ้างถึงการสอบสวนโดย Straiker สตาร์ทอัพด้านความปลอดภัยทางไซเบอร์

รายงานนี้อธิบายถึงแคมเปญที่นอกเหนือไปจากการแฮ็กโดยใช้ AI ตามการค้นพบของ Straiker ที่ถ่ายทอดโดย The Information ตัวแทนดำเนินการโดยใช้ข้อมูลของมนุษย์เพียงเล็กน้อย โดยขโมยรหัสผ่านและข้อมูลลูกค้าโดยอัตโนมัติ และเข้าถึงบัญชีธนาคารด้วยตนเอง

กองโจมตีหลายรูปแบบ

สิ่งที่ทำให้การดำเนินงานแตกต่าง ตามการรายงาน คือความกว้างของสแต็กโมเดลที่อยู่ด้านหลัง กลุ่มนี้ดึงเอา Claude จาก Anthropic และ Grok จาก SpaceX ซึ่งปัจจุบันเป็นส่วนหนึ่งของ SpaceX ของ Elon Musk หลังจากบริษัทด้านการบินและอวกาศเข้าซื้อ xAI ในเดือนกุมภาพันธ์ 2026 ควบคู่ไปกับ Kimi ซึ่งพัฒนาโดย Moonshot AI ของจีน

การใช้โมเดลคู่แข่งหลายตัวพร้อมกันทำให้เกิดการดำเนินการทั้งแบบซ้ำซ้อนและแบบพิเศษ โดยโมเดลที่ต่างกันมีพฤติกรรมการปฏิเสธที่แตกต่างกัน จุดแข็งในการสร้างโค้ดต่างกัน และโครงสร้างต้นทุนที่แตกต่างกัน นักวิจัยด้านความปลอดภัยได้เตือนมานานแล้วว่าผู้ให้บริการแบบผสมผสานสามารถช่วยปฏิบัติการโจมตีให้ดำเนินต่อไปได้ เมื่อระบบความปลอดภัยของห้องปฏิบัติการแห่งหนึ่งตัดการเข้าถึง

ขนาดเป็นอีกรูปพาดหัว เป้าหมายทางการเงินในละตินอเมริกามากกว่า 400 เป้าหมายได้รับผลกระทบจากเครือข่ายตัวแทนอัตโนมัติ ตามข้อมูลของ The Information รายงานไม่ได้ระบุสถาบันที่ได้รับผลกระทบ และรายละเอียดเกี่ยวกับการสูญเสียทางการเงินทั้งหมดไม่สามารถใช้งานได้ทันที

จาก AI-Assisted สู่ AI-Automated

ทีมรักษาความปลอดภัยใช้เวลาสองปีในการติดตามอาชญากรที่ใช้แชทบอทเพื่อเขียนเหยื่อฟิชชิ่ง ดีบักมัลแวร์ หรือแปลเหยื่อเป็นภาษาใหม่ แคมเปญ CyberCartel ตามที่อธิบายไว้ ถือเป็นก้าวต่อไป: ตัวแทนที่เชื่อมโยงขั้นตอนเหล่านั้นเข้าด้วยกันและดำเนินการโดยไม่ต้องมีมนุษย์เป็นผู้ขับเคลื่อนแต่ละการกระทำ

การเปลี่ยนแปลงดังกล่าวทำให้เศรษฐศาสตร์ของอาชญากรรมไซเบอร์เปลี่ยนแปลงไป การบุกรุกที่ดำเนินการโดยมนุษย์นั้นมีขนาดตามจำนวนคน หนึ่งที่ขับเคลื่อนด้วยเอเจนต์จะปรับขนาดด้วยการประมวลผลและการเข้าถึง API บัญชีของ Straiker ที่ว่าเจ้าหน้าที่ขโมยข้อมูลประจำตัว ขโมยข้อมูลลูกค้า และเข้าถึงบัญชีโดยอัตโนมัติ แนะนำให้กลุ่มนี้ปฏิบัติต่อโมเดล AI เชิงพาณิชย์เป็นโครงสร้างพื้นฐานในการดำเนินงาน มากกว่าที่จะเป็นผู้ช่วยเหลือเป็นครั้งคราว

ภาคการเงินเป็นพื้นที่พิสูจน์แนวโน้มนี้ตลอดทั้งปี เมื่อต้นเดือนตุลาคม มีรายงานระบุว่าเครื่องมือ AI รวมถึงตัวแทนที่สร้างบน Claude ถูกนำมาใช้ในการโจมตีทางไซเบอร์ในธนาคารเกาหลีใต้ ในแคมเปญที่ BleepingComputer เชื่อมโยงกับระบบที่เรียกว่า ARTEX AI และร้าน Yonhap ของเกาหลีรายงานว่าอาจเกี่ยวข้องกับแฮ็กเกอร์ที่พูดภาษาจีน ตอนของเกาหลีใต้และแคมเปญในละตินอเมริกาที่เพิ่งรายงานมีรูปแบบร่วมกัน ได้แก่ สถาบันการเงินขนาดกลาง เครื่องมือที่ขับเคลื่อนด้วย AI และทีมสืบสวนข้ามพรมแดนที่ปะติดปะต่อสิ่งที่เกิดขึ้นหลังจากข้อเท็จจริง

ปัญหาการป้องกัน

รายงานดังกล่าวมาถึงช่วงเวลาอันละเอียดอ่อนสำหรับห้องปฏิบัติการ AI ซึ่งโมเดลดังกล่าวถูกกล่าวหาว่าถูกนำมาใช้ใหม่ โดยเฉพาะอย่างยิ่ง Anthropic ได้สร้างแนวทางขององค์กรในการเป็นผู้ให้บริการที่เน้นความปลอดภัย โดยเผยแพร่การเปิดเผยข้อมูลเมื่อตรวจพบและห้ามการใช้ Claude ในทางที่ผิดสำหรับการโจมตีทางไซเบอร์ กรณีที่โมเดลของ Claude นั่งอยู่ในปฏิบัติการโจมตีควบคู่ไปกับโมเดลของคู่แข่ง เน้นย้ำว่าผู้ให้บริการรายใดมีการควบคุมเพียงเล็กน้อยต่อสิ่งที่เกิดขึ้นกับเอาต์พุตของตนเมื่อบัญชีหรือคีย์ API ที่ถูกขโมยไปอยู่ในมือของอาชญากร

นอกจากนี้ยังทำให้การถกเถียงเรื่องความสามารถทางไซเบอร์ระดับโมเดลรุนแรงขึ้นอีกด้วย ขณะนี้โมเดล Frontier เขียน ทดสอบ และแก้ไขข้อบกพร่องของโค้ดการหาประโยชน์ได้ดีเพียงพอที่ทั้งนักวิจัยและผู้ปกป้องฝ่ายรุกจะใช้มันทุกวัน ผู้ให้บริการตอบสนองด้วยข้อจำกัดระดับชั้นสำหรับคำขอที่เกี่ยวข้องกับไซเบอร์และระบบตรวจสอบที่ทำเครื่องหมายรูปแบบการละเมิด การดำเนินการเหมือนกับของ CyberCartel ซึ่งกระจายอยู่ในผู้ให้บริการสามราย จะทดสอบว่าการควบคุมเหล่านั้นมีความสำคัญหรือไม่เมื่อผู้โจมตีสามารถเปลี่ยนผู้ขายระหว่างกลางแคมเปญได้หรือไม่

การสอบสวนของ Straiker ตามรายงานของ The Information ไม่ได้ให้รายละเอียดว่าธนาคารใดได้รับผลกระทบ กลุ่มนี้เข้าถึงแบบจำลองดังกล่าวได้อย่างไร หรือได้รับเงินไปเท่าใด คำถามปลายเปิดเหล่านี้มีความสำคัญในการประเมินว่าแคมเปญนี้แสดงถึงการโจรกรรมในระดับอุตสาหกรรม หรือการบุกรุกเล็กๆ น้อยๆ จำนวนมาก และยังคงไม่ได้รับคำตอบในการรายงานเบื้องต้น

อะไรจะเกิดขึ้นต่อไป

คาดว่าจะมีสามเธรดในการพัฒนา ประการแรก หน่วยงานกำกับดูแลทางการเงินในละตินอเมริกาจะเผชิญกับแรงกดดันในการเปิดเผยว่าสถาบันใดได้รับผลกระทบ เมื่อทีม CERT ระดับชาติยืนยันการบุกรุก ประการที่สอง ห้องทดลองที่มีชื่ออยู่ในรายงาน — Anthropic, SpaceX และ Moonshot AI — มีแนวโน้มที่จะเผชิญกับคำถามเกี่ยวกับสิ่งที่ระบบตรวจสอบการละเมิดเห็นและเมื่อใด ประการที่สาม ผู้จำหน่ายระบบรักษาความปลอดภัยจะผลักดันการตรวจสอบพฤติกรรมของเอเจนต์เป็นมาตรการตอบโต้ โดยโต้แย้งว่าการตอบสนองต่อการโจมตีแบบอัตโนมัติจะต้องเป็นการตรวจจับแบบอัตโนมัติ

แคมเปญนี้เป็นเครื่องเตือนใจว่าเฟรมเวิร์กตัวแทนเดียวกันที่วางตลาดให้กับองค์กรสำหรับระบบอัตโนมัติที่ถูกกฎหมายนั้นกำลังถูกใช้งานด้วยความโกรธต่อโครงสร้างพื้นฐานที่สำคัญ ข้อได้เปรียบของผู้ปกป้อง ได้แก่ การมองเห็น การวัดและส่งข้อมูลทางไกล และความสามารถในการประสานงานระหว่างสถาบันต่างๆ จะได้ผลก็ต่อเมื่อธนาคารถือว่าการบุกรุกที่ขับเคลื่อนด้วย AI เป็นเพียงสมมติฐานในการปฏิบัติงานมากกว่าเป็นเพียงสมมุติฐาน สำหรับตอนนี้ รายงานของ CyberCartel เป็นหนึ่งในกรณีที่มีการบันทึกไว้ชัดเจนที่สุดของตัวแทน AI ที่ดำเนินการรณรงค์บุกรุกทางการเงินตั้งแต่ต้นจนจบ และการตอบสนองของอุตสาหกรรมในอีกไม่กี่สัปดาห์ข้างหน้าจะแสดงให้เห็นว่าบทเรียนยังคงอยู่หรือไม่

ก้าวนำหน้า AI

ติดตามเหตุการณ์ด้านความปลอดภัยของ AI และการตอบสนองของอุตสาหกรรมด้วยความครอบคลุมที่เป็นอิสระของ AI Buzz Wire เกี่ยวกับ การพัฒนา AI ล่าสุด

อ่านข่าว AI เพิ่มเติม →