แฮกเกอร์ใช้กรอบการแฮ็กที่เกิดขึ้นอย่างรวดเร็วและได้รับการสนับสนุนจาก AI ในการบุกรุกโดยกำหนดเป้าหมายไปที่ภาคการบินและอวกาศของสหรัฐฯ หน่วยข่าวกรองภัยคุกคามของ Google กล่าวเมื่อวันจันทร์ในการค้นพบที่รายงานโดย Nextgov เครื่องมือนี้เรียกว่า Cairn เป็นกรอบการทดสอบการเจาะระบบที่เปิดเผยต่อสาธารณะซึ่งเชื่อมโยงกับชุมชนความปลอดภัยโอเพ่นซอร์สของจีน และการปรากฏตัวของมันในการบุกรุกแบบสดถือเป็นอีกก้าวหนึ่งในการย้ายข้อมูล AI ตัวแทนจากการสาธิตการวิจัยไปสู่การปฏิบัติการจารกรรมจริง

Google ไม่ได้ระบุชื่อองค์กรด้านการบินและอวกาศที่เข้าถึง ระบุว่าข้อมูลใดบ้างที่อาจถูกนำไปใช้ หรือระบุแหล่งที่มาของการบุกรุกโดยรัฐบาลใดรัฐบาลหนึ่ง รายงานครอบคลุมกิจกรรมที่สังเกตได้ในช่วงไตรมาสที่แล้วอย่างกว้างๆ และเกิดขึ้นท่ามกลางความครอบคลุมของอุตสาหกรรม AI ในปัจจุบันเกี่ยวกับระบบตัวแทนที่ถูกนำมาใช้ใหม่เร็วกว่าที่ผู้พิทักษ์จะปรับตัวได้

สิ่งที่ Cairn และญาติของมันสามารถทำได้

Cairn แตกต่างจากการแฮ็กโดยใช้แชทบอตซึ่งครอบงำรายงานภัยคุกคามก่อนหน้านี้ แทนที่จะให้มนุษย์แจ้งผู้ช่วย AI ทีละขั้นตอน Cairn ใช้ตัวแทน AI ที่แบ่งปันข้อมูลระหว่างกัน และตัดสินใจว่าจะลองใช้เทคนิคการแฮ็กใดต่อไปในขณะที่พวกเขากำลังเจาะระบบ

นักวิจัยของ Google กล่าวว่าระบบโอเพ่นซอร์สอื่นๆ รวมถึง ARTEX, CyberStrikeAI และ PentAGI ถูกนำมาใช้เพื่อ "ดำเนินการบุกรุกแบบหลายขั้นตอนด้วยความเร็วในการปฏิบัติงานที่มากขึ้น" เมื่อเทียบกับกิจกรรมก่อนหน้านี้ที่แฮ็กเกอร์แจ้งเตือน AI chatbots ด้วยตนเองเพื่อช่วยในแต่ละขั้นตอน ARTEX ถูกตั้งค่าสถานะแยกต่างหากในคำแนะนำด้านความปลอดภัยทางไซเบอร์ของ FBI ที่โพสต์เมื่อวันศุกร์

การค้นพบที่น่าตกใจที่สุด: การแสวงหาผลประโยชน์แบบอัตโนมัติเต็มรูปแบบ

การค้นพบอย่างหนึ่งโดดเด่นจากรายงานรายไตรมาส นักวิจัยของ Google พบว่าระบบของผู้โจมตีได้รับการกำหนดค่าให้ศึกษาการแก้ไขซอฟต์แวร์ พัฒนาการโจมตีตามสิ่งที่เรียนรู้ และดำเนินการโจมตีเหล่านั้นโดยอัตโนมัติ โดยไม่มีมนุษย์เข้ามาเกี่ยวข้อง บริษัทกล่าวว่านี่เป็นครั้งแรกที่นักวิจัยระบุตัวผู้โจมตีที่ทำให้กระบวนการนั้นเป็นอัตโนมัติเต็มรูปแบบ

ความหมายนั้นชัดเจน: การแข่งขันระหว่างการเผยแพร่แพตช์และการแสวงหาผลประโยชน์อาจพังทลายลงจากสัปดาห์เป็นชั่วโมง ทำให้เกิดแรงกดดันเพิ่มเติมต่อองค์กรที่ประสบปัญหาในการติดตั้งการอัปเดตความปลอดภัยก่อนที่อาชญากรจะเข้าถึงพวกเขา Hacker News ซึ่งครอบคลุมการค้นพบเดียวกัน ได้สรุปเทคนิคในฐานะแฮกเกอร์ที่ใช้ตัวแทน AI เพื่อสร้างและเรียกใช้การหาประโยชน์โดยตรงจากแพตช์ซอฟต์แวร์

“ด้วยอุปสรรคในการเข้าที่ต่ำ ความง่ายในการบูรณาการการหาประโยชน์ใหม่ๆ และศักยภาพในการขยายขนาดมหาศาล เราเชื่อว่ามีความเป็นไปได้สูงที่ผู้แสดงภัยคุกคามจะยังคงใช้กรอบงานเหล่านี้ในแคมเปญที่กำหนดเป้าหมายไปที่องค์กรทั่วโลก” บริษัท กล่าว ตาม Nextgov

ทีมจีนวิเคราะห์อุตสาหกรรม นายหน้าชาวเกาหลีเหนือไปสังเคราะห์

รายงานยังให้รายละเอียดว่าผู้มีบทบาทที่เชื่อมโยงกับรัฐพับแบบจำลองลงในขั้นตอนต่างๆ ของการดำเนินงานอย่างไร กลุ่มแฮ็กเกอร์ชาวจีนได้ใช้โมเดล AI เพื่อวิเคราะห์ไฟล์ที่ถูกขโมยและสร้างรายงานข่าวกรองที่เสร็จสมบูรณ์ให้กับลูกค้า ในกรณีหนึ่ง ผู้รับเหมาใช้ AI เพื่อแปลและวิเคราะห์ข้อมูลที่ถูกขโมย ค้นหาว่าองค์กรเป้าหมายมีโครงสร้างอย่างไร และจัดระเบียบสิ่งที่ค้นพบลงในรายงานข่าวกรอง โดยใช้เทคโนโลยีสำหรับงานตีความที่ซับซ้อนซึ่งติดตามการโจรกรรมมากกว่าการโจรกรรมเอง

Google ยังสังเกตเห็นผู้ต้องสงสัยปฏิบัติการของจีนทดลองใช้เครื่องมือแฮ็กอัตโนมัติ ซึ่งรวมถึงกลุ่มหนึ่งที่เกี่ยวข้องกับจีนซึ่งพัฒนาระบบของตัวเอง ซึ่งมีแนวโน้มว่าจะใช้ในการปฏิบัติการสอดแนม

ในขณะเดียวกัน นักแสดงชาวเกาหลีเหนือก็ใช้ AI เพื่อปรับปรุงวิศวกรรมสังคมของตน Google กลุ่มหนึ่งติดตามองค์กรสกุลเงินดิจิทัลเป้าหมายในอเมริกาเหนือและยุโรปโดยใช้โปรไฟล์ผู้สรรหาบุคลากรที่ปลอมแปลง นายหน้าปลอมมุ่งเป้าไปที่บริการการประชุมปลอม ซึ่งคำแนะนำในการแก้ไขปัญหาทางเทคนิคทำให้พวกเขาเรียกใช้โค้ดที่เป็นอันตราย

เมื่อเข้าไปข้างใน ผู้โจมตีเปลี่ยนการตั้งค่าสำหรับ Claude Code — ผู้ช่วยเขียนโค้ด AI ของ Anthropic — ในที่เก็บโค้ดของบริษัท เพื่อที่การเปิดตัวผู้ช่วยจะกระตุ้นให้มีการดาวน์โหลดมัลแวร์ การเพิ่มอาวุธให้กับเครื่องมือสำหรับนักพัฒนาที่เชื่อถือได้หมายถึงการกระทำที่เป็นอันตรายจะเกิดขึ้นกับวิศวกรซอฟต์แวร์ที่ไว้วางใจอยู่แล้ว

การค้นพบนี้สะท้อนถึงการประกาศของกระทรวงยุติธรรมเมื่อสัปดาห์ที่แล้วโดยกำหนดเป้าหมายไปที่ FaceStealer ซึ่งเป็นโครงการแฮงเอาท์วิดีโอปลอมของเกาหลีเหนือที่เชื่อมโยงกับการโจรกรรมเงินมากกว่า 400 ล้านดอลลาร์ พร้อมด้วยคำสั่งศาลที่ครอบคลุมมากกว่า 1.2 พันล้านดอลลาร์ที่ถูกขโมยจาก Binance รายงานของ Google ไม่ได้เชื่อมโยงข้อค้นพบกับกรณีใดกรณีหนึ่ง

การดำเนินงานที่มีอิทธิพลได้รับความเป็นอัตโนมัติมากขึ้นเช่นกัน

นอกเหนือจากการจารกรรมและอาชญากรรมทางการเงินแล้ว Google ยังกล่าวว่าปฏิบัติการที่มีอิทธิพลซึ่งเชื่อมโยงกับรัสเซีย จีน และอิหร่าน ในปัจจุบันใช้โมเดล AI เป็นประจำเพื่อสร้างเนื้อหาและเผยแพร่เนื้อหาโดยอัตโนมัติ โดยมอบหมายงานในการแสดงตนเป็นคนธรรมดาทางออนไลน์ให้กับเครื่องจักรมากขึ้น

ช่องว่างที่กว้างขึ้น

เมื่อนำมารวมกัน การค้นพบนี้แสดงถึงปัญหาการป้องกันที่เพิ่มมากขึ้นพร้อมกับการเปิดตัวโอเพ่นซอร์สทุกครั้ง เฟรมเวิร์กการทดสอบการเจาะระบบ เช่น Cairn, ARTEX, CyberStrikeAI และ PentAGI เป็นเครื่องมือทางกฎหมายที่สร้างขึ้นโดยและสำหรับชุมชนความปลอดภัย และสถาปัตยกรรมเอเจนต์ทำให้เฟรมเวิร์กเหล่านี้มีประโยชน์อย่างแท้จริงสำหรับทีมสีแดง คุณสมบัติเดียวกันนี้ทำให้พวกมันกลายเป็นอาวุธโจมตีแบบเบ็ดเสร็จสำหรับทุกคนที่ดาวน์โหลดมัน

ข้อความของ Google ถึงผู้พิทักษ์ถือเป็นสมมติฐานในการวางแผนมากกว่าการคาดการณ์: สมมติว่าการบุกรุกครั้งต่อไปที่คุณเผชิญนั้นดำเนินการด้วยความเร็วของเครื่องจักร บนไทม์ไลน์ที่กำหนดโดยตัวแทนที่จะอ่านบันทึกการแก้ไขของคุณก่อนที่คุณจะใช้งานเสร็จ

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →