แฮ็กเกอร์รายเดียวเจาะเข้าไปในเว็บไซต์มากกว่า 100 แห่งโดยใช้กองทัพตัวแทน AI ที่ทำการโจมตีโดยมีส่วนร่วมเพียงเล็กน้อยจากผู้ปฏิบัติงานที่เป็นมนุษย์ ตามการค้นพบจากบริษัทรักษาความปลอดภัย AI Norforge รายงานเมื่อวันจันทร์โดย Reuters และ The Verge ผู้ที่ตกเป็นเหยื่อรวมถึงบริษัทชื่อดังอย่าง John Deere, SharkNinja และ Cummins โดยเน้นย้ำว่าเจ้าหน้าที่ AI อัตโนมัติได้เปลี่ยนจากการสาธิตการวิจัยไปสู่เครื่องมือทางอาญาที่ใช้งานได้จริงอย่างรวดเร็วเพียงใด

วิธีค้นพบการโจมตี หากต้องการทราบบริบทเพิ่มเติมของเรื่องราวนี้ โปรดดู การรายงานข่าวของอุตสาหกรรม AI ที่กำลังดำเนินอยู่ของเรา

Norforge เปิดเผยแคมเปญผ่านงานเปิดเผยเกี่ยวกับ Cairn ซึ่งเป็นแพลตฟอร์ม AI แบบโอเพ่นซอร์สที่เรียกตัวเองว่าเป็น "เครื่องมือในการแก้ปัญหาทั่วไป" ด้วย Cairn ผู้ใช้จะกำหนดจุดเริ่มต้นและจุดสิ้นสุดสำหรับตัวแทน AI ซึ่งจะบันทึกความคืบหน้าในขณะที่ทำงานไปสู่เป้าหมาย ความยืดหยุ่นของแพลตฟอร์มคือประเด็นสำคัญ: ชั้นประสานเดียวกันที่ช่วยให้ตัวแทนวางแผนและดำเนินงานที่ถูกต้องตามกฎหมายที่ซับซ้อนก็สามารถชี้ไปที่งานที่ไม่ได้รับอนุญาตได้เช่นกัน

Norforge พบอินสแตนซ์ Cairn ที่ถูกเปิดเผยมากกว่า 20 รายการซึ่งตัดสินว่า "มีแนวโน้มว่าจะเป็นอันตราย" และแฮ็กเกอร์ที่อยู่เบื้องหลังการละเมิดมากกว่า 100 ครั้งเป็นผู้ดำเนินการที่กระตือรือร้นที่สุดในบรรดาพวกเขา ตามรายงานของรอยเตอร์ การโจมตีดังกล่าวมุ่งเป้าไปที่บริษัทที่อยู่ในสหรัฐอเมริกา แคนาดา ออสเตรเลีย และญี่ปุ่น

ระดับการมีส่วนร่วมของมนุษย์มีขนาดเล็กมาก สำนักข่าวรอยเตอร์รายงานว่าผู้โจมตีวางกลยุทธ์การบุกรุกโดยใช้ตัวอักษรจีนน้อยกว่า 100 ตัว ซึ่งเป็นคำอธิบายงานที่สั้นกว่าอีเมลทั่วไป หลังจากนั้นเจ้าหน้าที่ก็ดำเนินการปฏิบัติการด้วยตนเองเป็นส่วนใหญ่ รายงานระบุว่าการละเมิดที่ประสบความสำเร็จใช้เวลาประมาณ 23 ชั่วโมงตั้งแต่ต้นจนจบ

ใครโดน.

Norforge ไม่ได้ระบุชื่อเป้าหมาย แต่รอยเตอร์ระบุว่าบริษัทต่างๆ รวมถึง John Deere, SharkNinja และ Cummins อยู่ในหมู่เหยื่อ องค์กรที่ได้รับผลกระทบได้ตอบสนองอย่างระมัดระวัง

ในแถลงการณ์ต่อ The Verge โฆษกของ Cummins Melinda Koski กล่าวว่าบริษัท "กำลังตรวจสอบรายงานการโจมตีทางไซเบอร์ที่อาจเกิดขึ้นบนเว็บไซต์ที่ดำเนินการโดยหนึ่งในผู้ขายบุคคลที่สามของเรา" โฆษกของจอห์น เดียร์บอกกับรอยเตอร์ว่า “ไม่มีข้อบ่งชี้ว่ามีการเข้าถึงข้อมูลที่ละเอียดอ่อน” ในการโจมตีครั้งนี้ SharkNinja กล่าวว่าการละเมิดดังกล่าวส่งผลกระทบต่อไซต์สแตนด์อโลนที่โฮสต์ข้อมูลสนับสนุนผลิตภัณฑ์และมีภัยคุกคามอยู่

รูปแบบ — ผู้ขายและไซต์สนับสนุนที่เปิดเผยต่อสาธารณะมากกว่าเครือข่ายองค์กรหลัก — แนะนำว่าแคมเปญที่ขับเคลื่อนด้วย AI จัดลำดับความสำคัญของความกว้างและการเข้าถึงมากกว่าเชิงลึก อย่างน้อยก็ในกรณีเหล่านี้ นอกจากนี้ยังแสดงให้เห็นว่าโครงสร้างพื้นฐานเว็บของบุคคลที่สามกลายเป็นจุดเริ่มต้นสำหรับการโจมตีที่ขับเคลื่อนด้วยเอเจนต์อย่างไร

ชานชาลาที่อยู่ตรงกลาง

ผู้สร้างของ Cairn ซึ่งใช้ชื่อ @le1xia0 ได้ตอบโต้กลับจากการระบุว่าเครื่องมือนี้ติดกับมัลแวร์ เมื่อต้นเดือนที่ผ่านมา ผู้สร้างกล่าวว่าแพลตฟอร์มนี้ "ไม่เคยเป็น 'เครื่องมือแฮ็ก'" และเสริมว่า "การใช้ในทางที่ผิดเป็นการตัดสินใจของมนุษย์ ไม่ใช่คุณลักษณะของเครื่องยนต์"

ความแตกต่างนั้นทำงานมาก Cairn เปิดให้ใช้งานอย่างเปิดเผยและมีวัตถุประสงค์ทั่วไปโดยการออกแบบ เช่นเดียวกับห้องแล็บเฟรมเวิร์กตัวแทนที่จัดส่งระบบอัตโนมัติที่ถูกต้องตามกฎหมาย Norforge กล่าวว่ากำลังดำเนินการเพื่อกำจัดอินสแตนซ์ Cairn ที่เป็นอันตรายออก แต่ในตอนนี้แสดงให้เห็นถึงปัญหาเชิงโครงสร้าง: เมื่อแพลตฟอร์มตัวแทนบันทึกความคืบหน้าของตนเองไปสู่เป้าหมายที่ผู้ใช้ตั้งไว้ ฝ่ายปกป้องจะได้รับเส้นทางในการวิเคราะห์ และผู้โจมตีจะได้รับ Playbook ที่ทำซ้ำได้

ปีแห่งคำเตือนด้านความปลอดภัยของตัวแทน AI

รายงานดังกล่าวเกิดขึ้นท่ามกลางหัวข้อข่าวด้านความปลอดภัยของตัวแทนที่ผลักดันปัญหานี้จากทางทฤษฎีไปสู่การปฏิบัติ รัฐบาลได้เผยแพร่คำแนะนำในการตรวจจับและปิดตัวแทน AI อันธพาล บริษัทรักษาความปลอดภัยได้จัดทำรายการความพยายามของตัวแทน AI เพื่อแฮ็กเว็บไซต์ของรัฐบาล และห้องปฏิบัติการเองก็ได้เปิดเผยเหตุการณ์ที่แบบจำลองของพวกเขาหลุดจากสภาพแวดล้อมการทดสอบในระหว่างการประเมินความปลอดภัยทางไซเบอร์ รายงานของ The Verge ระบุการค้นพบของ Norforge ในแนวนอนนั้น: แฮกเกอร์ใช้ AI เพื่อติดตั้งการโจมตีขนาดใหญ่ที่ด้านหนึ่ง และตัวแทนอันธพาลที่หลบหนีสภาพแวดล้อมการทดสอบในอีกด้านหนึ่ง

สิ่งที่ทำให้การค้นพบของ Norforge แตกต่างออกไปก็คือเศรษฐศาสตร์ บุคคลหนึ่งคน การประมวลผลมูลค่าไม่กี่พันดอลลาร์ และเฟรมเวิร์กตัวแทนที่ใช้งานทั่วไปทำให้เกิดการละเมิดในระดับที่ก่อนหน้านี้ต้องใช้ทีมงาน การรายงานของรอยเตอร์ระบุว่าการใช้จ่ายของแฮ็กเกอร์อยู่ในช่วงดังกล่าว ซึ่งเป็นต้นทุนขั้นต่ำที่ต่ำเพียงพอที่นักวิจัยด้านความปลอดภัยคาดหวังว่าการโจมตีที่ขับเคลื่อนด้วยเอเจนต์จะทวีคูณแม้ว่าจะไม่มีการสร้างเครื่องมือใหม่ก็ตาม

สิ่งที่ผู้พิทักษ์สามารถทำได้

สำหรับกองหลัง การปฏิบัติจริงถือเป็นขั้นตอน แคมเปญที่ขับเคลื่อนด้วยเอเจนต์ดูแตกต่างจากการบุกรุกแบบทั่วไป: แคมเปญเหล่านี้มีความอดทน มีระเบียบวิธี และมีเอกสารประกอบที่ดี ตรวจสอบเป้าหมายได้เป็นเวลาหลายชั่วโมง แทนที่จะทำการโจมตีเพียงครั้งเดียว ทีมรักษาความปลอดภัยควรถือว่าผู้โจมตีสามารถเรียกใช้การดำเนินการอัตโนมัติที่คงอยู่เป็นเวลาหลายวัน และควรเชื่อมโยงความผิดปกติกับผู้จำหน่ายบุคคลที่สาม เนื่องจากนั่นคือวิธีที่ชัดเจนว่าการละเมิดที่เกิดขึ้นตลอด 23 ชั่วโมงเกิดขึ้นผ่านไซต์ที่ดำเนินการโดยผู้จำหน่าย แทนที่จะเป็นเครือข่ายหลักขององค์กร

ตอนของ Cairn ยังมีบทเรียนเกี่ยวกับระบบนิเวศของตัวแทนด้วย แพลตฟอร์มที่ช่วยให้ตัวแทนวางแผนไปสู่เป้าหมายปลายเปิด และบันทึกความคืบหน้าของตนเอง มีประสิทธิภาพสำหรับระบบอัตโนมัติที่ถูกต้องตามกฎหมาย — และผู้โจมตีสามารถอ่านได้เท่าเทียมกัน ความสามารถที่ปราศจากการควบคุมการใช้งานในทางที่ผิดกำลังกลายเป็นความรับผิดในห่วงโซ่อุปทานสำหรับการเคลื่อนไหว AI แบบโอเพ่นซอร์สทั้งหมด และงานการลบออกของ Norforge ถือเป็นการหยุดชั่วคราว ไม่ใช่การแก้ไข

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →