ผู้ช่วย Muse AI ของ Meta มาพร้อมกับช่องโหว่แบบ Zero-day ที่ร้ายแรง ซึ่งอนุญาตให้แอปพลิเคชันที่ติดตั้งในเครื่องสามารถขโมยโทเค็นบัญชี Muse ของผู้ใช้ และสร้างอาวุธให้สิทธิพิเศษในวงกว้างที่ผิดปกติของตัวแทน ตามรายงานของ Ars Technica

ข้อบกพร่องนี้ถูกค้นพบโดย Patrick Wardle นักวิจัยด้านความปลอดภัย macOS ผู้ก่อตั้ง Objective-See Foundation และอดีตพนักงานของ NASA และ National Security Agency การเปิดเผยข้อมูลของเขาเกิดขึ้นในช่วงเวลาที่ละเอียดอ่อนสำหรับ Meta: ประมาณ 12 ชั่วโมงก่อนที่ Wardle จะเผยแพร่สู่สาธารณะ Amazon ได้เริ่มบล็อกผู้คนไม่ให้ใช้ Muse เพื่อซื้อสินค้าบนเว็บไซต์ของตน โดยเรียกสิ่งนี้ว่า "ตัวแทน AI ที่ไม่ได้รับอนุญาต" ซึ่งละเมิดเงื่อนไขการใช้งานของ Amazon For more context on this story, see our ongoing artificial intelligence updates.

วิธีการทำงานของ Muse Zero-Day

Muse ซึ่ง Meta เปิดตัวเมื่อไม่กี่สัปดาห์ที่ผ่านมาได้รับการออกแบบให้เป็นผู้ช่วยส่วนตัวที่ก้าวร้าว Ars Technica ระบุว่า "จองการนัดหมาย กรอกแบบฟอร์ม และจัดการบริการลูกค้า" "จัดการงานต่างๆ ของคุณได้ทันที" และสามารถ "ซื้อสินค้า สร้างภาพ สร้างเอกสาร และเชื่อมต่อกับแอปและบริการที่คุณชื่นชอบได้" แอปนี้ทำงานบน macOS ซึ่งจริงๆ แล้วไม่มีเวอร์ชัน Windows และเชื่อมต่อกับบัญชี WhatsApp อีเมล ปฏิทิน และโซเชียลมีเดียของผู้ใช้

การเข้าถึงระดับนั้นคือสิ่งที่ทำให้ช่องโหว่มีความสำคัญ เพื่อให้ Muse ทำงานได้ ผู้ใช้จะต้องตรวจสอบสิทธิ์กับแต่ละบริการและให้สิทธิ์ระบบปฏิบัติการที่ครอบคลุม เช่น การเขียนไฟล์ลงดิสก์ การเข้าถึงไมโครโฟนและกล้อง และการตรวจสอบตำแหน่งและปฏิทิน

Wardle พบว่านักพัฒนาของ Meta ออกแบบผู้ช่วยเพื่อให้แอปที่ติดตั้งในเครื่องหรือคำสั่งที่ดำเนินการ โดยไม่คำนึงถึงสิทธิ์ macOS ของตัวเอง สามารถเปลี่ยนรายการการตั้งค่าที่ไม่มีเอกสารจำนวนมากได้ การตั้งค่าส่วนใหญ่ไม่มีอันตราย เช่น การสลับโหมดมืด อย่างไรก็ตาม มีการควบคุมการประมวลผลคำพูดของผู้ใช้ที่ละเอียดอ่อน และกลไกเดียวกันนี้สามารถเปิดเผยโทเค็นที่รับรองความถูกต้องของผู้ใช้ไปยังบัญชี Muse ของพวกเขา

“เราสามารถจัดการตัวแทนและใช้สิทธิพิเศษเพื่อทำอะไรก็ได้ที่เราต้องการ” Wardle บอกกับ Ars Technica "ดังนั้น แทนที่จะต้องเขียนโปรแกรมขโมยมัลแวร์ Mac ที่ครอบคลุมมาก เราก็สามารถใช้ประโยชน์จากตัวช่วย AI ได้เลย"

ในทางปฏิบัติ Wardle กล่าวว่าเขาได้พัฒนาการโจมตีแบบพิสูจน์แนวคิดหลายครั้ง รวมถึงการโจมตีที่เขียนไฟล์ที่เป็นอันตรายลงดิสก์ เส้นทางการโจมตีที่อธิบายไว้หนึ่งเส้นทางนั้นเกี่ยวข้องกับเซิร์ฟเวอร์ของผู้โจมตีที่ทำหน้าที่เป็นพร็อกซีระหว่างผู้ใช้ Muse และจุดสิ้นสุดของ Meta: เมื่อผู้ใช้พูดเสียงเตือน เซิร์ฟเวอร์ของผู้โจมตีจะแทรกคำสั่งที่เป็นอันตราย ตัวอย่างเช่น ส่งข้อความ WhatsApp ทั้งหมดไปยังผู้โจมตี และได้รับการควบคุมบัญชี Muse อย่างถาวร

การตัดสินใจออกแบบภายใต้กล้องจุลทรรศน์

Wardle ถือว่าการใช้ประโยชน์จากตัวเลือกการออกแบบเฉพาะหลายประการ สิ่งหนึ่งคือการตัดสินใจของ Meta ในการจัดการคำสั่ง Muse ในระบบคลาวด์ ซึ่งบริษัทสามารถบันทึกได้ แทนที่จะใช้การถอดเสียงบนอุปกรณ์ที่รองรับมายาวนานของ macOS หากเลือกทางเลือกในท้องถิ่นที่ปลอดภัยกว่า การโจมตีดังกล่าวคงเป็นไปไม่ได้

อีกประการหนึ่งคือการอนุญาตให้แอปควบคุมจุดสิ้นสุดการตั้งค่าที่ไม่มีเอกสาร Wardle แนะนำว่า Meta น่าจะมีไว้สำหรับแอปพันธมิตรเพื่อปรับการตั้งค่าอินเทอร์เฟซ แต่การขยายการควบคุมนั้นไปยังการประมวลผลคำพูดที่ละเอียดอ่อนทำให้ฟีเจอร์อำนวยความสะดวกกลายเป็นพื้นผิวการโจมตี

“สำหรับฉันแล้ว ความปลอดภัยของแอพเหล่านี้มีมาตรฐานที่สูงกว่าอย่างไม่สิ้นสุด” Wardle กล่าว “พวกเขาไม่จำเป็นต้องสมบูรณ์แบบ แต่เมื่อคุณดู Muse แล้ว ในความคิดของฉัน พวกเขาไม่ได้คิดถึงเรื่องความปลอดภัย ซึ่งน่าเป็นห่วงจริงๆ อย่างน้อยที่สุด พวกเขาควรจะคิดถึงเรื่องความปลอดภัยตั้งแต่เริ่มต้น และพวกเขาก็ไม่ได้เป็นเช่นนั้น”

Meta เผยแพร่สองโพสต์ในช่วงหลายสัปดาห์ที่บันทึกการตัดสินใจด้านความปลอดภัยและความเป็นส่วนตัวของผู้ช่วยที่สามารถเข้าถึงข้อมูลผู้ใช้ในวงกว้างได้ ซึ่งเป็นไทม์ไลน์ที่ตอนนี้อ่านแตกต่างออกไปในแง่ของการเปิดเผย Ars Technica ยังตั้งข้อสังเกตถึงเบื้องหลังที่กว้างขึ้น: การเปิดเผยว่าการทดสอบภายในของโมเดลจาก Anthropic และ Google ส่งผลให้เกิดการละเมิดความปลอดภัยของเครือข่ายภายนอกของบุคคลที่สาม ซึ่งวิศวกรไม่เคยตั้งใจจะแตะต้อง

โปรแกรมแก้ไขด่วนและคำเตือนสำหรับ Agentic AI

มากกว่า 12 ชั่วโมงหลังจากรายงานเผยแพร่ Meta กล่าวว่าได้ออกโปรแกรมแก้ไขด่วนที่แก้ไขศูนย์วัน Meta ไม่ตอบสนองต่อคำร้องขอความคิดเห็นเกี่ยวกับไทม์ไลน์ของการแก้ไขทันที

ผู้เชี่ยวชาญด้านความปลอดภัยได้แย้งมานานแล้วว่าเมื่ออุปกรณ์ถูกบุกรุก การเดิมพันทั้งหมดก็จะสิ้นสุดลง ซึ่งเป็นข้อโต้แย้งที่ผู้จำหน่ายซอฟต์แวร์พิเศษมักพึ่งพา Wardle ผลักดันกรอบนั้นสำหรับ Muse ซึ่งเป็นรูปแบบที่เรียบง่ายของเทคนิควิศวกรรมสังคม ClickFix ซึ่งมีประสิทธิภาพอย่างน่าทึ่งในการหลอกให้ผู้คนติดไวรัสในอุปกรณ์ของตนเอง เป็นสิ่งที่ผู้โจมตีต้องการเพื่อเรียกใช้โค้ดที่เป็นอันตรายที่ทำงานบน Mac ของเป้าหมาย

Wardle วางแผนที่จะหารือเกี่ยวกับช่องโหว่และภัยคุกคามผู้ช่วย AI อื่น ๆ โดยละเอียดในการประชุมด้านความปลอดภัย Objective by the Sea ในเดือนพฤศจิกายน

ในตอนนี้เป็นกรณีศึกษาที่ชัดเจนเกี่ยวกับหนี้ด้านความปลอดภัยที่ผลิตภัณฑ์ AI แบบตัวแทนสามารถสะสมได้เมื่อแข่งขันกับตลาด ผู้ช่วยที่สามารถอ่านข้อความของคุณ ชำระค่าสินค้า และดำเนินการทั่วทั้งบัญชีของคุณ จากมุมมองของผู้โจมตี เป้าหมายที่มีมูลค่าสูงเพียงเป้าหมายเดียว และการประนีประนอมกับเป้าหมายนั้นมีราคาถูกกว่าการสร้างมัลแวร์ตามความต้องการสำหรับแต่ละบริการที่สัมผัส

สำหรับผู้ใช้ บทเรียนเชิงปฏิบัติเป็นสิ่งที่คุ้นเคยแต่เร่งด่วนใหม่: จำกัดสิ่งที่ผู้ช่วย AI สามารถเข้าถึงได้ ปฏิบัติต่อสิทธิพิเศษอย่างจริงจังเช่นเดียวกับที่คุณปฏิบัติต่อข้อมูลรับรองของคุณเอง และอย่ากังขาในผลิตภัณฑ์ที่กำหนดเส้นทางอินพุตที่ละเอียดอ่อน เช่น การเขียนตามคำบอกด้วยเสียงผ่านเซิร์ฟเวอร์บุคคลที่สามตามค่าเริ่มต้น สำหรับอุตสาหกรรม ข้อความจากนักวิจัยนั้นตรงไปตรงมา การรักษาความปลอดภัยไม่สามารถเป็นแพตช์หลังการเปิดตัวสำหรับซอฟต์แวร์ที่กุมกุญแจสู่ชีวิตดิจิทัลของใครบางคน

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →