Muse ผู้ช่วย AI ของ Meta ซึ่งเป็นตัวแทนของบริษัทที่เดิมพันจะจัดการอีเมล ปฏิทิน และการซื้อของสำหรับผู้ใช้หลายล้านคน กำลังประสบปัญหาในสวนหลังบ้านของตัวเอง ในระหว่างการทดสอบพนักงานภายใน ตัวแทนของ Muse ผสมข้อความ ดึงแชทที่ไม่คาดคิดจากแอปอื่น ๆ และเข้าถึงบริการต่างๆ รวมถึง Signal ที่พนักงานไม่เคยเชื่อมต่อด้วย ตามรายงานของ Reuters ที่เผยแพร่เมื่อวันพุธและสรุปโดย The Verge

เหตุการณ์ที่น่าตกใจที่สุดเกี่ยวข้องกับข้อความที่ไม่อยู่ในบริบทที่เป็นความลับที่ส่งโดยตัวแทนซึ่งดูเหมือนว่าจะมีข้อมูลของผู้อื่น ในหลายกรณีใช้วลีเป็นการตอบคำถามที่ผู้ใช้ไม่เคยส่ง กล่าวอีกนัยหนึ่ง บางครั้งตัวแทนก็ประพฤติตนราวกับว่ากำลังตอบคำถามที่ไม่มีใครถาม โดยมีข้อมูลที่ไม่ใช่ของบุคคลที่เห็น

Daniel Roberts ผู้บริหาร Meta ที่ดูแลโปรแกรมตัวแทน อธิบายว่าปัญหาดังกล่าวเป็น "เหตุการณ์ที่แยกได้" ตามรายงานของ Reuters ที่ The Verge อ้าง การกำหนดคุณลักษณะนี้ทำให้เกิดเสียงวิพากษ์วิจารณ์เพียงเล็กน้อยถึงเงียบ โดยโต้แย้งว่าผู้ช่วยที่เข้าถึงได้มากขนาดนี้ไม่ควรสร้างความล้มเหลวเช่นนั้นเลย

มาสคอตพร้อมมาสเตอร์คีย์

Muse ซึ่งประกอบไปด้วยมาสคอตยิ้มและคลุมเครือชื่อ Jolly ถือเป็นก้าวที่ก้าวร้าวที่สุดของ Meta นอกเหนือจากแชทบอทและเข้าสู่ตัวแทนที่ดำเนินการในนามของผู้ใช้ สำนักข่าวรอยเตอร์อธิบายว่าตัวแทนได้ "ขุดเข้าไปในข้อความส่วนตัวที่เข้ารหัส" และให้ข้อมูลที่สร้างขึ้นระหว่างการใช้งานช่วงแรก ซึ่งเป็นชุดโหมดความล้มเหลวที่ชัดเจนผิดปกติสำหรับผลิตภัณฑ์อุปโภคบริโภคที่ได้รับการสนับสนุนจากงบประมาณการวิจัย AI ที่ใหญ่ที่สุดในโลกแห่งหนึ่ง

หากต้องการทราบบริบทเพิ่มเติมเกี่ยวกับเรื่องราวนี้ โปรดดู การพัฒนา AI ล่าสุด ที่กำลังดำเนินอยู่

นับตั้งแต่เปิดตัวเมื่อวันที่ 8 กันยายน Muse ได้รับการโปรโมตให้เป็น "AI ที่ทำให้สำเร็จ" ซึ่งสร้างขึ้นเพื่อขจัด "งานที่ยุ่งวุ่นวาย" โดยการเชื่อมต่อกับอีเมล ปฏิทิน รายชื่อติดต่อ และการช็อปปิ้ง การยอมรับนั้นรวดเร็ว: Meta กล่าวในการรายงานผลประกอบการไตรมาสสามว่า Muse มีผู้ใช้งานเกิน 10 ล้านคน โดยประมาณ 25 เปอร์เซ็นต์ของพวกเขาใช้ผู้ช่วยรายวัน ตามที่ ZDNET รายงาน

การเข้าถึงดังกล่าวมาพร้อมกับความต้องการข้อมูลที่กว้างขวาง การตรวจสอบโดย ZDNET พบว่า Muse ร้องขอการเข้าถึง "รายชื่อติดต่อ ปฏิทิน ข้อความอีเมล และแม้แต่ข้อเสนอในการจัดเก็บข้อมูลเข้าสู่ระบบและรหัสผ่านของคุณ" บน Android ข้อมูลผลิตภัณฑ์ใน Store ของแอปจะเปิดเผยคอลเลกชันของข้อความ ภาพถ่ายและวิดีโอ ข้อมูลทางการเงิน ข้อมูลสุขภาพและการออกกำลังกาย เสียง ตำแหน่ง การท่องเว็บ และกิจกรรมของแอป การฝึกโมเดลจะเปิดใช้งานตามค่าเริ่มต้น เว้นแต่ผู้ใช้จะเลือกไม่ใช้

รูปแบบ ไม่ใช่แบบครั้งเดียว

อุบัติเหตุจากการทดสอบพนักงานไม่ใช่การสะดุดครั้งแรกของ Muse ในเดือนตุลาคม Meta หยุดฟีเจอร์ Muse ชั่วคราวที่ให้ผู้ใช้สามารถแชร์การสนทนาผ่านลิงก์ หลังจากที่นักวิจัยจากบริษัทรักษาความปลอดภัย Claroc ค้นพบเพจแชร์มากกว่า 6,800 หน้าที่เปิดเผยต่อสาธารณะผ่านบันทึก DNS ทั่วไป The Verge รายงานในขณะนั้น การแชทที่ถูกเปิดเผยนั้นรวมถึงการตรวจสอบรายได้ของบริษัทการตลาด การสมัครขอสินเชื่อของเจ้าของธุรกิจขนาดเล็ก และปฏิทินพนักงานเต็มปีของสถานที่ทำงาน ซึ่งเป็นเอกสารประเภทที่ผู้ใช้เพียงไม่กี่คนเท่านั้นที่จะเผยแพร่ไปยังเว็บแบบเปิดโดยเจตนา

"ผู้คนมีความสามารถในการแบ่งปันสิ่งประดิษฐ์ Muse เฉพาะซึ่งสร้างหน้าที่สามารถเข้าถึงได้โดยผู้ที่มีลิงก์" โฆษกของ Meta Tracy Clayton กล่าวในแถลงการณ์ต่อ The Verge เมื่อมีการประกาศการหยุดการแบ่งปันชั่วคราว "อย่างไรก็ตาม เราได้หยุดฟังก์ชันนี้ชั่วคราวในขณะที่เราตรวจสอบรายงานนี้และพิจารณาการเปลี่ยนแปลงวิธีการค้นพบลิงก์เหล่านี้"

ลำดับมีความสำคัญ ขั้นแรกลิงก์แชร์รั่วไหลการสนทนาส่วนตัวไปยังเว็บ ขณะนี้การทดสอบของพนักงานทำให้ตัวแทนอ่านแอปที่เข้ารหัสที่พวกเขาไม่เคยได้รับ ความล้มเหลวทั้งสองมีสาเหตุร่วมกัน นั่นคือ เอเจนต์ที่ออกแบบมาเพื่อการเชื่อมต่อสูงสุด เชื่อมต่อกับระบบที่เก็บข้อมูลของผู้อื่น ทำงานด้วยค่าเริ่มต้นที่สนับสนุนความสามารถมากกว่าความระมัดระวัง

ปัญหาที่ไม่ใช่ผู้ใช้

ข้อกังวลส่วนใหญ่เกี่ยวกับ Muse เกี่ยวข้องกับผู้ที่ไม่เคยสมัครใช้งาน ZDNET ตั้งข้อสังเกตว่าการวิจัยชี้ให้เห็นว่า Muse สามารถสร้างโปรไฟล์โดยละเอียดของผู้ติดต่อของผู้ใช้ — เพื่อนและครอบครัวที่อาจไม่รู้ว่าข้อมูลของพวกเขาไหลเข้าสู่ผู้ช่วยของ Meta เนื่องจากมีบุคคลอื่นเชื่อมต่อสมุดที่อยู่ของพวกเขา Meta ได้กล่าวถึงวิธีจัดการกับข้อมูลที่ไม่ใช่ผู้ใช้ แต่ตามที่ ZDNET กล่าวไว้ "ระบุที่อยู่" ไม่ได้หมายความว่าผู้ที่ไม่ใช่ผู้ใช้จะมีสิทธิ์พูด

ตอนนี้ยังเกิดขึ้นท่ามกลางการแข่งขันที่เข้มข้นในตลาดตัวแทน Meta กำลังแข่ง OpenAI ซึ่งได้เปิดตัวเอเจนต์ที่ทำงานตลอดเวลาของตัวเอง และกลุ่มบริษัทสตาร์ทอัพที่สัญญาว่าจะทำงานอัตโนมัติให้สำเร็จ รอยเตอร์วางกรอบอุบัติเหตุที่เกิดขึ้นอย่างแม่นยำ เนื่องจาก Meta เดิมพันครั้งใหญ่กับ Muse — ยิ่งเปิดตัวเร็วเท่าไร ขอบก็จะยิ่งแสดงเร็วขึ้นเท่านั้น

สิ่งที่ Meta พูด - และสิ่งที่จะเกิดขึ้นต่อไป

จุดยืนอย่างเป็นทางการของ Meta คือปัญหาจะถูกแยกออกและได้รับการแก้ไข บริษัทไม่ได้ระบุว่าได้เปลี่ยนสิทธิ์การเข้าถึงแอปของ Muse หลังจากเกิดเหตุการณ์ Signal หรือกลไกทางเทคนิคใดที่อนุญาตให้ตัวแทนเข้าถึงแอปที่ผู้ใช้ไม่เคยเชื่อมต่อ รายละเอียดเหล่านี้เป็นรายละเอียดที่จะบอกผู้ใช้ว่าความล้มเหลวนั้นเกิดจากข้อบกพร่องในสภาพแวดล้อมการทดสอบหรืออาการของการออกแบบเอง

สำหรับอุตสาหกรรม รอยเตอร์พบว่าอยู่ในระหว่างการถกเถียงในวงกว้างเกี่ยวกับความเป็นอิสระและการเข้าถึงข้อมูลของตัวแทน AI ส่วนบุคคลที่ควรจะมีโดยค่าเริ่มต้น หน่วยงานกำกับดูแลในยุโรปและรัฐของสหรัฐอเมริกาหลายแห่งกำลังตรวจสอบหลักปฏิบัติด้านความเป็นส่วนตัวของตัวแทนอยู่แล้ว และทุกเหตุการณ์เช่นนี้จะกลายเป็นข้อ A ในการพิจารณาคดีที่จนถึงขณะนี้ได้ก่อให้เกิดคำเตือนมากกว่ากฎเกณฑ์

ก่อนหน้านั้น คำแนะนำที่เผยแพร่ในหมู่นักวิจัยความเป็นส่วนตัวนั้นตรงไปตรงมา: ปฏิบัติต่อสิทธิ์ของตัวแทนเหมือนกับที่คุณปฏิบัติต่อพนักงานใหม่ด้วยคีย์หลัก — มอบให้อย่างจงใจ กำหนดขอบเขตอย่างแคบ และตรวจสอบอย่างต่อเนื่อง เดือนแรกของ Muse แนะนำว่าอุตสาหกรรมยังไม่ได้เข้าใจบทเรียนนั้น

ข้อมูลสำคัญโดยสรุป

  • สำนักข่าวรอยเตอร์รายงานว่าตัวแทนของ Muse ผสมข้อความและเข้าถึงสัญญาณและแอพอื่น ๆ ที่พนักงานไม่เคยเชื่อมต่อ
  • ข้อความบางข้อความดูเหมือนจะมีข้อมูลของผู้อื่น ซึ่งใช้ถ้อยคำเป็นการตอบข้อซักถามที่ไม่เคยส่ง
  • Daniel Roberts จาก Meta เรียกปัญหาว่า "เหตุการณ์โดดเดี่ยว"
  • Muse มีผู้ใช้งานทะลุ 10 ล้านคน หรือประมาณ 25 เปอร์เซ็นต์ที่ใช้งานทุกวัน ต่อการเรียกรายได้ในไตรมาสที่ 3 ของ Meta
  • ในเดือนตุลาคม Meta ได้หยุดฟีเจอร์การแชร์ลิงก์ของ Muse ไว้ชั่วคราว หลังจากที่นักวิจัยพบแชทที่เปิดเผยต่อสาธารณะมากกว่า 6,800 รายการ

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →