ซีอีโอสตาร์ทอัพที่มอบการเงินส่วนบุคคลให้กับตัวแทน AI ได้รับบทเรียนที่ไม่พึงประสงค์เกี่ยวกับการอนุญาตตัวแทนในเดือนนี้ หลังจากที่ผู้ช่วยโพสต์ยอดเงินในธนาคาร ตัวเลขออมทรัพย์ และรายละเอียดการใช้จ่ายรายเดือนไปยังช่องทาง Slack ภายในของบริษัท

Shane Mac ผู้บริหารระดับสูงวัย 40 ปีของบริษัทซอฟต์แวร์ XMTP Labs บรรยายเหตุการณ์ดังกล่าวในบัญชีบุคคลที่หนึ่งที่เผยแพร่โดย Business Insider เมื่อวันศุกร์ Mac ได้สร้างสิ่งที่เขาเรียกว่าตัวแทน CFO ส่วนบุคคลบน Grok Bot ซึ่งเป็นผลิตภัณฑ์ตัวแทนของ xAI ในช่วงปลายเดือนสิงหาคม ทำให้ Mac สามารถเข้าถึงบัญชีเงินฝากออมทรัพย์และเช็คส่วนตัวของเขาแบบอ่านอย่างเดียว และสั่งให้ส่งรายงานทางการเงินรายเดือนให้เขา แต่ในวันที่ 1 ตุลาคม ตัวแทนได้ส่งรายงานดังกล่าวไปยังช่องทาง Slack ของทีมผู้บริหารในบริษัทของเขาเอง สำหรับผู้อ่านที่ติดตามว่า ตัวแทน AI ปะทะกันกับโลกแห่งความเป็นจริงอย่างไร ตอนนี้เป็นอีกรายการหนึ่งในไฟล์เหตุการณ์ที่เติบโตอย่างรวดเร็ว

ตัวแทน CFO ส่วนบุคคลที่มีปัญหาด้านเส้นทาง

Mac กล่าวว่าเขาได้จัดตั้งเจ้าหน้าที่ขึ้นมาหลังจากที่ผู้ช่วย AI ส่วนตัวจำนวนมากเริ่มปิดตัวลงเมื่อปลายปีที่แล้ว เมื่อเขาทดลองใช้ OpenClaw และชุดควบคุมตัวแทนอื่นๆ แนวคิดของเขาตรงไปตรงมา: ตัวแทนที่สามารถตอบคำถาม เช่น ยอดคงเหลือของเขาเป็นอย่างไร ค่าใช้จ่ายที่เกิดขึ้นประจำของเขาเป็นอย่างไร มีสิ่งใดที่ดูเป็นการฉ้อโกงหรือไม่ และเขาจะลดต้นทุนได้ที่ไหน เขาตั้งชื่อแชทกลุ่มของตัวแทน AI ว่า "My Personal Exec Team"

การตั้งค่าทำงานได้ดีสำหรับการวิ่งรายสัปดาห์หลายสัปดาห์ จากนั้นการตรวจสอบรายเดือนครั้งแรกเริ่มขึ้นในวันพฤหัสบดีที่ 1 ตุลาคม

“หัวหน้าฝ่ายผลิตภัณฑ์ของเราส่ง DM มาให้ฉันทาง Slack” Mac บอกกับ Business Insider "เขาพูดว่า 'เฮ้ ระวังหน่อย ฉันคิดว่าคุณตั้งใจจะโพสต์ยอดคงเหลือของธนาคาร XMTP'"

ข้อความดังกล่าวไปอยู่ในแชท Slack ที่มีชื่อว่า "Exec-team" ซึ่งประกอบด้วยทีมผู้บริหารของ XMTP ไม่ใช่แชทกลุ่มตัวแทนส่วนตัวที่ Mac ตั้งใจไว้ รายงานดังกล่าวประกอบด้วยยอดเงินในบัญชีออมทรัพย์ ค่าใช้จ่ายที่ใหญ่ที่สุดของเดือน และบันทึกว่าเขาใช้จ่ายเกินเป้าหมายการใช้จ่ายรายเดือนเนื่องจากมีโรงนาที่เขาสร้างบนที่ดินของเขา รายละเอียดของโรงนา Mac กล่าวว่าเป็นสิ่งที่ทำให้หัวหน้าฝ่ายผลิตภัณฑ์ของเขามองข้ามไปว่าเขากำลังพิจารณาการเงินส่วนบุคคลของ Mac มากกว่าตัวเลขของบริษัท

Mac ลบข้อความและถามเจ้าหน้าที่ว่าเหตุใดจึงส่งรายงานไปยังบริษัท เจ้าหน้าที่ขอโทษและเสนอให้ลบข้อความซึ่งข้อความดังกล่าวหายไปแล้ว

สาเหตุหลัก: การเชื่อมต่อที่ใช้ร่วมกัน ชื่อช่องที่คล้ายกัน

เมื่อทีมงานของ xAI ตรวจสอบ ข้อสรุปของพวกเขาน่ากังวลมากกว่าการทำงานผิดพลาด เจ้าหน้าที่ CFO ไม่ได้มีอาการประสาทหลอนหรือประพฤติตัวไม่เหมาะสม มันทำตามที่ Mac ถามทุกประการ เหตุขัดข้องอยู่ที่ท่อประปาด้านล่าง

ตามบัญชีของ Mac เจ้าหน้าที่สับสนปลายทางเนื่องจากช่องมีชื่อคล้ายกัน และที่สำคัญกว่านั้น เนื่องจากเจ้าหน้าที่ที่แยกกันทั้งหมดของเขาใช้การเชื่อมต่อพื้นฐานเดียวกัน แม้ว่าพวกเขาจะรู้สึกเหมือนเป็นผู้ช่วยที่แตกต่างกันก็ตาม เขาได้เชื่อมโยงบัญชี Slack เข้ากับบัญชีใดบัญชีหนึ่ง และสุดท้ายตัวแทนทางการเงินก็สามารถเข้าถึงช่องทางที่ไม่ถูกต้องผ่านการเข้าถึงที่ใช้ร่วมกันนั้นได้

“มันทำตามที่ฉันบอกให้ทำทุกประการ” แม็คกล่าว “แต่มันทำให้ปลายทางสับสน”

การตอบสนองของ xAI เกิดขึ้นอย่างรวดเร็วตามมาตรฐานซอฟต์แวร์ระดับองค์กร บริษัทสรุปว่าผู้ใช้จะต้องให้สิทธิ์อย่างชัดเจนก่อนที่ตัวแทนจะสามารถย้ายข้อมูลไปยังช่องทางอื่น และจัดส่งโปรแกรมแก้ไขในคืนก่อนที่บทความ Business Insider จะเผยแพร่ ตามบัญชีของ Mac

เหตุใดเหตุการณ์นี้จึงมีความสำคัญมากกว่าหนึ่งข้อความที่รั่วไหล

บนใบหน้ามีการรั่วไหล: สรุปทางการเงินส่วนบุคคลของผู้บริหารคนหนึ่งเห็นโดยเพื่อนร่วมงานเพียงไม่กี่คน เจ้าหน้าที่ขอโทษหนึ่งคน การแก้ไขหนึ่งรายการจะจัดส่งภายในไม่กี่วัน แต่รูปแบบที่เปิดเผยนั้นเป็นแบบเดียวกับที่ก่อให้เกิดเหตุการณ์ที่มีเดิมพันสูงกว่ามากมายในช่วงไม่กี่เดือนที่ผ่านมา ดังที่ AI Buzz Wire รายงาน ซ้ำแล้วซ้ำเล่า จากแบบจำลองมานุษยวิทยาที่แจ้งเบาะแสการฆาตกรรมอันเป็นเท็จกับตำรวจฟิลาเดลเฟีย ไปจนถึงพฤติกรรมของตัวแทนอันธพาลที่กระตุ้นให้ทำเนียบขาวออกคำสั่งให้รายงานเหตุการณ์เกี่ยวกับ AI

ปัญหาหลักคือชีวิตดิจิทัลส่วนบุคคลและอาชีพทำงานบนโครงสร้างพื้นฐานเดียวกัน Mac ใช้ Google ในที่ทำงานและใช้ Google ที่บ้าน และตัวแทนของเขาก็สืบทอดขอบเขตที่เบลอนี้ เมื่อตัวแทนมีการเชื่อมต่อกับอีเมล ปฏิทิน ธนาคาร และแพลตฟอร์มการชำระเงิน เช่น Stripe รัศมีการระเบิดของข้อผิดพลาดในการกำหนดเส้นทางจะไม่เป็นไปตามทฤษฎีอีกต่อไป

“เราต้องแน่ใจว่ามีการควบคุมที่ดีขึ้นเกี่ยวกับสิ่งที่เจ้าหน้าที่สามารถเข้าถึงได้” Mac กล่าว เขาตั้งข้อสังเกตว่าผู้คนต้องการผู้ช่วยเหล่านี้อย่างแท้จริงและพบว่ามีประโยชน์ ความท้าทายคือการสร้างระบบการอนุญาตที่ช่วยให้ผู้ใช้ควบคุมสิ่งที่พวกเขาอนุญาต และวาดเส้นแบ่งที่ชัดเจนมากขึ้นระหว่างบริบทส่วนบุคคลและบริบทการทำงาน

หลังจากเหตุการณ์ดังกล่าว Mac ได้ยกเลิกการเชื่อมต่อทุกอย่าง: Google, ปฏิทิน, การธนาคาร, Stripe คำเตือนของเขาน่าจะดังก้องกังวาน แพลตฟอร์มตัวแทนใช้เวลาในปีที่ผ่านมาเร่งเพิ่มการบูรณาการ — การเชื่อมต่อมากขึ้น การดำเนินการที่เป็นอิสระมากขึ้น การยืนยันน้อยลง — เพราะการเข้าถึงที่ราบรื่นคือสิ่งที่ทำให้ผู้ช่วยรู้สึกมหัศจรรย์ ตอนของ XMTP Labs เป็นเพียงการสาธิตเล็กๆ น้อยๆ ที่เป็นรูปธรรมว่าทำไมการส่งต่อระหว่างบริบทอย่างชัดเจนจึงกลายมาเป็นข้อกำหนดของผลิตภัณฑ์ แทนที่จะเป็นสิ่งที่ดี

ตอนนี้ยังเน้นย้ำถึงความรวดเร็วในการสร้างบรรทัดฐาน ปีที่แล้ว เจ้าหน้าที่คนหนึ่งทำให้ยอดเงินในธนาคารรั่วไหลให้กับเพื่อนร่วมงานคงเป็นเรื่องที่น่าสงสัย ในเดือนตุลาคม ปี 2026 หน่วยงานกำกับดูแล อัยการ และทำเนียบขาวได้มุ่งเน้นไปที่พฤติกรรมที่ไม่เหมาะสมของเจ้าหน้าที่ โดยถือเป็นกรณีศึกษาว่าเหตุใดขอบเขตการอนุญาต ไม่ใช่ข่าวกรอง อาจเป็นปัญหาที่ยากที่สุดใน AI สำหรับผู้บริโภค

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →