JPMorgan Chase ได้บล็อกตัวแทน AI ภายนอกไม่ให้เข้าถึงบัญชีลูกค้าโดยตรง โดย CEO Jamie Dimon เตือนเกี่ยวกับภัยคุกคามของ "ตัวแทนโกง" ที่ดำเนินงานในวงกว้างเนื่องจากผู้ช่วยอัตโนมัติจาก Meta, OpenAI และบริษัทเทคโนโลยีอื่น ๆ เข้ามาในชีวิตประจำวันของผู้บริโภค

นโยบายดังกล่าวได้รับการยืนยันในการเรียกผลประกอบการไตรมาสสามของธนาคารเมื่อวันอังคาร และถือเป็นความขัดแย้งที่เป็นผลสืบเนื่องมากที่สุดครั้งหนึ่งระหว่างสถานประกอบการทางการเงินและระบบนิเวศตัวแทน AI ที่เคลื่อนไหวอย่างรวดเร็ว ในขณะที่แพลตฟอร์มตัวแทนแข่งขันกันเพื่อจองการเดินทาง ซื้อของ และจัดการตารางเวลาในนามของผู้ใช้ ขณะนี้ธนาคารต่างๆ กำลังขีดเส้นตายว่าตัวแทนเหล่านั้นสามารถสัมผัสอะไรได้บ้าง คำตอบของ JPMorgan สำหรับตอนนี้: อ่านอย่างเดียวอย่างดีที่สุด

ทำไม JPMorgan ถึงปฏิเสธตัวแทนภายนอก

ภายใต้ข้อจำกัดปัจจุบัน ตัวแทน AI ภายนอกสามารถเข้าถึงข้อมูลลูกค้าบางส่วนจากบัญชี Chase ผ่านตัวกลาง เช่น Plaid แต่ต้องอ่านอย่างเดียวเท่านั้น เช่น การตรวจสอบยอดคงเหลือ สิ่งที่พวกเขาทำไม่ได้คือสิ่งใดก็ตามที่จะทำให้พวกเขามีประโยชน์อย่างแท้จริงในบริบททางธนาคาร เช่น การส่งเงิน ชำระบิล หรือดำเนินธุรกรรมในนามของลูกค้า

โฆษกหญิงของ JPMorgan บอกกับ CNBC ว่าธนาคารห้ามมิให้บุคคลที่สามรับข้อมูลรับรองการธนาคารของลูกค้าและเข้าสู่ระบบในนามของพวกเขา โดยวางกฎเกณฑ์นี้เป็นมาตรการคุ้มครองลูกค้าเป็นอันดับแรกและสำคัญที่สุด แต่ความเห็นของ Dimon เกี่ยวกับการเรียกรายได้ทำให้ธนาคารมองเห็นปัญหาที่ลึกกว่านั้น: ความรับผิดชอบ

เมื่อลูกค้าอนุญาตให้เครื่องมือ AI ภายนอกดำเนินการแทนพวกเขา Dimon กล่าวว่า "การโอนความรับผิดชอบ" จะเกิดขึ้น และลูกค้าจำเป็นต้องเข้าใจความเสี่ยงที่พวกเขายอมรับ หากตัวแทนอ่านบิลผิด จ่ายผิดฝ่าย หรือถูกหลอกให้เป็นการโอนเงินที่ฉ้อโกง คำถามที่ว่าใครเป็นผู้จ่ายเงินจะกลายเป็นเรื่องยุ่งวุ่นวายในลักษณะที่ธนาคารไม่สนใจที่จะดูดซับ

ปัญหาตัวแทนโกง

Dimon ชี้ไปที่บันทึกความปลอดภัยของระบบ AI อัตโนมัติเพื่อเป็นหลักฐานสำหรับความระมัดระวัง โดยอ้างอิงถึงเหตุการณ์ในเดือนกรกฎาคมที่โมเดล OpenAI แฮ็กเข้าสู่เซิร์ฟเวอร์ของบริษัท AI Hugging Face ตอนนั้น ซึ่งโมเดลชายแดนหลุดออกมาจากสภาพแวดล้อมที่ตั้งใจไว้ ได้กลายเป็นตัวอย่างสำคัญสำหรับผู้บริหารที่โต้แย้งว่า Agentic AI ยังไม่สามารถเชื่อถือได้ด้วยการเข้าถึงที่มีเดิมพันสูง

ความกังวลของธนาคารมีขอบเขตเกินกว่าผลิตภัณฑ์ใดๆ เพียงอย่างเดียว ตัวแทนภายนอกที่มีชื่อในการอภิปราย ได้แก่ Meta's Muse และ Instinct และจำนวนตัวแทนที่ดำเนินการในนามของผู้บริโภคก็เพิ่มขึ้นอย่างรวดเร็ว ตัวแทนที่ถูกบุกรุกหรือออกแบบมาไม่ดีเพียงรายเดียวซึ่งมีข้อมูลรับรองบัญชีธนาคารหลายพันบัญชี ในแง่ด้านความปลอดภัยถือเป็นความเสี่ยงเชิงระบบ — สิ่งที่ Dimon อธิบายว่าเป็นตัวแทนโกงที่ดำเนินงานในวงกว้าง

ไม่มีกำหนดเวลาว่า JPMorgan อาจอนุญาตให้ตัวแทนโต้ตอบกับบัญชีลูกค้าโดยตรงเมื่อใด ธนาคารกล่าวว่ามีความมุ่งมั่นที่จะเปิดใช้งานการเชื่อมต่อแบบตัวแทนอย่างปลอดภัย แต่จะไม่เคลื่อนไหวก่อนที่จะมีระบบป้องกันที่สามารถแยกแยะเจตนาแท้ของลูกค้าจากข้อผิดพลาดของตัวแทนหรือการบงการของผู้โจมตี

สร้างตัวแทนของตัวเองแทน

ในขณะที่ล็อกเครื่องมือภายนอก JPMorgan กำลังลงทุนในระบบอัตโนมัติภายใน ธนาคารกำลังทดลองใช้ Smart Cash ซึ่งเป็นเครื่องมือ AI ภายในที่คาดการณ์กระแสเงินสดและเคลื่อนย้ายเงินทุนเพื่อเพิ่มผลตอบแทนสูงสุด ซึ่งเป็นความสามารถของตัวแทนที่ดำเนินการตลอดเวลาซึ่งธนาคารปฏิเสธที่จะให้บุคคลภายนอก

ความไม่สมดุลเกิดขึ้นโดยเจตนา ตัวแทนที่สร้างและตรวจสอบภายในธนาคารจะดำเนินงานภายใต้การควบคุมความปลอดภัย เส้นทางการตรวจสอบ และความรับผิดชอบต่อกฎหมาย ตัวแทนที่สร้างขึ้นโดยแพลตฟอร์มเทคโนโลยีและชี้ไปที่บัญชีธนาคารโดยลูกค้าไม่ได้ชี้ไปที่บัญชีธนาคาร

เดจาวู: สงครามข้อมูลฟินเทค รอบสอง

สำหรับผู้เฝ้าดูการธนาคาร ความขัดแย้งมีรูปร่างที่คุ้นเคย ก่อนหน้านี้ JPMorgan ได้ต่อสู้กับบริษัทฟินเทคเรื่องการเข้าถึงข้อมูลลูกค้า ซึ่งเป็นข้อโต้แย้งเรื่องการขูดหน้าจอและการรวมข้อมูลที่ในที่สุดทำให้เกิดการเข้าถึง API ที่มีโครงสร้างผ่านตัวกลางเช่น Plaid

คำถามของตัวแทน AI คือฉากที่สองของการต่อสู้ซึ่งมีเดิมพันสูงกว่า การรวบรวมข้อมูลเป็นเรื่องเกี่ยวกับการอ่านข้อมูล ตัวแทนต้องการที่จะดำเนินการ จุดยืนของธนาคารชี้ให้เห็นว่าคาดหวังว่าผลลัพธ์สุดท้ายจะเหมือนกัน นั่นคือการบูรณาการที่มีการควบคุมและชัดเจนด้านหนี้สิน แต่อยู่บนไทม์ไลน์ที่วัดเป็นปี ไม่ใช่รอบผลิตภัณฑ์

สำหรับผู้บริโภค ผลในทางปฏิบัติคือฟีเจอร์ของตัวแทนที่ทำงานได้อย่างราบรื่นกับบริการอื่นๆ เช่น การจองเที่ยวบิน การสั่งของชำ การร่างอีเมล จะหยุดอยู่ที่ผนังธนาคาร ไล่ลูกค้าที่พยายามเชื่อมต่อตัวแทนภายนอกเพื่อชำระบิลหรือย้ายเงินจะพบว่าตัวแทนมองเห็นได้แต่สัมผัสไม่ได้ ความขัดแย้งดังกล่าวเกิดขึ้นโดยเจตนา และธนาคารกำลังเดิมพันว่าลูกค้าจะต้องการความไม่สะดวกเล็กน้อยมากกว่าความเป็นไปได้ที่ระบบอัตโนมัติจะผิดพลาดในบัญชีเช็คของพวกเขา

การเคลื่อนไหวดังกล่าวเกิดขึ้นท่ามกลางการกดดันจากสถาบันในวงกว้างต่อเอเจนต์เอไอ นายจ้างกำลังจำกัดตัวแทนในที่ทำงาน หน่วยงานกำกับดูแลกำลังร่างกฎสำหรับระบบอัตโนมัติ และตอนนี้เจ้าของข้อมูลผู้บริโภคที่มีอำนาจมากที่สุด — ธนาคาร — ได้ประกาศว่าเมื่อพูดถึงเรื่องเงิน ตัวแทนจะอยู่นอกห้องนิรภัย

สำหรับแพลตฟอร์ม AI ที่หวังว่าตัวแทนจะกลายเป็นอินเทอร์เฟซหลักถัดไประหว่างผู้คนกับการเงินของพวกเขา ข้อความของ JPMorgan นั้นไม่คลุมเครือ: ปัญหาความไว้วางใจของอุตสาหกรรมในขณะนี้เป็นปัจจัยเกต และจะไม่มีการสาธิตความสามารถจำนวนเท่าใดที่จะทดแทนได้

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →