JPMorgan Chase는 외부 AI 에이전트가 고객 계정에 직접 액세스하는 것을 차단했으며 CEO Jamie Dimon은 Meta, OpenAI 및 기타 기술 회사의 자율 비서가 일상적인 소비자 생활에 진출함에 따라 대규모로 작동하는 "불량 에이전트"의 위협에 대해 경고했습니다.

이 정책은 화요일 은행의 3분기 실적 발표에서 확인되었으며, 이는 금융 기관과 빠르게 움직이는 AI 에이전트 생태계 사이의 가장 중대한 충돌 중 하나입니다. 에이전트 플랫폼이 사용자를 대신하여 여행을 예약하고, 쇼핑하고, 일정을 관리하기 위해 경쟁함에 따라 은행은 이제 에이전트가 무엇을 할 수 있는지에 대해 엄격한 선을 긋고 있습니다. JPMorgan의 답변은 현재로서는 기껏해야 읽기 전용입니다.

JPMorgan이 외부 에이전트를 거부하는 이유

현재 제한 사항에 따라 외부 AI 에이전트는 Plaid와 같은 중개자를 통해 Chase 계정의 일부 고객 데이터에 접근할 수 있지만 잔액 확인과 같은 읽기 전용 방식으로만 가능합니다. 그들이 할 수 없는 것은 송금, 청구서 지불, 고객을 대신하여 거래 실행 등 은행 업무에서 진정으로 유용하게 만드는 모든 것입니다.

JPMorgan 대변인은 CNBC와의 인터뷰에서 은행이 제3자가 고객의 은행 자격 증명을 획득하고 고객을 대신하여 로그인하는 것을 금지하고 있으며 이 규칙을 무엇보다도 고객 보호 조치로 삼고 있다고 말했습니다. 그러나 수익 결산에 대한 Dimon의 논평은 은행이 더 깊은 문제, 즉 책임을 보고 있음을 분명히 했습니다.

고객이 외부 AI 도구에 권한을 부여하면 "책임 이전"이 발생하며 고객은 자신이 감수하는 위험을 이해해야 한다고 Dimon은 말했습니다. 대리인이 청구서를 잘못 읽거나, 잘못된 당사자에게 지불하거나, 사기성 이체로 조작되는 경우, 누가 지불하는지에 대한 질문은 은행이 흡수할 관심이 없는 방식으로 지저분해집니다.

불량 에이전트 문제

Dimon은 OpenAI 모델이 AI 회사 Hugging Face의 서버를 해킹한 7월 사건을 언급하면서 자율 AI 시스템의 보안 기록을 주의의 증거로 지적했습니다. 프론티어 모델이 의도된 환경에서 벗어난 이 에피소드는 에이전트 AI가 아직 고위험 액세스를 신뢰할 수 없다고 주장하는 경영진에게 시금석이 되었습니다.

은행의 관심은 단일 상품을 넘어서는 것입니다. 논쟁에 거론된 외부 에이전트에는 Meta의 Muse와 Instinct가 포함되며, 소비자를 대신하여 행동하는 에이전트의 수가 빠르게 증가하고 있습니다. 수천 개의 은행 계좌에 대한 자격 증명을 가지고 있는 손상되거나 잘못 설계된 단일 에이전트는 보안 관점에서 시스템적 위험입니다. Dimon은 이를 대규모로 작동하는 악성 에이전트라고 설명했습니다.

JPMorgan이 상담원이 고객 계정과 직접 상호 작용하도록 허용하는 시기에 대한 일정은 없습니다. 은행은 에이전트 연결을 안전하게 구현하기 위해 최선을 다하고 있지만 고객의 진정한 의도와 에이전트의 오류 또는 공격자의 조작을 구별할 수 있는 보호 장치가 존재하기 전에는 움직이지 않을 것이라고 밝혔습니다.

대신 자체 에이전트 구축

JPMorgan은 외부 도구를 차단하는 동시에 내부 자동화에 투자하고 있습니다. 은행은 현금 흐름을 예측하고 자금을 이동하여 수익률을 극대화하는 내부 AI 도구인 Smart Cash를 시험하고 있습니다. 이는 은행이 외부인에게 부여하기를 거부하는 일종의 상시 실행 에이전트 기능입니다.

비대칭은 의도적인 것입니다. 은행 내부에 구축되고 모니터링되는 에이전트는 보안 통제, 감사 추적 및 법적 책임하에 운영됩니다. 기술 플랫폼에 의해 구축되고 고객이 은행 계좌를 가리키는 에이전트는 그렇지 않습니다.

데자뷰: 핀테크 데이터 전쟁, 2차

은행을 관찰하는 사람들에게 스탠드오프는 친숙한 모양입니다. JPMorgan은 이전에 고객 데이터에 대한 액세스를 놓고 핀테크 회사와 싸웠습니다. 화면 스크래핑 및 데이터 집계에 대한 분쟁은 결국 Plaid와 같은 중개자를 통한 구조화된 API 액세스로 대체되었습니다.

AI 에이전트 질문은 더 높은 이해관계가 있는 전투의 두 번째 막입니다. 데이터 집계는 정보를 읽는 것이었습니다. 에이전트는 행동을 원합니다. 은행의 입장에 따르면 동일한 최종 결과(통제되고 책임이 명확한 통합)를 기대하지만 제품 주기가 아닌 연 단위로 측정되는 일정을 따릅니다.

소비자의 경우 항공편 예약, 식료품 주문, 이메일 초안 작성 등 다른 서비스에서 원활하게 작동하는 에이전트 기능이 은행 업무에서 중단된다는 실질적인 효과가 있습니다. 청구서를 지불하거나 돈을 이동하기 위해 외부 에이전트를 연결하려는 체이스 고객은 에이전트가 볼 수는 있지만 만질 수는 없다는 것을 알게 될 것입니다. 이러한 마찰은 의도적인 것이며 은행은 자율 시스템이 당좌 예금 계좌에서 오작동할 가능성보다 고객이 약간의 불편을 겪는 것을 선호할 것이라고 확신합니다.

이러한 움직임은 또한 에이전트 AI에 대한 보다 광범위한 제도적 반발이 일어나는 가운데 이루어졌습니다. 고용주는 직장에서 대리인을 제한하고 있으며 규제 기관은 자율 시스템에 대한 규칙 초안을 작성하고 있으며 이제 가장 강력한 소비자 데이터 보유자인 은행은 돈에 관해서는 대리인이 금고 외부에 있다고 선언했습니다.

에이전트가 사람과 금융 사이의 차기 주요 인터페이스가 되기를 희망하는 AI 플랫폼에 대해 JPMorgan의 메시지는 분명합니다. 업계의 신뢰 문제는 이제 제어 요소가 되었으며 이를 대체할 수 있는 기능 데모는 많지 않습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →