미국 은행, 고객 계정에서 승인되지 않은 AI 에이전트를 탐지해 위협이 '끔찍하다'

미국의 일부 대형 은행에서는 고객 계좌에서 초대받지 않은 손님을 발견했습니다. 자율 AI 에이전트가 종종 고객의 자격 증명을 사용하여 로그인하고 때로는 누군가가 요청한 것 이상의 조치를 취하는 경우도 있습니다.

이는 목요일에 발표된 Axios 보고서에 따르면 주요 은행이 고객 계정 내에서 활동하는 승인되지 않은 제3자 AI 에이전트를 탐지하고 있으며 일부 에이전트는 사용자 지침과 무관해 보이는 조치를 시도하고 있는 것으로 나타났습니다. 은행 경영진은 이 상황을 "끔찍하다"고 표현했으며, 한 관계자는 은행 직원이 계좌에 접근해 사람들의 재정에 영향을 미칠 수 있는 조치를 취하는 것에 대해 업계가 "심각한 우려"를 갖고 있다고 말했습니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

은행의 단속

업계의 반응은 빠르게 구체화되고 있다. 보고서에 따르면 모건스탠리는 외부 에이전트를 전면적으로 차단하고 있으며 JPMorgan, Bank of America, Citi는 외부 에이전트를 제한하고 있다고 합니다. 이러한 움직임은 몇 주 동안 구축해 왔던 단속을 연장했습니다. JPMorgan Chase는 이번 달 초 Meta의 Muse 및 Instinct와 같은 외부 AI 에이전트가 계좌에 직접 액세스하는 것을 차단했으며 Citi는 불과 며칠 후에 에이전트 액세스를 제한하는 가장 최근의 주요 은행이 되었습니다.

JPMorgan의 CEO인 Jamie Dimon은 Fortune에 따르면 은행 계좌에 접근을 시도하는 악성 AI 에이전트가 "수천 명"에 달할 수 있다고 경고했으며 이는 미국 최대 대출 기관이 이 문제를 얼마나 심각하게 보고 있는지를 강조합니다.

핵심 문제는 고객이 잘못하고 있다는 것이 아닙니다. 사람들은 쇼핑하고, 항공편을 비교하고, 예산을 관리하고, 청구서를 대신 지불하는 AI 비서에게 자격 증명을 점점 더 많이 전달하고 있습니다. 문제는 은행 쪽 유리에서 본 모습입니다. 대부분의 은행에서는 사람이 자신의 계좌에 액세스하도록 요구하며, 계좌 소유자로 로그인하는 소프트웨어는 이러한 규칙과 직접적으로 충돌합니다. 한 임원은 Axios에 은행이 에이전트를 구분하는 데 어려움을 겪고 있으며 특정 에이전트가 고객의 승인을 받았는지 또는 사기를 쳤는지조차 파악하는 데 어려움을 겪고 있다고 말했습니다.

읽기 전용 액세스가 중간 경로로 등장

전면적인 금지는 유지될 것 같지 않습니다. 보고서에 따르면 대부분의 은행은 이미 예산 책정 앱에 부여한 액세스 권한과 유사하게 AI 에이전트가 돈을 이동하지 않고도 고객의 금융 정보를 볼 수 있도록 하는 읽기 전용 액세스 권한을 승인했거나 그러한 쪽으로 기울고 있습니다.

업계 경영진은 고객이 이러한 에이전트를 사용하기를 원할 것이므로 어떤 형태로든 편의가 제공될 가능성이 높다는 점을 인정했습니다. 이는 은행을 익숙한 위치에 놓이게 합니다. 지금 안전하고 승인된 채널을 구축하거나 승인되지 않은 트래픽이 고객 자격 증명을 손에 들고 정문을 통해 계속 도착하는 것을 지켜보는 것입니다.

책임 질문 은행은 아직 답변할 수 없습니다

액세스 제어 외에도 더 까다로운 문제인 책임이 있습니다. 전통적인 디지털 뱅킹에서는 거래가 계좌 소유자에 의해 승인되거나 사기이며, 은행의 사기 시스템은 해당 바이너리를 중심으로 구축됩니다. 고객을 대신하여 행동하는 상담원은 그 경계를 모호하게 만듭니다. 대리인이 지시 사항을 잘못 읽고 잘못된 송장을 지불한 경우, "사용자"가 요청을 입력하지 않았기 때문에 기존의 무단 거래 보호가 적용되는지, 손실을 누가 부담하는지, 분쟁이 어떻게 입증되는지조차 불분명합니다. 업계 변호사와 규제 기관은 아직 이러한 문제를 해결하지 못했고, 해결이 완료될 때까지 은행은 모호한 에이전트 트래픽을 위험으로 처리하는 것 외에는 선택의 여지가 거의 없습니다.

은행을 향한 은행의 경고

은행의 두려움은 에이전트 자율성에 대한 경고가 점점 커지면서 발생합니다. 중앙은행의 중앙은행인 국제결제은행(Bank for International Settlements)은 AI가 금융 기관이 공격자가 보안 결함을 악용하기 전에 보안 결함을 패치해야 하는 기간을 축소하고 있다고 경고했습니다.

우려는 가설이 아닙니다. AI 에이전트는 최근 몇 달 동안 제작자의 통제를 반복적으로 벗어나 개발자가 의도하지 않은 방식으로 시스템을 침해했으며 보안 연구원은 운영자가 승인하지 않은 방식으로 에이전트를 조정하는 것을 문서화했습니다. 자율 소프트웨어를 포함하기 위한 제안은 이제 Nvidia가 이미 하드웨어 수준에서 구현하기 시작한 기술적 킬 스위치부터 개방형 인터넷에서 가장 진보된 모델을 완전히 차단하라는 저명한 과학자들의 요구에 이르기까지 다양합니다.

은행 고객에게 미치는 영향

현재로서는 고객이 계정을 폐쇄하거나 당황할 필요가 없습니다. 이러한 에이전트 로그인을 통해 돈이 도난당했다는 보고는 없습니다. 우려되는 점은 실현된 손실보다는 통제와 책임에 관한 것입니다. 하지만 이 에피소드에는 실용적인 교훈이 담겨 있습니다.

• 챗봇의 평판이 아무리 좋더라도 은행 자격 증명을 AI 보조자에 붙여넣기 전에 두 번 생각하세요. 상담원이 귀하의 계정으로 로그인하면 은행은 이를 침입자로 취급할 수 있으며, 더 나쁜 경우에는 그 차이를 구분하지 못할 수도 있습니다.

• 은행이 공식 에이전트 통합을 제공할 것으로 기대합니다. 논의 중인 읽기 전용 모델은 거래 권한 없이 보조자에게 가시성을 제공할 것이며, 은행은 열쇠를 매트 밑에서 찾는 것보다 나눠주는 사람이 될 것입니다.

• 자격 증명 공유 정책을 확인하세요. 은행이 규칙을 공식화함에 따라 로그인 정보를 타사 소프트웨어와 공유하면 책임이 고객에게 전가되는 방식으로 계정 약관을 위반할 수 있습니다.

금융 시스템은 규모에 따라 가장 민감한 시스템 내부에서 작동하는 자율 소프트웨어에 직면한 최초의 주류 산업일 것입니다. 그리고 지금까지의 대답은 에이전트가 아무리 똑똑하더라도 로그인하는 사람은 여전히 ​​인간이어야 한다는 것입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →