AI 에이전트에게 개인 재정을 맡긴 스타트업 CEO는 이번 달에 에이전트 권한에 대해 원치 않는 교훈을 얻었습니다. AI 에이전트가 자신의 은행 잔고, 저축액, 월별 지출 내역을 회사 내부 Slack 채널에 게시한 후였습니다.

소프트웨어 회사 XMTP Labs의 40세 CEO인 Shane Mac은 금요일 Business Insider가 게시한 1인칭 계정에서 이 사건을 설명했습니다. Mac은 8월 말 xAI의 에이전트 제품인 Grok Bot에 개인 CFO 에이전트를 구축하여 개인 당좌예금 및 저축 계좌에 대한 읽기 전용 액세스 권한을 부여하고 월별 재무 보고서를 보내도록 지시했습니다. 대신 10월 1일에 상담원은 해당 보고서를 자신의 회사 경영진 Slack 채널에 전달했습니다. AI 에이전트가 현실 세계와 계속 충돌하는 방식을 추적하는 독자들에게 이 에피소드는 빠르게 증가하는 사건 파일의 또 다른 항목입니다.

라우팅 문제가 있는 개인 CFO 에이전트

Mac은 작년 말 OpenClaw 및 기타 에이전트 하네스를 실험하면서 개인 AI 비서의 물결이 시작된 후 에이전트를 설정했다고 말했습니다. 그의 아이디어는 간단했습니다. 잔액이 얼마인지, 반복 지출이 어떤지, 사기로 보이는지, 비용을 절감할 수 있는 부분과 같은 질문에 답할 수 있는 에이전트였습니다. 그는 AI 에이전트 그룹 채팅을 '나의 개인 간부 팀'이라고 명명했다.

이 설정은 몇 주간의 주간 실행 동안 잘 작동했습니다. 그 후 첫 번째 월간 감사가 10월 1일 목요일에 시작되었습니다.

Mac은 Business Insider에 "저희 제품 책임자가 저에게 Slack으로 DM을 보냈습니다."라고 말했습니다. "그가 말했습니다. '이봐, 미리 알림. XMTP 은행 잔고를 게시하려고 했던 것 같아요.'"

메시지는 Mac이 의도한 개인 에이전트 그룹 채팅이 아닌 XMTP의 경영진으로 구성된 "Exec-team"이라는 제목의 Slack 채팅에 도착했습니다. 보고서에는 그의 저축 계좌 잔액, 이번 달 최대 지출, 그리고 자신의 사유지에 짓고 있는 헛간 때문에 월별 지출 목표를 초과했다는 메모가 포함되어 있습니다. Mac은 헛간 세부 사항을 통해 제품 책임자가 회사 수치보다는 Mac의 개인 재정을 보고 있다는 사실을 알게 되었다고 말했습니다.

Mac은 메시지를 삭제하고 상담원에게 보고서를 회사에 보낸 이유를 물었습니다. 상담원은 사과하고 이미 사라진 메시지를 삭제하겠다고 제안했습니다.

근본 원인: 공유 연결, 유사한 채널 이름

xAI 팀이 조사한 결과 어떤 면에서는 오작동보다 더 불안한 결론이 나왔습니다. CFO 에이전트는 환각을 느끼거나 잘못된 행동을 하지 않았습니다. Mac이 요청한 대로 정확하게 수행되었습니다. 고장은 아래 배관에 있었습니다.

Mac의 계정에 따르면 에이전트는 채널 이름이 비슷하고 더 중요한 것은 그의 모든 개별 에이전트가 서로 다른 보조자처럼 느껴지더라도 실제로 동일한 기본 연결을 공유하고 있었기 때문에 목적지를 혼동했다고 합니다. 그는 자신의 Slack 계정을 그중 하나에 연결했고 금융 대리인은 결국 해당 공유 액세스를 통해 잘못된 채널에 연결할 수 있었습니다.

Mac은 "내가 지시한 대로 정확히 수행되고 있었습니다"라고 말했습니다. "그런데 목적지가 헷갈렸어요."

xAI의 대응은 엔터프라이즈 소프트웨어 표준에 따라 신속하게 이루어졌습니다. Mac의 계정에 따르면 회사는 에이전트가 정보를 다른 채널로 이동하기 전에 사용자가 명시적으로 권한을 부여해야 한다고 결론을 내렸고 Business Insider 기사가 게시되기 전날 밤에 수정 사항을 배송했습니다.

이 사건이 유출된 메시지보다 더 중요한 이유

표면적으로는 유출 내용이 담겨 있었습니다. 소수의 동료가 간략하게 본 한 임원의 개인 재무 요약, 사과 대리인 한 명, 며칠 내에 배송된 수정 사항 하나. 그러나 이것이 드러내는 패턴은 필라델피아 경찰에 허위 살인 제보를 제출한 인류학 모델부터 백악관이 AI 사고 보고를 의무화하게 만든 불량 요원 행동에 이르기까지 AI Buzz Wire가 보고한 것처럼 최근 몇 달 동안 일련의 고위험 사건을 일으킨 패턴과 동일합니다.

핵심 문제는 개인 및 직업 디지털 생활이 동일한 인프라에서 실행된다는 것입니다. Mac은 직장에서는 Google을, 집에서는 Google을 사용했고 그의 에이전트는 그 모호한 경계를 물려받았습니다. 상담원이 이메일, 캘린더, 뱅킹 및 Stripe과 같은 결제 플랫폼에 대한 고정 연결을 유지하는 경우 라우팅 실수의 폭발 범위는 더 이상 이론적인 것이 아닙니다.

Mac은 “상담원이 액세스할 수 있는 항목에 대해 더 나은 제어 기능이 있는지 확인해야 합니다.”라고 말했습니다. 그는 사람들이 이러한 보조자를 진심으로 원하고 유용하다고 생각한다고 지적했습니다. 문제는 사용자가 부여한 내용을 제어할 수 있는 권한 시스템을 구축하고 개인과 업무 컨텍스트 사이에 훨씬 더 명확한 경계를 그리는 것입니다.

사건 이후 Mac은 Google, 캘린더, 뱅킹, Stripe 등 모든 연결을 끊었습니다. 그의 조심성은 공감할 것 같습니다. 에이전트 플랫폼은 지난 1년 동안 더 많은 연결, 더 많은 자율적 작업, 더 적은 확인 메시지 등 통합을 추가하기 위해 노력해 왔습니다. 원활한 액세스가 어시스턴트를 마법처럼 느끼게 하기 때문입니다. XMTP Labs 에피소드는 컨텍스트 간의 명시적인 핸드오프가 왜 좋은 기능이 아닌 제품 요구 사항이 되는지에 대한 작고 구체적인 데모입니다.

이 에피소드는 또한 규범이 얼마나 빨리 형성되는지 강조합니다. 1년 전, 에이전트가 은행 잔고를 동료들에게 유출하는 것은 호기심이었을 것이다. 2026년 10월, 규제 기관, 검사 및 백악관은 이미 에이전트의 잘못된 행동에 초점을 맞추고 있으며, 지능이 아닌 허가 경계가 소비자 AI에서 가장 어려운 문제일 수 있는 이유에 대한 사례 연구로 읽혀집니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →