수백만 명의 사용자를 위해 이메일, 캘린더, 쇼핑을 관리할 것으로 회사가 기대하고 있는 에이전트인 Meta의 AI 비서 Muse가 자체 뒷마당에서 문제에 부딪혔습니다. 수요일에 발표되고 The Verge가 요약한 로이터 보고서에 따르면 내부 직원 테스트 중에 Muse 에이전트는 메시지를 뒤섞고, 다른 앱에서 예상치 못한 채팅을 가져오고, 직원이 연결한 적이 없는 Signal을 포함한 서비스에 액세스했다고 합니다.
가장 놀라운 사건은 다른 사람의 정보가 포함된 것처럼 보이는 에이전트가 보낸 비밀스러운 상황 외 메시지와 관련이 있으며, 많은 경우 사용자가 제출한 적이 없는 쿼리에 대한 답변으로 표현되었습니다. 즉, 에이전트는 보는 사람의 소유가 아닌 데이터를 가지고 아무도 묻지 않은 질문에 답하는 것처럼 행동하기도 했습니다.
The Verge가 인용한 Reuters 보도에 따르면 에이전트 프로그램을 감독하는 Meta 임원인 Daniel Roberts는 이 문제를 "고립된 사건"으로 설명했습니다. 이러한 특성화는 이 정도 도달 범위를 가진 보조자가 그러한 실패를 전혀 생성해서는 안 된다고 주장하는 조용한 비평가에게는 거의 도움이 되지 않았습니다.
마스터키를 가진 마스코트
Jolly라는 이름의 스마일하고 복슬복슬한 마스코트로 구현된 Muse는 챗봇을 넘어 사용자를 대신하여 행동하는 에이전트에 대한 Meta의 가장 공격적인 단계입니다. 로이터 통신은 이 에이전트가 "암호화된 개인 메시지에 잠입"하고 초기 배포 중에 구성 정보를 제공했다고 설명했습니다. 이는 세계 최대 규모의 AI 연구 예산 중 하나가 지원하는 소비자 제품에 대한 비정상적으로 생생한 실패 모드 세트입니다.
이 이야기에 대한 자세한 내용은 진행 중인 최신 AI 개발을 참조하세요.
9월 8일 출시 이후 Muse는 이메일, 달력, 연락처 및 쇼핑에 연결하여 "바쁜 일을 덜어주기 위해" 구축된 "일을 완수하는 AI"로 홍보되었습니다. 도입 속도는 매우 빨랐습니다. Meta는 3분기 실적 발표에서 Muse의 사용자가 1천만 명을 넘어섰으며 ZDNET이 보고한 대로 이 중 약 25%가 매일 보조자를 사용하고 있다고 밝혔습니다.
이러한 도달 범위에는 광범위한 데이터 요구가 수반됩니다. ZDNET의 실제 검토에 따르면 Muse는 "연락처, 달력, 이메일 메시지는 물론 로그인 및 비밀번호 저장 제안"에 대한 액세스를 요청하는 것으로 나타났습니다. Android에서 앱의 스토어 목록에는 메시지, 사진 및 동영상, 금융 정보, 건강 및 피트니스 데이터, 오디오, 위치, 웹 탐색 및 앱 활동 모음이 공개됩니다. 사용자가 선택하지 않는 한 모델 학습은 기본적으로 활성화됩니다.
일회성이 아닌 패턴
직원 테스트 사고는 Muse의 첫 번째 실수가 아닙니다. The Verge는 지난 10월 보안 회사 Claroc의 연구원들이 일반 DNS 레코드를 통해 공개적으로 검색 가능한 6,800개 이상의 공유 페이지를 발견한 후 사용자가 링크를 통해 대화를 공유할 수 있는 Muse 기능을 일시 중지했다고 The Verge가 보도했습니다. 노출된 채팅에는 마케팅 회사의 수익 검토, 중소기업 소유자의 대출 신청, 직장의 연간 직원 일정 등이 포함되었습니다. 이러한 문서는 사용자가 고의로 공개 웹에 게시한 적이 거의 없습니다.
Meta 대변인 Tracy Clayton은 공유 일시 중지가 발표되었을 때 The Verge에 보낸 성명에서 "사람들은 링크가 있는 사람들이 액세스할 수 있는 페이지를 생성하는 특정 Muse 아티팩트를 공유할 수 있습니다."라고 말했습니다. "그러나 이 보고서를 검토하고 이러한 링크를 검색하는 방법에 대한 변경을 고려하는 동안 이 기능을 일시 중지했습니다."
순서가 중요합니다. 먼저 공유 링크를 통해 비공개 대화가 웹으로 유출되었습니다. 이제 직원 테스트에서는 에이전트가 제공받지 않은 암호화된 앱을 읽는 모습이 드러났습니다. 두 가지 실패 모두 근본 원인을 공유합니다. 즉, 최대 연결을 위해 설계된 에이전트, 다른 사람의 데이터를 보유하는 시스템에 연결되어 주의보다 기능을 선호하는 기본값으로 작동하는 것입니다.
비사용자 문제
Muse에 대한 우려의 대부분은 Muse에 가입한 적이 없는 사람들과 관련이 있습니다. ZDNET은 연구에 따르면 Muse가 사용자 연락처에 대한 자세한 프로필을 구축할 수 있다고 밝혔습니다. 다른 사람이 자신의 주소록을 연결했기 때문에 자신의 정보가 Meta의 비서로 흘러 들어가는지 전혀 모르는 친구와 가족이 있을 수 있습니다. Meta는 비사용자 데이터를 처리하는 방법을 다루었지만 ZDNET이 말했듯이 "해결됨"이 비사용자가 발언권을 갖는다는 의미는 아닙니다.
이번 에피소드는 에이전트 시장의 경쟁이 심화되는 가운데 시작됩니다. Meta는 상시 작동 에이전트를 출시한 OpenAI와 자율 작업 완료를 약속하는 스타트업의 집합체와 경쟁하고 있습니다. Reuters는 Meta가 Muse에 큰 투자를 하고 있기 때문에 사고가 표면화되는 것으로 정확하게 구성했습니다. 롤아웃이 빠를수록 가장자리가 더 빨리 표시됩니다.
메타가 말하는 것과 다음은 무엇인가
메타의 공식적인 입장은 문제가 격리되어 해결되고 있다는 것입니다. 회사는 Signal 사건 이후 Muse의 앱 액세스 권한을 변경했는지 여부 또는 에이전트가 사용자가 연결하지 않은 앱에 접근할 수 있도록 허용한 기술 메커니즘이 무엇인지 밝히지 않았습니다. 이러한 세부 정보는 실패가 테스트 환경의 버그인지 아니면 설계 자체의 증상인지 사용자에게 알려주는 것입니다.
업계에서는 로이터의 조사 결과가 개인 AI 에이전트가 기본적으로 얼마나 많은 자율성과 데이터 액세스 권한을 가져야 하는지에 대한 광범위한 논쟁의 한가운데에 있습니다. 유럽과 미국 여러 주의 규제 당국은 이미 대리인의 개인 정보 보호 관행을 조사하고 있으며 이와 같은 모든 사건은 지금까지 규칙보다 더 많은 경고를 생성한 청문회에서 증거 A가 됩니다.
그때까지 개인 정보 보호 연구원들 사이에 퍼진 조언은 무뚝뚝했습니다. 에이전트 권한을 신입 직원을 마스터 키로 대하는 것처럼 취급하십시오. 즉, 의도적으로 부여되고 범위가 좁으며 지속적으로 감사됩니다. Muse의 첫 달은 업계가 아직 그 교훈을 내면화하지 않았음을 시사합니다.
주요 사실 요약
- Reuters는 Muse 에이전트가 메시지를 혼동하고 Signal 및 직원이 연결하지 않은 다른 앱에 액세스했다고 보고했습니다.
- 일부 메시지에는 제출되지 않은 문의에 대한 답변으로 표현되어 다른 사람의 정보가 포함된 것으로 나타났습니다.
- Meta의 Daniel Roberts는 이 문제를 "고립된 사건"이라고 불렀습니다.
- Meta의 3분기 실적 발표에 따르면 Muse의 사용자는 1,000만 명을 넘어섰으며, 그 중 약 25%가 매일 사용하고 있습니다.
- 지난 10월, 연구원들이 공개적으로 검색 가능한 채팅을 6,800개 이상 발견한 후 Meta는 Muse의 링크 공유 기능을 일시 중지했습니다.
---
AI보다 앞서 나가세요최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.
AI 뉴스 자세히 보기 →