Muse, assistente de IA da Meta, o agente que a empresa aposta que gerenciará e-mails, calendários e compras para milhões de usuários, enfrentou problemas em seu próprio quintal. Durante os testes internos dos funcionários, os agentes do Muse confundiram mensagens, obtiveram bate-papos inesperados de outros aplicativos e acessaram serviços – incluindo o Signal – aos quais os funcionários nunca haviam se conectado, de acordo com um relatório da Reuters publicado na quarta-feira e resumido pelo The Verge.

Os incidentes mais alarmantes envolveram mensagens enigmáticas fora de contexto enviadas pelo agente que pareciam conter informações de outras pessoas, em muitos casos formuladas como respostas a perguntas que os utilizadores nunca tinham submetido. Ou seja, o agente às vezes se comportava como se estivesse respondendo a perguntas que ninguém fez, com dados que não pertenciam a quem os via.

Daniel Roberts, executivo da Meta que supervisiona o programa de agentes, descreveu os problemas como “incidentes isolados”, de acordo com reportagem da Reuters citada por The Verge. A caracterização pouco fez para acalmar os críticos que argumentam que um assistente com tanto alcance não deveria produzir tais falhas.

O mascote com chave mestra

Muse, personificado por um mascote sorridente e felpudo chamado Jolly, é o passo mais agressivo da Meta além dos chatbots e se transforma em agentes que agem em nome do usuário. A Reuters descreveu o agente como tendo "escavado mensagens pessoais criptografadas" e fornecido informações inventadas durante sua implantação inicial - um conjunto incomumente vívido de modos de falha para um produto de consumo apoiado por um dos maiores orçamentos de pesquisa de IA do mundo.

Para obter mais contexto sobre esta história, consulte nossos últimos desenvolvimentos de IA em andamento.

Desde o seu lançamento em 8 de setembro, o Muse tem sido promovido como “IA que faz tudo”, construído para tirar “o trabalho árduo do seu prato”, conectando-se a e-mail, calendários, contatos e compras. A adoção foi rápida: a Meta disse em sua teleconferência de resultados do terceiro trimestre que o Muse ultrapassou 10 milhões de usuários, com cerca de 25% deles usando o assistente diariamente, conforme relatado pela ZDNET.

Esse alcance vem com demandas abrangentes de dados. A análise prática da ZDNET descobriu que o Muse solicita acesso a “seus contatos, calendário, mensagens de e-mail e até ofertas para armazenar seus logins e senhas”. No Android, a listagem da loja do aplicativo divulga coleção de mensagens, fotos e vídeos, informações financeiras, dados de saúde e condicionamento físico, áudio, localização, navegação na web e atividade no aplicativo. O treinamento de modelo é habilitado por padrão, a menos que os usuários desistam.

Um padrão, não único

Os contratempos nos testes dos funcionários não são o primeiro tropeço do Muse. Em outubro, Meta pausou um recurso do Muse que permitia aos usuários compartilhar conversas via link depois que pesquisadores da empresa de segurança Claroc descobriram mais de 6.800 páginas compartilhadas publicamente detectáveis ​​por meio de registros DNS comuns, informou The Verge na época. Os bate-papos expostos incluíam a análise de receitas de uma empresa de marketing, um pedido de empréstimo de um pequeno empresário e um calendário anual da equipe do local de trabalho – o tipo de documentos que poucos usuários publicariam conscientemente na web aberta.

“As pessoas têm a capacidade de compartilhar artefatos específicos do Muse, o que cria uma página que pode ser acessada por aqueles com o link”, disse a porta-voz da Meta, Tracy Clayton, em comunicado ao The Verge quando a pausa no compartilhamento foi anunciada. “No entanto, pausamos essa funcionalidade enquanto analisamos este relatório e consideramos mudanças na forma como esses links podem ser descobertos.”

A sequência é importante. Primeiro, os links de compartilhamento vazaram conversas privadas para a web. Agora, os testes dos funcionários revelaram agentes lendo aplicativos criptografados que nunca receberam. Ambas as falhas partilham uma causa raiz: um agente concebido para máxima conectividade, ligado a sistemas que contêm dados de outras pessoas, operando com padrões que favorecem a capacidade em detrimento da cautela.

O problema do não usuário

Grande parte da preocupação em torno do Muse envolve pessoas que nunca se inscreveram nele. ZDNET observou que a pesquisa sugere que o Muse pode criar perfis detalhados dos contatos de um usuário – amigos e familiares que podem não ter ideia de que suas informações estão fluindo para o assistente do Meta porque outra pessoa conectou sua agenda de endereços. Meta abordou como ele lida com dados de não usuários, mas, como disse ZDNET, “abordado” não significa que os não usuários tenham uma palavra a dizer.

O episódio também ocorre em meio à intensificação da concorrência no mercado de agentes. A Meta está competindo com a OpenAI, que lançou seus próprios agentes sempre ativos, e uma constelação de startups que prometem a conclusão autônoma de tarefas. A Reuters enquadrou os contratempos como surgindo precisamente porque a Meta está apostando alto no Muse – quanto mais rápido o lançamento, mais rápido as vantagens aparecem.

O que Meta diz — e o que vem a seguir

A posição oficial da Meta é que os problemas estão isolados e sendo resolvidos. A empresa não disse se alterou as permissões de acesso ao aplicativo do Muse após os incidentes do Signal, ou qual mecanismo técnico permitiu que um agente acessasse aplicativos que seu usuário nunca conectou. Esses detalhes são os que diriam aos usuários se as falhas foram bugs em um ambiente de teste ou sintomas do próprio design.

Para a indústria, as conclusões da Reuters situam-se no meio de um debate mais amplo sobre quanta autonomia e acesso aos dados os agentes pessoais de IA deveriam ter por padrão. Os reguladores na Europa e em vários estados dos EUA já estão a examinar as práticas de privacidade dos agentes, e cada incidente como este torna-se a prova A em audiências que, até agora, produziram mais avisos do que regras.

Até então, o conselho que circula entre os pesquisadores de privacidade é contundente: trate as permissões do agente como você trataria um novo funcionário com uma chave mestra – concedida deliberadamente, com escopo restrito e auditada constantemente. Os primeiros meses do Muse sugerem que a indústria ainda não internalizou essa lição.

Resumo dos principais fatos

  • A Reuters informou que os agentes do Muse confundiram mensagens e acessaram o Signal e outros aplicativos que os funcionários nunca se conectaram
  • Algumas mensagens pareciam conter informações de outras pessoas, formuladas como respostas a perguntas nunca enviadas
  • Daniel Roberts da Meta chamou os problemas de "incidentes isolados"
  • Muse ultrapassou 10 milhões de usuários, cerca de 25% usando-o diariamente, de acordo com a teleconferência de resultados do terceiro trimestre da Meta
  • Em outubro, Meta pausou o recurso de compartilhamento de links do Muse depois que pesquisadores encontraram mais de 6.800 bate-papos publicamente detectáveis

---

Fique à frente da IA

Receba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.

Leia mais notícias sobre IA →