Metas AI-assistent Muse, agenten som företaget satsar på kommer att hantera e-post, kalendrar och shopping för miljontals användare, har hamnat i problem i sin egen bakgård. Under intern testning av anställda blandade Muse-agenter ihop meddelanden, drog in oväntade chattar från andra appar och fick tillgång till tjänster – inklusive Signal – som anställda aldrig hade kopplat den till, enligt en Reuters-rapport som publicerades på onsdagen och sammanfattades av The Verge.

De mest alarmerande incidenterna involverade kryptiska meddelanden utanför sammanhanget skickade av agenten som verkade innehålla andras information, i många fall formulerade som svar på frågor som användarna aldrig hade skickat. Med andra ord, agenten betedde sig ibland som om den svarade på frågor som ingen ställde, med data som inte tillhörde personen som såg den.

Daniel Roberts, en Meta-chef som övervakar agentprogrammet, beskrev problemen som "isolerade incidenter", enligt Reuters-rapporten som citeras av The Verge. Karaktäriseringen har gjort lite för att tysta kritiker som hävdar att en assistent med så stor räckvidd inte alls borde producera sådana misslyckanden.

Maskoten med en huvudnyckel

Muse, förkroppsligad av en smiley, luddig maskot som heter Jolly, är Metas mest aggressiva steg hittills bortom chatbots och in i agenter som agerar på en användares vägnar. Reuters beskrev agenten som att han "grävt sig ner i krypterade personliga meddelanden" och tillhandahöll påhittad information under dess tidiga distribution - en ovanligt livfull uppsättning fellägen för en konsumentprodukt som backas upp av en av världens största AI-forskningsbudgetar.

För mer sammanhang om den här historien, se vår pågående senaste AI-utvecklingen.

Sedan lanseringen den 8 september har Muse marknadsförts som "AI som får det gjort", byggt för att ta "det upptagna arbetet från tallriken" genom att ansluta till e-post, kalendrar, kontakter och shopping. Adoptionen har gått snabbt: Meta sa i sitt resultatsamtal för tredje kvartalet att Muse har passerat 10 miljoner användare, med cirka 25 procent av dem som använder assistenten dagligen, som ZDNET rapporterade.

Den räckvidden kommer med svepande datakrav. ZDNETs praktiska granskning fann att Muse begär åtkomst till "dina kontakter, kalender, e-postmeddelanden och till och med erbjudanden om att lagra dina inloggningar och lösenord." På Android avslöjar appens butikslista insamling av meddelanden, foton och videor, finansiell information, hälso- och träningsdata, ljud, plats, webbsurfning och appaktivitet. Modellträning är aktiverat som standard om inte användare väljer bort det.

Ett mönster, inte en engångsföreteelse

Missöden med anställdas testning är inte Muses första snubbla. I oktober pausade Meta en Muse-funktion som låter användare dela konversationer via länk efter att forskare på säkerhetsföretaget Claroc upptäckt mer än 6 800 delningssidor som är offentligt upptäckbara genom vanliga DNS-poster, rapporterade The Verge då. De exponerade chattarna inkluderade ett marknadsföringsföretags intäktsgranskning, en småföretagares låneansökan och en arbetsplatss helårs personalkalender - den typ av dokument som få användare någonsin medvetet skulle publicera på den öppna webben.

"Människor har möjligheten att dela specifika Muse-artefakter, vilket skapar en sida som kan nås av de som har länken", sa Metas talesperson Tracy Clayton i ett uttalande till The Verge när delningspausen tillkännagavs. "Men vi har pausat den här funktionen medan vi granskar den här rapporten och överväger ändringar av hur dessa länkar kan upptäckas."

Sekvenseringen spelar roll. Först läckte delningslänkarna privata konversationer till webben. Nu har medarbetartestning dykt upp agenter som läser krypterade appar som de aldrig fick. Båda felen delar en grundorsak: en agent designad för maximal anslutning, ansluten till system som innehåller andras data, som arbetar med standardinställningar som gynnar förmåga framför försiktighet.

Icke-användarproblemet

Mycket av oron kring Muse involverar människor som aldrig anmält sig till det. ZDNET noterade att forskning tyder på att Muse kan bygga detaljerade profiler av en användares kontakter - vänner och familj som kanske inte har någon aning om att deras information flödar in i Metas assistent eftersom någon annan kopplat deras adressbok. Meta har tagit upp hur den hanterar icke-användardata, men, som ZDNET uttryckte det, "adresserad" betyder inte att icke-användare får säga sitt.

Avsnittet landar också mitt i en hårdnande konkurrens på agentmarknaden. Meta tävlar mot OpenAI, som har lanserat sina egna alltid-på-agenter, och en konstellation av startups som lovar självständigt slutförande av uppgifter. Reuters inramade missöden som att de dyker upp just för att Meta satsar stort på Muse - ju snabbare utrullningen, desto snabbare syns kanterna.

Vad Meta säger — och vad som kommer härnäst

Metas officiella ståndpunkt är att problemen är isolerade och åtgärdas. Företaget har inte sagt om det ändrade Muses app-åtkomstbehörigheter efter signalincidenterna, eller vilken teknisk mekanism som gjorde det möjligt för en agent att nå appar som dess användare aldrig anslutit. Dessa detaljer är de som skulle berätta för användarna om felen var buggar i en testmiljö eller symptom på själva designen.

För branschen landar Reuters resultat mitt i en bredare debatt om hur mycket autonomi och dataåtkomst personliga AI-agenter bör ha som standard. Tillsynsmyndigheter i Europa och flera amerikanska delstater undersöker redan agenters sekretesspraxis, och varje incident som denna blir bevis A i utfrågningar som hittills har gett fler varningar än regler.

Tills dess är råden som cirkulerar bland integritetsforskare raka: behandla agentbehörigheter som om du skulle behandla en ny anställd med en huvudnyckel - beviljade medvetet, begränsade omfattningar och granskade ständigt. Muses första månader tyder på att branschen ännu inte har internaliserat den lärdomen.

Viktiga fakta i ett ögonkast

  • Reuters rapporterade att Muse-agenter blandade ihop meddelanden och fick åtkomst till Signal och andra appar som anställda aldrig anslutit
  • Vissa meddelanden verkade innehålla andras information, formulerade som svar på frågor som aldrig skickats in
  • Metas Daniel Roberts kallade problemen "isolerade incidenter"
  • Muse har överträffat 10 miljoner användare, cirka 25 procent använder det dagligen, per Metas resultatsamtal för tredje kvartalet
  • I oktober pausade Meta Muses länkdelningsfunktion efter att forskare hittat 6 800+ offentligt upptäckbara chattar

---

Stay ahead of AI

Få de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.

Läs mer AI-nyheter →