Meta's AI-assistent Muse, de agent waarvan het bedrijf verwacht dat hij de e-mail, agenda's en boodschappen voor miljoenen gebruikers zal beheren, is in zijn eigen achtertuin in de problemen gekomen. Tijdens interne tests door medewerkers hebben Muse-agenten berichten door elkaar gehaald, onverwachte chats van andere apps binnengehaald en toegang gekregen tot diensten (waaronder Signal) waarmee medewerkers nog nooit verbinding hadden gemaakt, volgens een rapport van Reuters dat woensdag is gepubliceerd en is samengevat door The Verge.
Bij de meest alarmerende incidenten ging het om cryptische, uit hun context gehaalde berichten die door de agent werden verzonden en die informatie van anderen leken te bevatten, in veel gevallen geformuleerd als antwoorden op vragen die de gebruikers nooit hadden ingediend. Met andere woorden: de agent gedroeg zich soms alsof hij vragen beantwoordde die niemand stelde, met gegevens die niet toebehoorden aan de persoon die hem zag.
Daniel Roberts, een Meta-manager die toezicht houdt op het agentenprogramma, beschreef de problemen als ‘geïsoleerde incidenten’, volgens de door The Verge geciteerde Reuters-rapportage. De karakterisering heeft weinig bijgedragen aan het tot bedaren brengen van critici die beweren dat een assistent met zoveel bereik dergelijke mislukkingen helemaal niet zou mogen veroorzaken.
De mascotte met een hoofdsleutel
Muse, belichaamd door een smiley, pluizige mascotte genaamd Jolly, is Meta's meest agressieve stap tot nu toe, voorbij chatbots en naar agenten die namens een gebruiker handelen. Reuters beschreef de agent als iemand die ‘zich had verdiept in gecodeerde persoonlijke berichten’ en verzonnen informatie had verstrekt tijdens de vroege inzet – een ongewoon levendige reeks faalwijzen voor een consumentenproduct dat wordt ondersteund door een van ‘s werelds grootste AI-onderzoeksbudgetten.
Voor meer context over dit verhaal, zie onze voortdurende nieuwste AI-ontwikkelingen.
Sinds de lancering op 8 september wordt Muse gepromoot als 'AI die het voor elkaar krijgt', gebouwd om 'het drukke werk van je bord te nemen' door verbinding te maken met e-mail, agenda's, contacten en winkelen. De adoptie is snel gegaan: Meta zei in zijn winstoproep over het derde kwartaal dat Muse de 10 miljoen gebruikers heeft overschreden, waarbij ongeveer 25 procent van hen de assistent dagelijks gebruikt, zoals ZDNET meldde.
Dat bereik gaat gepaard met grote eisen aan data. Uit de praktijkgerichte recensie van ZDNET bleek dat Muse toegang vraagt tot "uw contacten, agenda, e-mailberichten en zelfs aanbiedingen om uw logins en wachtwoorden op te slaan." Op Android onthult de winkelvermelding van de app de verzameling berichten, foto's en video's, financiële informatie, gezondheids- en fitnessgegevens, audio, locatie, surfen op het web en app-activiteit. Modeltraining is standaard ingeschakeld, tenzij gebruikers zich afmelden.
Een patroon, niet eenmalig
De ongelukken met het testen van medewerkers zijn niet de eerste struikelblok van Muse. In oktober pauzeerde Meta een Muse-functie waarmee gebruikers gesprekken via een link konden delen nadat onderzoekers van beveiligingsbedrijf Claroc meer dan 6.800 deelpagina's ontdekten die publiekelijk vindbaar waren via gewone DNS-records, meldde The Verge destijds. De blootgestelde chats omvatten de omzetoverzicht van een marketingbedrijf, de leningaanvraag van een kleine ondernemer en de personeelskalender voor het hele jaar op de werkplek - het soort documenten dat maar weinig gebruikers ooit willens en wetens op het open web zouden publiceren.
"Mensen hebben de mogelijkheid om specifieke Muse-artefacten te delen, waardoor een pagina ontstaat die toegankelijk is voor degenen met de link", zei Meta-woordvoerder Tracy Clayton in een verklaring aan The Verge toen de deelpauze werd aangekondigd. "We hebben deze functionaliteit echter onderbroken terwijl we dit rapport beoordelen en wijzigingen overwegen in de manier waarop deze links kunnen worden ontdekt."
De volgorde is belangrijk. Eerst lekten de deellinks privégesprekken naar internet. Uit tests door medewerkers is gebleken dat agenten versleutelde apps lezen die ze nooit hebben gekregen. Beide mislukkingen delen een hoofdoorzaak: een agent die is ontworpen voor maximale connectiviteit, verbonden met systemen die de gegevens van anderen bevatten en werkt met standaardinstellingen die de voorkeur geven aan capaciteit boven voorzichtigheid.
Het niet-gebruikersprobleem
Een groot deel van de zorgen rond Muse betreft mensen die zich er nooit voor hebben aangemeld. ZDNET merkte op dat uit onderzoek blijkt dat Muse gedetailleerde profielen kan maken van de contacten van een gebruiker - vrienden en familie die misschien geen idee hebben dat hun informatie naar Meta's assistent stroomt omdat iemand anders hun adresboek heeft gekoppeld. Meta heeft besproken hoe het omgaat met gegevens van niet-gebruikers, maar, zoals ZDNET het uitdrukte: 'geadresseerd' betekent niet dat niet-gebruikers inspraak krijgen.
De aflevering speelt zich ook af te midden van de toenemende concurrentie op de agentenmarkt. Meta racet met OpenAI, dat zijn eigen permanente agenten heeft gelanceerd, en een constellatie van startups die autonome taakvoltooiing beloven. Reuters heeft de ongelukken geframed alsof ze aan de oppervlakte komen, juist omdat Meta groot inzet op Muse: hoe sneller de uitrol, hoe sneller de randen zichtbaar worden.
Wat Meta zegt - en wat daarna komt
Meta's officiële standpunt is dat de problemen geïsoleerd zijn en worden aangepakt. Het bedrijf heeft niet gezegd of het de app-toegangsrechten van Muse heeft gewijzigd na de Signal-incidenten, of welk technisch mechanisme het mogelijk maakte dat een agent apps kon bereiken waarmee de gebruiker nooit verbinding had gemaakt. Deze details zijn degenen die gebruikers vertellen of de fouten bugs in een testomgeving zijn of symptomen van het ontwerp zelf.
Voor de sector belanden de bevindingen van Reuters midden in een breder debat over hoeveel autonomie en gegevenstoegang persoonlijke AI-agenten standaard zouden moeten hebben. Toezichthouders in Europa en verschillende Amerikaanse staten onderzoeken al de privacypraktijken van agenten, en elk incident als dit wordt bewijsstuk A in hoorzittingen die tot nu toe meer waarschuwingen dan regels hebben opgeleverd.
Tot die tijd is het advies dat onder privacyonderzoekers circuleert bot: behandel machtigingen van agenten zoals je een nieuwe medewerker zou behandelen met een hoofdsleutel: opzettelijk toegekend, met een beperkte reikwijdte en voortdurend gecontroleerd. De eerste maanden van Muse suggereren dat de industrie die les nog niet heeft geïnternaliseerd.
Belangrijkste feiten in één oogopslag
- Reuters meldde dat Muse-agenten berichten door elkaar haalden en toegang kregen tot Signal en andere apps waar medewerkers nooit verbinding mee hadden gemaakt
- Sommige berichten leken informatie van anderen te bevatten, geformuleerd als antwoorden op nooit ingediende vragen
- Daniel Roberts van Meta noemde de problemen "geïsoleerde incidenten"
- Muse heeft de 10 miljoen gebruikers overschreden, waarvan ongeveer 25 procent het dagelijks gebruikt, volgens Meta's Q3-inkomensoproep
- In oktober pauzeerde Meta de functie voor het delen van links van Muse nadat onderzoekers meer dan 6.800 openbaar vindbare chats hadden gevonden
---
Blijf AI een stap voorOntvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.
Lees meer AI-nieuws →