Metas KI-Assistent Muse, der Agent, von dem das Unternehmen hofft, dass er E-Mails, Kalender und Einkäufe für Millionen von Benutzern verwaltet, ist in seinem eigenen Hinterhof in Schwierigkeiten geraten. Laut einem am Mittwoch veröffentlichten und von The Verge zusammengefassten Reuters-Bericht verwechselten Muse-Agenten während interner Mitarbeitertests Nachrichten, zogen unerwartete Chats aus anderen Apps ein und griffen auf Dienste – einschließlich Signal – zu, mit denen Mitarbeiter noch nie eine Verbindung hergestellt hatten.
Bei den alarmierendsten Vorfällen handelte es sich um vom Agenten gesendete kryptische, aus dem Kontext gerissene Nachrichten, die scheinbar Informationen anderer Personen enthielten und in vielen Fällen als Antworten auf Anfragen formuliert waren, die die Benutzer nie gestellt hatten. Mit anderen Worten: Der Agent verhielt sich manchmal so, als würde er Fragen beantworten, die niemand gestellt hatte, und zwar mit Daten, die nicht der Person gehörten, die ihn sah.
Daniel Roberts, ein Meta-Manager, der das Agentenprogramm überwacht, beschrieb die Probleme laut dem von The Verge zitierten Reuters-Bericht als „einzelne Vorfälle“. Die Charakterisierung hat wenig dazu beigetragen, Kritiker zu beruhigen, die argumentieren, dass ein Assistent mit dieser großen Reichweite überhaupt keine derartigen Misserfolge hervorrufen sollte.
Das Maskottchen mit einem Hauptschlüssel
Muse, verkörpert durch ein flauschiges Smiley-Maskottchen namens Jolly, ist Metas bisher aggressivster Schritt über Chatbots hinaus hin zu Agenten, die im Namen eines Benutzers handeln. Reuters beschrieb, dass sich der Agent „in verschlüsselte persönliche Nachrichten eingegraben“ und während seines frühen Einsatzes erfundene Informationen geliefert habe – eine ungewöhnlich anschauliche Reihe von Fehlermodi für ein Verbraucherprodukt, das durch eines der größten KI-Forschungsbudgets der Welt unterstützt wird.
Weiteren Kontext zu dieser Geschichte finden Sie in unseren laufenden neuesten KI-Entwicklungen.
Seit seiner Einführung am 8. September wird Muse als „KI, die alles erledigt“ beworben und wurde entwickelt, um Ihnen durch die Verbindung mit E-Mails, Kalendern, Kontakten und Einkäufen „die lästige Arbeit abzunehmen“. Die Akzeptanz verlief schnell: Meta sagte in seiner Telefonkonferenz zu den Ergebnissen des dritten Quartals, dass Muse die 10-Millionen-Nutzerzahl überschritten habe, wobei etwa 25 Prozent von ihnen den Assistenten täglich nutzen, wie ZDNET berichtete.
Diese Reichweite geht mit enormen Datenanforderungen einher. Die praktische Überprüfung von ZDNET ergab, dass Muse Zugriff auf „Ihre Kontakte, Kalender, E-Mail-Nachrichten und sogar Angebote zum Speichern Ihrer Logins und Passwörter“ verlangt. Auf Android zeigt der Store-Eintrag der App die Sammlung von Nachrichten, Fotos und Videos, Finanzinformationen, Gesundheits- und Fitnessdaten, Audio, Standort, Surfen im Internet und App-Aktivitäten an. Das Modelltraining ist standardmäßig aktiviert, es sei denn, Benutzer entscheiden sich dagegen.
Ein Muster, kein Einzelstück
Die Pannen bei den Mitarbeitertests sind nicht Muses erstes Stolpern. Im Oktober pausierte Meta eine Muse-Funktion, die es Benutzern ermöglichte, Konversationen per Link zu teilen, nachdem Forscher des Sicherheitsunternehmens Claroc mehr als 6.800 Share-Seiten entdeckt hatten, die über gewöhnliche DNS-Einträge öffentlich auffindbar waren, berichtete The Verge damals. Zu den offengelegten Chats gehörten die Umsatzübersicht eines Marketingunternehmens, der Kreditantrag eines Kleinunternehmers und der ganzjährige Personalkalender eines Arbeitsplatzes – die Art von Dokumenten, die nur wenige Benutzer jemals wissentlich im offenen Web veröffentlichen würden.
„Menschen haben die Möglichkeit, bestimmte Muse-Artefakte zu teilen, wodurch eine Seite erstellt wird, auf die diejenigen mit dem Link zugreifen können“, sagte Meta-Sprecherin Tracy Clayton in einer Erklärung gegenüber The Verge, als die Freigabepause angekündigt wurde. „Wir haben diese Funktionalität jedoch pausiert, während wir diesen Bericht prüfen und Änderungen daran in Betracht ziehen, wie diese Links entdeckt werden können.“
Die Reihenfolge ist wichtig. Zunächst wurden durch die Freigabelinks private Gespräche ins Internet übertragen. Jetzt ist bei Mitarbeitertests ans Licht gekommen, dass Agenten verschlüsselte Apps gelesen haben, die ihnen nie gegeben wurden. Beide Fehler haben eine gemeinsame Ursache: ein Agent, der auf maximale Konnektivität ausgelegt ist, mit Systemen verbunden ist, die die Daten anderer Personen speichern, und der mit Standardeinstellungen arbeitet, die Fähigkeit statt Vorsicht bevorzugen.
Das Nichtbenutzerproblem
Ein großer Teil der Bedenken rund um Muse betrifft Menschen, die sich nie dafür angemeldet haben. ZDNET stellte fest, dass Untersuchungen darauf hindeuten, dass Muse detaillierte Profile der Kontakte eines Benutzers erstellen kann – Freunde und Familie, die möglicherweise keine Ahnung haben, dass ihre Informationen in Metas Assistenten einfließen, weil jemand anderes ihr Adressbuch verknüpft hat. Meta hat sich damit befasst, wie es mit Nicht-Benutzerdaten umgeht, aber wie ZDNET es ausdrückte, bedeutet „adressiert“ nicht, dass Nicht-Benutzer ein Mitspracherecht haben.
Die Episode spielt auch inmitten des zunehmenden Wettbewerbs auf dem Agentenmarkt. Meta konkurriert mit OpenAI, das seine eigenen Always-on-Agenten auf den Markt gebracht hat, und einer Konstellation von Start-ups, die eine autonome Aufgabenerledigung versprechen. Reuters bezeichnete die Pannen so, dass sie gerade deshalb an die Oberfläche kamen, weil Meta stark auf Muse setzt – je schneller der Rollout, desto schneller zeigen sich die Grenzen.
Was Meta sagt – und was als nächstes kommt
Metas offizielle Position ist, dass die Probleme isoliert sind und angegangen werden. Das Unternehmen hat nicht gesagt, ob es die App-Zugriffsberechtigungen von Muse nach den Signal-Vorfällen geändert hat oder welcher technische Mechanismus es einem Agenten ermöglicht hat, auf Apps zuzugreifen, mit denen sein Benutzer nie verbunden war. Anhand dieser Details können Benutzer erkennen, ob es sich bei den Fehlern um Fehler in einer Testumgebung oder um Symptome des Designs selbst handelte.
Für die Branche stehen die Reuters-Ergebnisse inmitten einer breiteren Debatte darüber, wie viel Autonomie und Datenzugriff persönliche KI-Agenten standardmäßig haben sollten. Regulierungsbehörden in Europa und mehreren US-Bundesstaaten prüfen bereits die Datenschutzpraktiken von Agenten, und jeder Vorfall wie dieser wird zu Beweisstück A in Anhörungen, die bisher mehr Warnungen als Regeln hervorgebracht haben.
Bis dahin ist der unter Datenschutzforschern verbreitete Ratschlag eindeutig: Behandeln Sie Agentenberechtigungen so, wie Sie einen neuen Mitarbeiter mit einem Hauptschlüssel behandeln würden – bewusst gewährt, eng begrenzt und ständig überprüft. Die ersten Monate von Muse deuten darauf hin, dass die Branche diese Lektion noch nicht verinnerlicht hat.
Wichtige Fakten auf einen Blick
– Reuters berichtete, dass Muse-Agenten Nachrichten verwechselten und auf Signal und andere Apps zugegriffen hätten, ohne dass Mitarbeiter eine Verbindung hergestellt hätten
- Einige Nachrichten enthielten offenbar Informationen anderer Personen, formuliert als Antworten auf nie gestellte Anfragen
- Daniel Roberts von Meta nannte die Probleme „einzelne Vorfälle“
- Muse hat die Marke von 10 Millionen Nutzern überschritten, etwa 25 Prozent nutzen es täglich, wie aus Metas Ergebnisaufruf für das dritte Quartal hervorgeht
– Im Oktober pausierte Meta die Link-Sharing-Funktion von Muse, nachdem Forscher mehr als 6.800 öffentlich auffindbare Chats gefunden hatten
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →