// HEISE ONLINE — MOBILE & WEB
Muse speichert anscheinend intime Details über Freunde und Familie seiner Nutzer
Metas KI-Agent Muse legt Berichten zufolge detaillierte Profile über Freunde und Bekannte seiner Nutzer an. Hinzu kommen weitere datenkritische Praktiken.
Mehrere Sicherheitsforscher haben Metas KI-Assistent Muse zur Preisgabe interner Dateien überredet. Bei der Analyse der Dokumente ist insbesondere eine Funktion der KI aufgefallen: Muse legt offenbar detaillierte Dateien über Verwandte, Freunde und Bekannte der Nutzerinnen und Nutzer anlegt. Der Sicherheitsforscher Karan Joshi und andere wie Peter James haben dokumentiert, wie die KI dabei vorgeht.
Demnach legt Muse zunächst leere Dateien für Personen an, die im Laufe der Zeit mit Informationen gefüllt werden. Dabei werden die Informationen offenbar in Rubriken wie „Fakten“, „Geschichte“, „Die Beziehung“, „Gemeinsamkeiten“, „Offene Themen“ und „Stärkung“ abgelegt. In den Anweisungen von Meta steht, dass Muse nur die ihm zur Verfügung stehenden Informationen verwenden soll und dass erfundene Details schlimmer seien als eine leere Seite.
Unter „Fakten“ scheint das System persönliche Daten wie Namen oder Geburtstage, die Adressen und den Beruf zu erfassen. Auch Daten wie Jahrestage, die für die Person wichtig sind, sollen hier gespeichert werden. Zusätzlich erfasst Muse in dieser Sektion laut den von der Universität St. Gallen dokumentierten Dateien, wie häufig die Person üblicherweise mit dem Nutzer kommuniziert und wann der letzte Kontakt war.
Für Informationen im Abschnitt „Geschichte“ hat Muse demnach folgende Anweisungen: Es soll speichern „was passiert ist, datiert nach den Belegen: wie sie sich kennengelernt haben, die Reise im März, einen beigelegten Streit, der Meilenstein letzte Woche.“
Die mutmaßliche Anleitung für Muse erwähnt zudem explizit die Erfassung von Details zur Beziehung, etwa „wie nah sie sich stehen, worauf sie basiert, wie sie miteinander umgehen und was sie gerade zu brauchen scheint“. Auch wie man am besten mit dieser Person kommuniziere, oder was der Nutzer ihr in der Vergangenheit versprochen habe, solle hier gespeichert werden.
Diese Berichte über das Umfeld des Nutzers werden demnach stündlich aktualisiert. Sowohl Nachrichten, als auch Fotos und andere Gedächtnisinhalte fließen hier mutmaßlich ein. Viele Hinweise sprechen außerdem dafür, dass Muse hier auch auf Daten über die Bekannten aus dem Meta-Universum zurückgreift, zu dem unter anderem Facebook und Instagram gehören.
„Mein Eindruck – basierend auf all diesen Eingabeaufforderungen, den Daten zu Systemfähigkeiten und den Informationen, die sie in Muse einspeisen – ist, dass sie deine Beziehungen zu echten Menschen verstehen wollen“, erklärte Joshi gegenüber Wired. „Sie versuchen, dich wie ein Freund kennenzulernen, was ehrlich gesagt ziemlich gruselig ist.“
Auch zeigen die Dateien, dass Chat-Transkripte offenbar gespeichert werden, auch wenn der Nutzer auf „vergessen“ klickt. Zusätzlich scheint eine unklare Anzahl an Informationen den persönlichen Bereich der Nutzer zu verlassen. Die Anleitung der Vergessenfunktion nennt als Orte, an denen Informationen trotzdem erhalten bleiben könnten, eine „zentral veröffentlichte Einbettung des Benutzerspeichers“, „Fleet-Learning“-Ausgangskörbe, „zentral veröffentlichte Lektionen“ und Karten des Community-„Discovery Pool“ sowie Telemetriesysteme. Zusätzlich greift Muse offenbar auf Informationen zu, die Instagram über die Interessen des Nutzers gespeichert hat, und wird anschließend angewiesen, das gegenüber dem Nutzer nicht zu erwähnen.
Wie aktuell und korrekt die Systemdateien sind, die Muse gegenüber Karan Joshi und anderen preisgegeben hat, lässt sich nicht überprüfen. Der Datenhunger von KI-Anbietern ist jedoch aktuell generell ein Gegenstand von Untersuchungen: Wie viele persönliche Informationen über ihrer Nutzer sie an Drittanbieter weitergeben, hat erst kürzlich eine Studie beleuchtet.