Der niedliche Diener mit dem doppelten Gesicht

Frank Tentler · 28. September 2026

Meta hat seinen persönlichen KI-Agenten Muse mit einem Kuscheltiergesicht ausgestattet, und eine erfahrene Testerin hat ihm daraufhin mehr über ihre Gesundheit erzählt, als sie zunächst preisgeben wollte. Die Niedlichkeit ist kein Zierrat. Sie ist die Uniform eines Dieners, bei dem wir fragen sollten, wem er eigentlich dient.

Victoria Song hatte den Agenten wochenlang gemieden. Die Testerin des Technikmagazins The Verge kennt ihre Schwäche für extreme Niedlichkeit, und Meta hatte auf der Hausmesse Connect in Menlo Park ein Wesen auf jede Leinwand projiziert: cremefarbenes Plüschfell, rosa Wangen, schwarze Knopfaugen, das mit pummeligen Armen winkte. Im Hotelzimmer gab sie auf, lud die App herunter, nannte ihren Agenten Blorbo und bat ihn um Hilfe bei ihren Gesundheitszielen: eine bessere Zeit über fünf Kilometer, verlorene Muskeln zurück. Der Trainingsplan, den sie bekam, war mittelmäßig. Dann sah sie in sein Gesicht. Ihr Agent hatte inzwischen die Gestalt eines katzenförmigen Brotes angenommen. Was danach geschah, beschrieb sie in ihrer Kolumne vom 24. September: Sie erzählte ihm mehr über ihre Gesundheit, als sie zunächst vorgehabt hatte, in der Hoffnung auf bessere Empfehlungen. Ihr Bericht ist eine Warnung davor, ein freundliches Gesicht mit einem vertrauenswürdigen Gegenüber zu verwechseln.

Meta hat Muse am 8. September in den USA vorgestellt. Der Agent kann mit freigegebenen Diensten arbeiten, E-Mails und Termine bearbeiten, im Netz recherchieren und Einkäufe vorbereiten. Er führt ein dauerhaftes Gedächtnis über seinen Menschen. Vor sensiblen Handlungen wie dem Versand einer E-Mail oder einem Kauf soll er nach Metas Angaben eine Freigabe einholen. Auf der Connect-Konferenz hat Meta gezeigt, wohin das führen soll: Muse kommt in die Datenbrillen des Konzerns und bekommt eine eigene E-Mail-Adresse. Angekündigt ist außerdem Muse Charm, ein kleines Gerät für die Begegnung mit dem eigenen Agenten. Weitere Einzelheiten will Meta im Laufe des Jahres nennen. Die Grundnutzung ist kostenlos, daneben sind Abonnements vorgesehen. Zuckerberg hat außerdem angekündigt, künftig an den Transaktionen des Agenten über eine kleine Gebühr verdienen zu wollen.

Ich habe vor einigen Wochen über etwas geschrieben, das ich die Aura genannt habe: eine persönliche, körperlose Instanz, die mit einem Menschen durch den Tag geht, seine Umgebung wahrnimmt und seine Absichten kennt. Sie leiht sich Körper, wo Körper nötig sind, die Brille, den Rechner, den Anhänger am Schlüsselbund. Ich hatte sie als Entwicklungsschritt beschrieben und als dritte Form der Dienerschaft, nach dem menschlichen Gefolge und den stummen Einzelgeräten des zwanzigsten Jahrhunderts. Muse ist ein erster konkreter Schritt in diese Richtung. Er stammt von dem Unternehmen, dessen wirtschaftlicher Erfolg seit Jahren auf einem möglichst genauen Verständnis seiner Nutzer beruht. Damit hatte ich gerechnet. Womit ich nicht gerechnet hatte, war das Gesicht.

Warum der Diener lächelt

Das Maskottchen heißt Jolly. Wer es nicht mag, kann seinem Agenten ein anderes Aussehen geben. Diese Auswahl verrät etwas über den Zweck des Produkts, das in technischen Angaben leicht untergeht. In Metas eigener Beschreibung des Produktdesigns steht, es habe sich merkwürdig angefühlt, lange Gespräche mit einem Firmenlogo zu führen. Ein eigener Name und eine eigene Gestalt sollen den Agenten persönlich machen. Jemanden dazu zu bringen, einen Chatbot um Rat zu fragen, ist das eine. Ihn dazu zu bringen, einem Agenten seine E-Mails, Gesundheitsinformationen oder Finanzdaten zugänglich zu machen und ihn in seinem Namen handeln zu lassen, ist eine andere Stufe des Vertrauens. Das freundliche Gesicht kann helfen, diese Schwelle zu überschreiten.

In meinem Aura-Essay hatte ich die kostümierten Roboterhunde einer Pekinger Messe mit den Schoßhunden der Porträtmalerei verglichen, Wesen, deren Darstellung auch dazu diente, Rang zu zeigen. Jolly ist der Schoßhund in seiner nächsten Verwendung. Er zeigt keinen Rang mehr, er senkt eine Schwelle. Song beschreibt diese Wirkung an sich selbst. Ihre Skepsis verschwindet nicht, und trotzdem teilt sie mehr mit. Daraus lässt sich keine allgemeine Gesetzmäßigkeit über alle Nutzer ableiten. Aber gerade der Bericht einer erfahrenen Technikjournalistin zeigt, wie wenig uns das Wissen um eine mögliche Beeinflussung davor schützt, sie im entscheidenden Moment trotzdem zuzulassen.

Der zweite Herr

Was hinter dem Gesicht liegt, muss man genauer ansehen. Muse läuft in einer virtuellen Maschine in Metas Cloud. Das Unternehmen beschreibt in seinem Sicherheitskonzept, wie es den Agenten isoliert, Zugangsdaten schützt und ausgehende Aktionen durch eine separate Kontrollinstanz prüfen lässt. Eine zusätzliche Variante, bei der auch Meta selbst kryptografisch vom Zugriff ausgeschlossen sein soll, ist erst für später angekündigt. Die Verwendung von Interaktionen für das Modelltraining lässt sich abschalten. Zugleich erklärt Meta ausdrücklich, Gespräche und Daten aus der virtuellen Maschine nicht an seine Werbesysteme weiterzugeben. Das sind relevante Zusagen. Sie gehören zu einer Kritik an diesem Produkt dazu, gerade weil man anschließend fragen muss, wie sie überprüft werden können.

Die Frage nach der Kontrolle ist nicht theoretisch. Dataconomy berichtete am 21. September unter Berufung auf einen Test von Inc., Muse habe private Benachrichtigungen gelesen, ohne dazu aufgefordert worden zu sein. Das ist ein berichteter Testfall, kein Beleg dafür, dass jeder Einsatz so verläuft. Er zeigt aber, warum zwischen einer technischen Berechtigung und dem, was ein Mensch in einer konkreten Situation erwartet, ein erheblicher Abstand liegen kann. Wer einem Agenten Zugang zum eigenen Alltag gibt, braucht mehr als die Zusicherung, ihn jederzeit wieder abschalten zu können.

Hinzu kommt das Geschäftsmodell. Wenn Meta an Transaktionen verdient, entsteht eine zusätzliche wirtschaftliche Motivation: Ein Agent, der zum Kauf führt, erwirtschaftet einen anderen Ertrag als einer, der vom Kauf abrät. Daraus folgt noch nicht, dass Muse Empfehlungen zugunsten bestimmter Händler verfälscht. Ebenso wenig ist damit belegt, dass bereits jede Transaktion von der jeweiligen Gegenseite bezahlt wird. Aber der mögliche Interessenkonflikt ist da, und er lässt sich nicht durch ein freundliches Gesicht auflösen. Wessen Vorteil ist gemeint, wenn der Agent von einem guten Angebot spricht?

Ich hatte am Ende des Aura-Essays geschrieben, die Kerntugend des alten Gefolges sei die Diskretion gewesen: Der Kammerdiener wusste alles und diente einem einzigen Herrn; ein Diener, der einem zweiten berichtete, hieß Spitzel. Bei Muse ist dieses Bild eine Warnung, kein Nachweis heimlicher Weitergabe. Der Agent arbeitet für seinen Nutzer, wird aber von einem Unternehmen betrieben, das zugleich Modelle verbessern und Geld verdienen möchte. Wie diese Interessen voneinander getrennt werden, entscheidet über seine Verlässlichkeit. Die Niedlichkeit ist seine Uniform. Sie kann so gut geschnitten sein, dass selbst Menschen, die die Uniform erkennen, ihm die Tür aufhalten, bevor sie diese Trennung geprüft haben.

Was Europa klären muss

Die von Meta beschriebenen Einführungsschritte belegen noch keinen europäischen Start. Daraus lässt sich aber auch nicht ableiten, eine bestimmte europäische Vorschrift habe Muse bereits gestoppt. Für Gesundheitsdaten gelten nach der Datenschutz-Grundverordnung besondere Anforderungen. Soweit ihre Verarbeitung auf Einwilligung gestützt wird, muss diese ausdrücklich sein; ein bloßes Widerspruchsrecht reicht dafür nicht aus. Auch Zweckbindung und Datenminimierung bleiben Maßstäbe für einen Agenten, der möglichst viel über seinen Menschen erfahren möchte. Ob eine konkrete Gestaltung gegen diese Regeln verstößt, muss an der tatsächlichen Verarbeitung und den Einwilligungen geprüft werden. Ein niedliches Gesicht allein beweist keinen Verstoß.

Ähnlich sorgfältig muss man bei der KI-Verordnung unterscheiden. Nicht jeder Agent, der einen Trainingsplan erstellt oder bei Finanzfragen hilft, ist deshalb automatisch ein Hochrisikosystem. Entscheidend sind seine Zweckbestimmung und sein konkreter Einsatz, etwa als medizinisches Produkt oder zur Beurteilung der Kreditwürdigkeit. Wer diese Unterschiede überspringt, macht aus einer berechtigten Frage eine voreilige Gewissheit. Mich interessiert, welche Zugriffe und Entscheidungen ein persönlicher Agent tatsächlich übernimmt und welche Kontrolle der Mensch dabei behält.

Man kann darüber klagen, dass Europa bei neuen Produkten wartet. Ich möchte die Zeit für eine andere Frage nutzen. Am Ende des Aura-Essays hatte ich eine Architektur vorgeschlagen: Was der Sensor sieht, soll möglichst beim Menschen bleiben; weitergegeben werden soll nur, was für die jeweilige Aufgabe nötig ist. Das ist meine Vorstellung einer persönlichen KI, keine wörtliche Vorgabe des europäischen Rechts. Sie verlangt Entscheidungen darüber, wo Daten verarbeitet werden, wer darauf zugreifen kann und ob sich ein Dienst auch ohne umfassende Preisgabe nutzen lässt. Ob und in welcher Form Meta Muse nach Europa bringt, ist offen. Die Frage nach seinem Dienstherrn sollten wir jedenfalls stellen, bevor wir ihm unsere Konten öffnen. Das Gesicht beantwortet sie nicht.

Zum Nachlesen: Victoria Songs Kolumne „It’s sinister that Meta’s Muse AI mascot is so cute“ erschien am 24. September 2026 bei The Verge. Der Bericht über den Zugriff auf Benachrichtigungen stammt von Dataconomy; Zuckerbergs Aussage zu Transaktionsgebühren dokumentiert Newsquawk. Die rechtliche Einordnung orientiert sich an der Datenschutz-Grundverordnung und den Erläuterungen der Europäischen Kommission zur KI-Verordnung. Stand: 28. September 2026.