Trained to Imagine
Rendering
Creative Intelligence
AI Video / Image Models

Meta startet Muse Image — Nutzer:innen wehren sich wegen ihrer Fotos

Quelle: TechCrunch ·

Meta veröffentlichte Muse Image, einen kostenlosen KI-Bildgenerator in der Meta-AI-App, in Instagram Stories und WhatsApp. Eine Funktion erlaubt, jedes öffentliche Instagram-Profil zu markieren und dessen Fotos in neue KI-Bilder zu verwandeln; die Betroffenen werden nicht benachrichtigt und müssen das in den Einstellungen selbst abschalten.

TTI-Takeaway

Die Einwilligungsdebatte hat die Gerichte verlassen und den Feed erreicht. Bisher wurde der Streit um Einwilligung von Verwertungsgesellschaften und Verlagen geführt — GEMA, die Studios, die Nachrichtenhäuser. Hier geht es um die Gesichter gewöhnlicher Menschen, genutzt von Fremden, mit Opt-out als Standard — und Nutzer:innen haben selbst widersprochen. Für Auftraggeber eine Erinnerung, früh zu fragen, nicht nur was ein Tool erzeugen kann, sondern wessen Abbild es ohne Nachfrage einbeziehen kann.

Analyse

Bei Metas Bildmodell zählt weniger, was es zeichnen kann, als wo es angesiedelt ist. Muse Image, entwickelt von Meta Superintelligence Labs und intern Mango genannt, startete kostenlos in der Meta-AI-App, in Instagram Stories und in WhatsApp. Damit sitzt ein leistungsfähiger Generator genau dort, wo die meisten Menschen ihre eigenen Fotos bereits abgelegt haben, und die Gegenreaktion zeigt, wie schnell die Einwilligungsfrage persönlich wird, sobald das passiert.

Konkreter Auslöser war laut TechCrunch eine Funktion, mit der Nutzer:innen Bilder anderer Instagram-Accounts per Markierung in neue KI-Bilder verwandeln können, sofern das Profil öffentlich ist. Metas Richtlinie hält fest, dass andere mit den eigenen Instagram-Inhalten über Metas KI-Funktionen Inhalte erstellen können und dass man darüber nicht benachrichtigt wird. Meta verweist darauf, dass sich das in den Einstellungen abschalten lässt, voreingestellt ist aber ein Opt-out. TechCrunch ordnete die Reaktion in Metas Vorgeschichte ein, darunter die Strafe von 5 Milliarden US-Dollar an die FTC 2019 nach Cambridge Analytica und die Abschaltung der Gesichtserkennung bei Facebook 2021. Muse bietet außerdem Bildbearbeitung per Prompt, die Erstellung eigener Anzeigen und eine an Marketplace gekoppelte Einrichtungsfunktion, ist für die alltägliche Nutzung kostenlos und ab einem Nutzungslimit abopflichtig; ein Muse Video sei laut Meta bereits in Entwicklung.

Für Kampagnenproduktionen folgen daraus zwei Punkte. Der erste betrifft das Persönlichkeitsrecht am eigenen Bild. Talent-Releases für Social- und Influencer-Arbeit wurden für eine Welt geschrieben, in der öffentliche Fotos geteilt, aber nicht von Fremden in neue Szenen umgerechnet werden konnten. Produktionen und Agenturen werden wissen wollen, ob die Einstellung im Account einer Darstellerin oder eines Darstellers deaktiviert ist und ob eine Mitmach-Kampagne am Ende Bilder von Menschen erzeugen könnte, die nie zugestimmt haben, darin vorzukommen. Der zweite Punkt ist die Haftung der Werbetreibenden. Muse wird auch als Anzeigenwerkzeug beworben, und die Meldung aus dem Oktober zu Metas Geschäftsbedingungen, nach denen Werbetreibende allein für alles verantwortlich sind, was Metas KI-Funktionen in ihren Anzeigen erzeugen oder verändern, auch bei standardmäßig aktivierten Funktionen, zeigt, wohin das Risiko verlagert wird. Marken, die Metas eingebaute Generierung nutzen, sollten deren Ergebnisse wie eigene Lieferungen behandeln, mit derselben Prüfung und Freigabe wie bei allem, was ein Dienstleister abliefert.

Für europäische Arbeiten kommt eine regulatorische Ebene hinzu. Seit August verpflichtet der EU AI Act Betreiber, Deepfakes offenzulegen, und ein Werkzeug, das realistische Bilder identifizierbarer, markierter Personen erzeugt, bewegt sich nah an dieser Grenze. Wie Meta Muse-Ergebnisse kennzeichnet und ob diese Kennzeichnung ein erneutes Teilen übersteht, geht aus der Berichterstattung nicht hervor; das sollte man klären, bevor eine europäische Kampagne darauf setzt.

Die offenen Fragen betreffen vor allem Voreinstellungen und Größenordnung. Ein Opt-out schützt nur, wer davon weiß, und ein Videomodell würde die Lage deutlich verschärfen: Ein Standbild einer markierten Person ist das eine, ein bewegter, sprechender Clip etwas anderes. Aus unserer Sicht liegt das eigentliche Signal nicht in der Qualität des Modells, sondern in der Reaktion darauf. Wenn gewöhnliche Nutzer:innen für sich selbst Einspruch erheben, bewegt das Plattformregeln oft schneller als jede Klageschrift, und wie Meta die Funktion anpasst, wird viel darüber verraten, wie Endkunden-Tools künftig mit Bildern echter Menschen umgehen.