Kennzeichnungspflicht des EU AI Act für KI-generierte Inhalte tritt in Kraft
Seit dem 2. August verpflichten die Transparenzregeln des AI Act KI-Anbieter, generierte Inhalte mit Wasserzeichen oder maschinenlesbaren Markern zu versehen, und Betreiber, Deepfakes offenzulegen. Für erkennbar künstlerische, kreative, satirische oder fiktionale Werke gelten leichtere Offenlegungspflichten; bereits verfügbare Systeme haben bis 2. Dezember Zeit.
Die Ausnahme für kreative Werke ist enger, als sie klingt: Sie betrifft die Art der Offenlegung, nicht ob die Dateien markiert werden. Werbung ist keine Fiktion. Jede Kampagne, die in Europa läuft, sollte Provenienz-Metadaten jetzt als Teil der Lieferung behandeln — und Agenturen sollten wissen, welche ihrer Tools sie schreiben.
Mit dem 2. August ist der AI Act für europäische Produktionen nicht mehr etwas, auf das man sich einstellt, sondern etwas, unter dem man arbeitet. Die Transparenzregeln für generierte Inhalte gelten. Formal treffen die Pflichten KI-Anbieter und die Unternehmen, die deren Systeme einsetzen – praktisch aber laufen die Folgen mitten durch Agenturen, Postproduktionen und alle, die generierte Arbeit in den europäischen Markt liefern.
Wie Euronews berichtet, müssen KI-Systeme wie Chatbots offenlegen, dass sie KI sind, und mit KI erzeugte Bilder oder Texte müssen gekennzeichnet sein – etwa durch Wasserzeichen oder andere Marker, mit denen sich KI-Inhalte erkennen lassen. Betreiber müssen Menschen informieren, wenn sie Deepfakes, Emotionserkennung oder biometrischer Kategorisierung ausgesetzt sind oder Texten zu Themen von öffentlichem Interesse, die ohne menschliche Prüfung oder redaktionelle Kontrolle veröffentlicht werden. Die Regeln gelten für Inhalte zu beruflichen Zwecken, nicht für rein private Nutzung. Für künstlerische, kreative, satirische und fiktionale Werke gibt es Ausnahmen, bereits verfügbare Systeme haben bis 2. Dezember Zeit, und bei Verstößen drohen hohe Bußgelder.
An der Ausnahme für kreative Werke werden sich die meisten Missverständnisse entzünden. Nach unserer Lesart erleichtert sie die Art der Offenlegung, nicht die Frage, ob das zugrunde liegende Material markiert wird. Ein Spielfilm oder ein Musikvideo kann sich plausibel darauf stützen; bei einem Werbespot ist es schwieriger, weil Werbung reale Aussagen über reale Produkte gegenüber realer Kundschaft macht – und eine synthetische Person in einem Spot kann im ganz gewöhnlichen Sinn als Deepfake wirken. Wir meinen: Agenturen sollten nicht davon ausgehen, dass die Ausnahme Kampagnenarbeit abdeckt, und sich pro Kampagne konkret rechtlich beraten lassen, statt eine Pauschalhaltung festzulegen.
Im Projekt verändert sich vor allem die Lieferung und der Papierkram. Die Produktion muss wissen, welche Werkzeuge ihrer Pipeline Marker schreiben – und welche Arbeitsschritte sie wieder entfernen. Eine generierte Plate, die durch Compositing, Grading und finales Encoding läuft, kann ohne Metadaten bei der Kundschaft ankommen. Deshalb sind unsichtbare Wasserzeichen, die Kompression überstehen, wie die COVER-Forschung aus dem September, operativ relevant und nicht nur akademisch. Delivery-Specs für europäische Kampagnen sollten Provenienzanforderungen künftig neben Codecs und Lautheit aufführen, und Dienstleisterverträge sollten festhalten, wer für die Markierung verantwortlich ist und wer die Generierungsprotokolle aufbewahrt.
Die Plattformen bewegen sich bereits. Euronews zufolge verlangt TikTok seit einigen Jahren, dass Creator:innen KI-generierte Bilder, Audio und Video kennzeichnen, und spricht von über drei Milliarden gekennzeichneten Inhalten; Meta nutzt auf Instagram und Facebook das Label „AI Info“; Google hat den EU-Verhaltenskodex zur KI-Transparenz unterzeichnet und arbeitet mit Nvidia, OpenAI und Apple an Werkzeugen zur digitalen Kennzeichnung. Plattformlabels werden allerdings beim Upload vergeben – sie ersetzen keine Markierung, die mit der Datei selbst reist.
Vieles ist noch ungeklärt: wie die Frist zum 2. Dezember bei bereits breit genutzten Werkzeugen durchgesetzt wird, wie hoch Bußgelder in der Praxis ausfallen und wie Aufsichtsbehörden „künstlerisch“ an den Rändern auslegen – bei Branded Entertainment, Trailern oder einem Musikvideo zu einem Produktlaunch. Googles Karen Massin warnte vor „regulatorischer Komplexität“, Ashley Casovan von der International Association of Privacy Professionals erwartet, dass die Umsetzung mit der Zeit gelingt. Beides kann zutreffen – und Produktionen fahren besser, wenn sie mit der Variante planen, in der die Regeln streng angewendet werden.