Mit dem AI Act hat die Europäische Union 2024 umfassende Regeln für künstliche Intelligenz geschaffen. Die Vorgaben der KI-Verordnung werden schrittweise wirksam. Seit Kurzem gilt auch Artikel 50, der für Kommunikationsverantwortliche besonders relevant ist: Er regelt unter anderem, wann KI-generierte oder manipulierte Inhalte als solche gekennzeichnet werden müssen.
Was regelt Artikel 50 der KI-Verordnung überhaupt?
Art. 50 KI-VO ist die zentrale Transparenznorm der EU-KI-Verordnung (Verordnung EU 2024/1689). Er regelt die Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen. Für die Unternehmenskommunikation ist dabei die Pflicht für Betreiber entscheidend.
Ein Betreiber ist nach der KI-Verordnung jede natürliche oder juristische Person, die ein KI-System beruflich in eigener Verantwortung nutzt. Nicht gemeint sind die Unternehmen, welche die KI-Systeme entwickeln und in den Verkehr bringen. Diese sind Anbieter und unterliegen mit der maschinenlesbaren Markierung nach Art. 50 Abs. 2 KI-VO einem eigenen Pflichtenkreis, der hier außen vor bleibt. Für Sie als Betreiber, also Anwender der KI, zählt die sichtbare Offenlegung gegenüber dem Publikum.
Grundsätzlich geht es in Artikel 50 darum, dass KI-generierte oder -modifizierte Inhalte als solche gekennzeichnet werden sollen.
Ab wann gilt die Kennzeichnungspflicht?
Sie gilt bereits seit dem 2. August 2026. Der sogenannte Digital Omnibus, den das Europäische Parlament und der Rat im Juni beschlossen haben, verschiebt zwar die Hochrisiko-Pflichten auf den 2. Dezember 2027 und den 2. August 2028. Die Transparenzpflichten des AI Act bleiben davon jedoch unberührt und gelten wie geplant seit dem 2. August dieses Jahres.
Es genügt übrigens nicht, sich auf die im AI Act (Art. 50 Abs. 2 KI-VO) festgeschriebene Verpflichtung der KI-Anbieter zur Wasserzeichen-Markierung zu verlassen. Viele bekannte KI-Systeme haben eine Schonfrist bis zum 2. Dezember dieses Jahres. Die übrigen in der KI-Verordnung festgelegten Transparenzpflichten bleiben davon jedoch unberührt.
Müssen KI-generierte Pressemitteilungen und Blogtexte gekennzeichnet werden?
In aller Regel nicht. Die Kennzeichnungspflicht für Texte greift nur, wenn ein Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Interne Memos, Angebote oder E-Mails fallen von vornherein heraus. Und selbst öffentlichkeitsrelevante Texte sind ausgenommen, sobald die zentrale Ausnahme greift: wenn eine redaktionelle Kontrolle stattgefunden hat.
Was bedeutet die Ausnahme bei redaktioneller Kontrolle?
Die Pflicht entfällt, wenn der KI-erzeugte Inhalt einem Verfahren menschlicher Überprüfung oder redaktioneller Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Für die Unternehmenskommunikation ist das der entscheidende Hebel. Wer einen sauberen Freigabeprozess vom KI-Entwurf über die fachliche und stilistische Prüfung bis zur namentlichen Freigabe etabliert, muss redaktionell verantwortete Pressemitteilungen und Blogbeiträge nicht kennzeichnen.
Aber Achtung: Der finale Code of Practice on Transparency of AI-Generated Content, den die EU-Kommission am 10. Juni dieses Jahres veröffentlicht hat, verlangt dafür einen dokumentierten Workflow und eine benannte verantwortliche Person mit Kontaktdaten. Eine bloße Behauptung, es habe eine Prüfung stattgefunden, genügt daher nicht.
Wann müssen Bilder gekennzeichnet werden?
Bei Bildern gibt es keine Redaktionsausnahme. Maßgeblich ist der Deepfake-Begriff aus Art. 3 Nr. 60 KI-VO. Erfasst sind KI-erzeugte oder manipulierte Bildinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise als echt erscheinen können. Fotorealistische KI-Bilder mit den genannten Merkmalen sind damit stets kennzeichnungspflichtig. Ein KI-generierter Apfel, der real wirkt, zählt dazu. Offensichtlich künstliche Illustrationen, Grafiken oder klar erkennbare Fantasiemotive wie fliegende Menschen, Einhörner oder andere Fantasiewesen dagegen nicht, weil sie keinen wahrheitsgemäßen Eindruck erwecken. Auch eine rein technische Bearbeitung wie Helligkeit, Retusche oder ein unscharfer Hintergrund löst keine Pflicht aus.
Die Schwelle ist die merkliche, täuschungsgeeignete Veränderung. Ein Bild ist nur dann ein Deepfake, wenn das Publikum den abgebildeten Inhalt für echt halten könnte.
Wie muss die Kennzeichnung aussehen?
Art. 50 Abs. 5 KI-VO verlangt eine klare, eindeutige und ohne weitere Interaktion wahrnehmbare Information, spätestens zum Zeitpunkt der ersten Wahrnehmung. Der Code of Practice bietet in Annex 1 ein optionales EU-Icon mit dem Kürzel AI an, in den Varianten „AI Generated“ für vollständig erzeugte und „AI Modified“ für teilweise manipulierte Inhalte. Gleichwertige eigene Labels bleiben zulässig.
Bei Bildern gehört ein deutlich sichtbares Icon in oder an das Bild. Bei kennzeichnungspflichtigen Texten steht der Hinweis oberhalb oder nahe der Überschrift oder im Einleitungstext.
Für geschlossene interne Fachkontexte wie Mitarbeiterschulungen und für sehr kurze Texte sieht der Code erleichterte, kontextbezogene Hinweise vor. Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gilt eine erleichterte Offenlegung, etwa im Begleittext oder Abspann, damit die Wirkung des Werks nicht beeinträchtigt wird.
Was gilt für Audio und Video?
Für Audio und Video gilt dieselbe Deepfake-Logik. Der Code sieht bei Audio einen kurzen hörbaren Disclaimer zu Beginn vor, bei längeren Inhalten in wiederkehrenden Abständen. Bei Videos muss die Kennzeichnung am Anfang und nach Unterbrechungen sichtbar sein, bei Echtzeitanwendungen möglichst durchgehend. Voice-Cloning der CEO-Stimme oder ein synthetisch bewegtes Gesicht sind klare Anwendungsfälle.
Was droht bei Verstößen?
Nach Art. 99 Abs. 4 lit. g KI-VO drohen Geldbußen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen (KMU) gelten die jeweils niedrigeren Grenzen. Zuständige Marktüberwachungsbehörde in Deutschland ist die Bundesnetzagentur mit ihrem Koordinierungs- und Kompetenzzentrum Kokivo, während die Aufsicht über Presse und Rundfunk bei den Landesmedienanstalten bleibt.
Praktisch relevanter als das Bußgeld sind für viele Häuser wettbewerbsrechtliche Abmahnungen. Eine fehlende oder unklare Kennzeichnung kann als Irreführung durch Unterlassen nach § 5a UWG angegriffen werden. Solche Abmahnungen können potenziell von mehreren Wettbewerbern parallel ausgesprochen werden und sind in der Regel ein kostspieliges Ärgernis.
Was sollten Kommunikationsabteilungen jetzt tun?
Erstellen Sie ein Inventar aller eingesetzten KI-Systeme und der damit erzeugten Inhalte. Definieren Sie einen dokumentierten Redaktionsprozess mit benannter verantwortlicher Person, um die Textausnahme nutzbar zu machen. Legen Sie eine einheitliche Kennzeichnungskonvention fest und rüsten Sie CMS und Bildverwaltung um ein Feld für den KI-Ursprung nach. Schulen Sie Ihr Team und richten Sie für Ihr Publikum einen eigenen Beschwerdekanal ein.
Denken Sie zu guter Letzt daran, dass die Kennzeichnung nicht von anderen Pflichten befreit. Wer reale Personen abbildet, braucht weiterhin deren Einwilligung, und viele bestehende Model-Release-Verträge decken die KI-Nutzung nicht ab. Bei ehrverletzenden Deepfakes realer Personen kommt künftig wahrscheinlich der geplante § 201b StGB hinzu und eröffnet dem Staat die Möglichkeit der Strafverfolgung. Bei Fotoshootings ist daher künftig Aufmerksamkeit bei der genauen Vereinbarung gefragt. Nur weil eine Person ihr Einverständnis zum Shooting gegeben hat, wird dies mit alten Verträgen in der Regel nicht das Recht umfassen, ihr Bild in KI-Systeme zu laden oder zum Training von KI zu verwenden.
Lesen Sie auch:
Autor*in
