Frau Kronewald, vor wenigen Tagen hat der DRPR das Unternehmen Tasy AI mit einer Mahnung belegt. Was war das Problem?
Elke Kronewald: Tasy AI hat auf Linkedin sehr offensiv damit geworben, realistische KI-Influencer zu generieren. Dieses Angebot ist im Hinblick auf die Glaub- und Vertrauenswürdigkeit von Kommunikation sowieso fragwürdig, aber der Anbieter sollte aus Sicht des DRPR zumindest sehr deutlich machen, dass solche Inhalte konsequent gekennzeichnet werden müssen. Unsere Recherchen zeigten, dass diesbezügliche Hinweise bei Tasy AI nur versteckt erfolgen. Deshalb haben wir eine Mahnung ausgesprochen. Das ist noch keine Rüge, aber ein deutliches Signal – auch an die Kundinnen und Kunden des Unternehmens.
Das Unternehmen weist in seinen Nutzungsbedingungen darauf hin, dass Nutzer selbst für die Kennzeichnung verantwortlich sind. Reicht das nicht?
Nein. Nach unserer Auffassung sind alle Beteiligten in der Pflicht. Besonders problematisch ist, dass Tasy AI in seiner Werbung die realistische Wirkung der Avatare als „nicht von echten Influencern zu unterscheiden“ betont und sogar damit geworben hat, dass diese ohne Wasserzeichen ausgeliefert werden. Dies führt Rezipierende bewusst in die Irre – und dagegen wollen wir ein Zeichen setzen. Es ging uns diesmal bewusst auch darum, den Anbieter in die Verantwortung zu nehmen, nicht nur die Kommunikatoren.
Seit fast zwei Jahren gibt es eine DRPR-Richtlinie zum Umgang mit künstlicher Intelligenz. Welche Regeln gelten aktuell?
Grundsätzlich müssen alle KI-generierten Bild-, Video- und Audioinhalte, die realitätsnah wirken und beim Publikum den Eindruck erwecken könnten, echt zu sein, gekennzeichnet werden. In der Richtlinie von 2023 hatten wir als Beispiele nur Bilder aufgeführt. Wir haben diese in der Richtlinie, die am Dienstag, 7. Oktober, erscheinen wird, auf Video und Audio erweitert.
Neu ist auch die Kennzeichnung von realen Bild-, Video oder Audioinhalten, die mithilfe von KI manipuliert wurden, bei denen sich also der Sinn durch den Einsatz von KI verändert. Zum Beispiel, wenn auf Bildern oder Videos Personen aus dem Hintergrund entfernt werden, sodass es den Anschein hat, die Person im Vordergrund war alleine an diesem Ort.
Und bei Texten?
Da sind wir pragmatisch. Wird ein Text, der durch KI erstellt oder bearbeitet wurde, von einem Menschen auf Richtigkeit und Wahrhaftigkeit überprüft, entfällt eine Kennzeichnungspflicht.
Anders ist das bei ungeprüften Texten oder anderen ungeprüften KI-Inhalten, da sehen wir eine Kennzeichnungspflicht. Das ist nur im Sinne der Kommunikator*innen. Nehmen wir zum Beispiel die Rede eines CEOs, die mittels KI simultan in verschiedene Sprachen übersetzt wird. Da gibt es keine Möglichkeit zu überprüfen, ob die KI die Aussage des CEOs wirklich originalgetreu wiedergibt.
Gleichzeitig steht es jeder Organisation frei, transparenter zu sein, also beispielsweise auch geprüfte KI-Texte freiwillig zu kennzeichnen. Grundsätzlich ist die KI-Richtlinie des DRPR im Hinblick auf Kennzeichnungspflichten recht ähnlich zur KI-Verordnung der Europäischen Union, deren diesbezügliche Regelungen ab August 2026 in Kraft treten. Je früher sich Unternehmen darauf einstellen, desto besser.
Lesen Sie auch:
- PR-Rat mahnt KI-Influencer-Anbieter Tasy AI
- PR-Rat veröffentlicht aktualisierte KI-Richtlinie
- Warum Kommunikation ein KI-Leitbild braucht
Eine Studie der University of Arizona kam zu dem Schluss, dass Inhalte, die als KI-generiert gekennzeichnet sind, beim Publikum weniger Vertrauen genießen. Wie sehen Sie das?
Studien, die die Akzeptanz von KI-generierten Inhalten untersuchen, liefern bisher unterschiedliche Ergebnisse und hängen stark von Forschungsgegenstand, Studiendesign sowie Zeitpunkt der Studie ab. Ein Online-Experiment mit Studierenden an der Fachhochschule Kiel zeigt: Zwischen KI-generierten Instagram-Posts ohne Kennzeichnung und Posts mit Kennzeichnung gab es kaum Unterschiede in der wahrgenommenen Glaubwürdigkeit von Beitrag und Unternehmen.
Inwiefern eine KI-Kennzeichnung und der transparente Einsatz von KI der eigenen Reputation schadet oder nicht, hängt aber sicherlich auch davon ab, was für ein Unternehmen man ist. Ein Traditionsunternehmen könnte bei seinen Zielgruppen derzeit vielleicht mehr Vertrauen einbüßen als ein technologieaffines Start-up. Ich glaube jedoch, dass die „KI-Toleranz“ in der Gesellschaft von Tag zu Tag steigt, da wir zunehmend mit KI-Inhalten konfrontiert werden und somit ein Gewöhnungseffekt eintritt.
Brauchen wir irgendwann überhaupt noch Kennzeichnungen, wenn fast alles KI-generiert ist?
Vollautomatisierte Inhalte sollten immer gekennzeichnet werden, nicht zuletzt, weil man als Kommunikator oder Unternehmen für die Inhalte verantwortlich ist. Denkbar ist aber auch, dass menschlich erstellter Content künftig als Qualitätsmerkmal gekennzeichnet wird – quasi eine umgekehrte Kennzeichnung.
Der DRPR hat als einziges Selbstkontrollorgan in Deutschland spezielle KI-Leitlinien herausgebracht. Weder der Presserat noch der Werberat haben ihre Kodizes angepasst. Letzterer könnte sich ja vielleicht auch mit dem Fall Tasy AI befassen. Würden Sie sich eine klarere Haltung wünschen?
Es wäre schön, wenn es eine konzertierte Aktion gäbe. Aber jede Branche hat ihre eigene Sicht. In der Werbung werden solche KI-Kampagnen regelrecht gehypt. Es wird damit geworben, dass es keine realen Models mehr braucht. Das trägt nicht unbedingt zur Klarheit bei Kommunizierenden und Rezipierenden bei. Und natürlich beobachten wir mit Sorge, was im Journalismus passiert. Die einzelnen Verlagshäuser haben sehr unterschiedliche Regelungen. Für eine Demokratie ist ein funktionierender, kritischer Journalismus essenziell, auch als Sparringspartner für die PR.
Grundsätzlich finde ich Leitlinien wichtig, weil die Integration von KI ein Change-Prozess ist. Veränderungen gehen immer mit Bedenken und Unsicherheiten einher. Richtlinien wie die vom DRPR bieten Orientierung. Wichtig ist aber, dass Unternehmen diese in eine eigene Leitlinie überführen und ihre Mitarbeitenden im Umgang mit KI schulen. Denn nur wer Verständnis für die Technologie hat, kann sie auch reflektiert und verantwortungsvoll nutzen. Diesen Aspekt haben wir auch in die neue Richtlinie aufgenommen.
Warum haben Sie die Richtlinie jetzt überarbeitet?
Das ist ein laufender Prozess, der eigentlich schon seit Veröffentlichung der Richtlinie vor zwei Jahren begonnen hat. Wir sammeln laufend Feedback aus der Branche, von Kongressen, aus Agenturen. Wir haben von Anfang an gesagt, dass diese Richtlinie regelmäßig angepasst werden muss. Technologie und Anwendungsfelder entwickeln sich ja weiter und damit auch die Herausforderungen für die Kommunikationsbranche.
Elke Kronewald spricht am Dienstag, 7. Oktober auf der KI-X-Tagung in Berlin.
