Künstliche Intelligenz verändert die Unternehmenskommunikation grundlegend. Bilder, Videos, Stimmen und Texte lassen sich heute in einer Qualität erzeugen, die für den durchschnittlichen Betrachter kaum noch von authentischen Inhalten zu unterscheiden ist. Mit der europäischen KI-Verordnung (KI-VO) reagiert der europäische Gesetzgeber auf diese Entwicklung und schafft erstmals ein umfassendes Regelwerk für den Einsatz künstlicher Intelligenz. Für Unternehmen ergeben sich hieraus insbesondere neue Transparenz- und Kennzeichnungspflichten, die ab dem 2. August 2026 zu beachten sind.
Die KI-Verordnung verfolgt einen risikobasierten Regulierungsansatz. Während besonders gefährliche KI-Anwendungen verboten oder strengen Anforderungen unterworfen werden, verpflichtet Art. 50 KI-VO Anbieter und Betreiber bestimmter KI-Systeme zur Transparenz gegenüber Nutzern.
Ziel der Vorschrift ist es, das Vertrauen in digitale Inhalte zu stärken und zugleich sicherzustellen, dass künstlich erzeugte oder manipulierte Inhalte nicht mit authentischen Informationen verwechselt werden können. Gerade vor dem Hintergrund der zunehmenden Verbreitung von Deepfakes kommt den Transparenzpflichten erhebliche praktische Bedeutung zu.
Für die rechtliche Bewertung ist zunächst zwischen Anbietern und Betreibern eines KI-Systems zu unterscheiden.
Anbieter entwickeln KI-Systeme oder bringen diese unter eigenem Namen auf den Markt. Betreiber setzen KI-Systeme hingegen im Rahmen ihrer beruflichen Tätigkeit ein. Die KI-Verordnung knüpft an diese funktionale Rollenverteilung unterschiedliche Pflichten an.
Für Unternehmen ist diese Abgrenzung von erheblicher praktischer Relevanz. Wer etwa generative KI-Dienste lediglich für Marketing, Kundenkommunikation oder interne Prozesse nutzt, wird regelmäßig Betreiber sein. Werden fremde Systeme dagegen wesentlich verändert oder unter eigener Marke vertrieben, kann das Unternehmen selbst zum Anbieter im Sinne der KI-Verordnung werden.
Art. 50 KI-VO unterscheidet zwischen technischen Kennzeichnungspflichten der Anbieter und Transparenzpflichten der Betreiber.
Anbieter von KI-Systemen, die synthetische Bild-, Audio-, Video- oder Textinhalte erzeugen, müssen ihre Ausgaben grundsätzlich in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert kennzeichnen. Dies erfolgt beispielsweise durch Metadaten oder digitale Wasserzeichen und dient der technischen Erkennbarkeit entsprechender Inhalte.
Daneben verpflichtet Art. 50 Abs. 4 KI-VO Betreiber dazu, bestimmte KI-generierte Inhalte gegenüber den Nutzern ausdrücklich offenzulegen. Dies betrifft insbesondere sogenannte Deepfakes.
Die KI-Verordnung definiert Deepfakes als durch künstliche Intelligenz erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die realen Personen, Gegenständen, Orten oder Ereignissen ähneln und deshalb geeignet sind, beim Betrachter den Eindruck eines echten Geschehens hervorzurufen.
Entscheidend ist dabei weniger die technische Art der Bearbeitung als vielmehr die objektive Eignung des Inhalts, über dessen Authentizität zu täuschen.
Während geringfügige Bildoptimierungen regelmäßig keine Kennzeichnungspflicht auslösen dürften, werden realistisch erzeugte Personen, Stimmen oder Ereignisse häufig unter die Transparenzpflichten des Art. 50 KI-VO fallen.
Die Transparenzpflicht erschöpft sich nicht in irgendeinem Hinweis auf den Einsatz künstlicher Intelligenz.
Nach Art. 50 Abs. 5 KI-VO muss die Information spätestens zum Zeitpunkt der ersten Wahrnehmung des Inhalts erfolgen und klar, eindeutig sowie barrierefrei ausgestaltet sein. Versteckte Hinweise im Impressum, in den Shownotes eines Podcasts oder erst im Abspann eines Videos werden diesen Anforderungen regelmäßig nicht genügen.
Unternehmen sollten daher auf eindeutige Formulierungen wie „KI-generiert“, „mit künstlicher Intelligenz erstellt“ oder „KI-bearbeitet“ zurückgreifen. Kreative Umschreibungen oder lediglich technische Hinweise dürften den gesetzlichen Transparenzanforderungen vielfach nicht gerecht werden.
Die Kennzeichnungspflichten des Art. 50 KI-VO bilden lediglich einen Baustein des neuen europäischen KI-Rechts.
Daneben bleiben insbesondere die Datenschutz-Grundverordnung, der Digital Services Act, das Urheberrecht, das allgemeine Persönlichkeitsrecht sowie das Lauterkeitsrecht uneingeschränkt anwendbar. Gerade im Bereich des Wettbewerbsrechts können KI-generierte Inhalte bereits heute unzulässig sein, wenn sie Verbraucher täuschen oder wesentliche Informationen verschweigen.
Besondere Aufmerksamkeit verdient dabei das sogenannte AI-Washing. Unternehmen dürfen weder mit nicht vorhandenen KI-Funktionen werben noch den tatsächlichen Einsatz künstlicher Intelligenz irreführend darstellen. Die Verwendung des Schlagworts „KI“ entbindet nicht von den allgemeinen Anforderungen an wahrheitsgemäße und transparente Werbung.
Obwohl die KI-Verordnung als europäische Verordnung unmittelbar gilt und keiner Umsetzung in nationales Recht bedarf, gewinnt das deutsche KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) zunehmend an Bedeutung.
Das KI-MIG begründet keine eigenständigen materiellen Transparenzpflichten. Vielmehr regelt es die nationale Marktüberwachung, die Zuständigkeiten der Behörden sowie die Durchsetzung der Vorgaben der KI-Verordnung. Insbesondere die Bundesnetzagentur soll hierbei eine zentrale Rolle als Marktüberwachungsbehörde übernehmen. Unternehmen müssen sich daher künftig nicht nur mit den materiellen Anforderungen der KI-VO, sondern auch mit den nationalen Aufsichts- und Sanktionsmechanismen auseinandersetzen.
Die Einführung generativer KI-Systeme ist nicht allein eine technische Entscheidung, sondern vor allem eine Frage rechtssicherer Organisation.
Unternehmen sollten bereits bei der Auswahl und Implementierung von KI-Lösungen vertraglich regeln, welche Partei die Pflichten der KI-Verordnung erfüllt, wie Kennzeichnungspflichten technisch umgesetzt werden, welche Dokumentations- und Kontrollmaßnahmen bestehen und wer im Fall regulatorischer Verstöße haftet.
Gerade bei SaaS-Lösungen, White-Label-Produkten oder individuell angepassten KI-Anwendungen empfiehlt sich eine sorgfältige Prüfung der Rollenverteilung nach der KI-Verordnung sowie eine entsprechende Ausgestaltung der Vertragsbeziehungen.
Mit den Transparenzpflichten des Art. 50 KI-VO etabliert der europäische Gesetzgeber erstmals verbindliche Anforderungen an den Umgang mit KI-generierten Inhalten. Unternehmen sollten die verbleibende Übergangszeit nutzen, um bestehende KI-Anwendungen zu überprüfen, interne Compliance-Strukturen anzupassen und Verträge mit Anbietern von KI-Systemen rechtssicher auszugestalten.
Die praktische Umsetzung der KI-Verordnung wird künftig nicht nur durch die Rechtsprechung, sondern auch durch das KI-MIG und die zuständigen Marktüberwachungsbehörden geprägt werden. Für Unternehmen empfiehlt es sich daher, die regulatorischen Entwicklungen frühzeitig in ihre Digitalisierungs- und Compliance-Strategie einzubeziehen.