Inhaltsverzeichnis
Neue Kennzeichnungspflichten der KI-Verordnung in Kraft
Seit dem 2. August 2026 gelten weitere zentrale Vorgaben der europäischen KI-Verordnung (KI-VO / AI Act). Im Fokus stehen die Transparenz- und Kennzeichnungspflichten nach Art. 50 KI-VO. Diese sollen sicherstellen, dass Menschen erkennen können, wann sie mit Künstlicher Intelligenz interagieren oder KI-generierte Inhalte konsumieren.
Viele Organisationen setzen inzwischen KI-Systeme zur Erstellung von Texten, Bildern, Videos oder im Kundenservice ein. Damit sind die neuen Transparenzanforderungen für jede Organisation relevant und bindend, die KI-Systeme entwickelt oder einsetzt – egal, ob es sich dabei um Unternehmen, Vereine, Selbstständige oder Kommunen handelt.
Pünktlich zu den jetzt geltenden Transparenzpflichten, hat die Europäische Kommission Guidelines herausgebracht. Diese sollen die Transparenzpflichten des Art. 50 KI-VO konkretisieren.
Doch was gilt jetzt konkret? Welche KI-generierten Inhalte sind überhaupt zu kennzeichnen und was ist bei den Transparenzpflichten zu beachten? Verschaffen wir uns zunächst Klarheit mit einem kurzen Überblick…
Ein erster Überblick : Die Anwendungsbereiche
Identitätstäuschung, Irreführung, Desinformation, großskalige Manipulation, Betrug, Beeinträchtigung demokratischer Prozesse sowie Vertrauensverlust in Informationen und Medien: Diese Risiken sollen laut EU-Kommission durch die Transparenzpflichten des Art. 50 KI-VO verringert werden. Dabei seien die neuen Transparenz-Regelungen laut Kommission weit mehr als eine technische Compliance-Anforderung. Denn diese dienen dem Schutz von Autonomie, Menschenwürde, Privatsphäre, Gleichbehandlung, Verbraucherschutz und weiteren Grundrechten.
Zudem unterstreicht der europäische Gesetzgeber die Bedeutung der Transparenzvorgaben (bzw. generell der Bestimmungen der KI-VO) allein schon durch empfindliche Sanktionen. Unternehmen drohen bei Verstößen Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent ihres weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ausfällt (vgl. Art. 99 Nr. 4 KI-VO).
Nähern wir uns weiter den Kennzeichnungspflichten: Art. 50 KI-VO enthält vier eigenständige Transparenzpflichten, die unterschiedliche Arten von KI-Systemen (Anwendungsbereiche) betreffen, nämlich die Kennzeichnung von:
- direkter KI-Interaktion,
- KI-generierten Inhalten,
- Deepfakes und bestimmen Textpublikationen sowie
- KI-Emotionserkennung und biometrische Kategorisierung.
Je nachdem, ob Sie Anbieter und/oder Betreiber von KI sind, haben Sie unterschiedliche Transparenzpflichten zu erfüllen. Darüber hinaus können auch mehrere Transparenzpflichten gleichzeitig für ein und dasselbe KI-System gelten.
Fällt hingegen ein Anwendungsbereich nicht unter Art. 50 KI-VO, besteht im Übrigen keine Kennzeichnungspflicht nach der KI-Verordnung.
Und wie sieht das Ganze nun in der Praxis aus? Schauen wir uns das im Folgenden genauer an.
Kennzeichnungspflichten in der Praxis
1. Kennzeichnung von KI-Interaktionen durch Anbieter
Ein KI-System fällt unter diese Kennzeichnungspflicht, wenn es zur direkten Interaktion mit natürlichen Personen bestimmt ist. Das sind z. B. Chatbots, Sprachassistenten, KI-Hotlines, KI-Avatare, KI-Begleiter (AI Companions), soziale Bots, humanoide Roboter, sowie auch KI-Agenten, die autonom Termine vereinbaren, Verträge vorbereiten oder Einkäufe durchführen können.
Dabei müssen Anbieter von KI-Systemen diese so entwickeln und gestalten, dass betroffene Personen erkennen können, dass sie mit einer KI interagieren. Dabei muss die Information spätestens beim ersten Kontakt erfolgen.
Vielleicht haben Sie folgendes bereits selbst erlebt: Bei einem Anruf zur Terminvereinbarung werden Sie von einer erstaunlich echtklingenden Stimme mit den Worten begrüßt: „Willkommen bei …, ich bin der KI-Assistent …“.
Solche Hinweise sollen der Transparenz dienen und deutlich machen, dass die Kommunikation mit einer KI erfolgt. Laut Guidelines der EU-Kommission sollen KI-Agenten ganz konkret mit dem Menschen:
- ihre künstliche Natur offenlegen,
- offenlegen, in wessen Auftrag sie handeln,
- sich gegenüber Nutzern bei wichtigen Arbeitsschritten kenntlich machen und
- ihre KI-Eigenschaft bei jeder neuen Interaktion deutlich machen.
Es gibt hier allerdings auch eine Ausnahme von der Informationspflicht bei KI-Interaktionen. Immer dann, wenn für die betroffene Person offensichtlich ist, dass sie mit einem KI-System interagiert, muss keine gesonderte Information erfolgen. Offensichtlich ist dies jedoch nur dann, wenn für eine angemessen informierte, aufmerksame und verständige Person bereits aus den Umständen und dem Nutzungskontext klar erkennbar ist, dass sie mit einer KI kommuniziert, beispielsweise bei einem ausdrücklich als „KI-Chatbot“ oder „virtueller KI-Assistent“ bezeichneten System.
2. Kennzeichnung KI-generierter Inhalte durch Anbieter
Anbieter generativer KI-Systeme müssen sicherstellen, dass KI-erzeugte oder KI-manipulierte Inhalte als solche zuverlässig erkennbar sind. Betroffen sind davon multimodale Inhalte – also Texte, Bilder, Audio- und Videodateien, sowie virtuelle und augmentierte Realitäten, die durch KI generiert oder manipuliert wurden. Zudem besteht diese Pflicht laut EU-Kommission aus zwei Komponenten, die beide erfüllt sein müssen:
- Die Inhalte müssen maschinenlesbar gekennzeichnet sein (z. B. mittels Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise, Fingerprinting-Verfahren und Logging-Systeme).
- Zusätzlich müssen nachweisbare Erkennungsmöglichkeiten vorhanden sein, mit denen Dritte feststellen können, ob Inhalte KI-generiert oder KI-manipuliert wurden.
Auch hier gibt es Ausnahmen: Grundsätzlich besteht laut EU-Kommission keine Kennzeichnungspflicht, wenn Inhalt und Bedeutung nicht substanziell durch das KI-System verändert werden. Das ist z. B. bei Standardbearbeitung wie Rechtschreibkorrektur, Übersetzung, Grammatikkorrektur, einfache Bildverbesserungen, Rauschunterdrückung, Farbkorrekturen, Zuschnitt, Videostabilisierung und Transkriptionen der Fall.
Von Anbietern kennzeichnungspflichtig sind hingegen insbesondere KI-generierte Zusammenfassungen, weitgehende Umformulierungen von Texten, den Austausch oder das Einfügen von Personen und Objekten in Bildern und Videos, realistische Stimmenklone sowie andere KI-Manipulationen, die die Bedeutung, Aussage oder Wirkung eines Inhalts wesentlich verändern.
Dabei sind die von der EU-Kommission genannten Beispiele für wesentliche inhaltliche Veränderungen nicht nur für Anbieter generativer KI relevant. Auch Betreiber von KI-Systemen sollten diese Abgrenzung beachten, da umfangreiche Manipulationen von Texten, Bildern, Audio- oder Videoinhalten unter Umständen zusätzlich Kennzeichnungspflichten für Deep Fakes nach Art. 50 Abs. 4 KI-VO auslösen können.
Also wie ist es nun, wenn sie als Anwender generative KI-Systeme nutzen, z. B. im Marketing für Social-Media-Beiträge oder Erstellung von Textinhalten für Ihre Website? Schauen wir uns gemeinsam den nächsten Punkt an.
3. Transparenz bei Deepfakes und bestimmten Textpublikationen durch Betreiber
Die KI-Verordnung nimmt zum Thema Transparenz nicht nur die Anbieter der Systeme in die Pflicht. Auch Betreiber (Anwender/Nutzer), die KI-generierte Inhalte veröffentlichen, müssen unter bestimmten Voraussetzungen für Transparenz sorgen. Insbesondere bei sogenannten Deepfakes ist offenzulegen, dass die Inhalte künstlich erzeugt oder verändert wurden.
Ein Deep Fake ist ein KI-generiertes oder KI-manipuliertes Bild-, Audio- oder Videomaterial, das existierenden Personen, Gegenständen, Orten, Lebewesen, Ereignissen ähnelt und für Personen fälschlicherweise authentisch oder wahr erscheinen kann. Hierunter fallen ausdrücklich KI-generierte Video-Politikerreden, geklonte Stimmen realer Personen, KI-generierte Abbilder von Prominenten, digitale Abbilder von CEOs, KI-generierte Werbevideos mit realistisch wirkenden Personen. Photorealismus allein macht einen Inhalt hingegen noch nicht automatisch zum Deep Fake. Entscheidend ist nicht allein die realistische Darstellung, sondern ob der Inhalt geeignet ist, Menschen hinsichtlich seiner Authentizität oder Wahrheit zu täuschen.
Auch hier kennt der europäische Gesetzgeber Ausnahmen. Er hat berücksichtig, dass KI-generierte oder KI-manipulierte Inhalte auch für künstlerische, kreative, satirische oder fiktionale Zwecke eingesetzt werden. Ist ein Deepfake Bestandteil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werks, besteht zwar weiterhin eine Transparenzpflicht. Diese muss jedoch nur in einer Weise erfüllt werden, die die Darstellung, die Wirkung oder den Genuss des Werks nicht beeinträchtigt.
Neben Deepfakes kann auch für KI-generierte Texte eine Kennzeichnungspflicht bestehen. Dies ist insbesondere dann der Fall, wenn solche Inhalte veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren z. B. im Bereich Politik, demokratische Prozesse, öffentliche Verwaltung, Strafverfolgung, Grundrechte, öffentliche Sicherheit, Gesundheit, Umwelt, Verbraucherschutz, Wirtschaft, Wissenschaft und Kultur. Hierunter fallen laut Guideline z. B. KI-Zusammenfassungen von Nachrichten, Wetterwarnungen, Investoreninformationen, und gesundheitsbezogene Informationsartikel. Darüber hinaus besteht keine Kennzeichnungspflicht, wenn kumulativ:
- eine echte menschliche Prüfung oder redaktionelle Kontrolle erfolgt und
- eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.
Allein ein flüchtiges Korrekturlesen dürfte hierfür also nicht ausreichen.
Wenn Texte nicht mit dem Ziel veröffentlicht werden, die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren, fallen diese auch nicht unter die Kennzeichnungspflicht. Das kann z. B. regelmäßig der Fall sein bei Fantasy-Romanen, reinen Werbetexten und Produktbeschreibungen (sofern sie keine Angaben zu Gesundheit, Verbrauchersicherheit und Nachhaltigkeit machen) sowie bei individuellen Chatbot-Antworten oder ein von einer KI bearbeiteten Text eines Beraters für einen Mandanten, der Empfehlungen zu Maßnahmen zur Einhaltung geltender gesetzlicher Vorschriften (Compliance) enthält.
4. Emotionserkennung und biometrische Kategorisierung durch Betreiber
Werden KI-Systeme eingesetzt, die Emotionen erkennen oder Personen biometrisch kategorisieren, müssen die betroffenen Personen durch den Betreiber darüber informiert werden, dass sie einem solchen System ausgesetzt sind. Hierunter fallen z. B. Systeme zur Alters- und Geschlechtsklassifizierung, sowie sonstige biometrische Kategorisierung. Da beim Einsatz entsprechender Systeme biometrische Daten oder daraus abgeleitete Informationen verarbeitet werden und es sich bei diesen Datenarten um besonders schützenswerte Daten handelt (Art. 9 DSGVO), stellt die KI-VO insbesondere hier auch die Einhaltung der Datenschutzgrundverordnung heraus.
Allgemeine Anforderungen an die Kennzeichnungspflicht
Bei der Information von Betroffenen kommt es nicht nur darauf an, dass informiert wird, sondern auch wie. Denn die erforderlichen Informationen müssen grundsätzlich klar, verständlich und für die betroffenen Personen leicht wahrnehmbar sein. Sie sind so bereitzustellen, dass die betroffene Person die Information rechtzeitig erhält, nämlich:
- bei KI-Systemen beim ersten Kontakt mit dem Nutzer und
- bei Inhalten beim ersten Kontakt mit dem jeweiligen Inhalt.
Die bloße Aufnahme entsprechender Hinweise in allgemeine Vertragsbedingungen (AGB), Nutzungsbedingungen, Untermenüs oder im Impressum wird diesen Anforderungen regelmäßig nicht genügen.
Darüber hinaus sollte die Information barrierearm gestaltet sein und sich am jeweiligen Adressatenkreis orientieren. Dies gilt insbesondere dann, wenn das betreffende KI-System auch von Personen genutzt wird, die aufgrund ihres Alters oder einer Behinderung eines erhöhten Schutzes bedürfen. Maßgeblich ist stets, ob die Information im konkreten Nutzungskontext für die betroffenen Personen tatsächlich verständlich und wahrnehmbar ist.
Wichtig: Wer KI einsetzt, muss nicht nur die Transparenzpflichten der KI-Verordnung im Blick behalten. Auch das Datenschutzrecht, Gesetz gegen den unlauteren Wettbewerb oder Bereiche des Urheber- und Medienrechts können weitere Informationspflichten vorsehen. Damit beschäftigen wir uns im nächsten Fachbeitrag am 20.09.2026.
Fazit
Die seit dem 2. August 2026 geltenden und durch die EU-Kommission konkretisierten Transparenzpflichten der KI-Verordnung betreffen nicht nur Anbieter von KI-Systemen. Auch Organisationen, die KI-Anwendungen in ihrer täglichen Praxis einsetzen, können von Transparenzpflichten betroffen sein. Wer KI im Kundenkontakt, für die Erstellung von Inhalten oder in anderen betrieblichen Prozessen einsetzt, sollte daher prüfen, ob und in welcher Form Kennzeichnungs- und Informationspflichten bestehen. Dabei kommt es nicht nur auf die Frage an, ob informiert werden muss, sondern auch darauf, wie die Information erfolgt: Sie muss klar, verständlich, rechtzeitig und für die betroffenen Personen leicht wahrnehmbar sein.
Für viele Organisationen empfiehlt sich daher eine Bestandsaufnahme der eingesetzten KI-Anwendungen, um mögliche Transparenz- und Kennzeichnungspflichten frühzeitig zu identifizieren und rechtskonform umzusetzen. Apropos Transparenz: Neben der KI-Verordnung können sich auch weitere Transparenz- und Informationspflichten ergeben. Darauf gehen wir im nächsten Fachbeitrag am 20.09.2026 näher ein.
Sie möchten in Ihrem Unternehmen KI rechtssicher einsetzen?
Unser TOSIT-Expertenteam berät und unterstützt Sie hinsichtlich Ihrer KI-Compliance. Wir helfen Ihnen bei der Erstellung Ihrer KI-Richtlinien, fortlaufenden Risiko-Bewertungen Ihrer eingesetzten und geplanten KI-Systeme und praxisnahe Schulungen für Sie und Ihre Mitarbeitenden.
Jetzt Kontakt aufnehmen und gemeinsam den „Pflegefall“ KI-Compliance angehen.
Über den Autor
Matthias Gleichmann
zertifizierter Datenschutzbeauftragter (DSB)
zertifizierter KI-Manager
Consultant Datenschutz & KI
Diese Seite teilen
Wenn Ihnen dieser Fachbeitrag gefällt, freuen wir uns über Ihre Empfehlung:
