EU AI Act: KI-Kennzeichnungspflicht nach Artikel 50

Artikel 50 der EU-KI-Verordnung verlangt keine pauschale Kennzeichnung „von KI“. Er verlangt vier klar umgrenzte Dinge, und für den Mittelstand sind zwei davon relevant: Ein Chatbot muss als Maschine erkennbar sein, und bestimmte veröffentlichte KI-Inhalte — Deepfakes und Texte über Angelegenheiten von öffentlichem Interesse — müssen als künstlich erzeugt offengelegt werden. Die Pflichten gelten seit dem 2. August 2026.

Stand: Oktober 2026. Dieser Beitrag beantwortet nicht, was wann gilt — das steht im Überblick zum EU AI Act — sondern was Sie hinschreiben müssen.

Wir sind Softwareentwickler und KI-Berater, keine Rechtsanwälte. Dieser Beitrag ordnet die Rechtslage aus der Praxis ein und ersetzt keine Rechtsberatung.

Wen Artikel 50 anspricht

Anbieter ist, wer ein KI-System entwickelt und unter eigenem Namen in Verkehr bringt; Betreiber ist, wer ein KI-System unter eigener Verantwortung einsetzt. Wenn Sie KI-Werkzeuge einkaufen und benutzen, sind Sie Betreiber — und zwei Absätze treffen Sie unmittelbar: Absatz 3 (Emotionserkennung) und Absatz 4 (Deepfakes, Texte von öffentlichem Interesse). Die Absätze 1 und 2 richten sich an den Anbieter, haben für Sie aber Folgen, weil Sie die Oberfläche betreiben, in der die Information erscheinen muss.

Die Pflichten im Einzelnen

Direkte Interaktion: der Mensch muss wissen, dass er mit einer Maschine spricht

Absatz 1 verpflichtet den Anbieter, KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so zu konzipieren, dass die Person informiert wird, dass sie mit einem KI-System interagiert. Das deckt Chatbot, Sprachassistent und automatische Telefonannahme ab. Entscheidend ist die Stelle: Nach Absatz 5 müssen die Informationen spätestens zum Zeitpunkt der ersten Interaktion klar und eindeutig bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen. Der Hinweis gehört also in die erste Nachricht im Chatfenster — nicht ins Impressum und nicht in die Datenschutzerklärung.

Die Ausnahme in Absatz 1 greift, wenn es „aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich“ ist. Darauf würde ich mich nicht stützen: Ein gut gebauter KI-Chatbot ist gerade nicht offensichtlich. Erwägungsgrund 132 verlangt zudem, die Merkmale von Personen zu berücksichtigen, die wegen Alter oder Behinderung schutzbedürftig sind.

Maschinenlesbare Markierung: Pflicht des Anbieters, nicht Ihre

Absatz 2 verpflichtet Anbieter von KI-Systemen — ausdrücklich einschließlich Systemen mit allgemeinem Verwendungszweck —, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, dafür zu sorgen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die technischen Lösungen müssen, soweit technisch möglich, wirksam, interoperabel, belastbar und zuverlässig sein.

Sie müssen das nicht selbst einbauen, sollten aber wissen, ob Ihr Werkzeug es tut. Welche Verfahren in Betracht kommen, nennt Erwägungsgrund 133 beispielhaft: Wasserzeichen, Metadatenidentifizierungen, kryptografische Methoden zum Nachweis von Herkunft und Authentizität, Protokollierungsmethoden und Fingerabdrücke. Ein bestimmtes Verfahren schreibt der Rechtstext nicht vor — er verweist auf den „allgemein anerkannten Stand der Technik“.

Zwei verbreitete Missverständnisse. Erstens: Die Pflicht gilt nicht, soweit das KI-System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten beziehungsweise deren Semantik nicht wesentlich verändert — Rechtschreibkorrektur ist kein Fall. Zweitens: Ein ausdrückliches Verbot, eine vorhandene Markierung zu entfernen, steht in Artikel 50 nicht. Wer sie entfernt, verliert aber den einzigen Nachweis, dass sein Material markiert war, und bleibt an seine eigene Offenlegungspflicht aus Absatz 4 gebunden.

Deepfakes: hier sind Sie selbst in der Pflicht

Absatz 4 Unterabsatz 1 trifft den Betreiber: Wer ein KI-System einsetzt, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Was ein Deepfake ist, definiert Artikel 3 Nummer 60: ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Im Mittelstand sind das drei Fälle: ein fotorealistisches Produktfoto mit einem KI-erzeugten Model, eine synthetische Stimme im Werbespot, ein Testimonial-Video mit einem Gesicht, das es nicht gibt. Eine erkennbar abstrakte Illustration ist kein Deepfake — sie erscheint niemandem fälschlicherweise als echt.

Eine Ausnahme gilt für Werke: Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, beschränkt sich die Pflicht darauf, das Vorhandensein solcher Inhalte in geeigneter Weise offenzulegen, die den Genuss des Werks nicht beeinträchtigt. Für ein Werbefoto hilft das nicht — Werbung ist kein satirisches Werk.

KI-Texte: nur bei Angelegenheiten von öffentlichem Interesse

Das ist die am häufigsten falsch verstandene Pflicht. Absatz 4 Unterabsatz 2 verpflichtet den Betreiber offenzulegen, dass ein Text künstlich erzeugt oder manipuliert wurde — aber nur, wenn der Text „veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“. Konkret: Produktbeschreibung, Leistungsseite, Newsletter, Stellentext — alles kein Fall. Ein automatisch erzeugter Beitrag über eine Gesetzesänderung, ein Gerichtsurteil oder eine Produktwarnung kann einer sein.

Und dann kommt der Satz, der für jedes Unternehmen mit redaktionellem Ablauf der wichtigste des ganzen Artikels ist: Die Pflicht gilt nicht, „wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt“. Zwei Bedingungen, beide erforderlich: ein echtes Prüfverfahren und eine benannte Verantwortung. Wer einen Entwurf aus dem Sprachmodell liest, korrigiert, freigibt und das dokumentiert, muss nicht kennzeichnen. Wer automatisch veröffentlicht, muss. Mit dem Urheberrecht an KI-Werken hat Artikel 50 übrigens nichts zu tun.

Emotionserkennung und biometrische Kategorisierung

Nach Absatz 3 müssen Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung die betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten nach der DSGVO verarbeiten. Das kommt selten vor — aber wer es einsetzt, weiß es oft nicht: Zufriedenheitsmessung aus der Stimmlage im Callcenter, Altersschätzung per Kamera an der Kasse. Eine Warnung: Das Ableiten von Emotionen am Arbeitsplatz ist nach Artikel 5 grundsätzlich verboten, nicht bloß kennzeichnungspflichtig. Wer so ein Werkzeug auf eigene Beschäftigte richtet, hat kein Transparenzproblem, sondern ein Verbotsproblem.

Fertige Formulierungen

Das Folgende sind Formulierungsvorschläge aus der Praxis, kein amtliches Muster. Die Verordnung schreibt keinen Wortlaut vor; sie verlangt klar, eindeutig und rechtzeitig. Kurz ist deshalb besser als juristisch vollständig.

Einen amtlichen Wortlaut gibt es nicht, ein amtliches Bildzeichen schon: Die Kommission stellt einen Satz EU-Symbole zur Kennzeichnung KI-erzeugter Inhalte frei zur Verfügung, in vier Varianten (schwarz, weiß und beide mit 50 Prozent Transparenz). Sie sind Teil von Abschnitt 2 des Verhaltenskodex und ausdrücklich für die Offenlegung nach Artikel 50 Absatz 4 gedacht. Pflicht ist ihre Verwendung nicht — ein Symbol neben dem Satz ist aber die kürzeste Form, die ein Leser sofort erfasst.

1. Chatbot-Begrüßung — deckt Absatz 1 ab (Pflicht des Anbieters; wer den Begrüßungstext selbst pflegt, erfüllt sie faktisch).

„Hallo, ich bin der digitale Assistent von [Firma] — ein KI-System, kein Mensch. Schreiben Sie ‚Mitarbeiter‘, wenn Sie mit einer Person sprechen möchten.“

Wo: als erste Nachricht im Chatfenster, sichtbar bevor der Nutzer etwas eingibt.

2. Hinweis unter einem KI-erzeugten Bild oder Video — deckt Absatz 4 Unterabsatz 1 ab (Deepfake, Betreiber).

„Mit KI erzeugtes Bild. Die dargestellte Person existiert nicht.“

Wo: in der sichtbaren Bildunterschrift. Ein Eintrag allein im Alt-Text oder in den Metadaten ist nicht „klar und eindeutig“ im Sinne von Absatz 5.

3. Hinweis bei einem KI-erzeugten Textbeitrag — deckt Absatz 4 Unterabsatz 2 ab (Betreiber), wenn der Text über eine Angelegenheit von öffentlichem Interesse informiert und nicht redaktionell geprüft wurde.

„Dieser Beitrag wurde von einem KI-System erzeugt und nicht redaktionell geprüft.“

Wo: im Vorspann über dem Text, nicht in der Fußzeile.

Wenn Sie prüfen und verantworten, brauchen Sie den Hinweis nicht. Wer trotzdem transparent sein will, schreibt: „Erstellt mit KI-Unterstützung, redaktionell geprüft und verantwortet von [Name].“ Das ist freiwillig — und es benennt genau die beiden Bedingungen, mit denen die Pflicht entfällt.

4. Hinweis bei synthetischer Stimme in einer Telefonansage — deckt Absatz 1 ab, wenn der Anrufer mit dem System interagiert.

„Sie sprechen mit dem automatischen Sprachassistenten von [Firma].“

Wo: als erster Satz der Ansage, vor der ersten Frage an den Anrufer. Imitiert die Stimme eine wirkliche Person, kommt zusätzlich Absatz 4 Unterabsatz 1 in Betracht.

5. Hinweis bei Emotionserkennung — deckt Absatz 3 ab (Betreiber).

„In diesem Gespräch wird ein KI-System eingesetzt, das aus Ihrer Stimme Gefühlslagen ableitet. Mehr dazu und zu Ihren Rechten: [Link].“

Wo: vor Beginn der Aufzeichnung beziehungsweise bevor die Person dem System ausgesetzt ist.

Was bis zum 2. Dezember 2026 zu tun ist

Artikel 111 Absatz 4 — eingefügt durch die Änderungsverordnung (EU) 2026/1744 — gibt Anbietern von Systemen, die synthetische Inhalte erzeugen und vor dem 2. August 2026 in Verkehr gebracht wurden, Zeit bis zum 2. Dezember 2026, um Artikel 50 Absatz 2 zu erfüllen. Lesen Sie die Messebene mit: Das ist eine Frist für den Anbieter, nicht für Sie. Ihre eigenen Pflichten aus den Absätzen 3, 4 und 5 gelten ohne Übergangsfrist seit dem 2. August 2026. Trotzdem ist das Datum der Anlass für eine Liste für einen Vormittag:

1. Werkzeugliste. Welche KI-Werkzeuge laufen — eingekauft, als Funktion in vorhandener Software, von Teams ohne Freigabe genutzt?
2. Was davon erzeugt veröffentlichte Inhalte? Bilder, Videos, Stimmen, Texte. Alles Übrige ist für Artikel 50 unerheblich.
3. Je Werkzeug: markiert der Anbieter maschinenlesbar? Schriftlich anfragen, Antwort ablegen. Nach dem 2. Dezember 2026 ist „weiß ich nicht“ keine gute Antwort mehr.
4. Chatbot und Telefonansage prüfen. Steht der Hinweis in der ersten Nachricht beziehungsweise im ersten Satz — auch mobil?
5. Bildbestand durchsehen. Welche veröffentlichten Bilder und Videos sind Deepfakes nach Artikel 3 Nummer 60? Diese brauchen eine Bildunterschrift.
6. Interne Regel festlegen. Wer kennzeichnet, an welcher Stelle, und wer trägt die redaktionelle Verantwortung? Ohne diese Benennung greift die Entlastung aus Absatz 4 nicht.
7. Emotionserkennung ausschließen. Nachfragen, ob irgendwo Stimmungs- oder Altersanalyse läuft.

Das ist die Transparenzseite. Die Kompetenzseite steht in der KI-Schulungspflicht nach Artikel 4, die datenschutzrechtliche in Welche KI ist DSGVO-konform?.

Verhaltenskodex und Leitlinien: beides existiert

Der Stand im Oktober 2026 ist besser als oft behauptet. Die Kommission hat am 20. Juli 2026 Leitlinien zu den Transparenzpflichten nach Artikel 50 veröffentlicht — die Referenz, an der sich die Marktüberwachung orientiert. Der freiwillige Verhaltenskodex zur Transparenz KI-erzeugter Inhalte („Code of Practice on Transparency of AI-generated Content“) liegt seit dem 10. Juni 2026 in endgültiger Fassung vor. Er ist nicht verbindlich, die Pflichten aus Artikel 50 sind es. Für Sie ist er ein Prüfkriterium beim Einkauf: Hat der Anbieter Ihres Bildgenerators unterzeichnet, ist die Frage nach der Markierung halb beantwortet.

Was ein Verstoß kostet

Artikel 99 Absatz 4 Buchstabe g erfasst die Transparenzpflichten aus Artikel 50. Der Rahmen liegt bei bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist; für KMU und Start-ups gilt nach Absatz 6 der niedrigere Wert. Die vollständige Staffelung steht im Überblick zum EU AI Act — die berühmten 35 Millionen Euro gehören hier nicht hin, sie gelten nur für die verbotenen Praktiken aus Artikel 5. Zuständig in Deutschland ist die Bundesnetzagentur als zentrale Marktüberwachungsbehörde nach dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), in Kraft seit dem 29. Juli 2026. Dort gibt es auch eine Beschwerdestelle — der realistische Weg, auf dem ein Fall entsteht.

Dramatisieren muss man das nicht. Der Schaden, der zuerst eintritt, ist ein Kunde, der merkt, dass das Testimonial-Video erfunden war. Dagegen hilft keine Bußgeldnorm, sondern eine Bildunterschrift.

Fünf Sätze, zwei Stellen in der Website, eine interne Regel — damit ist Artikel 50 in den meisten Betrieben erledigt. Der Aufwand liegt im Herausfinden, welche Werkzeuge laufen. Wenn Sie diese Bestandsaufnahme nicht selbst machen wollen, übernehmen wir sie: KI-Beratung, Erstgespräch kostenlos (Kontakt).

Quellen

• Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung 02024R1689 — DE — 27.07.2026, Artikel 3 Nummer 60, Artikel 50, Artikel 99, Artikel 111 und Artikel 113; Volltext abgerufen am 24. Oktober 2026 über den Cellar-Dienst des Amts für Veröffentlichungen der EU: publications.europa.eu — Fassung auf EUR-Lex: eur-lex.europa.eu
• Verordnung (EU) 2024/1689, Ursprungsfassung im Amtsblatt vom 12. Juli 2024, Erwägungsgründe 132 bis 137; abgerufen am 24. Oktober 2026: publications.europa.eu
• Verordnung (EU) 2026/1744 (Digital Omnibus on AI), Amtsblatt vom 24. Juli 2026, Änderung von Artikel 50 Absatz 7 und Einfügung von Artikel 111 Absatz 4; abgerufen am 24. Oktober 2026: publications.europa.eu
• Europäische Kommission: Leitlinien zu den Transparenzpflichten nach Artikel 50, veröffentlicht am 20. Juli 2026, abgerufen am 24. Oktober 2026: digital-strategy.ec.europa.eu
• Europäische Kommission: Code of Practice on Transparency of AI-generated Content, endgültige Fassung veröffentlicht am 10. Juni 2026, abgerufen am 24. Oktober 2026: digital-strategy.ec.europa.eu
• Europäische Kommission: EU Icons for labelling AI-generated content (vier Varianten, Teil von Abschnitt 2 des Verhaltenskodex), abgerufen am 24. Oktober 2026: digital-strategy.ec.europa.eu

Häufige Fragen

Muss ich KI-Texte auf meiner Website kennzeichnen?

In den meisten Fällen nicht. Artikel 50 Absatz 4 Unterabsatz 2 der KI-Verordnung verlangt eine Offenlegung nur für Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Produktbeschreibungen, Leistungsseiten und Werbetexte fallen nicht darunter. Und selbst bei Texten von öffentlichem Interesse entfällt die Pflicht, wenn der Inhalt einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Muss ich ein KI-erzeugtes Bild kennzeichnen?

Nur wenn es ein Deepfake ist. Die Verordnung definiert das in Artikel 3 Nummer 60 als durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Ein fotorealistisches Produktfoto mit einem KI-erzeugten Model ist ein Fall dafür, eine erkennbar abstrakte Illustration nicht. Die Offenlegungspflicht trifft hier den Betreiber, also Sie.

Reicht ein Hinweis in der Datenschutzerklärung oder im Impressum?

Nein. Artikel 50 Absatz 5 verlangt, dass die Informationen den betroffenen natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden, und zwar barrierefrei. Beim Chatbot heißt das: in der ersten Nachricht im Chatfenster. Bei einem KI-erzeugten Bild: in der Bildunterschrift. Ein Satz, den man erst nach drei Klicks im Impressum findet, erfüllt die Pflicht nicht.

Gilt die Kennzeichnungspflicht auch für kleine Unternehmen?

Ja. Artikel 50 kennt keine Schwelle nach Mitarbeiterzahl oder Umsatz; die Pflichten knüpfen an die Rolle als Anbieter oder Betreiber an. Eine Erleichterung gibt es nur bei den Geldbußen: Nach Artikel 99 Absatz 6 gilt für KMU und Start-ups der jeweils niedrigere der beiden Werte aus Festbetrag und Umsatzprozentsatz, nicht der höhere.

Was passiert, wenn ich nicht kennzeichne?

Verstöße gegen Artikel 50 sind in Artikel 99 Absatz 4 Buchstabe g erfasst. Der Rahmen liegt bei bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist — für KMU der niedrigere. Zuständig für die Marktüberwachung in Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur. Der wahrscheinlichere Schaden ist aber nicht das Bußgeld, sondern ein Kunde, der merkt, dass das Testimonial-Video erfunden war.