Wann ist eine KI-Kennzeichnung ausreichend, und wann endet die Pflicht?

Die Ausnahme von der Kennzeichnungspflicht ist enger gefasst, als ein interner Freigabeprozess vermuten lässt. Sie betrifft im Wortlaut veröffentlichte Texte und verlangt eine inhaltliche Prüfung. Für Deepfakes gibt es keine vergleichbare Ausnahme, und für die maschinenlesbare Kennzeichnung synthetischer Inhalte ist der Anbieter des erzeugenden Systems zuständig. Diese Folge klärt, was als ausreichende Kennzeichnung zählt und wo die Pflicht aus Artikel 50 endet.

Bei Text endet die Pflicht an einer echten redaktionellen Prüfung

Artikel 50 Absatz 4 verpflichtet Betreiber eines KI-Systems, „das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“, offenzulegen, dass der Text künstlich erzeugt oder manipuliert wurde. Die Pflicht entfällt, wenn die Inhalte „einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt“ (Europäische Kommission, AI Act Service Desk, Artikel 50).

Was diese Prüfung ausmacht, beschreibt die Kommission in ihrer FAQ zu Artikel 50: „Human review refers to the deliberate examination of the substance of the content“, und „Superficial, solely formal, or procedural checks (e.g. spell-checking or grammatical correction) are not considered to be human review or editorial control“ (Europäische Kommission, FAQ Transparency obligations under Article 50 AI Act). Zur Verantwortung heißt es dort: „Editorial responsibility means that a person must hold the ultimate legal responsibility over the publication of the content.“

Für die Praxis heißt das aus meiner Sicht: Ein Marketingtext, den eine KI entwirft, den ein Mitarbeiter inhaltlich liest und bewertet und für dessen Veröffentlichung eine Person die rechtliche Verantwortung trägt, erfüllt dieses Verfahren. Ein Text, der nur durch eine Rechtschreibkorrektur oder eine formale Freigabeschleife läuft, erfüllt es nach der FAQ nicht. Ob der Text überhaupt unter Absatz 4 fällt, hängt zusätzlich davon ab, ob er „Angelegenheiten von öffentlichem Interesse“ betrifft. Das lässt sich vermutlich nur am einzelnen Text klären.

Bei Bildern, Video, Audio und Deepfakes gibt es diese Ausnahme nicht

Für Anbieter von Systemen, „die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen“, verlangt Artikel 50 Absatz 2, dass die Ausgaben „in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind“. Die Pflicht gilt dort nicht, „soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern“ (Europäische Kommission, AI Act Service Desk, Artikel 50). Das ist eine technische Ausnahme für Bearbeitungswerkzeuge, keine Entsprechung zur redaktionellen Kontrolle bei Text.

Für Deepfakes verlangt Absatz 4 von Betreibern, offenzulegen, „dass die Inhalte künstlich erzeugt oder manipuliert wurden“. Eine Erleichterung nennt der Wortlaut nur für Inhalte, die Teil eines „offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks“ sind; dort beschränkt sich die Pflicht darauf, das Vorhandensein solcher Inhalte in geeigneter Weise offenzulegen (dieselbe Quelle). Die Kommissions-FAQ definiert Deepfakes als „AI-generated or manipulated image, audio or video content that resembles existing persons, objects, places, entities or events and would falsely appear to a person to be authentic or truthful“ (Europäische Kommission, FAQ Transparency obligations under Article 50 AI Act). Wer als Unternehmen solche Inhalte veröffentlicht, etwa ein KI-erzeugtes Video, das wie eine echte Aufnahme wirkt, findet im Wortlaut keine Ausnahme wegen interner Prüfung. Ein KI-Bild, das erkennbar keine echte Aufnahme vorgibt, fällt nach dieser Definition nicht unter die Deepfake-Pflicht; die maschinenlesbare Kennzeichnung nach Absatz 2 liegt beim Anbieter des Werkzeugs.

„Offensichtlich“ ist eng auszulegen

Anbieter von Systemen zur direkten Interaktion, etwa Chatbots, müssen sicherstellen, dass Personen informiert werden, „dass sie mit einem KI-System interagieren“, außer dies ist „aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich“ (Europäische Kommission, AI Act Service Desk, Artikel 50). Die FAQ der Kommission beschreibt den Maßstab so: „a provider will have to identify an average person, who is reasonably well-informed, circumspect, and observant“ (Europäische Kommission, FAQ Transparency obligations under Article 50 AI Act). Das DATEV magazin ordnet die Ausnahme in seinem Bericht zu den Leitlinien als „eng auszulegen“ ein; die bloße Verbreitung von KI-Systemen reiche „für sich genommen nicht aus, um von einer offensichtlichen KI-Interaktion auszugehen“ (DATEV magazin, 28.07.2026).

Sich darauf zu verlassen, dass Kunden einen Chatbot ohnehin erkennen, trägt nach dieser Einordnung nicht. Ein sichtbarer Hinweis bei der ersten Nachricht ist aus meiner Sicht die einfachste Form, die Pflicht aus Absatz 1 nachweisbar zu erfüllen.

Was als Kennzeichnung zählt

Die Kommission stellt für die Kennzeichnung einen Praxisleitfaden bereit, der „providers and deployers of generative AI systems“ bei „labelling and marking of AI-generated content“ unterstützt, mit einer Section für Anbieter („Rules for marking and detection of AI-generated and manipulated content“) und einer für Betreiber („Rules for labelling of deepfakes and AI-generated and manipulated text“). Dazu heißt es: „The EU has also created a set of icons that deployers of generative AI systems may use to label their AI-generated content“ (Europäische Kommission, GD CONNECT, Code of Practice on Transparency of AI-generated Content). Wer den Leitfaden unterzeichnet, kann sich nach derselben Seite auf seine Maßnahmen berufen, um die Einhaltung nachzuweisen; wer andere Wege wählt, muss deren Angemessenheit selbst darlegen.

Für ein mittelständisches Unternehmen folgt daraus eine einfache Reihenfolge: erst klären, ob Absatz 1, 2 oder 4 überhaupt greift, dann die Kennzeichnung wählen. Wer gelegentlich einen KI-gestützten Text veröffentlicht und dabei eine inhaltliche Freigabe mit benannter Verantwortung durchläuft, braucht nach dem Wortlaut kein zusätzliches Label. Wer Deepfakes veröffentlicht, braucht die Offenlegung unabhängig von jeder internen Prüfung.

Meine Einschätzung

Ich prüfe Technik, Kosten und Risiken. Daraus entsteht eine Entscheidungsgrundlage. Dieser Beitrag ordnet den Verordnungstext ein und ersetzt keine Rechtsberatung. Ob ein konkretes System unter eine bestimmte Pflicht fällt, lässt sich nur am Einzelfall klären. „Nichts verändern“ ist ein Ergebnis: Ein redaktionell geprüfter Text mit benannter Verantwortung braucht kein zusätzliches Label, ein Chatbot mit klarem Hinweis im Gespräch keine zweite Ebene obendrauf. Wo die Ausnahme nicht greift, bei Deepfakes und bei veröffentlichtem Text ohne inhaltliche Prüfung, bleibt die Kennzeichnung Pflicht. Wie hoch das Risiko bei einem Verstoß ist und was dazu mit Stand heute gesichert ist, behandelt die nächste Folge dieser Serie.