KI-Bilder kennzeichnen: Was Artikel 50 des AI Act tatsächlich verlangt

Ein KI-generiertes Titelbild, ein bearbeitetes Kundenfoto und ein redaktionell geprüfter Blogtext sind rechtlich nicht derselbe Fall. Wer Inhalte veröffentlicht, sollte deshalb nicht von der Faustregel ausgehen, dass ausnahmslos jeder geschäftliche KI-Inhalt denselben sichtbaren Aufkleber braucht. Artikel 50 der EU-KI-Verordnung unterscheidet mehrere Pflichten und Ausnahmen.

Anbieter und Betreiber haben unterschiedliche Aufgaben

Artikel 50 Absatz 2 richtet sich an Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen. Sie müssen im Rahmen der dort genannten technischen Voraussetzungen maschinenlesbare Markierungen und Erkennbarkeit vorsehen. Das ist nicht identisch mit der Offenlegungspflicht eines Unternehmens, das solche Inhalte veröffentlicht.

Für Betreiber ist insbesondere Absatz 4 relevant: Er betrifft unter anderem KI-generierte oder manipulierte Bild-, Audio- und Videoinhalte, die Deepfakes darstellen. Ob ein Unternehmen Anbieter, Betreiber oder beides ist, hängt von seiner konkreten Tätigkeit ab.

Nicht jedes fotorealistische KI-Bild ist automatisch ein Deepfake

Artikel 3 Nummer 60 knüpft den Begriff daran, dass KI-generierte oder manipulierte Inhalte bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden. Die pauschale Gleichsetzung mit jedem fotorealistischen KI-Bild ist daher zu weit. Bei erkennbar künstlerischen, kreativen, satirischen oder fiktionalen Werken enthält Artikel 50 Absatz 4 zudem eine angepasste Form der Offenlegung.

Für Texte gilt eine eigene Regel

Absatz 4 erfasst auch KI-generierte oder manipulierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden. Er nennt ausdrücklich eine Ausnahme, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Ein automatisch eingeblendeter Satz über eine angebliche Faktenprüfung ersetzt diesen tatsächlichen Prozess nicht.

Was bedeutet das für ältere Social-Media-Beiträge?

Für die Frage nach bestehenden Beiträgen reicht der Blick auf das ursprüngliche Veröffentlichungsdatum allein nicht als belastbare Einzelfallprüfung. Zu unterscheiden sind unverändert vorgehaltene Inhalte, Bearbeitungen und erneute Veröffentlichungen. Dieser Beitrag gibt deshalb keine pauschale Zusage, dass sämtliche Altbeiträge von einer Nachkennzeichnung ausgenommen sind. Die zuvor behauptete konkrete Leitlinienpassage „Frage 34“ wird hier mangels belastbar nachgewiesener Fundstelle nicht mehr als Beleg verwendet.

Wie die Offenlegung aussehen sollte

Soweit eine Offenlegungspflicht besteht, verlangt Absatz 5 eine klare und unterscheidbare Information spätestens bei der ersten Interaktion oder Wahrnehmung. Welche Umsetzung angemessen ist, hängt auch vom Inhalt und seinen Ausnahmen ab. Eine freiwillige gut sichtbare Kennzeichnung wie „KI-Illustration“ kann zusätzlich Transparenz schaffen; sie ist keine pauschale Bescheinigung, dass alle rechtlichen Anforderungen erfüllt sind.

Bußgelder betreffen nicht nur die großen KI-Anbieter

Artikel 99 Absatz 4 Buchstabe g erfasst Verstöße gegen Transparenzpflichten von Anbietern UND Betreibern nach Artikel 50. Genannt werden bis zu 15 Millionen Euro oder bei Unternehmen bis zu 3 Prozent des weltweiten Vorjahresumsatzes. Für KMU einschließlich Start-ups gilt nach Absatz 6 die jeweils niedrigere Höchstgrenze. Die tatsächliche Sanktion hängt von den Umständen und den einschlägigen Verfahrensregeln ab. Die frühere Aussage, Betreiber müssten lediglich mit wettbewerbsrechtlichen Folgen rechnen, war nicht zutreffend.

Eine sinnvolle Prüfung vor der Veröffentlichung

• Festhalten, wie der Inhalt entstanden ist und welche Rolle das Unternehmen hat.
• Prüfen, ob der Inhalt unter eine konkrete Transparenzpflicht oder Ausnahme fällt.
• Offenlegung bei Bedarf am Inhalt sichtbar und zugänglich umsetzen.
• Bei Texten Quellen prüfen und redaktionelle Verantwortung tatsächlich wahrnehmen.
• Zweifelhafte Altbeiträge und Sonderfälle anhand aktueller amtlicher Hinweise oder fachkundig prüfen lassen.