Antwort (Kennzeichnungspflicht nach KI-Verordnung)

Die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13.6.2024 (KI-Verordnung) enthält für bestimmte KI-Inhalte eine Kennzeichnungspflicht. Die Transparenzpflichten treffen insbesondere Anbieter von KI-Systemen, jedoch ergeben sich auch Pflichten für die Betreiber von KI-Systemen. Die KI-Verordnung ist am 1.8.2024 in Kraft getreten, der Geltungsbeginn der einzelnen Vorschriften ist jedoch gestaffelt. Die Transparenzverpflichtungen in Kapitel IV der KI-Verordnung gelten ab dem 2.8.2026.

„Betreiber gemäß Artikel 3 Absatz 4 KI-Verordnung ist „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.“ Betreiber von generativen KI-Systemen können damit auch Hochschulen sein, die ein KI-System zur Verfügung stellen, Lehrende, die die KI- Anwendung im Rahmen ihrer Lehrtätigkeit verwenden oder auch Studierende, die die KI-Anwendung im Rahmen ihres Studiums nutzen.

Betreiber, die gemäß Artikel 50 Absatz 4 Satz 1 KI-Verordnung ein KI-System einsetzen, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deep Fake darstellen, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Transparenzpflichten sind erforderlich, weil sich synthetische Audio-, Bild-, Video- oder Textinhalte selbst mit geschultem Auge zu häufig nicht mehr von realen Medieninhalten unterscheiden lassen. Die Kennzeichnungspflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz genannten Transparenzverpflichtungen auf die Offenlegung des Vorhandenseins eines solchen künstlich erzeugten oder manipulierten Inhalts in einer angemessenen Weise, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Die KI-Verordnung definiert Deep Fakes in Artikel 3 Ziffer 60 als durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen.

Zudem müssen Betreiber gemäß Artikel 50 Absatz 4 Satz 4 KI-Verordnung eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. Die Kennzeichnungspflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt (Artikel 50 Absatz 4 Satz 5 der KI-Verordnung).