KI-Inhalte kennzeichnen: Was seit dem 2. August 2026 gilt

Künstliche Intelligenz wird zunehmend für Texte, Bilder, Audio-Dateien und Videos genutzt - auch im Bildungsbereich. Seit dem 2. August 2026 gelten mit Artikel 50 der europäischen KI-Verordnung, dem EU AI Act, neue Transparenzpflichten. Sie sollen verhindern, dass Menschen durch künstlich erzeugte oder manipulierte Inhalte getäuscht werden.

Die Regelungen betreffen nicht automatisch jeden Text, der mithilfe eines KI-Werkzeugs entstanden ist. Entscheidend ist vielmehr, in welcher Form ein KI-System eingesetzt wird und ob der Inhalt geeignet ist, Personen über seinen Ursprung oder seine Echtheit zu täuschen.

Was müssen Anbieter und Betreiber kennzeichnen?

Für bestimmte KI-generierte oder manipulierte Bild-, Audio- und Videoinhalte gelten Kennzeichnungspflichten insbesondere dann, wenn sie als sogenannte Deepfakes einzuordnen sind. Die Kennzeichnung muss sichtbar, verständlich und möglichst so gestaltet sein, dass sie von Menschen erkannt werden kann. Ergänzend sollen technische Verfahren wie maschinenlesbare Markierungen, Metadaten oder Wasserzeichen die Herkunft eines Inhalts nachvollziehbar machen.

Auch bei der Kommunikation mit Chatbots gelten Transparenzanforderungen. Nutzerinnen und Nutzer müssen grundsätzlich erkennen können, wenn sie mit einem KI-System und nicht mit einer natürlichen Person interagieren. Für Schulen kann dies beispielsweise bei Informationsangeboten auf Webseiten, bei schulischen Chatbots oder bei digitalen Lernsystemen relevant sein.

Welche Bedeutung hat die Regelung für KI-Texte?

Eine pauschale Pflicht, jeden mit ChatGPT oder einem anderen Sprachmodell erstellten Text als KI-generiert zu markieren, lässt sich aus Artikel 50 nicht ableiten. Wird ein Text von einer Lehrkraft oder einer Redaktion geprüft, überarbeitet und inhaltlich verantwortet, kann die Situation anders zu bewerten sein als bei einer unverändert veröffentlichten automatisierten Ausgabe.

Für Unterrichtsmaterialien empfiehlt sich dennoch ein transparenter Umgang. Lehrkräfte können etwa offenlegen, wenn ein Arbeitsblatt mithilfe von KI entwickelt wurde, welche Teile sie selbst geprüft haben und wo Lernende die Ergebnisse kritisch überprüfen sollen. Dadurch wird die Kennzeichnung mit Medienbildung und Quellenkritik verbunden.

Was sollten Schulen jetzt prüfen?

Schulen sollten zunächst erfassen, wo KI-Systeme eingesetzt werden - beispielsweise bei Unterrichtsmaterialien, Webseiten, Lernplattformen, Übersetzungen oder Chatbots. Anschließend können sie einheitliche Hinweise und interne Prüfprozesse festlegen. Wichtig sind dabei klare Zuständigkeiten, verständliche Formulierungen und der Schutz personenbezogener Daten.

Die Bundesnetzagentur soll in Deutschland als zentrale Anlaufstelle für die Umsetzung der KI-Verordnung und als Beschwerdestelle fungieren. Da für einzelne Anwendungsfälle weitere Leitlinien und praktische Standards entwickelt werden, sollten Schulen und Schulträger die rechtliche Entwicklung weiter beobachten.