Seit 2. August 2026 gelten die neuen Transparenzpflichten des EU AI Act. Über die Anwendung in der Praxis herrscht da und dort Verwirrung. Zusätzlich gilt es, drei Ebenen auseinander zu halten: die EU-Regelung, die Richtlinien der eigenen Organisation sowie freiwillige Transparenz.
Der Kollege erstellt mit einem KI-Tool ein Plakat für einen Workshop. Die Kollegin lässt KI einen Flyer übersetzen. ChatGPT hilft beim Entwurf eines Blogbeitrags. Für Social Media wird ein Bild gepromptet. Muss das jetzt alles als „KI-generiert“ gekennzeichnet werden?
Kurz gesagt sind folgende Fragen relevant:
- Was verlangt der AI Act? Das ist die gesetzliche Mindestanforderung.
- Was verlangt die eigene Organisation? Etwa eine interne KI-Richtlinie.
- Was wollen wir freiwillig transparent machen? Auch ohne Pflicht kann es gute Gründe geben, die Nutzung von KI offenzulegen – gerade in der Erwachsenenbildung.
Wann verlangt der AI Act eine Kennzeichnung?
Für Erwachsenenbildungseinrichtungen sind vor allem zwei Fälle wichtig:
1 Bei KI-generierten oder manipulierten Inhalten, die fälschlich echt wirken könnten
Gemeint sind Deepfakes: KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich als authentisch erscheinen könnten. Nicht jeder realistisch aussehende KI-Inhalt fällt darunter – die rechtliche Schwelle setzt voraus, dass das Publikum den Inhalt irrtümlich für echt halten könnte.
Ein abstraktes KI-Bild zum Thema „Lernen der Zukunft“ ist also nicht allein deshalb kennzeichnungspflichtig, weil es mit KI erstellt wurde. Umgekehrt kann ein echtes Veranstaltungsfoto betroffen sein, wenn mit KI Personen hinzugefügt oder entfernt werden und dadurch ein falscher Eindruck davon entsteht, was tatsächlich stattgefunden hat. In solchen Fällen muss erkennbar gemacht werden, dass KI im Spiel war.
Aber Achtung: Die Kennzeichnung allein macht Inhalte nicht automatisch zulässig. Bei Darstellungen realer Personen sind zusätzlich Persönlichkeits-, Bildnis- und Datenschutzrechte zu beachten.
Für eindeutig künstlerische, kreative, satirische oder fiktionale Werke sieht der AI Act Erleichterungen vor: Der Hinweis darf so erfolgen, dass das Werk dadurch nicht beeinträchtigt wird. Die Pflicht entfällt nicht vollständig, wird aber schonend ausgestaltet.
2 Bei bestimmten KI-generierten Texten
Es gibt keine allgemeine Pflicht, jeden Text zu kennzeichnen, an dem ein KI-System beteiligt war. Die Transparenzpflicht greift nur bei Texten, die über Angelegenheiten von öffentlichem Interesse informieren sollen. Das kann für die Erwachsenenbildung durchaus relevant sein: etwa bei Beiträgen zu gesellschaftlichen, politischen oder ethischen Themen.
Aber es gibt eine wichtige Ausnahme: Wurde der Text von einem Menschen inhaltlich geprüft und übernimmt eine Person oder Organisation die redaktionelle Verantwortung, besteht diese Kennzeichnungspflicht nicht.
ChatGPT kann also einen ersten Entwurf liefern. Wenn jemand diesen tatsächlich (mehr als oberflächlich) liest, Quellen überprüft, Aussagen verändert und verantwortlich veröffentlicht, kann die Kennzeichnung „KI-generiert“ weggelassen werden.
Beispiele, die in der Regel nicht kennzeichnungspflichtig sind
- KI erstellt eine abstrakte Illustration für ein Plakat (ohne Ähnlichkeit mit bestehenden Personen/Gegenständen/Orten)
- KI passt den Bildausschnitt an oder verbessert die Bildqualität (solange keine wesentliche Veränderung entsteht und kein falscher Eindruck über Personen oder Ereignisse erzeugt wird)
- KI formuliert aus vorhandenen Stichpunkten eine Kursankündigung (die geprüft und verantwortet wird)
- KI übersetzt einen Flyer, der Text wird danach inhaltlich überprüft und verantwortet
- KI korrigiert Rechtschreibung oder schlägt Formulierungen vor
Die Übersicht bezieht sich auf die gesetzlichen Transparenzpflichten des AI Act. Eine interne KI-Richtlinie kann weitergehende Kennzeichnungspflichten vorsehen.
Der AI Act ist die Untergrenze
Nur weil etwas nicht gekennzeichnet werden muss, heißt das nicht, dass wir es nicht kennzeichnen sollten. Erwachsenenbildung beschäftigt sich mit Medienkompetenz, kritischem Umgang mit Informationen und zunehmend auch mit KI-Kompetenz. Es wäre widersprüchlich, von Teilnehmenden einen reflektierten Umgang mit KI zu erwarten und die eigene Nutzung möglichst unsichtbar zu halten.
Freiwillige Transparenz ist deshalb auch eine Frage der Haltung und der Vorbildwirkung.
Transparenz dort, wo sie Informationswert hat
Eine freiwillige Kennzeichnung ist besonders überlegenswert, wenn:
- KI einen wesentlichen Teil eines Bildes, Textes, Videos oder Audios erzeugt hat,
- ein generiertes Bild leicht für eine echte Aufnahme gehalten werden könnte, auch wenn die rechtliche Deepfake-Grenze nicht erreicht ist,
- die Entstehungsweise für die Einordnung eines Inhalts relevant ist,
- KI selbst Thema des Bildungsangebots ist,
- oder die Organisation bewusst eine besonders transparente KI-Praxis verfolgen möchte.
Der AI Act regelt, wann Transparenz vorgeschrieben ist. Welche Transparenzkultur eine Bildungseinrichtung pflegen möchte, muss sie selbst entscheiden und kommunizieren.
Wie kann freiwillige Kennzeichnung aussehen?
Beispiele für Bezeichnungen: „Bild: KI-generiert“, „Illustration unter Einsatz generativer KI erstellt“, „Dieser Beitrag wurde mit Unterstützung generativer KI erstellt, und redaktionell geprüft“, „Übersetzung mit KI-Unterstützung, redaktionell geprüft“. Hier stellt die EU Icons zur Verfügung.
Ob das verwendete KI-Tool genannt wird, bleibt Autor:in oder Organisation überlassen.
Chatbots
Chatbots sind in der Erwachsenenbildung derzeit noch selten. Wo KI-Systeme direkt mit Menschen interagieren, muss aber erkennbar sein, dass man mit einer KI und nicht mit einem Menschen kommuniziert. Ein versteckter Satz in den Nutzungsbedingungen reicht dafür nicht aus. Die rechtliche Pflicht dafür liegt beim Anbieter (Provider) des Systems. Eine Bildungseinrichtung kann aber selbst zum Anbieter werden, wenn sie ein KI-System entwickeln lässt und unter eigenem Namen in Betrieb nimmt.
Weiterführende Informationen
- Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme | Gestaltung der digitalen Zukunft Europas
- KI-Servicestelle der RTR
Hinweis: Dieser Beitrag behandelt vor allem die sichtbaren Kennzeichnungspflichten für Betreiber von KI-Systemen. Der AI Act enthält zusätzlich Pflichten für Anbieter von KI-Systemen, welche synthetische Inhalte maschinenlesbar markieren müssen (etwa durch Metadaten oder Wasserzeichen). Generell bietet dieser Beitrag Orientierung für die Bildungspraxis und ersetzt keine Rechtsberatung. Bei der Strukturierung wurde mit Unterstützung von KI-Tools gearbeitet.