Seit dem 2. August 2026 gelten die Transparenzpflichten der EU-KI-Verordnung. Wer jetzt in Panik jedes KI-Bild mit einem Warnhinweis versieht, hat den AI Act missverstanden. Wer gar nichts tut, allerdings auch. Ein Praxisblick aus drei Perspektiven: als Selbstständiger, als Verein – und als jemand, der selbst eine KI-Plattform betreibt.
TL;DR
| Rolle | Relevant | Kernaufgabe | |
|---|---|---|---|
| Selbstständige | Betreiber | Art. 50 Abs. 4 | Deepfakes kennzeichnen, Texte redaktionell verantworten |
| Vereine | Betreiber | Art. 50 Abs. 4 + Art. 4 | Zusätzlich: Zuständigkeiten klären, KI-Kompetenz fördern |
| Eigene KI-Produkte | Anbieter | Art. 50 Abs. 1 + 2 | Interaktionshinweis, technische Markierung, Machbarkeit dokumentieren |
Drei Dinge, die in der Debatte meist untergehen:
- Deepfakes sind nur ein Teil der KI-Bilder. Gemeint sind Bilder, Videos oder Audios, die real wirken und sich auf existierende Personen, Orte, Gegenstände oder Ereignisse beziehen – die also für echt gehalten werden könnten. Eine Comic-Illustration oder eine Pixel-Grafik ist kein Deepfake und muss nicht gekennzeichnet werden.
- Bei Texten rettet die redaktionelle Verantwortung. Wer einen KI-Entwurf prüft, überarbeitet und unter eigenem Namen verantwortet, muss nicht kennzeichnen.
- Man wird schneller zum Anbieter, als man denkt. Ein eigener Chatbot auf der Website reicht – auch wenn im Hintergrund fremde Modelle laufen.
Seit Anfang August kursieren zwei Halbwahrheiten parallel. Die eine: „Ab jetzt muss alles gekennzeichnet werden, was mit KI zu tun hat.“ Die andere: „Betrifft eh nur OpenAI und Google.“
Beides ist falsch, und zwar auf eine Art, die in der Praxis Geld oder Glaubwürdigkeit kostet. Der relevante Paragraf ist Artikel 50 der Verordnung (EU) 2024/1689. Er ist erstaunlich gut lesbar, aber er unterscheidet sauber zwischen zwei Rollen – und genau diese Unterscheidung entscheidet darüber, was man tun muss.
Die eine Frage, die alles entscheidet: Anbieter oder Betreiber?
Der AI Act kennt zwei Adressaten:
Betreiber (im Gesetzestext: „Betreiber“, oft auch „Deployer“) ist, wer ein KI-System beruflich einsetzt. Wer ChatGPT für Textentwürfe nutzt, Midjourney für Illustrationen, Copilot fürs Programmieren – der ist Betreiber. Das sind die allermeisten von uns.
Anbieter ist, wer ein KI-System entwickelt oder unter eigenem Namen bereitstellt. Das sind nicht nur OpenAI und Mistral. Das ist auch, wer deren Modelle per API in ein eigenes Produkt einbaut und dieses Produkt unter eigenem Namen veröffentlicht.
Die Pflichten unterscheiden sich erheblich:
| Betreiber | Anbieter | |
|---|---|---|
| Interaktionshinweis (Abs. 1) | – | ✅ Nutzer müssen wissen, dass sie mit KI reden |
| Maschinenlesbare Markierung (Abs. 2) | – | ✅ Wasserzeichen/Metadaten, soweit technisch machbar |
| Deepfakes & Texte offenlegen (Abs. 4) | ✅ sichtbar für Menschen | – |
Der entscheidende Unterschied: Die Anbieter-Markierung nach Abs. 2 läuft technisch im Hintergrund. Die Betreiber-Kennzeichnung nach Abs. 4 muss für Menschen sichtbar sein.
Fall 1: Selbstständige
Ich bin selbstständig als Medienpädagoge tätig, betreibe diese Seite, mache Lightpainting-Projekte, schreibe Texte. Für Leute in einer ähnlichen Lage – Freiberufler, Solo-Selbstständige, kleine Agenturen – gilt: Ihr seid Betreiber. Damit ist nur Absatz 4 relevant. Und der ist deutlich enger, als die Aufregung vermuten lässt.
Bilder: Es geht um Täuschung, nicht um KI
Die Pflicht greift nicht bei KI-Bildern generell, sondern nur bei Deepfakes – und das ist eine deutlich kleinere Teilmenge, als der Alltagsgebrauch des Worts nahelegt.
Gemeint sind Bild-, Audio- oder Videoinhalte, die existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden. Zwei Bedingungen müssen also zusammenkommen: Realitätsbezug und Täuschungspotenzial. Fehlt eines von beidem, ist es kein Deepfake – egal wie sehr KI im Spiel war.
Das heißt im Umkehrschluss: Die große Mehrheit dessen, was in Blogs, Newslettern und auf Social Media an KI-Bildern kursiert – Illustrationen, Symbolgrafiken, stilisierte Szenen – fällt schlicht nicht unter Absatz 4.
Deepfake, also kennzeichnen:
- Ein „Foto“ einer Veranstaltung, die so nie stattgefunden hat
- Ein fotorealistisches Portrait, das wie eine echte Person wirkt – auch wenn die Person erfunden ist
- Ein realistischer Ort oder ein reales Gebäude, das als tatsächliche Aufnahme präsentiert wird
- Eine Stimme, die nach einer bestimmten Person klingt
Kein Deepfake, keine Pflicht:
- Comic-, Fantasy-, Pixel- oder erkennbar stilisierte Illustrationen
- Abstrakte Grafiken, Icons, Muster, Hintergründe
- Ein offensichtlich unrealistisches Motiv – ein Einhorn auf einer Rakete beansprucht keine Echtheit
- Alt-Texte, Bildunterschriften, UI-Beschriftungen (ausdrücklich ausgenommen)
Für Kunst, Satire und Fiktion gibt es eine Sonderregel: Die Transparenzpflicht entfällt nicht ganz, wird aber abgeschwächt – ein dezenter Hinweis reicht, solange er das Werk nicht in seiner Wirkung beeinträchtigt. Ein Lightpainting-Projekt mit KI-Elementen braucht also keinen Warnbalken quer übers Bild.
Texte: Die Ausnahme, die fast alles auffängt
Hier steht die praktisch wichtigste Regel des ganzen Artikels. Die Kennzeichnungspflicht gilt nur für Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren – und sie entfällt, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.
Im Klartext: Wer einen KI-Entwurf schreiben lässt, ihn liest, überarbeitet, verantwortet und unter eigenem Namen veröffentlicht, muss nicht kennzeichnen. Der Gesetzgeber verlangt kein Label – er verlangt einen Menschen, der geradesteht.
Ebenfalls draußen: Übersetzungen, Rechtschreibkorrektur, Umformulierungen. Das Gesetz nimmt Systeme aus, die eine reine Hilfsfunktion für die Standardredaktion erfüllen oder die Eingabedaten nicht wesentlich verändern.
Kennzeichnungspflichtig wird es, wenn Texte automatisiert und ungeprüft rausgehen – der wöchentliche SEO-Artikel aus der Pipeline, der Newsfeed ohne Redaktion.
Und trotzdem: freiwillig kennzeichnen
Rechtlich müsst ihr in den meisten Fällen nicht. Praktisch spricht viel dafür:
- Wettbewerbsrecht: Verstöße gegen Transparenzpflichten können nach Auffassung der Wettbewerbszentrale zugleich unlauterer Wettbewerb sein – dann drohen Abmahnungen von Konkurrenten, unabhängig von Behörden.
- Plattformregeln: Instagram, LinkedIn und YouTube haben eigene Vorgaben, die teils weiter gehen als der AI Act.
- Auftraggeber: Immer mehr Verträge enthalten KI-Klauseln. Wer sauber dokumentiert, hat es leichter.
- Glaubwürdigkeit: In dem Moment, in dem KI-Nutzung Normalität ist, wird Offenheit darüber zum Unterscheidungsmerkmal.
Die EU-Kommission stellt dafür ein lizenzfreies Icon-Set bereit – erkennbar, getestet, und man muss sich keine eigene Kennzeichnung ausdenken.
Fall 2: Vereine und gemeinnützige Organisationen
Ich arbeite außerdem beim JFF – Institut für Medienpädagogik in München. Für Organisationen dieser Art – gemeinnützige Vereine, Bildungsträger, Stiftungen – gilt zunächst dasselbe wie für Selbstständige: Ihr seid Betreiber, Absatz 4 ist euer Thema, die redaktionelle Ausnahme greift bei Handreichungen, Newslettern und Publikationen fast immer.
Aber es kommen drei Punkte dazu, die Einzelkämpfer nicht haben.
Erstens: Viele Hände, ein Impressum
Bei einer Solo-Selbstständigen ist die redaktionelle Verantwortung trivial – sie sitzt in einer Person. In einem Verein mit Forschungs- und Praxisabteilung, Honorarkräften, studentischen Hilfskräften und mehreren Standorten ist sie das nicht mehr.
Die Ausnahme in Absatz 4 greift nur, wenn tatsächlich jemand geprüft und verantwortet hat. Das muss man nicht kompliziert regeln, aber man muss es regeln:
- Wer prüft KI-unterstützte Inhalte vor Veröffentlichung?
- Wo wird das festgehalten – Kommentar im CMS, Freigabefeld, Redaktionsprotokoll?
- Was steht in Verträgen mit Freien und Agenturen?
Eine Seite reicht. Aber sie sollte existieren, bevor jemand fragt.
Zweitens: Artikel 4, KI-Kompetenz
Ein Punkt, der in der Kennzeichnungsdebatte untergeht: Organisationen, die KI einsetzen, müssen Maßnahmen zur Förderung von KI-Kompetenz bei ihrem Personal ergreifen. Das ist nach den Änderungen von 2026 milder formuliert als ursprünglich – ein bestimmtes Niveau muss niemand garantieren –, aber es gilt.
Für Bildungsträger ist das inhaltlich vermutlich der leichteste Punkt überhaupt. Man sollte ihn nur auch aufschreiben, statt ihn nur zu leben.
Drittens: Zielgruppe Kinder und Jugendliche
Wer mit Minderjährigen arbeitet, kann sich schlechter auf die Ausnahme „ist doch offensichtlich“ berufen. Der gesetzliche Maßstab ist eine „angemessen informierte, aufmerksame und umsichtige“ Person unter Berücksichtigung der Umstände – und bei Zehnjährigen liegt der anders als bei Fachpublikum. Hinzu kommt Artikel 5, der das Ausnutzen altersbedingter Verletzlichkeiten ausdrücklich verbietet.
Praktisch heißt das: Im Zweifel kennzeichnen, und zwar in einer Sprache, die die Zielgruppe versteht.
Und die Bußgelder?
Der Rahmen liegt bei bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Bei einem gemeinnützigen Verein wird eine Behörde das verhältnismäßig handhaben. Der realistische Schaden ist ein anderer: Wenn ein Institut, das Medienkompetenz vermittelt, bei der eigenen KI-Transparenz nachlässig ist, ist das inhaltlich peinlicher als jedes Bußgeld.
Fall 3: Wenn man selbst Anbieter wird – das Beispiel ChatGameLab
Und dann gibt es den Fall, in dem man die Seite wechselt, oft ohne es zu merken.
ChatGameLab ist eine Open-Source-Plattform des JFF entwickelt von Florian Metzger-Noel und mir, auf der Jugendliche eigene Chat-Spiele mit KI bauen und dabei verstehen, wie KI funktioniert. Technisch laufen im Hintergrund Modelle von OpenAI und Mistral, angebunden per API.
Der Reflex wäre: Wir nutzen ja nur eine API, also sind wir Betreiber. Der Reflex ist falsch.
Wer ein KI-System unter eigenem Namen bereitstellt, ist Anbieter – auch wenn das Modell von jemand anderem kommt. OpenAI und Mistral sind Anbieter der Modelle. Wer sie in ein eigenes Produkt integriert und dieses veröffentlicht, ist Anbieter des Systems. Die Pflichten der einen decken die der anderen nicht ab.
Das gilt für jede selbstgebaute Chatbot-Integration, jeden KI-Assistenten auf der eigenen Website, jedes „Vibe-Coded“ Tool mit eingebauter KI-Funktion, das man online stellt.
Was daraus folgt
Absatz 1 – Interaktionshinweis, gilt seit 2. August 2026 ohne Übergangsfrist. Nutzer:innen müssen erkennen, dass sie mit KI sprechen, spätestens bei der ersten Interaktion, klar erkennbar und barrierefrei.
Bei einer Plattform namens ChatGameLab, deren erklärter Zweck das Verstehen von KI ist, ist das objektiv offensichtlich – die Ausnahme würde vermutlich greifen. Trotzdem umsetzen, weil Zielgruppe und Bildungsauftrag es verlangen. Und „barrierefrei“ ist bei Sprachein- und -ausgabe ein eigener Arbeitspunkt: Der Hinweis muss auch beim Screenreader ankommen, nicht nur im visuellen UI.
Absatz 2 – maschinenlesbare Markierung. Die Ausgaben sollen technisch als KI-generiert erkennbar sein, per Wasserzeichen oder Metadaten. Entscheidend ist die Formulierung „soweit dies technisch machbar ist“, ausdrücklich unter Berücksichtigung von Implementierungskosten und Stand der Technik.
Bei Bildern ist das machbar – C2PA-Metadaten setzen und beim Komprimieren nicht wegwerfen. Bei reinem Chat-Text ist robustes Watermarking nach heutigem Stand der Technik kaum verfügbar. Für ein Open-Source-Projekt eines gemeinnützigen Vereins ist die Verhältnismäßigkeit ein tragfähiges Argument – aber nur, wenn man sie dokumentiert hat. Eine bis zwei Seiten: Was setzen wir um, was nicht, warum nicht, welcher Stand der Technik, welche Kosten. Das ist der Baustein mit dem besten Aufwand-Nutzen-Verhältnis überhaupt.
Die Frist, die viele übersehen
Der Digital Omnibus hat eine Übergangsregel eingezogen: Für KI-Systeme, die vor dem 2. August 2026 auf dem Markt waren, gilt für Absatz 2 eine viermonatige Frist bis zum 2. Dezember 2026. ChatGameLab ist seit Februar 2026 online und fällt darunter.
Wichtig: Diese Frist gilt ausschließlich für Absatz 2. Der Interaktionshinweis nach Absatz 1 und die Deepfake-Kennzeichnung nach Absatz 4 gelten ohne Übergang. Und für neu gestartete Systeme gibt es die Frist nicht.
Der blinde Fleck: Export-Pfade
Der Punkt, den man beim Bauen am ehesten vergisst: Jeder Weg, auf dem Inhalt die Plattform verlässt, braucht die Kennzeichnung. Download-Button, Share-Link, Copy-to-Clipboard, generierte Bilder. Innerhalb der Plattform ist der Kontext klar – ein kopierter Textabschnitt in einer WhatsApp-Gruppe hat keinen Kontext mehr.
Dazu kommt eine Kette, die man nicht selbst kontrolliert: Wer auf ChatGameLab ein eigenes Spiel baut und dessen Inhalte anderswo veröffentlicht, wird selbst zum Betreiber nach Absatz 4. Ein kurzer Hinweis im Editor ist kein rechtlicher Schutzschild, aber gute Praxis – und im Bildungskontext ohnehin der Punkt, um den es geht.
Zusammengefasst
Die drei Fragen, die man sich stellen sollte, in dieser Reihenfolge:
- Stelle ich ein KI-System unter eigenem Namen bereit? Wenn ja, bin ich Anbieter, und es gelten Absatz 1 und 2. Das ist die folgenreichste Frage – und die, bei der man sich am leichtesten selbst falsch einordnet.
- Könnte jemand meine Inhalte für echt halten? Wenn ja, ist es ein Deepfake und muss offengelegt werden. Wenn nein, ist es einfach ein Bild.
- Steht ein Mensch für den Text gerade? Wenn ja, ist die Textkennzeichnung vom Tisch. Wenn nein, sollte man das ohnehin ändern.
Der AI Act verlangt nicht, dass wir jedes KI-Werkzeug beichten. Er verlangt, dass Menschen nicht getäuscht werden und dass jemand für Veröffentlichtes geradesteht. Das ist – von der Bürokratie abgesehen – eine ziemlich vernünftige Anforderung.
Dieser Text ist keine Rechtsberatung. Bei konkreten Zweifelsfällen, insbesondere wenn ihr selbst KI-Systeme anbietet, lohnt sich eine fachliche Prüfung.
Quellen und Weiterlesen
- Artikel 50 im Volltext (deutsch)
- Praxis-Leitfaden zu Artikel 50 – Future of Life Institute
- Verhaltenskodex Transparenz KI-generierter Inhalte – EU-Kommission
- EU-Icons zur Kennzeichnung – lizenzfrei, SVG und PNG
- Detailübersicht inkl. Ausnahmenkatalog – RTR KI-Servicestelle
- ChatGameLab – die im Text beschriebene Plattform
Anmerkung zum Beitragsbild
Ein Einhornroboter betrachtet sich im Spiegel – Glitzer, Regenbogenhorn, Voxel-Optik. Niemand käme auf die Idee, das für eine echte Aufnahme zu halten. Genau deshalb ist dieses Bild kein Deepfake: kein Realitätsbezug, kein Täuschungspotenzial. KI-generiert, unabhängig davon kann man es aber freiwillig kennzeichnen.
