KI-Inhalte kennzeichnen: wann Art. 50 AI Act greift

Ein Foto von einem Gründerteam, das es so nie gab. Eine Stimme, die wie der Geschäftsführer klingt, aber von einer KI stammt. Ein Newsartikel über eine Gemeinderatssitzung, den niemand gelesen hat, bevor er online ging. Für genau solche Fälle gilt seit dem 2. August 2026 eine Kennzeichnungspflicht.

Für die meisten kleinen Firmen ist die Pflicht enger, als Werbeangebote für „AI-Act-Compliance“ vermuten lassen. Wer sie kennt, kann gelassen bleiben und an den richtigen Stellen handeln.

Was Art. 50 AI Act regelt

Art. 50 der KI-Verordnung enthält mehrere Transparenzpflichten. Manche treffen die Anbieter der KI-Werkzeuge wie OpenAI oder Google, andere die Betreiber, also Unternehmen, die diese Werkzeuge nutzen.

Kriterium	Pflicht trifft	Seit
Chatbot muss sich als KI zu erkennen geben (Abs. 1)	Anbieter des Systems	2. Aug. 2026
Maschinenlesbare Markierung von KI-Ausgaben (Abs. 2)	Anbieter generativer KI	2. Aug. 2026, Altsysteme bis 2. Dez. 2026
Deepfakes offenlegen (Abs. 4)	Betreiber, also Nutzer	2. Aug. 2026
KI-Texte zu Themen öffentlichen Interesses (Abs. 4)	Betreiber, also Nutzer	2. Aug. 2026

Quelle: Verordnung (EU) 2024/1689, Art. 50; Übergangsfrist nach Verordnung (EU) 2026/1744

Die maschinenlesbare Markierung ist Sache der Anbieter. Wenn du ein Bild mit einem großen KI-Werkzeug erzeugst, sollte dieses Werkzeug die Markierung, etwa in Metadaten oder als Wasserzeichen, selbst einbetten. Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt dafür nach dem Digital Omnibus eine Übergangsfrist bis zum 2. Dezember 2026.

Dich als Nutzer betreffen vor allem die Pflichten aus Abs. 4.

Deepfakes: die wichtigste Pflicht für Unternehmen

Ein Deepfake ist laut AI Act ein KI-erzeugter oder -manipulierter Bild-, Ton- oder Videoinhalt, der realen Personen, Gegenständen, Orten oder Ereignissen ähnelt und fälschlich als echt erscheinen würde. Wer so etwas veröffentlicht, muss offenlegen, dass der Inhalt künstlich erzeugt oder verändert wurde.

Was das praktisch heißt:

• Ein fotorealistisches KI-Bild eines „Teams im Büro“ auf der Karriereseite ist ein Kandidat für eine Kennzeichnung.
• Ein Video, in dem eine echte Person Dinge sagt, die sie nie gesagt hat, ist es eindeutig.
• Eine geklonte Stimme in einem Werbespot ebenfalls.
• Eine offensichtlich gezeichnete Illustration, ein Comic, ein abstraktes Muster sind es nicht, weil sie nicht als echt erscheinen.

Für offensichtlich künstlerische, kreative oder satirische Werke ist die Pflicht abgeschwächt. Dann reicht ein Hinweis, der die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

KI-Texte: enger als gedacht

Bei Texten ist die Pflicht deutlich schmaler. Sie gilt für KI-erzeugte oder -manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Gedacht ist an Nachrichten und ähnliche Inhalte.

Und selbst dort gibt es eine wichtige Ausnahme: Die Pflicht entfällt, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Für den Alltag kleiner Firmen bedeutet das: Ein Newsletter, ein Produkttext, ein Blogartikel zu Fachthemen, den jemand gelesen und freigegeben hat, ist nicht kennzeichnungspflichtig. Kritisch wird es bei automatisch veröffentlichten Texten ohne menschliche Prüfung, etwa einem Bot, der lokale Nachrichten zusammenfasst und direkt online stellt.

1. Bild, Ton oder Video?Wirkt es echt und könnte für authentisch gehalten werden? Dann als KI-Inhalt offenlegen.
2. Kunst oder Satire?Dann reicht ein zurückhaltender Hinweis, der das Werk nicht stört.
3. Text?Informiert er die Öffentlichkeit über ein Thema öffentlichen Interesses?
4. Menschlich geprüft?Mit redaktioneller Verantwortung entfällt die Pflicht für Texte.
5. Plattformregeln prüfenNetzwerke wie YouTube oder Instagram haben eigene Kennzeichnungsregeln.

Sechs Fälle aus dem Alltag

Die Regeln werden greifbarer, wenn man sie auf typische Situationen anwendet. Die Einordnung ist eine eigene Einschätzung auf Basis des Gesetzestextes, keine Rechtsberatung im Einzelfall.

Der letzte Fall zeigt die Grauzone. Eine kleine Retusche macht noch keinen Deepfake. Sobald das Produkt selbst verändert wird, etwa glatter, größer oder in einer Umgebung, in der es nie war, solltest du kennzeichnen oder es lassen.

Wie ein Label aussehen kann

Der AI Act schreibt keine bestimmte Form vor, verlangt aber, dass die Information klar und erkennbar ist, spätestens beim ersten Kontakt mit dem Inhalt. Am 10. Juni 2026 hat die EU-Kommission einen freiwilligen Verhaltenskodex zur Markierung und Kennzeichnung von KI-Inhalten veröffentlicht. Ein Teil richtet sich an Anbieter, einer an Betreiber, und die Kommission stellt dazu EU-Symbole für die Kennzeichnung bereit.

Praktische Formulierungen, die funktionieren:

Bild: "KI-generiert" als gut lesbarer Hinweis in der Bildecke
      oder direkt in der Bildunterschrift
Video: Einblendung zu Beginn "Dieses Video enthält KI-generierte Szenen"
Audio: gesprochener Hinweis vor dem Inhalt
Text (falls nötig): "Dieser Text wurde mit KI erstellt" am Anfang

Ein Hinweis versteckt im Impressum oder in den AGB reicht nicht. Er muss dort stehen, wo Menschen dem Inhalt begegnen.

Was neben dem AI Act gilt

Der AI Act ist nicht die einzige Regel. Das Wettbewerbsrecht verbietet irreführende Werbung, § 5 UWG. Ein KI-Bild, das ein Ergebnis zeigt, das dein Produkt nicht liefert, kann deshalb unzulässig sein, auch wenn es kein Deepfake ist. Und wer reale Personen in KI-Inhalten zeigt, berührt deren Persönlichkeitsrechte.

Dazu kommen die Regeln der Plattformen. Große Plattformen wie YouTube oder Instagram verlangen eigene Kennzeichnungen für realistisch wirkende KI-Inhalte und setzen sie mit eigenen Labels um. Wer dort veröffentlicht, sollte die Option beim Hochladen nutzen.

Bußgelder: wie ernst ist es?

Für Verstöße gegen Art. 50 nennt Art. 99 Abs. 4 AI Act Bußgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt nach Abs. 6 der niedrigere der beiden Werte. Hierzulande überwacht die Bundesnetzagentur die Transparenzpflichten.

Realistisch betrachtet werden Behörden zuerst bei Fällen mit Täuschungspotenzial ansetzen, etwa politischen Deepfakes oder gefälschten Aussagen realer Personen. Für ein kleines Unternehmen, das ab und zu ein KI-Bild nutzt, ist eine saubere Gewohnheit wichtiger als Angst.

Eine Regel für dein Team

Am einfachsten ist eine klare Hausregel, die in die KI-Nutzungsrichtlinie gehört: Fotorealistische KI-Bilder, KI-Videos und geklonte Stimmen werden immer gekennzeichnet. Texte werden immer von einem Menschen geprüft und freigegeben. Diese zwei Sätze decken die Pflichten aus Art. 50 für die meisten Firmen ab und passen gut zur Pflicht für KI-Kompetenz im Team, die der Beitrag zur KI-Kompetenz-Pflicht erklärt.

Wer regelmäßig Inhalte mit KI erstellt, kann sich dafür einen eigenen Redaktionsassistenten einrichten, der Freigaben einfordert; wie das geht, steht im Beitrag eigenen KI-Assistenten erstellen. Und warum die menschliche Prüfung nicht nur rechtlich sinnvoll ist, zeigt der Ratgeber zu KI-Halluzinationen.

Wer einen Chatbot oder ein Content-System für Kunden baut, sollte Kennzeichnung und Freigabeprozesse von Anfang an einplanen. Das übernehmen Entwicklungspartner wie OnlineBuilders, die KI-Assistenten für Unternehmen bauen.

Dein nächster Schritt: Geh deine Website und deine Social-Media-Kanäle durch und markiere jedes fotorealistische KI-Bild. Mehr zu Recht und Risiken findest du unter Datenschutz & Grenzen.

Häufige Fragen

Muss ich ein KI-generiertes Produktbild im Onlineshop kennzeichnen?

Nach Art. 50 AI Act nur, wenn es als Deepfake gilt, also echt wirkt und fälschlich als authentisch erscheinen würde. Unabhängig davon verbietet das Wettbewerbsrecht irreführende Werbung: Ein KI-Bild, das ein Produkt besser zeigt, als es ist, kann nach § 5 UWG problematisch sein.

Muss ich kennzeichnen, dass ein Blogartikel mit KI geschrieben wurde?

In der Regel nicht, wenn ein Mensch den Text geprüft hat und jemand redaktionell dafür verantwortlich ist. Die Pflicht für Texte betrifft Inhalte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren sollen, und auch dort greift die Ausnahme bei redaktioneller Kontrolle.

Wie hoch sind die Bußgelder?

Für Verstöße gegen Art. 50 sieht Art. 99 AI Act bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere Wert.

Muss mein Website-Chatbot sagen, dass er eine KI ist?

Art. 50 Abs. 1 verpflichtet Anbieter, Systeme so zu gestalten, dass Menschen wissen, dass sie mit einer KI interagieren, sofern das nicht offensichtlich ist. Ein kurzer Hinweis im Chatfenster ist ohnehin gute Praxis.