AI Act und KI-Kennzeichnungspflicht: Was sich ab August 2026 für Nutzerinnen und Nutzer ändert

Müssen KI-generierte Inhalte jetzt immer gekennzeichnet werden?

Nicht ganz.

Wer beispielsweise privat ein KI-Tool nutzt, um einen Text, ein Bild oder ein Veranstaltungsposter zu erstellen, muss diese Inhalte nicht automatisch selbst kennzeichnen.

Mit dem AI Act schafft die Europäische Union jedoch erstmals einen einheitlichen Rechtsrahmen für den Einsatz von Künstlicher Intelligenz. Ziel ist es, mehr Transparenz, Sicherheit sowie den Schutz von Grundrechten zu gewährleisten.

Tatsächlich enthält das Gesetz verschiedene Kennzeichnungs- und Transparenzpflichten. Diese richten sich in erster Linie an die Anbieter von KI-Systemen, also beispielsweise die Unternehmen hinter Chatbots, Bildgeneratoren oder anderen KI-Anwendungen.

Verantwortlich sind ebenfalls sogenannte Betreiber der KI-Systeme. Das sind Personen oder Einrichtungen, die einen regelmäßigen wirtschaftlichen Nutzen aus dem Einsatz einer KI-Anwendung ziehen. Es kann sich dabei also z. B. um Content Creator, die mit ihren Posts Geld verdienen, oder die Seiten von Nachrichtenformaten handeln.

Wie funktioniert die KI-Kennzeichnung nach dem AI Act?

Viele Menschen stellen sich unter einer Kennzeichnung ein deutlich sichtbares Wasserzeichen oder einen Hinweis direkt auf dem Bild vor. Der AI Act schreibt eine solche sichtbare Kennzeichnung aber nicht immer vor.

Betreiber sind dazu verpflichtet, KI-generierte Inhalte unter bestimmten Bedingungen klar erkennbar zu kennzeichnen. Das gilt:

• bei Textinhalten, wenn diese informativ ein Thema von öffentlichem Interesse behandeln, und
• bei KI-generierten Bild- und Audioinhalten, wenn diese als ‚echt‘ wahrgenommen werden könnten (z. B. Deepfakes) oder, wenn sie von öffentlichem Interesse sind.

Anbieter von KI-Systemen, müssen bestimmte KI-generierte Inhalte technisch als solche erkennbar machen. Dies kann beispielsweise über sogenannte Metadaten erfolgen. Dabei werden im Hintergrund Informationen gespeichert, die erkennen lassen, dass ein Inhalt mithilfe einer KI erstellt oder verändert wurde.

Für Nutzerinnen und Nutzer bedeutet das: Auch wenn ein KI-generierter Inhalt den gesetzlichen Vorgaben entspricht, ist die Kennzeichnung möglicherweise nicht direkt sichtbar. Plattformen und andere Dienste können diese Informationen jedoch auslesen und künftig stärker nutzen, um KI-Inhalte zu erkennen oder entsprechend zu markieren, wie das jetzt schon oft zu sehen ist. Und: häufig wird auch bei Accounts mit großer Reichweite eine KI-Info im Post enthalten sein.

Was bedeutet die KI-Kennzeichnungspflicht für Social Media?

Für Nutzerinnen und Nutzer soll vor allem eines einfacher werden: zu erkennen, wann Künstliche Intelligenz im Spiel ist.

Gerade in Zeiten von täuschend echten KI-Bildern, synthetischen Stimmen und Deepfakes ist das ein wichtiger Schritt. Gleichzeitig gilt weiterhin: Eine Kennzeichnung allein sagt noch nichts darüber aus, ob ein Inhalt glaubwürdig, korrekt oder irreführend ist und ersetzt keine kritische Mediennutzung. Auch künftig sollten Nutzerinnen und Nutzer daher:

• Quellen überprüfen und Informationen gegenchecken.
• bei besonders emotionalen oder überraschenden Inhalten skeptisch bleiben.
• Bilder und Videos kritisch hinterfragen.
• nicht allein anhand einer Kennzeichnung über die Glaubwürdigkeit eines Inhalts urteilen.

Denn nicht jeder problematische Inhalt ist KI-generiert – und nicht jeder KI-generierte Inhalt ist automatisch problematisch.

Gilt der AI Act auch für ChatGPT, Midjourney und andere KI-Tools?

Ja. Der AI Act betrifft grundsätzlich KI-Systeme, die in der Europäischen Union angeboten oder genutzt werden – unabhängig davon, ob das Unternehmen seinen Sitz in der EU hat oder nicht.

Anbieter von allgemeinen KI-Modellen („General Purpose AI“) wie ChatGPT oder anderen großen KI-Systemen müssen bereits seit August 2025 verschiedene Vorgaben erfüllen. Dazu gehören unter anderem Dokumentations-, Transparenz- und Urheberrechtsanforderungen.

Die Regelungen gelten also auch für viele bekannte KI-Dienste, sofern deren Angebote für Nutzerinnen und Nutzer in der EU zugänglich sind.

Welche Strafen drohen bei Verstößen gegen den AI Act?

Der AI Act sieht strenge Sanktionen vor: Anbieter oder Betreiber, die gegen die Kennzeichnungspflicht verstoßen, müssen mit hohen Geldbußen rechnen. Je nach Art des Verstoßes können Strafen von bis zu 35 Millionen Euro oder bis zu 7 Prozent des weltweiten Jahresumsatzes verhängt werden. Damit soll sichergestellt werden, dass die Vorgaben europaweit ernst genommen und umgesetzt werden.

Ausblick: Neue Regeln gegen Deepfakes und „Nudify Apps“

Die Umsetzung des AI Act ist mit August 2026 noch nicht abgeschlossen.

Ab Dezember 2026 gelten weitere Vorgaben für KI-Systeme, die nicht einvernehmliche sexuelle Deepfakes oder Darstellungen sexualisierter Gewalt an Kindern erzeugen. Dazu zählen auch sogenannte „Nudify Apps“, die Personen auf Fotos mithilfe von KI künstlich entkleiden.

In den kommenden Jahren werden zudem weitere Regeln für Hochrisiko-KI-Systeme in Kraft treten. Ziel ist es, Risiken durch Künstliche Intelligenz zu begrenzen und gleichzeitig Innovation zu ermöglichen.