Bereit für die Labelpflicht nach EU-AI-Verordnung?
Ein Bild auf LinkedIn. Ein Werbevideo. Ein CEO-Porträt auf der Unternehmenswebsite oder schlicht die Bilder des Büros auf der Stellenanzeige. All das kann heute von KI generiert oder echt fotografiert sein.
Mit Inkrafttreten der Transparenzpflicht der europäischen KI Verordnung gibt es seit dem 2. August 2026 klare Regeln, wie Bilder zu kennzeichnen sind. Wir erklären an welche Regeln sich Unternehmen halten müssen und bieten als Service auch gleich unseren „Label-O-Mat“ an.
Welche Inhalte müssen gekennzeichnet werden?
In der KI-Verordnung werden sowohl den Anbietern generativer KI Systeme Regeln auferlegt wie auch denen, die sogenannte „Deepfakes“ verbreiten.
Der genaue Wortlaut ist: „Wer ein KI-System einsetzt, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deep Fake darstellen, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Verpflichtung gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz genannten Transparenzpflichten auf die Offenlegung des Vorhandenseins eines solchen künstlich erzeugten oder manipulierten Inhalts in einer angemessenen Weise, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.“
Was ist ein Deepfake?
Der Begriff Deepfake wurde zunächst in der Wissenschaft benutzt. Er setzt sich zusammen aus Deep – was hier für Deeplearning – eine Machine Learning Technik – steht, sowie „Fake“ das englische Wort für Fälschung.
Umgangssprachlich hat sich der Begriff Deepfake durchgesetzt um Bilder und Videos zu beschreiben, die eine KI Manipulation beinhalten. Für die Verordnung geht es jedoch nicht direkt um die Art der Manipulation. Entscheidend ist, ob der Inhalt realistisch wirkt und den Eindruck erweckt, tatsächlich echt zu sein – es sich aber um künstlichen Inhalt handelt.
Im Art. 50 EU AI Act werden Deepfakes wie folgt definiert:
„KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen würden.“
Welche Bilder brauchen ein Label?
Können Sie einschätzen welche Bilder ein Label brauchen und welche nicht?
Deepfake Detection by Neuramancer
Sie sind nicht sicher, ob Ihr Inhalt KI-generierte Elemente enthält? Neuramancer findet es heraus – mit einer forensischen Analyse.
Wie soll das Label ausschauen?
Im AI Act ist lediglich festgeschrieben, dass ein Labeling klar erkennbar und spätestens bei der ersten Interaktion oder dem ersten Kontakt ersichtlich sein muss. Dabei soll die Entstehung des Inhalts möglichst transparent werden. Wichtig sind zusätzlich sogenannte Barrierefreiheitsmaßnahmen:
- Das Symbol sollte in einer deutlich sichtbaren Größe dargestellt werden.
- Wenn möglich, sollte das Symbol durch Hilfstechnologien wie Alt-Texte oder ARIA-Labels lesbar sein.
Es gibt bereits “EU-Icons”, Vorschläge, die genutzt werden können, um Inhalte zu kennzeichnen. Bisher sind diese auf Englisch in vier verschiedenen Ausführungen verfügbar. Jeder kann diese Labelvorschläge nutzen.
Empfehlung der EU-Kommission:
Vollständig KI-generiert
Teilweise KI-modifiziert
Basis-Icon
Brauchen Ihre Medien ein KI-Label?
Finden Sie in weniger als einer Minute heraus, ob Sie Ihr KI-generiertes oder KI-bearbeitetes Bild oder Video kennzeichnen sollten.
Jetzt testen:
Neuramancers Label-O-Mat!
Relevante Bilder mit dem richtigen KI-Label versehen.
✓ Einfache und intuitive Bedienung
✓ Keine Datenspeicherung (alles passiert lokal in Ihrem Browser)
✓ Komplett kostenlos
Alle wichtigen Antworten zur AI Act Transparenzpflicht im FAQ
Grundsätzlich nein. Laut EU-KI-Verordnung Art. 50 müssen Bilder, die vor dem 2. August 2026 veröffentlicht wurden, nicht gelabelt werden. Allerdings können sich Kennzeichnungs- oder Transparenzpflichten aus anderen Rechtsvorschriften ergeben, beispielsweise aus dem Wettbewerbs- und Lauterkeitsrecht. In solchen Fällen kann eine Kennzeichnung auch unabhängig vom EU AI Act erforderlich sein.
Wer gegen die Transparenzpflichten nach Art. 50 des EU AI Act verstößt, muss mit empfindlichen Geldbußen rechnen.
Für Verstöße gegen Art. 50 können Geldbußen von bis zu 15 Millionen Euro oder (bei Unternehmen) von bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt werden. Maßgeblich ist grundsätzlich der jeweils höhere Betrag.
Leider nicht – aber nehmen Sie gerne Kontakt mit uns auf. Wir erstellen Ihnen ein individuelles Angebot.
Es gibt keine Vorgaben für das Design der Labels – die EU hat Label für die freie Nutzung zur Verfügung gestellt. Nutzen Sie hierfür gerne unseren „Label-O-Mat“
Der EU AI Act schreibt grundsätzlich keine bestimmte Position für das Label vor. Es muss also beispielsweise nicht zwingend oberhalb oder unterhalb eines Bildes stehen. Entscheidend ist vielmehr, dass die Kennzeichnung klar, unterscheidbar und für die betroffenen Personen gut erkennbar ist. Sie sollte daher so platziert werden, dass sie nicht übersehen oder mit anderen Angaben verwechselt werden kann. Die konkrete Gestaltung und Positionierung kann je nach Medium und technischer Möglichkeit unterschiedlich ausfallen.
Nutzen Sie für die Positionierung gerne unseren Label-O-mat.
Informationen zu den Kennzeichnungspflichten für KI-generierte und manipulierte Inhalte finden Sie direkt bei der Europäischen Kommission.
Alternativ können Sie auch gerne unseren Label-O-Mat nutzen, um die passende Kennzeichnung für Ihren Anwendungsfall zu ermitteln.
Bei Videos sollte die Kennzeichnung klar und gut erkennbar erfolgen. Eine Dauereinblendung kann dafür eine geeignete Lösung sein. Wurden hingegen nur einzelne Teile eines Videos mit KI generiert oder wesentlich verändert, kann je nach Gestaltung und Anwendungsfall auch eine zeitlich begrenzte Einblendung in Betracht kommen. Entscheidend ist, dass die Kennzeichnung für die Betrachter ausreichend deutlich und verständlich ist.
Unser Label-O-Mat unterstützt derzeit nur die Kennzeichnung von Bildern – sprechen Sie uns für das Labeln von Videos gerne an!
Gekennzeichnet werden müssen alle Inhalte, die mit KI generiert oder manipuliert wurden und nicht offensichtlich einen phantastischen Inhalt darstellen.
Als Deepfakes bezeichnet der EU AI Act KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten oder Ereignissen ähneln und für eine Person fälschlicherweise als echt oder wahr erscheinen könnten.
Grundsätzlich nein, wenn Sie KI ausschließlich im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit nutzen. Für solche natürlichen Personen gelten die Pflichten für sogenannte „Deployer“ nach dem EU AI Act nicht.
Aber Vorsicht: Auch wenn der EU AI Act in diesem Fall keine entsprechende Kennzeichnungspflicht vorsieht, können andere gesetzliche Vorgaben gelten. Dazu gehören beispielsweise das Recht am eigenen Bild, Urheberrechte oder das allgemeine Persönlichkeitsrecht.
Presse und Medienberichterstattung
Wie Fake-Videos die Demokratie bedrohen
(Beitrag von Pro7 :newstime)
KI-generierte Videos und Deepfakes werden immer realistischer und sind mit bloßem Auge kaum noch zuverlässig zu erkennen. Anika Gruner erklärt, wie die Suche nach Spuren funktioniert.
Neuramancer gewinnt bayerisches Finale des Female Founders Contest 2026
(Bericht im VentureCapital Magazin)
Beim Bayerischen Female Founders Contest 2026 überzeugte Anika Gruner im bayerischen Finale mit ihrem Pitch und setzte sich gegen zwölf weitere Finalistinnen durch.
Neuramancer in Doku über Deepfakes von Collien Fernandes zu sehen
ARD Mediathek
Collien Fernandes war in Rosenheim, um sich bei uns über Möglichkeiten der Deepfake Detection zu informieren – ihr Interview mit Anika Gruner ist in der Doku ab Minute 35 zu sehen.
Deepfakes: Risiken, rechtliche Rahmenbedingungen & Erkennungstechnologien
(Gastbeitrag bei Civic Coding-Forum)
In unserem gemeinsamen Civic Coding-Forum mit dem Media Lab Bayern haben wir diskutiert, wie Medienbildung vor Desinformation schützen und wie KI-Anwendungen bei Faktenprüfung und dem Erkennen von Manipulation helfen können. Eines der Praxisbeispiele war die Software des Start-ups Neuramancer, mit der sich Manipulationen von Bildern und Videos erkennen lassen. Der Gründer, Anatol Maier, vertieft in seinem Gastbeitrag die Gefahren von sogenannten Deepfakes und Möglichkeiten, gegen sie vorzugehen.
Startup entwickelt Software gegen Deepfakes in digitalen Medien
Bericht über Neuramancer auf Merkur.de
Ein gefälschtes Bild kann Karrieren zerstören und Wahlen beeinflussen – selbst wenn es komplett erfunden ist. Zwei Gründer sagen den sogenannten Deepfakes den Kampf an.
Interview mit Martin Sondenheimer und Anatol Maier in der Finanzwelt
In einem Interview mit dem Branchenmagazin Finanzwelt stellen sich Anatol Maier und Martin Sondenheimer den Fragen der Journalisten zum Thema „Wie hält Deepfake Detection von Neuramancer mit der schnellen KI Entwicklung mit? Welche technischen Herausforderungen erwarten uns in Zukunft und welche kommenden Use Cases gibt es für Neuramancers Technologie.
Trotz Wirtschaftskrise erfolgreich werden mit eigenem Startup: Wie geht das?
BR24 vor Ort
Wie kann ein Startup erfolgreich werden? Wie müssen Gründer ticken, um ihre Idee zu Geld zu machen? Berichterstattung BR24
Expertise beim Beitrag zu Deepfakes in der Sendung „Stationen“ des Bayerischen Rundfunks.
Realität oder Fake? Die Fotos vom Papst im weißen Daunenmantel oder Donald Trumps „Verhaftung“ sind relativ leicht als Fälschungen zu entlarven. Doch Künstliche Intelligenz schleicht sich immer mehr in den Alltag der Menschen. Und schafft Misstrauen.
Podcast zum Fall von gefakten Agenturbildern zum Thema Iran
Holger ruft an – wegen Deepfakes
Im März 2026 machte der „Spiegel“ transparent, dass er versehentlich KI-generiertes Bildmaterial in seiner Berichterstattung über den Iran verwendet hatte. Die Redaktion erkannte das erst, als es zu spät war – nachdem die Bilder veröffentlicht worden waren. Mit Hilfe von Neuramancer wurden die verdächtigen Bilder geprüft – der Podcasthost Holger Klein von Übermedien hat Anika Gruner dazu interviewt.
Podcast zum Thema Deepfakes und Faktencheck auf Spotify.
Fake News & Fact-Checking
Die Angst, sich nicht mehr auf die eigenen Augen verlassen zu können, geistert beim Thema Deepfakes herum. Apps und frei zugängliche Online-Plattformen machen das Erstellen kinderleicht. Eine Kennzeichnungspflicht gibt es nicht. Das erschwert natürlich das Entlarven. Diese Folge widmet sich typischer Erkennungsmerkmale von KI generierten Bildern, Videos und Audios. Was genau heißt es, auf Objektpermanenz und Tonalität zu achten? Warum ist auf das Auge weiterhin Verlass? Weshalb sind KI-Detektoren eher unzuverlässig? Jana Heigl vom Faktencheck-Format Faktenfuchs, Johanna Steele von der Neuen Presse und Anatol Maier vom Startup Neuramancer AI geben Input.
Pressebericht der XPLR: Media in Bavaria
Wie können Medienschaffende KI-generiertes oder -verändertes Material erkennen? Anika Gruner und Anatol Maier kennen die Antwort. Sie entwickeln mit ihrem Start-up Neuramancer AI eine Software, die prüfen kann, ob bei der Erstellung von Inhalten künstliche Intelligenz zum Einsatz kam.
Aktueller Beitrag über Neuramancer beim Kulturmagazin Cappricio vom BR
Autor Maximilian Sippenauer besuchte Neuramancer und stellte sich die Frage: Wie geht es weiter mit Bildern in unserer Gesellschaft?
Podcast zum Thema Deepfakes und Faktencheck auf Spotify.
zu Gast Anika Gruner und Anatol Maier
Deepfakes in Bildern, Videos und Audioformaten werden immer schwerer zu entlarven. Das ist ein zunehmendes Problem in den Medien. Neuramancer, eine fortschrittliche KI, schafft Abhilfe, indem sie manipulierte und KI-generierte Fakes aufdeckt. Wie funktioniert diese Technologie, und welche Rolle spielt sie in der Zukunft der Medien? Host Sabrina Harper spricht mit den Expert:innen Anika Gruner und Anatol Maier über die rasanten Entwicklungen im Bereich Deepfake-Detection und was Medienschaffende daraus lernen können.
Sie wissen nicht ob Ihre Bilder mit KI-verändert wurden?
Sie sind nicht sicher, ob Ihr Inhalt KI-generierte Elemente enthält? Neuramancer findet es heraus – mit einer forensischen Analyse.