Deepfakes
Können wir noch echt von fake unterscheiden?
Stellen Sie sich vor, Sie scrollen durch Ihren Feed und sehen ein Foto: Ein Elefant spaziert seelenruhig durch eine deutsche Fußgängerzone. Sie schmunzeln, vielleicht schicken Sie es Freunden mit einem Augenzwinkern. Aber Moment – ist das wirklich so passiert? Oder ist es ein perfekt erzeugter KI-Fake?
So weit, so harmlos. Doch stellen Sie sich nun ein anderes Szenario vor:
Ein Bild zeigt scheinbar eine große Rauchwolke über einem bekannten Regierungsgebäude. Menschen laufen im Hintergrund in Panik auseinander, erste Schlagzeilen sprechen von einem Anschlag. Minuten später verbreitet sich das Bild weltweit. Doch die Realität: Das Gebäude steht unversehrt da, die Szene existierte nie. Das Foto mit Hilfe von KI manipuliert worden.
Im ersten Fall bleibt es beim Schmunzeln. Im zweiten Fall kann ein einziges Bild Panik auslösen, Märkte erschüttern und Vertrauen in Medien massiv untergraben.
Die Kernfrage lautet: Können wir noch unterscheiden, ob ein Bild echt ist – oder ein Fake?
Genau das haben wir in den letzten Monaten getestet. Auf zwei großen Veranstaltungen haben über 200 Menschen in unserem Deepfake-Game mitgespielt – mit spannenden Ergebnissen.
Unser Deepfake-Game: Der Realitätstest
Um die Sache messbar zu machen, haben wir ein eigenes Online-Game entwickelt. Die Regeln sind simpel: Jede Spielerin und jeder Spieler bekommt zehn zufällig ausgewählte Bilder, von denen einige echt und andere KI-generiert sind. Die Aufgabe besteht darin, bei jedem Bild zu entscheiden, ob es real ist oder ein Fake – also KI generiert. Am Ende gibt es einen Score zwischen null und zehn Punkten. Klingt einfach? In der Praxis zeigt sich jedoch schnell, dass die Entscheidung oft alles andere als leicht fällt.
Ergebnisse auf zwei Großveranstaltungen
Re:publica – Fachpublikum mit digitalem Hintergrund
Auf der re:publica, der Konferenz für die digitale Gesellschaft, traten Journalist:innen, Digital Natives, Schüler:innen und andere technikaffine Menschen an.
- Durchschnittsergebnis: 8 von 10 Punkten.
- Das klingt gut. Doch den perfekten Score erreichten nur wenige. Und dann meist nur mit sehr langer Bedenkzeit.
Die Ergebnisse zeigen deutlich: Selbst Profis und Digital Natives müssen ganz genau hinschauen, um nicht auf KI-generierte Bilder hereinzufallen. Oft reicht ein flüchtiger Blick nicht aus – erst bei genauer Analyse werden kleine Unstimmigkeiten sichtbar, die den Fake entlarven.
Tag der offenen Tür der Bundesregierung – die breite Masse
Ein ganz anderes Bild beim Tag der offenen Tür der Bundesregierung: Das Publikum war bunt gemischt, politisch interessiert, aber nicht zwingend technikaffin.
- Durchschnittsergebnis: 6 von 10 Punkten.
- Das ist nicht viel besser als Münzwurf-Niveau.
Das Fazit fällt ernüchternd aus: In der breiten Masse verschwimmen die Grenzen zwischen Realität und Fälschung so stark, dass viele Menschen kaum noch unterscheiden können, was echt ist und was von einer KI erzeugt wurde. Ohne Hilfsmittel gleicht die Entscheidung oft einem Münzwurf.
Wissenschaft bestätigt: Menschen sind überfordert
Unsere Erfahrungen bestätigen eine beunruhigende Entwicklung – und sie decken sich mit aktuellen Forschungsergebnissen, speziell einer umfangreichen Studie von Microsoft aus dem Jahr 2025 (Roca et al.) [1] […]. Darin zeigen sich ernüchternde Fakten: Weltweit schneiden Menschen bei der Erkennung von KI-generierten Bildern kaum besser ab als reiner Zufall.
- An der Studie nahmen rund 12.500 Personen teil, die insgesamt etwa 287.000 Bildbewertungen durchführten. Dabei lag die Gesamtgenauigkeit bei lediglich 62 %, also nur etwas besser als ein Münzwurf. Das entspricht unseren Beobachtungen in zahlreichen Wiedergabetests – menschliche Wahrnehmung wird leicht getäuscht.
- Obwohl manche Menschen zusätzlich geschult wurden (“selbst trainierte Nutzer”), also etwa durch gezielte Hinweise, Beispiele oder vorheriges Training sensibilisiert wurden, konnte ihre Trefferquote bestenfalls geringfügig steigen – von wenigen Prozentpunkten über dem Durchschnitt, aber nicht annähernd ausreichend, um eine sichere Unterscheidung zu garantieren.
Auch in der Wissenschaft zeigt sich klar: Wir Menschen verlieren den „Visuellen Turing-Test“, wenn es darum geht, KI-Fälschungen zu erkennen. Geschulte Menschen liegen bestenfalls bei 65 -70 %, oft aber deutlich darunter.
Was wir sehen, glauben wir – und genau das macht Deepfakes so gefährlich.
Deepfakes sind längst kein Partytrick mehr, sondern ein ernstzunehmendes Risiko für Gesellschaft, Wirtschaft und Politik. Sie bedrohen Vertrauen, Glaubwürdigkeit und sogar Sicherheit – hier ein paar Beispiele aus unterschiedlichen Bereichen:
Öffentlicher Sektor: Gefälschte Bilder oder Videos können politischen Entscheidungsträgern schaden, indem sie sie in kompromittierenden oder nie stattgefundenen Situationen zeigen. Ein einziges Fake-Foto eines angeblichen Skandals kann Wahlen beeinflussen, diplomatische Spannungen erzeugen oder das Vertrauen in staatliche Institutionen erschüttern. Besonders kritisch: Bilder, die Krisensituationen vortäuschen – etwa angebliche Angriffe, Unruhen oder geheime Absprachen.
Versicherungen und Finanzwesen: Für die Finanz- und Versicherungsbranche stellen Deepfakes ein Einfallstor für massiven Betrug dar. Mit täuschend echten Bild- oder Videobeweisen können fingierte Schadensfälle untermauert werden – vom Autounfall über einen Displayschaden am Smartphone, bis hin zu manipulierten Gutachten.
Medien: Journalisten und Medienhäuser stehen vor der Herausforderung, Nachrichten und Bildmaterial auf ihre Echtheit zu prüfen, bevor sie sie veröffentlichen. Ein einziges unbemerktes Deepfake kann die Glaubwürdigkeit einer ganzen Redaktion ruinieren.
Digitale Identitäten: Nicht zuletzt ist Jeder gefährdet. Mit wenigen Klicks lassen sich gefälschte Profilbilder, Bewerbungsfotos oder sogar kompromittierende Deepfake-Videos erstellen. Das kann den Ruf einzelner Menschen zerstören, Identitätsdiebstahl ermöglichen und das Vertrauen in digitale Interaktionen untergraben. Gerade in Zeiten, in denen Bewerbungen, Partnerschaften oder geschäftliche Beziehungen zunehmend online beginnen, ist das ein immenses Risiko.
Diese Bereiche sind nur einige Beispiele dafür, wie weitreichend die Folgen von Deepfakes bereits heute sind. In Wahrheit betrifft das Thema nahezu jede Branche – von Bildung über Personalwesen bis hin zum E-Commerce. Überall dort, wo Bilder, Videos oder Stimmen Vertrauen schaffen sollen, können KI-Fälschungen dieses Vertrauen untergraben.
Was jetzt zu tun ist
Jahrzehntelang galt ein Foto oder ein Video als Beweis. „Wenn man es sieht, dann muss es stimmen“ – diese Grundannahme prägt unser Vertrauen in Medien, Institutionen und sogar zwischenmenschliche Beziehungen und genau das macht Deepfakes so gefährlich.
Umso wichtiger ist es, umzudenken. Bilder und Videos dürfen nicht länger automatisch als Wahrheitsquelle gelten. Wir brauchen ein neues Grundverständnis: Visuelle Inhalte sind keine Beweise mehr.
Zuverlässige Deepfake-Erkennung
Bei Neuramancer arbeiten wir daran, dieses Vertrauen zurückzuholen.
Wir entwickeln Technologien, die Manipulationen in Bild, Video und Audio systematisch prüfen und verlässlich entlarven können.