Zwei verschiedene Dinge mit derselben Bezeichnung
Ein vollständig generiertes Bild entsteht aus dem Nichts. Es gibt kein zugrundeliegendes Foto, keinen Sensorwert, keinen realen Moment. Jeder Pixel wurde von einem Modell erzeugt, und die abgebildete Person hat keine Identität, die verunglimpft werden könnte, weil es sie nicht gibt.
Ein Deepfake basiert auf etwas Realem. Dahinter liegt ein Foto oder Video, eine echte Aufnahme eines realen Moments, und ein Modell hat einen bestimmten Bereich – meist das Gesicht – durch die Darstellung einer anderen Person ersetzt.
Die Unterscheidung ist rechtlich, redaktionell und technisch von Bedeutung. Ein generiertes Stockfoto eines nicht existierenden Arztes ist eine Lizenzfrage. Ein Foto eines echten Arztes, dessen Gesicht auf einen Körper montiert wurde, zu dem es nie gehörte, ist eine Frage der Verleumdung und möglicherweise strafrechtlich relevant.
Warum Deepfakes schwerer zu erkennen sind
Ein Detektor liest die statistische Textur eines Bildes und gibt an, wie viel davon nach der Ausgabe eines Modells aussieht. Wenn das gesamte Bild synthetisch ist, ist dieses Signal überall vorhanden und das Ergebnis eindeutig.
Ein Face-Swap kehrt das Problem um. Neunzig Prozent des Bildes sind eine echte Fotografie mit echtem Sensorrauschen und echter Kompressionshistorie – und der Gesamtdurchschnitt spiegelt genau das wider. Ein überzeugender Tausch kann bei einem tatsächlich manipulierten Bild einen Wert in den Dreißigern ergeben.
Das ist weniger ein Versagen des Modells als vielmehr ein Versagen der Fragestellung. Die Frage, ob das Bild generiert ist, greift zu kurz, wenn die ehrliche Antwort lautet: Der Großteil ist echt, aber ein entscheidender Teil nicht.
Die Mittelwertbildung, die zu 33 führte, ist genau das, was die eine entscheidende Kachel verbirgt.
Die Regionen-Map löst genau dieses Problem. Indem überlappende Kacheln separat bewertet werden, wird eine lokale Manipulation im Kontext ihrer direkten Umgebung gemessen – statt über ein Gesamtbild verwässert zu werden, zu dem sie nicht gehört.
Die Begriffe in chronologischer Reihenfolge
| Begriff | Bedeutung | Ist das Motiv echt? |
|---|---|---|
| Deepfake | Das Erscheinungsbild einer realen Person auf anderes Material übertragen | Ja |
| Face-Swap | Die häufigste Form eines Deepfakes, als Standbild oder Video | Ja |
| KI-generiert | Aus einem Prompt ohne Quellfoto generiert | Nein |
| KI-bearbeitet | Ein echtes Foto, bei dem etwas hinzugefügt oder entfernt wurde | Meistens |
| Synthetische Medien | Überbegriff für alle oben genannten Formen | Kommt darauf an |
| Cheapfake | Echte Medien, verfälscht durch Bildunterschrift, Beschnitt oder altes Datum | Ja |
Die letzte Zeile verdient besondere Aufmerksamkeit: Sie ist die häufigste Form visueller Desinformation – und die einzige, die kein Detektor erkennen kann. Ein echtes, unbearbeitetes Foto aus einem anderen Land von vor drei Jahren, das als aktuelle Nachricht deklariert wird, wird als die echte Fotografie bewertet, die es ist.
Praktische Handlungsempfehlungen nach Fall
- Sie vermuten, dass das gesamte Bild erfunden ist. Führen Sie eine Gesamtanalyse durch. Ein hoher Wert bei einer einheitlichen Map ist so eindeutig, wie es nur geht.
- Sie vermuten, dass eine Person eingefügt oder getauscht wurde. Prüfen Sie zuerst die Regionen-Map. Der Gesamtwert wird das Ausmaß unterschätzen.
- Sie vermuten, dass ein Dokument manipuliert wurde. Vorgehen wie oben; erwarten Sie genau eine auffällige Kachel über dem geänderten Feld.
- Sie vermuten, dass die Bildunterschrift falsch ist. Ein Detektor kann hier nicht helfen. Nutzen Sie die Rückwärtssuche und prüfen Sie Datum und Ort.
- Es handelt sich um ein Video. Hierfür sind völlig andere Werkzeuge erforderlich. Eine Einzelbildanalyse übersieht zeitliche Artefakte, die Echtzeit-Swaps verraten.
Warum diese Unterscheidung Menschen schützt
Jedes synthetische Bild gleich zu behandeln, führt zu zwei Fehlern gleichzeitig: Man verschwendet Aufmerksamkeit auf harmlose Fälle – etwa wenn jemand ein generiertes Porträt nutzt, weil ein Fotograf zu teuer war – und unterschätzt Fälle, die Personen tatsächlich schaden.
Der Schaden entsteht nicht dadurch, dass Pixel künstlich sind. Er entsteht, wenn eine reale, namentlich benannte Person bei Dingen gezeigt wird, die sie nie getan hat. Genau das erfordert eine Eskalation – und genau hier ist ein mittelmäßiger Gesamtwert als Zusammenfassung am wenigsten verlässlich.
Interne Richtlinien an der Identität statt an der Technologie auszurichten, macht sie zudem zukunftssicherer. Die Methoden werden sich ändern; die Frage, ob eine bestimmte Person falsch dargestellt wird, bleibt.
Wie ein Face-Swap tatsächlich entsteht
Zu verstehen, wie er entsteht, erleichtert die Erkennung. Ein Swap beginnt mit einem Zielfoto und mehreren Bildern der Person, deren Gesicht eingesetzt werden soll. Ein Modell lernt, dieses Gesicht an Licht, Winkel und Mimik des Zielbildes anzupassen.
Das berechnete Gesicht wird anschließend in das Originalbild eingefügt – die Übergänge sind dabei die größte Hürde. Beide Teile weisen unterschiedliches Rauschen, abweichende Kompressionshistorien und oft leicht unterschiedliche Farbprofile auf. Durch Weichzeichnen der Ränder wird der Übergang für das menschliche Auge unsichtbar gemacht.
Genau dieses Glätten erkennt die Regionen-Map. Das Überblenden entfernt die hochfrequente Textur, die ein Kamerasensor erzeugt. Der bearbeitete Bereich unterscheidet sich statistisch von seiner Umgebung, selbst wenn die Schnittkante unsichtbar ist. Der Übergang ist mit dem Auge unsichtbar und messtechnisch zugleich eindeutig.
Das erklärt auch, warum ein Swap eine Gesamtanalyse so leicht unterwandert: Der manipulierte Bereich ist klein, bewusst an die Umgebung angepasst und von einem authentischen Foto umgeben, das jeden Gesamtdurchschnitt dominiert.
Der Fehler, der immer wieder passiert
Man prüft einen mutmaßlichen Deepfake mit einem Detektor, sieht einen Wert in den Dreißigern und schließt daraus, das Bild sei echt. Das ist der falsche Schluss aus der richtigen Zahl: Der Wert ist korrekt, beantwortet aber nicht die eigentliche Fragestellung.
Die Lösung ist eine einfache Gewohnheit: Öffnen Sie bei jedem Bild, bei dem es um eine konkrete Person geht, zuerst die Regionen-Map statt nur den Gesamtwert zu lesen. Betrachten Sie die Kachel mit dem höchsten Wert als den Befund, auf den es ankommt.