Wie die KI-Bilderkennung tatsächlich funktioniert

Ein Vision Transformer bewertet das gesamte Bild, dasselbe Modell bewertet es noch einmal in Kacheln, ein separater Reader prüft die eigenen Nachweise der Datei, und die drei Ergebnisse werden zu einer kalibrierten Zahl zusammengeführt.

Worauf das Modell achtet

Eine Kamera zeichnet Licht durch ein Objektiv auf einem Sensor auf. Dieser Prozess hinterlässt eine bestimmte Art von Rauschen, ein spezifisches Schärfeabfallmuster zu den Rändern hin und eine spezifische Beziehung zwischen benachbarten Pixeln, die vom Sensorgitter und dem anschließenden Demosaicing stammt.

Ein Diffusionsmodell baut ein Bild auf, indem es wiederholt Rauschen aus einem Zufallsfeld entfernt, bis etwas Kohärentes entsteht. Dieser Prozess hinterlässt ebenfalls eine Signatur, und diese ist anders. Das Ergebnis kann visuell perfekt und gleichzeitig statistisch unterscheidbar sein.

Aus diesem Grund überlebt die Erkennung einen Screenshot, wenn Metadaten dies nicht tun. Die Signatur befindet sich direkt in den Pixelwerten und nicht in einem Header, sodass das Kopieren der Pixel auch die Beweise kopiert.

Die vier Stufen

1 Datei lesen Im Browser decodiert, niemals hochgeladen
2 Gesamtbild bewerten Vision Transformer bei 384 Pixeln Kantenlänge
3 Kacheln bewerten Dasselbe Modell für überlappende Bereiche
4 Nachweise lesen C2PA- und Generator-Marker, sofern vorhanden

Zwei unabhängige Beweispfade, die zusammenlaufen. Keiner von beiden muss die Antwort alleine tragen.

Erste Stufe: Decodierung

Die Datei wird von der Seite von der Festplatte gelesen und in rohe Pixel decodiert. HEIC, AVIF, TIFF und andere werden von den browserseigenen Decodern verarbeitet. Es wird nichts übertragen – das liegt daran, wo die Arbeit stattfindet, und ist keine auf einem Server angewendete Richtlinie.

Zweite Stufe: Der Gesamtbild-Score

Das Bild wird auf 384 Pixel skaliert und durch einen Vision Transformer geleitet. Das Modell gibt eine Rohwahrscheinlichkeit aus, dass das Bild synthetisch ist. Diese Zahl wird anschließend kalibriert, sodass sie konsistent auf die veröffentlichten Bänder abgebildet wird, anstatt mit dem Modell zu driften.

Das Skalieren führt zu Detailverlusten, was die erste Fehlerquelle für die Genauigkeit ist. Es ist zudem unvermeidlich: Das Modell hat eine feste Eingabegröße, und ein 4000-Pixel-Foto muss verkleinert werden, um hineinzupassen.

Dritte Stufe: Der Kachel-Durchlauf

Das Bild wird in überlappende Bereiche unterteilt, und jeder Bereich wird vom selben Modell einzeln bewertet. Dies unterscheidet ein vollständig generiertes Bild von einem echten Foto, dem etwas hinzugefügt wurde, und es ist die Stufe, die durch eine einzelne Zahl nicht ersetzt werden kann.

14 11 16 12 88 13 9 15 10

Die Mittelung dieser Werte ergibt 21. Die Kachelansicht bewahrt die Informationen, die die Mittelung zerstört.

Dasselbe Modell, neunmal auf überlappende Bildausschnitte angewendet. Der Gesamtbild-Score für dieses Bild lag bei 31.

Kacheln benötigen genügend Pixel, um aussagekräftig zu sein, weshalb Bilder unter ca. 576 Pixeln an der kürzeren Kante nur einen Gesamtbild-Score erhalten. Ein kleiner Ausschnitt bietet nicht genügend Details für eine unabhängige Bewertung.

Vierte Stufe: Der eigene Datensatz der Datei

Unabhängig von den Pixeln wird die Datei auf Content Credentials und von einigen Tools hinterlassene Generator-Marker überprüft. Dieser Pfad ist eher kryptografisch als statistisch: Eine gültige Signatur wird gegen eine Vertrauensliste geprüft und nicht geschätzt.

Wie die Ergebnisse kombiniert werden

Die beiden Pfade werden nicht gemittelt, da sie unterschiedliche Gewichtungen haben. Ein gültiger Nachweis, der eine Kameraaufnahme deklariert, übertrifft einen mäßigen Pixel-Score. Ein Nachweis, der eine KI-Generierung deklariert, klärt die Frage von allein.

Wie die Beweise gewichtet werden
Beweis	Typ	Gewichtung
Gültiger Nachweis, der KI-Generierung deklariert	Kryptografisch	Entscheidend
Gültiger Nachweis, der Kameraaufnahme deklariert	Kryptografisch	Sehr stark
Generator-Marker in der Datei	Deklarativ	Stark, aber entfernbar
Gesamtbild-Pixel-Score	Statistisch	Mäßig
Bereichskachel-Scores	Statistisch	Mäßig und spezifischer
Kein Nachweis vorhanden	Keine	Keine Informationen in die eine oder andere Richtung

Diese letzte Zeile wird am häufigsten falsch verstanden. Ein fehlender Nachweis ist kein negatives Signal. Die überwältigende Mehrheit aller jemals erstellten Bilder enthält keinen, und fast jede Plattform entfernt sie beim Upload.

Warum es im Browser läuft

Das Modell ist etwa 40 MB groß und läuft über WebAssembly auf dem Gerät des Besuchers. Das ist eine bewusste architektonische Entscheidung mit drei Konsequenzen, die man kennen sollte.

Es wird nichts hochgeladen, sodass kein Server die Bilder von irgendjemandem speichert und keine Datenverarbeitung zu dokumentieren ist.
Eine Prüfung verursacht keine Serverkosten, weshalb das Tool ohne Nutzungszähler im Hintergrund kostenlos sein kann.
Die erste Prüfung dauert länger, da das Modell vor der Ausführung einmalig heruntergeladen wird. Spätere Prüfungen verwenden die zwischengespeicherte Kopie wieder.

Was die Pipeline bewusst nicht tut

Mehrere Techniken, die in älteren Forensik-Tools vorkommen, fehlen hier, da sie bei Bildern, die moderne Plattformen durchlaufen haben, nicht mehr funktionieren.

Fehlerstufenanalyse (Error Level Analysis). Beliebt, weitgehend missverstanden und unzuverlässig bei Bildern, die mehr als einmal erneut gespeichert wurden.
Kopieren-Einfügen-Erkennung (Copy-Move). Findet duplizierte Bereiche innerhalb eines Bildes, was Klonen im alten Stil aufdeckt, aber keine Generierung.
Metadatengestützte Urteile. EXIF wird fast überall beim Hochladen entfernt, sodass eine Prüfung, die darauf angewiesen ist, genau bei den Bildern fehlschlägt, die überprüft werden müssen.
Gesichtsspezifische Analyse. Nützlich für eine sehr schmale Art der Manipulation und für alles andere blind.

Häufig gestellte Fragen

Prüft der Detektor, was sich im Bild befindet?

Nein. Er hat kein Konzept von Objekten, Gesichtern oder Szenen. Er misst statistische Beziehungen zwischen benachbarten Pixeln, weshalb er gleichermaßen bei einem Porträt, einer Straßenszene und einem Kassenbon funktioniert und weshalb er Ihnen nicht sagen kann, ob der Inhalt eines Bildes wahr ist.

Warum dauert die erste Prüfung länger?

Das Modell wird vor der Ausführung einmalig heruntergeladen (ca. 40 MB). Danach wird es zwischengespeichert und nachfolgende Prüfungen starten sofort. Das ist der Preis für die Ausführung auf Ihrem Gerät statt auf einem Server, und dafür wird sichergestellt, dass nichts hochgeladen wird.

Wie wird die Rohausgabe des Modell in einen Score umgewandelt?

Kalibrierung. Das Modell gibt eine Rohwahrscheinlichkeit aus, die auf eine feste Skala abgebildet wird, sodass eine bestimmte Zahl immer dasselbe bedeutet. Ohne diesen Schritt würden sich die Scores verschieben, sobald sich das Modell ധികം, und kein veröffentlichtes Band würde aussagekräftig bleiben.

Warum überlappende Kacheln statt eines einfachen Rasters?

Eine Bearbeitung, die genau auf einer Kachelgrenze liegt, würde auf zwei Bereiche aufgeteilt und in beiden verwässert. Durch die Überlappung der Ausschnitte fällt jede Bearbeitung vollständig in mindestens einen Bereich, wodurch verhindert wird, dass ein kleiner eingefügter Teil weggemittelt wird.

Kann erkannt werden, welcher Generator ein Bild erstellt hat?

Nur dann, wenn die Datei dies angibt. Ein Generator-Marker oder ein Nachweis kann das Tool benennen; das Pixelmodell kann das nicht. Es gibt eine Wahrscheinlichkeit zurück, dass etwas Generatives im Spiel war – das ist eine andere Frage als eine Identifizierung und lässt sich viel zuverlässiger beantworten.

Wird dasselbe Modell für das Gesamtbild und die Kacheln verwendet?

Ja. Dasselbe Modell auf verschiedene Ausschnitte anzuwenden, macht die beiden Ergebnisse vergleichbar. Ein separates Bereichsmodell hätte seine eigenen Kalibrierungen und Fehler, und die beiden Zahlen würden nicht mehr auf derselben Skala liegen.