Familie 1: Das Bild wurde herabgestuft
Die bei Weitem größte Kategorie. Das Signal, das ein Detektor liest, befindet sich in feinen Texturen, und diese Textur ist das Erste, was bei jeder Komprimierung, Größenänderung und jedem Screenshot verworfen wird.
- Wiederholte JPEG-Speicherungen. Die Genauigkeit fällt in dem veröffentlichten Benchmark von 91,3 Prozent bei sauberen Originalen auf 84,6 Prozent bei Qualität 40 ab, und in freier Wildbahn noch weiter.
- Screenshots. Ein erneutes Rendern in Bildschirmauflösung, bei dem die Originaldatei vollständig verworfen wurde.
- Herunterskalieren. Weniger Pixel, weniger Textur und unterhalb von etwa 576 Pixeln an der kürzeren Seite gar keine Regionskarte mehr.
- Neukodierung durch Plattformen. Jeder Upload ist mindestens eine Neukodierung, und die meisten Bilder haben mehrere durchlaufen.
- Aggressives Zuschneiden. Ein kleiner Ausschnitt eines großen Bildes verliert den Kontext, auf den das Modell kalibriert wurde.
Herabstufung drückt die Werte in beide Richtungen zur Mitte hin: echte Fotos nach oben, generierte Bilder nach unten. Ein mittleres Ergebnis bei einer offensichtlich gereisten Datei bedeutet normalerweise die Datei, nicht das Bild.
Familie 2: Der Generator war ungesehen
Ein Detektor erkennt, worauf er trainiert wurde. Ein Modell, das nach Abschluss des Trainings veröffentlicht wurde, ist unbekanntes Terrain, und unbekannte Ausgaben tendieren eher zu niedrigen als zu unsicheren Werten.
- 1 Generator veröffentlicht Nichts hat seine Ausgabe gesehen
- 2 Blindes Zeitfenster Neue Ausgabe wird als echt bewertet
- 3 Stichproben gesammelt Wochen der Sammlung und Kennzeichnung
- 4 Detektor aktualisiert Bis zur nächsten Veröffentlichung
Dies erzeugt überzeugende falsche Negative, welche die gefährlichste Art sind. Das Tool signalisiert keine Unsicherheit; es meldet, dass ein Bild in Ordnung aussieht, weil es nichts ähnelt, das es gelernt hat zu markieren.
Familie 3: Der Inhalt ähnelt synthetischer Textur
Einige echte Bilder sind schlicht schwierig. Nicht, weil etwas zur Täuschung getan wurde, sondern weil die Textur, die sie enthalten, aussieht wie die Textur, die eine Generierung erzeugt.
- Nachtmodus von Smartphones und Computational Photography. Mehrere Frames zusammengefügt und per Software entrauscht, wodurch feine Details über das gesamte Bild hinweg neu geschrieben werden.
- Starke Retusche. Hautglättung und Frequenztrennung bauen Texturen in Gesichtern neu auf.
- Hochskalierte Bilder. Vergrößerung erfindet Pixel, und erfundene Pixel sind generierte Pixel.
- Illustrationen, 3D-Renderings und CGI. Niemals fotografiert, daher ähnelt nichts an ihnen einer Kameraaufnahme.
- Stockfotografie mit starker Rauschunterdrückung. Kommerziell bearbeitet, um sauber auszusehen, was als synthetisch gelesen wird.
- Sehr flache Bilder. Leere Wände, klare Himmel und schlichte Hintergründe tragen in keiner Richtung viele Signale.
Vergleich mit einem generierten Frame in den Neunzigern und einer lokalen Bearbeitung mit einer heißen Kachel. Dieses Muster ist keines von beiden.
Vierter Fall: Bewusste Umgehung
Die kleinste Kategorie und die, über die sich die meisten Menschen am meisten sorgen. Jede Technik, die Pixelbeziehungen umschreibt, senkt den Wert, und die meisten davon beschädigen dabei das Bild sichtbar.
Die Ausnahme ist das Compositing. Ein generiertes Objekt, das in ein echtes Foto eingefügt wird, behält im größten Teil des Bildes echte Texturen. Deshalb gibt es die Regionskarte und deshalb reicht eine Kennzahl für das gesamte Bild bei gegnerischen Manipulationen allein nicht aus.
Wie die einzelnen Fehler aussehen, wenn sie auftreten
| Was Sie sehen | Wahrscheinlichste Ursache | Was zu tun ist |
|---|---|---|
| Echtes Foto erzielt hohen Wert, gleichmäßig warme Karte | Verarbeitung oder Komprimierung | Originaldatei erneut prüfen |
| Echtes Foto erzielt hohen Wert, ein heißes Kachel | Eine legitime Bearbeitung oder ein flacher Bereich | Betrachten Sie, was sich in diesem Kachel befindet |
| Generiertes Bild erzielt niedrigen Wert, beschädigte Datei | Komprimierung oder ein Screenshot | Als keine Antwort behandeln, nicht als sauberes Ergebnis |
| Generiertes Bild erzielt niedrigen Wert, saubere Datei | Ein ungesehener Generator | Auf Provenienz und Herkunft zurückgreifen |
| Wert liegt im mittleren Bereich | Nicht genügend Signal in die eine oder andere Richtung | Finden Sie eine bessere Kopie |
| Keine Regionskarte erstellt | Bild zu klein zum Kacheln | Finden Sie eine größere Kopie |
Was das alles nicht ist
Es lohnt sich, Einschränkungen von Dingen zu trennen, die ein Detektor nie zu leisten versuchte. Ein Werkzeug ist nicht falsch, nur weil es etwas außerhalb seines Anwendungsbereichs nicht tut.
- Es kann nicht sagen, wer ein Bild gemacht hat. Nichts in den Pixeln verbindet eine Datei mit einer Person.
- Es kann nicht sagen, ob der Inhalt wahr ist. Ein echtes Foto kann eine falsche Bildunterschrift tragen, und das ist die weitaus häufigere Täuschung.
- Es kann den Generator nicht benennen. Nur ein Zertifikat oder eine Markierung in der Datei kann das leisten.
- Es kann eine Bearbeitung nicht umranden. Die Regionskarte zeigt, wo sich das Signal konzentriert, nicht die Grenze einer Manipulation.
Wie man einen Prozess baut, der dies toleriert
Die obigen Fehler sind dauerhafte Merkmale und keine Fehler, die auf eine Behebung warten. Die sinnvolle Frage lautet daher, wie man um sie herum designt, anstatt zu versuchen, sie zu vermeiden.
Verwenden Sie mehr als eine Art von Signal. Pixel, Provenienz und Publikationsverlauf versagen an unterschiedlichen Stellen, und ein Bild, das allen dreien verdächtig erscheint, ist ein viel stärkeres Ergebnis als eines, das nur einem von ihnen verdächtig erscheint.
Leiten Sie Kennzeichnungen an eine Person weiter und nicht an eine Aktion. Jeder schwerwiegende Fehler von oben wird erträglich, wenn die Konsequenz eines Fehlers darin besteht, dass jemand genauer hinschaut, und unerträglich, wenn die Konsequenz eine automatische Ablehnung ist.
Fordern Sie das Original an, bevor Sie irgendwelche Schlüsse ziehen. Ein bemerkenswerter Anteil falscher Ergebnisse klärt sich in diesem einzigen Schritt, da die Ihnen übergebene Datei fast nie die beste Kopie ist, die existiert.