Die zwei Spuren
Ein Detektor führt zwei unabhängige Prüfungen durch, und diese beantworten unterschiedliche Dinge. Sie getrennt zu halten ist die nützlichste Idee auf dieser Seite.
Pixelanalyse
- Funktioniert nach Screenshots und Komprimierung
- Liefert eine Wahrscheinlichkeit, keine Identität
- Von Natur aus generatorunabhängig
- Kann kein Werkzeug benennen
- Nimmt bei unbekannten Architekturen ab
Dateibeweise
- Kann das Werkzeug genau benennen
- Kryptographisch bei Signierung
- Wird von fast jeder Plattform entfernt
- Fehlt in den meisten Bildern
- Wird absichtlich trivial entfernt
Was eine Datei deklarieren kann
Wenn ein Bild noch seine ursprüngliche Struktur trägt, können verschiedene Arten von Markern vorhanden sein. Jeder davon ist eine Behauptung der Software, die es geschrieben hat, statt etwas, das von den Pixels abgeleitet wurde.
- Content Credentials. Ein signiertes Manifest, das das Werkzeug und dessen Aktion benennt. Einige große Generatoren signieren mittlerweile ihre Ausgabe, was die stärkste Form hiervon ist.
- Generierungsparameter. Mehrere offene Werkzeuge betten den Prompt, Seed, Sampler und Modellnamen direkt in die Datei ein, was mehr Informationen sind, als die meisten Leute erwarten würden.
- Software-Kennungen. Ein einfaches Metadatenfeld, das die Anwendung benennt, die das Bild zuletzt gespeichert hat.
- Deklarierte KI-Wasserzeichen. Eine Markierung, die besagt, dass ein unsichtbares Wasserzeichen angewendet wurde, was eher eine Deklaration als das Wasserzeichen selbst ist.
- Kameraaufnahme-Zusicherungen. Die entgegengesetzte Behauptung einer signierenden Kamera, dass die Datei von einem Sensor stammt.
All dies verschwindet in dem Moment, in dem ein Bild auf fast jede beliebige Plattform hochgeladen wird. Aus diesem Grund lohnt es sich, einen Dateiscan durchzuführen, und es lohnt sich niemals, sich darauf zu verlassen: Wenn er etwas findet, ist der Befund stark, und in den meisten Fällen findet er nichts.
Warum es schwierig ist, den Generator zu benennen
Es klingt, als sollte es möglich sein. Verschiedene Werkzeuge erzeugen unterschiedliche Ästhetiken, und eine Person, die sich intensiv damit beschäftigt, kann oft richtig raten. Diese Intuition überträgt sich aus drei Gründen nicht auf einen Detektor.
Modelle teilen Architekturen und Trainingsdaten, sodass sich ihre statistischen Fingerabdrücke stark überschneiden. Viele Werkzeuge sind Fine-Tuning-Versionen derselben Basis, was sie auf Texturebene fast ununterscheidbar macht, selbst wenn ihre Ausgaben für einen Menschen unterschiedlich aussehen.
Ausgaben werden auch nachbearbeitet. Upscaling, Gesichtsrestaurierung und Bearbeitung finden alle nach der Generierung statt und überschreiben genau die Textur, von der eine Identifizierung abhängen würde. Zu dem Zeitpunkt, an dem ein Bild veröffentlicht wird, enthält es möglicherweise mehr vom Upscaler als vom Generator.
Und das Ziel bewegt sich ständig. Jedes Identifizierungsmodell ist eine Nachschlagetabelle von Dingen, die bereits existierten, was dazu führt, dass es bei allem, was seit seinem Training veröffentlicht wurde, auf eine Weise falsch liegt, die eher still als offensichtlich ist.
Was gute Abdeckung tatsächlich bedeutet
Die nützliche Frage zu einem Detektor ist nicht, welche Generatoren er namentlich erkennt. Es geht darum, wie breit das Training war, denn die Breite ist es, die die Leistung bei dem Modell vorhersagt, das noch nicht ausgeliefert wurde.
| Ansatz | Stärke | Schwäche |
|---|---|---|
| Training mit einigen wenigen großen kommerziellen Werkzeugen | Hohe Genauigkeit bei diesen Werkzeugen | Schlechte Verallgemeinerung auf alles andere |
| Training über Tausende von Generatoren hinweg | Verallgemeinert auf unsichtbare Modelle | Geringere Spitzengenauigkeit bei jedem einzelnen |
| Nach dem Artefakt einer Architektur suchen | Sehr hoch, solange es anhält | Versagt vollständig, wenn sich die Methode ändert |
| Nur Dateimarker lesen | Exakt, wenn vorhanden | Blind bei der Mehrheit der Bilder |
Die zweite Zeile ist der hier verwendete Ansatz, und dieser Kompromiss ist gewollt. Ein Detektor, der bei vier Produkten exzellent und beim fünften nutzlos ist, ist nicht sehr nützlich, um ein Bild zu prüfen, das Ihnen jemand geschickt hat.
Zu Produktnamen
Listen unterstützter Generatoren sind eher ein Marketing-Artefakt als ein technisches. Ein Pixelmodell hat keine Liste; es hat eine Trainingsverteilung. Die Nennung von Produkten impliziert eine werkzeugspezifische Fähigkeit, die eine breite Erkennung nicht hat und nicht braucht.
Wenn hier ein Name in einem Ergebnis auftaucht, stammt er aus der Datei und nicht aus den Pixeln, und das Ergebnis weist ausdrücklich darauf hin. Auf dieser Unterscheidung lohnt es sich bei jedem Werkzeug zu bestehen, das Sie verwenden.
Wie man eine Abdeckungsbehauptung liest
Anbieter beschreiben die Abdeckung auf Weisen, die vergleichbar klingen, es aber nicht sind. Drei Formulierungen tauchen immer wieder auf und jede bedeutet etwas anderes.
Erkennt Bilder von X, Y und Z bedeutet in der Regel, dass der Benchmark diese drei enthielt. Dies ist eine Aussage über das Testen statt über die Fähigkeit und sagt nichts über den vierten Generator aus.
Unterstützt über vierzig Generatoren bedeutet in der Regel, dass der Trainingsdatensatz aus so vielen Quellen stammte. Das ist aussagekräftiger, da die Breite des Trainings die Verallgemeinerung vorhersagt, und es ist dennoch keine Garantie für ein bestimmtes Werkzeug.
Die Bestimmung des Ursprungsmodells ist der umstrittenste Anspruch. Fragen Sie sich, ob diese Zuordnung aus der Datei oder aus den Pixeln stammt. Wenn sie aus den Pixeln stammt, fragen Sie nach der Genauigkeit der Zuordnung getrennt von der Genauigkeit der Erkennung, da es sich dabei um völlig unterschiedliche Werte handelt.