← Alle Anleitungen Genauigkeit

Können KI-Bilddetektoren getäuscht werden?

Ja, und zu wissen wie, macht ein Ergebnis lesbar. Die Angriffsarten, warum einige davon funktionieren und wie ein manipuliertes Bild aussieht, wenn es eintrifft.

· 7 Min. Lesezeit · Best AI Image Detector

Ja. Jeder Detektor, der Pixel liest, kann durch das Umschreiben von Pixeln überlistet werden, und die günstigsten Angriffe sind die, die niemand beabsichtigt: ein Screenshot, ein erneutes Speichern, eine Größenänderung.

Warum jeder Pixel-Detektor überwunden werden kann

Ein Detektor liest die statistische Textur zwischen benachbarten Pixeln. Diese Textur ist der Beweis. Alles, was sie umschreibt, entfernt diesen Beweis, und es gibt viele alltägliche Gründe dafür, sie umzuschreiben.

Dies ist eine Eigenschaft der Methode und kein Fehler in einem einzelnen Produkt. Ein Tool, das behauptet, es könne nicht getäuscht werden, misst entweder etwas anderes als Pixel oder ist nicht ehrlich zu Ihnen.

Die Kategorien, beschrieben statt instruiert

Diese sind auf dem Niveau verfasst, das ein Prüfer benötigt. Das Wissen, dass eine Kategorie existiert, ermöglicht es Ihnen, deren Signatur in einem Ergebnis zu erkennen. Es ist keine Anleitung, und keines davon ist Schritt für Schritt aufgebaut.

Unbeabsichtigt und wirksam

  • Einen Screenshot des Bildes erstellen
  • Das Veröffentlichen über eine Plattform, die neu komprimiert
  • Die Größenänderung für eine Chat-App
  • Das Speichern eines Fotos von einem Bildschirm

Bewusst und teurer

  • Hinzufügen von Rauschen zur Maskierung von Texturen
  • Wiederholte Zyklen aus Größenänderung und erneuter Codierung
  • Ausdrucken und erneutes Fotografieren
  • Einfügen generierter Teile in einen echten Bildrahmen
Die linke Spalte kostet einen Betrüger nichts und passiert aus Versehen. Die rechte Spalte erfordert bewussten Aufwand und hinterlässt eigene Spuren.

Das letzte Element ganz rechts ist das wichtigste, weil es sich am schwersten mit einer einzigen Zahl erfassen lässt. Ein echtes Foto mit einem darin platzierten generierten Objekt weist im größten Teil des Bildes eine echte Textur auf.

Was die Regionenkarte dagegen tut

Die Bewertung des Bildes in Kacheln ist die direkte Antwort auf Compositing. Der Durchschnitt des gesamten Bildes wird durch die echten Teile nach unten gezogen, aber die Kachel mit dem eingefügten Element wird mit nichts gemittelt.

16 12 19 14 92 17 11 15 13

Das eingefügte Element beschränkt sich auf eine Kachel. Das ist das Muster, das die Mittelwertbildung zerstört und die Kachelung bewahrt.

Ein Composite. Der Wert für das gesamte Bild betrug 31, was für sich genommen wahrscheinlich echt wirkt.

Was die Umgehung die verantwortliche Person kostet

Jede Technik, die das Signal verbirgt, beschädigt auch das Bild. Dieser Kompromiss ist das Nützlichste, was ein Verteidiger wissen kann.

Der Kompromiss, den ein Angreifer eingeht
TechnikWas sie verbirgtWas es sie kostet
Starke RekompressionFeine Textur, die das Modell liestSichtbare Artefakte, weiche Details
Hinzugefügtes RauschenStatistische RegelmäßigkeitEin körniges Bild, das falsch aussieht
Wiederholte GrößenänderungPixelbeziehungenWeichheit und Ringing an Kanten
Drucken und erneutes FotografierenFast allesMoiré, Blendung, ein Foto, das wie das Foto eines Fotos aussieht
Einfügen in einen echten BildrahmenDer Durchschnitt des gesamten BildesNichts, weshalb Kachelung wichtig ist

Ein Bild, das so stark gewaschen wurde, dass es einen Detektor täuscht, sieht normalerweise gewaschen aus. Wenn ein Bild sowohl verdächtig schlechter Qualität ist als auch als Beweis für etwas angeboten wird, ist die Qualität selbst ein Befund.

Was sich nicht so einfach fälschen lässt

  • Eine Publikationsgeschichte. Ein vor Jahren indexiertes Bild wurde nicht letzten Monat generiert. Die Rückwärtssuche bleibt die stärkste Einzelprüfung.
  • Ein gültiges Content Credential. Ein signiertes Manifest, das an die aktuellen Pixel gebunden ist, ist kryptografisch. Es kann entfernt, aber nicht gefälscht werden.
  • Eine konsistente physische Szene. Schatten, Reflexionen und die Kontinuität zwischen Objekten sind nach wie vor die Bereiche, in denen Generatoren versagen, und eine Bildbereinigung behebt dies nicht.
  • Eine Datei, die bereits jemand anderes hat. Fragen Sie den Sender nach dem Original von dem Gerät, das es aufgenommen hat, und beobachten Sie, was als Nächstes passiert.

Was das für Sie bedeutet

Ein entschlossener, technischer Angreifer kann einen Pixeldetektor austricksen. Das stimmt und ist nicht der Regelfall. Die Bilder, die die meisten Leute prüfen, wurden unvorsichtig erstellt, beiläufig geteilt und enthalten ihre Beweise intakt oder haben sie an eine Chat-App statt an einen Angreifer verloren.

Bewerten Sie einen niedrigen Wert bei einem stark beeinträchtigten Bild lieber als kein Ergebnis denn als klares Resultat. Diese Unterscheidung handhabt fast jede Umgehung, auf die Sie stoßen werden, ohne dass Sie etwas über die dahinter stehende Technik wissen müssen.

Das Wettrüsten ist asymmetrisch

Generierung und Erkennung verbessern sich nicht mit derselben Geschwindigkeit, und das Ungleichgewicht verläuft in eine Richtung. Ein neuer Generator erscheint als ungesehene Daten für jeden existierenden Detektor. Das Neutraining folgt der Veröffentlichung, anstatt ihr voranzugehen, sodass es immer ein Zeitfenster gibt, in dem die neueste Ausgabe unsichtbar ist.

Das Zeitfenster ist nicht kurz. Das Sammeln von genügend Ausgaben von einem neuen Modell, das Kennzeichnen, das Neutraining und die Bereitstellung dauern im besten Fall Wochen. Während dieses Zeitraums bewertet ein Detektor neue Generierungen als echt, da sie nichts ähneln, worauf er zum Erkennen trainiert wurde.

Dies ist das stärkste praktische Argument dafür, sich niemals auf ein einziges Signal zu verlassen. Provenienzdaten und Publikationsgeschichte ist es egal, welches Modell ein Bild erstellt hat, sodass sie während des Zeitfensters weiter funktionieren, das die Pixelanalyse nicht abdecken kann.

  1. 1 Neuer Generator wird veröffentlicht Ausgabe ist für jeden Detektor ungesehen
  2. 2 Blindes Zeitfenster Wochen. Neue Ausgabe wird als echt bewertet
  3. 3 Gesammelte Stichproben Beschriftete Trainingsdaten zusammengestellt
  4. 4 Detektor neu trainiert Die Abdeckung holt auf, bis zur nächsten Veröffentlichung
Die Erkennung hinkt der Veröffentlichung konzeptbedingt hinterher. Ein Detektor ist bei der Generation vor der aktuellen immer am stärksten.

Häufig gestellte Fragen

Kann das Hinzufügen von Rauschen zu einem KI-Bild einen Detektor schlagen?
Manchmal, und es verschlechtert dabei das Bild. Rauschen maskiert die statistische Regelmäßigkeit, die ein Modell liest, was den Wert senkt, aber es lässt das Bild auch sichtbar körnig erscheinen. Ein Bild, das sowohl körnig ist als auch als Beweis präsentiert wird, verdient mehr Misstrauen, nicht weniger.
Verbirgt das Erstellen eines Screenshots ein KI-Bild?
Es reduziert das Signal erheblich, weshalb so viele generierte Bilder, die in Gruppenchats kursieren, schlechter abschneiden, als sie sollten. Dies ist der häufigste Weg, wie ein Detektor ausgetrickst wird, und fast niemand, der das tut, beabsichtigt, irgendetwas zu umgehen.
Wird es jemals unmöglich sein, Detektoren zu täuschen?
Nein. Die Erkennung liest, was in den Pixeln enthalten ist, und Pixel können neu geschrieben werden. Was sich verbessert, sind die Kosten für die Umgehung und die Anzahl der unabhängigen Signale, die gleichzeitig überwunden werden müssen. Betrachten Sie jede Behauptung einer unschlagbaren Erkennung als Grund, dem Tool weniger zu vertrauen.
Wie unterscheide ich ein bereinigtes Bild von einem echten minderwertigen Bild?
Oft können Sie das nicht, und das ist die ehrliche Antwort darauf. Was Sie tun können, ist aufzuhören, einen niedrigen Wert für eine degradierte Datei als klares Ergebnis zu behandeln. Wenn dem Bild die Details fehlen, um eine zuversichtliche Aussage zu stützen, lautet der Befund, dass es nicht bewertet werden kann.
Ist es illegal, zu versuchen, einen Detektor auszutricksen?
Das Austricksen eines Detektors ist an den meisten Orten für sich genommen keine Straftat. Wofür das resultierende Bild verwendet wird, ist es sehr oft: Versicherungsbetrug, gefälschte Beweise, Identitätsdiebstahl und Marktmanipulation sind alles Verbrechen, unabhängig davon, wie das Bild erstellt wurde. Die Bereinigung ist selten die Anklage, aber sie beweist häufig die Absicht.