Prima famiglia: l'immagine è stata degradata
La categoria più ampia con un ampio margine. Il segnale che un rilevatore legge vive nella texture fine, e quella texture è la prima cosa che ogni compressione, ridimensionamento e screenshot elimina.
- Salvataggi JPEG ripetuti. L'accuratezza scende dal 91,3 percento sugli originali puliti all'84,6 percento alla qualità 40 sul benchmark pubblicato, e ulteriormente nell'uso reale.
- Screenshot. Un re-rendering alla risoluzione dello schermo con il file originale scartato del tutto.
- Ridimensionamento. Meno pixel, meno texture e, al di sotto di circa 576 pixel sul lato più corto, nessuna mappa delle regioni.
- Riconversione della piattaforma. Ogni caricamento comporta almeno una riconversione e la maggior parte delle immagini è passata attraverso diverse.
- Ritaglio aggressivo. Un piccolo ritaglio di un'immagine grande perde il contesto su cui il modello è stato calibrato.
Il degrado spinge i punteggi verso il centro in entrambe le direzioni: le fotografie autentiche verso l'alto, le immagini generate verso il basso. Un risultato medio su un file chiaramente viaggiato di solito indica il file, non l'immagine.
Seconda famiglia: il generatore non è stato visto
Un rilevatore riconosce ciò su cui è stato addestrato. Un modello rilasciato dopo la fine dell'addestramento è un territorio sconosciuto, e l'output sconosciuto tende a ottenere punteggi bassi anziché incerti.
- 1 Generatore rilasciato Nessuno ha visto il suo output
- 2 Finestra cieca Il nuovo output ottiene un punteggio reale
- 3 Campioni raccolti Settimane di raccolta ed etichettatura
- 4 Rilevatore aggiornato Fino al prossimo rilascio
Questo produce falsi negativi sicuri, che sono il tipo più pericoloso. Lo strumento non segnala incertezza; sta comunicando che un'immagine ha un buon aspetto perché non assomiglia a nulla che sia stato istruito a segnalare.
Terza famiglia: il contenuto assomiglia a una texture sintetica
Alcune immagini autentiche sono semplicemente difficili. Non perché sia stato fatto qualcosa per ingannare, ma perché la texture che contengono assomiglia alla texture prodotta dalla generazione.
- Modalità notte dello smartphone e fotografia computazionale. Diversi fotogrammi uniti e denoisizzati dal software, che riscrive i dettagli fini sull'intera immagine.
- Ritocco pesante. La levigatura della pelle e la separazione delle frequenze ricostruiscono la texture sui volti.
- Immagini sovracampionate. L'ingrandimento inventa pixel, e i pixel inventati sono pixel generati.
- Illustrazioni, rendering 3D e CGI. Mai fotografati, quindi nulla in essi assomiglia a uno scatto fotografico.
- Fotografia stock con pesante riduzione del rumore. Elaborata commercialmente per apparire pulita, il che viene letto come sintetico.
- Immagini molto piatte. Pareti bianche, cieli limpidi e sfondi semplici portano scarso segnale in entrambe le direzioni.
Confronta con un fotogramma generato negli anni novanta e una modifica locale con una piastrella calda. Questo pattern non è nessuno dei due.
Quartetto familiare: elusione deliberata
La categoria più piccola e quella che preoccupa di più. Qualsiasi tecnica che riscriva le relazioni tra i pixel abbassa il punteggio e la maggior parte di esse danneggia visibilmente l'immagine mentre lo fa.
L'eccezione è il compositing. Un oggetto generato inserito in una fotografia autentica mantiene una texture reale nella maggior parte dell'inquadratura, motivo per cui esiste la mappa delle regioni e perché un numero riferito all'intera immagine da solo non basta per alcuno scenario avversario.
Che aspetto ha ciascun errore quando si manifesta
| Cosa vedi | Causa più probabile | Cosa fare |
|---|---|---|
| Foto autentica con punteggio alto, mappa uniformemente calda | Elaborazione o compressione | Ricontrolla il file originale |
| Foto autentica con punteggio alto, una casella calda | Una modifica legittima o una regione piatta | Guarda cosa c'è in quella casella |
| Immagine generata con punteggio basso, file degradato | Compressione o uno screenshot | Trattalo come nessuna risposta, non come un risultato pulito |
| Immagine generata con punteggio basso, file pulito | Un generatore non riconosciuto | Fai affidamento sulla provenienza e sulle fonti |
| Il punteggio si trova nella fascia centrale | Segnale insufficiente in un senso o nell'altro | Trova una copia migliore |
| Nessuna mappa delle regioni prodotta | Immagine troppo piccola per essere suddivisa in caselle | Trova una copia più grande |
Cosa tutto questo non è
Vale la pena separare i limiti dalle cose che un rilevatore non ha mai cercato di fare. Uno strumento non sbaglia se non riesce a fare qualcosa al di fuori del proprio ambito.
- Non può dire chi ha creato un'immagine. Nessun elemento nei pixel lega un file a una persona.
- Non può dire se il contenuto sia vero. Una fotografia autentica può avere una didascalia falsa, e questo è l'inganno più comune.
- Non può dare un nome al generatore. Solo una credenziale o un marcatore nel file possono farlo.
- Non può tracciare il contorno di una modifica. La mappa delle regioni mostra dove si concentra il segnale, non il confine di una manipolazione.
Come costruire un processo che tolleri questo
I guasti descritti sopra sono caratteristiche permanenti piuttosto che bug in attesa di una correzione, quindi la domanda utile è come aggirarli progettando il flusso di lavoro piuttosto che come evitarli.
Usa più di un tipo di segnale. Pixel, provenienza e cronologia di pubblicazione falliscono in punti diversi, e un'immagine che appare sospetta per tutti e tre è un riscontro molto più forte di una che appare sospetta per uno solo di essi.
Invia i flag a una persona piuttosto che a un'azione automatica. Ogni errore grave menzionato sopra diventa tollerabile se la conseguenza di un errore è che qualcuno esamini la cosa più a fondo, e intollerabile se la conseguenza è un rifiuto automatico.
Chiedi l'originale prima di trarre qualsiasi conclusione. Una percentuale notevole di risultati errati si risolve in questo singolo passaggio, perché il file che ti è stato dato non è quasi mai la copia migliore esistente.