Tre livelli, facilmente confondibili
Districarsi tra questi spiega la maggior parte dei consigli contraddittori in questo ambito, poiché ogni livello fallisce in modo diverso e le persone generalizzano a partire da quello che hanno incontrato per primo.
| Livello | Dove risiede | Cosa lo rimuove |
|---|---|---|
| Metadati e credenziali | Accanto ai pixel nel file | Qualsiasi caricamento che elimina i metadati |
| Filigrana invisibile | All'interno dei valori dei pixel | Ritaglio pesante, rigenerazione, compressione forte |
| Rilevamento statistico | Da nessuna parte, è dedotto | Nulla lo rimuove; l'accuratezza diminuisce |
| Filigrana visibile | Disegnata sull'immagine | Ritaglio o strumento di inpainting |
La terza riga è l'eccezione ed è il motivo per cui esiste un rilevatore. Non c'è nulla da rimuovere, perché non è stato aggiunto nulla: l'analisi legge proprietà che il processo di generazione ha prodotto incidentalmente.
Ciò rende i livelli complementari piuttosto che in competizione. Un controllo della filigrana è esatto quando rileva qualcosa e silenzioso altrimenti; un controllo dei pixel restituisce sempre qualcosa e non è mai certo.
Come funziona una filigrana invisibile
Il generatore apporta piccoli aggiustamenti strutturati ai valori dei pixel durante la creazione dell'immagine, secondo un pattern che solo un rilevatore corrispondente sa come cercare. Le modifiche sono, per design, sotto la soglia della percezione visiva.
Poiché il segnale si trova nei pixel piuttosto che nel contenitore del file, sopravvive a cose che distruggono i metadati. Fare screenshot, ricodificare, ridimensionare e caricare su una piattaforma lascia i metadati indietro ma può lasciare intatta una filigrana ben progettata.
Quella durabilità è l'intero punto, ed è anche limitata. Un ritaglio aggressivo rimuove le parti del pattern che si trovavano nella regione scartata, una compressione pesante lo degrada e far passare l'immagine attraverso un secondo modello generativo sovrascrive completamente i pixel.
C'è anche una limitazione strutturale che viene trascurata: la filigrana è proprietaria del sistema che l'ha incorporata. Un verificatore costruito da un provider legge i marchi di quel provider e tace sull'output di chiunque altro, inclusi tutti i modelli aperti che non incorporano nulla.
Indicativo. Il comportamento differisce tra gli schemi di filigranatura e tra le piattaforme.
Le ultime due colonne sono quelle interessanti. Uno screenshot distrugge il segnale statistico che un rilevatore legge lasciando intatta una filigrana durevole; la rigenerazione fa l'opposto. Nessun livello copre l'altro completamente, il che giustifica l'utilizzo di entrambi.
Perché non puoi controllare ogni filigrana
Questa è la limitazione pratica che delude le persone. La verifica richiede il rilevatore che corrisponde al sistema di incorporamento, e questi sono controllati dalle organizzazioni che li hanno costruiti.
Alcuni provider espongono una pagina di verifica pubblica per il proprio output. Altri la rendono disponibile solo ai partner, e i modelli aperti solitamente non incorporano nulla, il che significa che una gran parte delle immagini generate sul web non reca alcuna filigrana da trovare.
Quindi, un risultato negativo della filigrana è quasi privo di significato. Ti dice che questo particolare schema non è stato attivato, che è il risultato atteso per l'output di qualsiasi altro sistema e per qualsiasi cosa sia stata ricodificata in modo aggressivo.
Un risultato positivo è l'opposto: forte, specifico e merita attenzione. Quando un verificatore di filigrane dice che una foto proviene da un determinato sistema, si tratta di una dichiarazione del sistema stesso piuttosto che di una deduzione al riguardo.
Dove stiamo andando
La direzione è verso la stratificazione piuttosto che verso un'unica risposta. Credenziali nel file, una filigrana nei pixel e rilevamento statistico sopra di essi, ognuno dei quali copre i casi che gli altri perdono.
L'adozione è il collo di bottiglia piuttosto che la tecnologia. La filigranatura funziona bene quando il generatore la implementa, la piattaforma la preserva e un verificatore è disponibile; se uno di questi tre elementi viene meno, si torna alla lettura dei pixel.
Per chiunque debba prendere decisioni oggi, la posizione pratica rimane invariata. Esegui i controlli disponibili, tratta un marcatore positivo come forte e uno mancante come silenzio, e dai peso alla provenienza e al contesto dove la posta in gioco è reale.
Perché la ricerca sulla rimozione conta più della rimozione stessa
Il lavoro accademico dimostra regolarmente che un determinato schema di filigranatura può essere rimosso, e ogni dimostrazione viene riportata come se l'idea avesse fallito. Quella lettura perde di vista a cosa serve la tecnica.
Una filigrana non è un lucchetto. È un costo imposto alla persona che vuole far passare un output generato come fotografico, un costo che la maggior parte delle persone non pagherà. Il repost casuale, che rappresenta la stragrande maggioranza delle immagini fuorvianti, non sopravvive a questo.
Il confronto che vale la pena fare è con i metadati, che vengono rimossi accidentalmente da ogni piattaforma su Internet senza che nessuno ci provi. Un segnale che richiede uno sforzo deliberato per essere sconfitto è un miglioramento sostanziale, anche se un avversario determinato può sconfiggerlo.
La critica ha senso laddove si parla di certezze. Un provider che afferma che la sua filigrana prova l'origine sta esagerando; uno che afferma che la sua filigrana identifica il proprio output non modificato sta descrivendo la cosa accuratamente.
Cosa fare con un risultato positivo
Trattalo come il segnale singolo più forte disponibile in questo campo, ma non come la fine dell'indagine. Una filigrana identifica il sistema che ha prodotto i pixel, il che non è la stessa cosa che stabilire cosa si intende affermare con l'immagine.
Un'illustrazione generata non è un problema perché è generata. Diventa un problema quando viene presentata come una testimonianza di qualcosa che è accaduto, e quella presentazione è una questione riguardante la didascalia piuttosto che il file.
Per chiunque stia costruendo un processo attorno a questo, la sequenza che funziona è controllare prima il file, poi la filigrana dove esiste un verificatore, e infine i pixel. Ogni passaggio è più economico e più conclusivo di quello successivo, e la maggior parte delle immagini viene risolta prima del terzo.
La parte controintuitiva è che il livello meno conclusivo è l'unico che risponde sempre. Questa non è una critica al rilevamento; è il motivo per cui esiste, e il motivo per cui un risultato dovrebbe essere letto come una probabilità piuttosto che come un verdetto.