Come una GAN costruisce un'immagine
Una generative adversarial network parte da un piccolo vettore e lo ingrandisce ripetutamente tramite upsampling, raddoppiando la risoluzione a ogni livello fino a raggiungere le dimensioni finali. Una seconda rete giudica il risultato e le due si addestrano a vicenda.
L'upsampling ripetuto è la parte importante. Ogni passaggio di raddoppio introduce un pattern regolare e questi pattern si accumulano in una struttura periodica che è visibile quando l'immagine viene trasformata nel dominio della frequenza.
Quella struttura era vicina a una firma. I primi detector potevano cercare un pattern a scacchiera nello spettro delle frequenze e raggiungere un'elevata precisione senza comprendere nulla dell'immagine. Era un'impronta digitale dell'architettura piuttosto che di un modello specifico.
Come un modello diffusion ne costruisce una
Diffusion funziona al contrario. Inizia con un campo di rumore puro alla piena risoluzione target e ne rimuove una piccola parte a ogni passaggio, guidato da ciò che il modello ha appreso, finché non emerge un'immagine.
Non c'è una scala di sovracampionamento (upsampling), quindi non ci sono artefatti periodici. L'output è statisticamente diverso da uno scatto fotografico e la differenza è diffusa anziché strutturale. Nulla in esso appare come un pattern pulito che si possa cercare.
GAN
- Piccolo vettore sovracampionato ripetutamente
- Artefatti periodici da ogni raddoppio
- Rilevabili nel dominio della frequenza
- L'architettura lascia una quasi-firma
- Dominante fino a circa il 2022
Diffusion
- Rumore rimosso passo dopo passo a piena risoluzione
- Nessuna scala di sovracampionamento, nessun pattern periodico
- La differenza è statistica, non strutturale
- Richiede un modello addestrato per essere rilevato
- Dominante dal 2022
Perché i vecchi rilevatori hanno smesso di funzionare
Uno strumento creato per trovare il motivo a scacchiera nel dominio della frequenza non trova nulla in un'immagine di diffusion. Non segnala incertezza; segnala che l'artefatto è assente, il che appare come un risultato pulito.
Ecco perché l'accuratezza del rilevamento in questo campo è sembrata crollare tra il 2021 e il 2023. Gli strumenti non si erano degradati. La cosa che stavano cercando aveva smesso di essere prodotta.
Cosa ha sostituito il rilevamento specifico per architettura
Ampiezza. Anziché cercare un singolo artefatto, i rilevatori attuali sono addestrati sull'output di quanti più generatori diversi è possibile raccogliere, in modo che il modello impari ciò che la texture sintetica ha in comune anziché ciò che una singola famiglia produce.
Il modello utilizzato qui è stato addestrato su milioni di immagini provenienti da migliaia di generatori esattamente per questo motivo. La copertura tra le diverse architetture è ciò che garantisce la generalizzazione a quella successiva, ed è l'unico approccio sopravvissuto a un cambiamento di metodo dominante.
Il compromesso è che l'accuratezza su qualsiasi singolo generatore noto è inferiore a quella che otterrebbe un rilevatore specializzato. È il compromesso giusto, perché uno specialista è inutile il giorno in cui arriva qualcosa di nuovo.
Cosa prevede questo
La lezione della transizione da GAN a diffusion non riguarda diffusion. Riguarda il fatto che qualsiasi rilevatore legato al modo in cui le immagini vengono prodotte attualmente ha una vita limitata, e la transizione non verrà annunciata in anticipo.
| Approccio | Ha funzionato su | Ha fallito quando |
|---|---|---|
| Ricerca di artefatti in frequenza | GAN | È arrivato diffusion |
| Analisi specifica per i volti | Primi scambi di volto (face swap) | È arrivata la generazione di intere scene |
| Ispezione dei metadati | File direttamente da uno strumento | Le piattaforme hanno rimosso i metadati |
| Analisi dei livelli di errore (ELA) | JPEG salvati una sola volta | Le immagini hanno iniziato a viaggiare |
| Ampio addestramento multi-generatore | La maggior parte dell'output attuale | Sconosciuto, e successivo agli altri |
Tutto questo importa a un utente?
Principalmente spiega due cose che noterete. Primo, perché di solito un rilevatore non sa indicare quale strumento ha prodotto un'immagine: sta leggendo una proprietà statistica condivisa anziché un'impronta digitale per singolo modello.
Secondo, perché i vecchi strumenti di controllo gratuiti funzionano male. Diversi strumenti ancora online sono stati creati attorno agli artefatti delle GAN e non sono stati riaddestrati. Restituiscono risultati puliti e sicuri sull'output attuale, e nulla nell'interfaccia ne spiega il motivo.
Cosa fa una pipeline ibrida a un risultato
La maggior parte delle immagini che ricevete non è stata prodotta da un singolo metodo. Un modello di diffusion genera una base, un upscaler basato su GAN la ingrandisce, un passaggio di ripristino del volto corregge gli occhi e un editor ritaglia e salva nuovamente il risultato.
Ogni fase riscrive la texture, quindi il file porta con sé tracce di diversi processi stratificati l'uno sull'altro. L'ultimo a toccare l'immagine di solito domina ciò che un rilevatore legge, motivo per cui un'immagine di diffusion sovracampionata può sembrare statisticamente più simile all'upscaler che al generatore.
Questo è il motivo pratico per cui l'identificazione dell'architettura non funziona al di fuori di un laboratorio. In un test controllato con output pulito da singolo modello è un problema risolvibile. Su un'immagine che è passata attraverso una vera pipeline di produzione, la domanda non è posta correttamente.
Spiega anche un risultato che le persone trovano confuso: un'immagine genuinamente generata che ottiene un punteggio inferiore rispetto a una fotografia pesantemente sovracampionata. La texture di entrambe è stata riscrivibile dal software, e il rilevatore sta leggendo la riscrittura anziché l'origine.