Le due corsie
Un rilevatore esegue due controlli indipendenti che rispondono a esigenze diverse. Tenervi separati è l'idea più utile di questa pagina.
Analisi dei pixel
- Funziona dopo screenshot e compressione
- Restituisce una probabilità, non un'identità
- Indipendente dal generatore per progettazione
- Non può nominare uno strumento
- Si degrada di fronte ad architetture non viste
Prove nel file
- Può nominare esattamente lo strumento
- Crittografico quando firmato
- Rimosso da quasi tutte le piattaforme
- Assente dalla maggior parte delle immagini
- Facilmente rimosso di proposito
Cosa può dichiarare un file
Quando un'immagine conserva ancora la sua struttura originale, possono essere presenti diversi tipi di indicatori. Ciascuno è una dichiarazione fatta dal software che lo ha scritto piuttosto che qualcosa derivato dai pixel.
- Credenziali di Contenuto. Un manifesto firmato che indica lo strumento e ciò che ha fatto. Alcuni importanti generatori ora firmano il loro output, che rappresenta la forma più forte di questo meccanismo.
- Parametri di generazione. Diversi strumenti aperti incorporano il prompt, il seed, il campionatore e il nome del modello direttamente nel file, il che rappresenta una quantità di informazioni superiore a quella che la maggior parte delle persone si aspetta di trovare.
- Identificatori software. Un campo di metadati semplice che indica l'applicazione che ha salvato per ultima l'immagine.
- Watermark IA dichiarati. Un flag che attesta che è stato applicato un watermark invisibile, il quale costituisce una dichiarazione piuttosto che il watermark stesso.
- Asserzioni di acquisizione della fotocamera. L'affermazione opposta, fatta da una fotocamera con firma, secondo cui il file proviene da un sensore.
Tutti questi elementi scompaiono nel momento in cui un'immagine viene caricata su quasi tutte le piattaforme. Ecco perché vale la pena eseguire una scansione del file ma non fare mai affidamento solo su di essa: quando rileva qualcosa, l'indizio è forte, ma nella maggior parte dei casi non trova nulla.
Perché nominare il generatore è difficile
Sembra che dovrebbe essere possibile. Strumenti diversi producono estetiche diverse e una persona che vi dedica del tempo spesso può indovinare correttamente. Questa intuizione non si trasferisce a un rilevatore per tre ragioni.
I modelli condividono architetture e dati di addestramento, quindi le loro impronte statistiche si sovrappongono pesantemente. Molti strumenti sono versioni messe a punto dello stesso modello base, il che li rende quasi indistinguibili a livello di texture anche quando i loro output sembrano diversi a una persona.
Anche gli output vengono post-elaborati. L'upscaling, il recupero dei volti e l'editing avvengono tutti dopo la generazione e sovrascrivono esattamente la texture da cui dipenderebbe l'identificazione. Nel momento in cui un'immagine viene pubblicata, potrebbe trasportare più dati dell'upscaler che del generatore.
Inoltre, il bersaglio si sposta continuamente. Qualsiasi modello di identificazione è una tabella di ricerca di cose che già esistevano, il che lo rende in errore su qualsiasi cosa sia stata rilasciata dopo il suo addestramento, in modo silenzioso anziché ovvio.
Cosa significa realmente una buona copertura
La domanda utile su un rilevatore non è quali generatori riconosce per nome. È quanto sia stata ampia la fase di addestramento, poiché l'ampiezza è ciò che predice le prestazioni sul modello che non è stato ancora rilasciato.
| Approccio | Forza | Debolezza |
|---|---|---|
| Addestra su pochi strumenti commerciali principali | Elevata accuratezza su tali strumenti | Scarsa generalizzazione su qualsiasi altra cosa |
| Addestra su migliaia di generatori | Generalizza a modelli non visti | Minore accuratezza di picco su un singolo modello |
| Cerca l'artefatto di un'architettura | Molto alta finché dura | Fallisce completamente quando il metodo cambia |
| Leggi solo gli indicatori di file | Esatti quando presenti | Cieco sulla maggior parte delle immagini |
La seconda riga rappresenta l'approccio utilizzato qui, e il compromesso è deliberato. Un rilevatore che eccelle su quattro prodotti e risulta inutile sul quinto non è molto utile per controllare un'immagine che qualcuno ti ha inviato.
Sui nomi dei prodotti
Gli elenchi dei generatori supportati sono un artefatto di marketing più che tecnico. Un modello di pixel non ha un elenco; ha una distribuzione di addestramento. Nominare i prodotti implica una capacità specifica per singolo strumento che il rilevamento ampio non possiede e non richiede.
Laddove un nome compare in un risultato qui, proviene dal file anziché dai pixel, e il risultato lo specifica. È una distinzione su cui vale la pena insistere con qualsiasi strumento tu utilizzi.
Come leggere una dichiarazione di copertura
I fornitori descrivono la copertura in modi che sembrano comparabili ma non lo sono. Tre formulazioni ricorrono ripetutamente e ciascuna significa qualcosa di diverso.
Rileva immagini da X, Y e Z di solito significa che il benchmark conteneva quei tre elementi. È un'affermazione che riguarda il test piuttosto che la capacità, e non dice nulla sul quarto generatore.
Supporta oltre quaranta generatori di solito significa che il set di addestramento ha attinto da quel numero di fonti. Ciò è più significativo, poiché l'ampiezza dell'addestramento è ciò che predice la generalizzazione, pur non costituendo comunque una garanzia su alcuno strumento specifico.
Identificare il modello di origine è la richiesta più difficile in assoluto. Chiediti se tale identificazione provenga dal file o dai pixel. Se proviene dai pixel, richiedi l'accuratezza dell'identificazione separatamente da quella del rilevamento, poiché si tratta di valori molto diversi.