Due cose diverse che le persone chiamano nello stesso modo
Un'immagine interamente generata parte dal nulla. Non c'è una fotografia sotto, nessuna lettura del sensore, nessun momento che sia accaduto. Ogni pixel è stato prodotto da un modello, e la persona al suo interno non ha un'identità da diffamare perché non c'è nessuna persona.
Un deepfake parte da qualcosa di reale. C'è una fotografia o un video sotto, una cattura autentica di un momento autentico, e un modello ha sostituito una regione specifica, solitamente un volto, con il rendering di qualcun altro.
La distinzione è importante a livello legale, editoriale e tecnico. Una foto stock generata di un medico inesistente è una questione di licenza. Una fotografia di un medico reale con il volto incollato su un corpo a cui non è mai stato attaccato è una questione di diffamazione, e possibilmente penale.
Perché il deepfake è più difficile da individuare
Un rilevatore analizza la texture statistica di un'immagine e indica quanto essa assomigli a qualcosa di prodotto da un modello. Quando l'intero fotogramma è sintetico, quel segnale è ovunque e il punteggio è inequivocabile.
Una sostituzione di volto inverte il problema. Il novanta per cento dell'immagine è una fotografia reale, con vero rumore del sensore e vera cronologia di compressione; la media dell'intero fotogramma riflette questo. Una sostituzione convincente può produrre un punteggio intorno al trenta su un'immagine che è autenticamente ingannevole.
Non si tratta di un fallimento del modello, quanto piuttosto di un fallimento della domanda. Chiedersi se l'immagine sia generata ha poco senso quando la risposta onesta è che gran parte di essa non lo è, ma una parte importante sì.
La media che ha prodotto 33 è esattamente ciò che nasconde l'unico riquadro rilevante.
La mappa delle regioni è la risposta a questo problema di forma. Analizzare i riquadri sovrapposti separatamente significa che una sostituzione localizzata viene misurata rispetto al suo intorno, anziché diluita in un fotogramma a cui non appartiene.
Il vocabolario, in ordine di apparizione
| Termine | Cosa significa | Il soggetto è reale? |
|---|---|---|
| Deepfake | L'immagine di una persona reale trasferita su un altro filmato | Sì |
| Face swap | La forma comune di deepfake, su una foto o un video | Sì |
| Generata dall'IA | Prodotto da un prompt senza una fotografia di origine | No |
| Modificato dall'AI | Una foto reale con qualcosa aggiunto o rimosso | Solitamente |
| Media sintetici | Termine ombrello che copre tutto quanto sopra | Dipende |
| Cheapfake | Media reali fuorviati da didascalia, ritaglio o data non corretta | Sì |
Vale la pena soffermarsi sull'ultima riga, perché è la forma più comune di disinformazione visiva e quella che nessun rilevatore affronta. Una fotografia autentica, non modificata, scattata in un altro paese tre anni fa e presentata come notizia di oggi, otterrà un punteggio da fotografia reale quale è.
Cosa fare in concreto, caso per caso
- Sospetti che l'intera immagine sia inventata. Esegui un controllo sull'intero fotogramma. Un punteggio alto con una mappa piatta è quanto di più chiaro si possa ottenere.
- Sospetti che una persona sia stata inserita o sostituita. Leggi prima la mappa delle regioni. Il numero tenderà a sottostimare il fenomeno.
- Sospetti che un documento sia stato alterato. Come sopra, e aspettati esattamente un riquadro critico sul campo modificato.
- Sospetti che la didascalia menta. Un rilevatore non può essere d'aiuto. Effettua una ricerca inversa per immagini, quindi verifica data e luogo.
- Si tratta di un video. Sono necessari strumenti completamente diversi. L'analisi dei fotogrammi singoli non rileva gli artefatti temporali che tradiscono le sostituzioni in tempo reale.
Perché questa distinzione protegge le persone
Trattare ogni immagine sintetica come ugualmente grave produce due fallimenti contemporaneamente. Spreca attenzione su cose innocue, come qualcuno che usa un ritratto generato perché non poteva permettersi un fotografo, e sottovaluta il caso che danneggia davvero una persona.
Il danno non risiede nel fatto che i pixel siano artificiali. Risiede nel fatto che una persona reale e identificabile viene mostrata mentre compie azioni che non ha mai compiuto. È questo l'aspetto su cui intervenire, ed è il caso in cui un punteggio medio è il meno affidabile come sintesi.
Strutturare una policy interna basandola sull'identità anziché sulla tecnologia la rende anche più duratura. I metodi continueranno a cambiare; la questione se una persona specifica sia stata rappresentata in modo errato, no.
Come viene realizzato un face swap
Capire la produzione aiuta a spiegare il rilevamento. Una sostituzione inizia con una fotografia target e una serie di immagini della persona il cui volto verrà utilizzato. Un modello impara a renderizzare quel volto in base alla luce, all'angolazione e all'espressione già presenti nel target.
Il volto renderizzato viene quindi ricomposto nel fotogramma originale, e la giuntura è la parte difficile. Le due metà presentano rumore diverso, una diversa cronologia di compressione e spesso una risposta cromatica leggermente diversa, quindi la fase di fusione leviga il confine finché l'occhio non nota più l'unione.
È quella levigatura che la mappa delle regioni legge. La fusione rimuove la texture ad alta frequenza prodotta dal sensore, e la porzione risultante è statisticamente diversa da tutto ciò che la circonda, anche quando l'unione è invisibile. La giuntura è invisibile e misurabile allo stesso tempo.
Ciò spiega anche perché una sostituzione superi così facilmente un controllo sull'intero fotogramma. L'area manipolata è piccola, deliberatamente fusa con l'ambiente circostante e circondata da una fotografia autentica che domina qualsiasi media calcolata sull'intero fotogramma.
L'errore che continua a ripetersi
Le persone analizzano un presunto deepfake con un rilevatore, vedono un punteggio intorno al trenta e concludono che l'immagine sia autentica. Questa è la deduzione sbagliata da un numero corretto: il punteggio è esatto, ma la domanda a cui risponde non era quella che si poneva l'utente.
L'abitudine che risolve il problema è semplice. Su qualsiasi immagine in cui la preoccupazione riguardi una persona specifica, apri la mappa delle regioni prima di leggere il valore principale e considera il riquadro con il punteggio più alto, anziché la media, come l'elemento su cui agire.