Två olika saker folk kallar för samma sak
En helt genererad bild börjar från ingenting. Det finns inget fotografi i botten, ingen sensoravläsning, inget ögonblick som faktiskt ägt rum. Varje pixel skapades av en modell, och personen i bilden har ingen identitet att förtala eftersom det inte finns någon person.
En deepfake utgår från något verkligt. Det finns ett fotografi eller en video under, en äkta bild av ett äkta ögonblick, och en modell har ersatt ett specifikt område, vanligtvis ett ansikte, med en rendering av någon annan.
Skillnaden har betydelse juridiskt, redaktionellt och tekniskt. En genererad stockbild av en icke-existerande läkare är en licensfråga. Ett fotografi av en verklig läkare med ansiktet inklistrat på en kropp det aldrig tillhört är en fråga om förtal, och möjligen ett brott.
Varför deepfakes är svårare att upptäcka
En detektor läser av den statistiska strukturen i en bild och rapporterar hur mycket av den som ser ut att ha skapats av en modell. När hela bildrutan är syntetisk finns den signalen överallt, och poängen är entydig.
Ett ansiktsbyte vänder på problemet. Nittio procent av bilden är ett riktigt fotografi, med verkligt sensorbrus och verklig komprimeringshistorik, och snittet för hela bildrutan speglar det. Ett övertygande byte kan ge en poäng runt 30 på en bild som är genuint vilseledande.
Det är inte så mycket modellens fel som frågans fel. Att fråga om bilden är genererad är felformulerat när det ärliga svaret är att det mesta inte är det, men en viktig del är det.
Genomsnittet som gav 33 är precis det som döljer den enda rutan som räknas.
Områdeskartan är svaret på det formuleringsproblemet. Genom att bedöma överlappande rutor separat mäts ett lokalt ingrepp mot sin egen omgivning i stället för att spädas ut över en hel bildruta som den inte hör hemma i.
Terminologin, i den ordning den dök upp
| Term | Betydelse | Är motivet verkligt? |
|---|---|---|
| Deepfake | En verklig persons utseende flyttat till annat material | Ja |
| Ansiktsbyte | Den vanliga formen av en deepfake, på en stillbild eller video | Ja |
| AI-genererad | Skapad från en prompt utan något källfotografi | Nej |
| AI-redigerad | Ett äkta fotografi med något tillagt eller borttaget | Vanligtvis |
| Syntetisk media | Samlingsbegrepp som täcker allt ovanstående | Beror på |
| Cheapfake | Äkta media som vilseleder genom bildtext, beskärning eller gammalt datum | Ja |
Den sista raden är värd att stanna upp vid, eftersom det är den vanligaste formen av visuell desinformation och den som ingen detektor rår på. Ett äkta, oredigerat fotografi från ett annat land för tre år sedan, med en bildtext som påstår att det är dagens nyheter, kommer att bedömas som det verkliga fotografi det är.
Vad du faktiskt bör göra, fall för fall
- Du misstänker att hela bilden är påhittad. Kör en kontroll av hela bildrutan. En hög poäng med en jämn karta är så tydligt det kan bli.
- Du misstänker att en person har lagts till eller bytts ut. Läs områdeskartan först. Siffran kommer att underskatta manipulationen.
- Du misstänker att ett dokument har ändrats. Samma som ovan, och förvänta dig exakt en markerad ruta över det ändrade fältet.
- Du misstänker att bildtexten ljuger. En detektor kan inte hjälpa till. Gör en omvänd bildsökning och kontrollera sedan datum och plats.
- Det är en video. Helt andra verktyg krävs. Stillbildsanalys bildruta för bildruta missar de tidsmässiga avvikelser som avslöjar realtidsbyten.
Varför den här distinktionen skyddar människor
Att behandla alla syntetiska bilder som lika allvarliga leder till två fel samtidigt. Det slösar uppmärksamhet på harmlösa saker, som att någon använder ett genererat porträtt för att de inte hade råd med en fotograf, och det underskattar fallet som faktiskt skadar en människa.
Skadan ligger inte i att pixlarna är artificiella. Den ligger i att en verklig, namngiven person visas göra något de inte har gjort. Det är det som är värt att eskalera, och det är i det fallet som ett medelhögt resultat är minst tillförlitligt som sammanfattning.
Att utforma interna riktlinjer kring identitet snarare än kring teknik gör också att de åldras bättre. Metoderna kommer att fortsätta förändras; frågan om en specifik person felaktigt framställs kommer inte att göra det.
Hur ett ansiktsbyte faktiskt går till
Att förstå hur det skapas hjälper till att förstå upptäckten. Ett byte börjar med ett målfotografi och en uppsättning bilder av personen vars ansikte ska användas. En modell lär sig att återge det ansiktet med det ljus, den vinkel och det uttryck som redan finns i målet.
Det renderade ansiktet monteras sedan tillbaka in i originalbilden, och skarven är den svåra delen. De två halvorna har olika brus, olika komprimeringshistorik och ofta något olika färgåtergivning, så blandningssteget jämnar ut gränsen tills ögat inte längre ser övergången.
Den utjämningen är vad en områdeskarta läser av. Blandningen tar bort den högfrekventa textur som en sensor producerar, och det resulterande partiet är statistiskt olikt allt runt omkring, även när övergången är osynlig. Skarven är osynlig och mätbar på samma gång.
Det förklarar också varför ett byte så lätt klarar en kontroll av hela bildrutan. Det manipulerade området är litet, medvetet sammanblandat med sin omgivning och omgivet av ett autentiskt fotografi som dominerar alla genomsnitt som tas över hela bildytan.
Misstaget som ständigt upprepas
Människor kör en misstänkt deepfake genom en detektor, ser ett resultat runt 30 och drar slutsatsen att bilden är äkta. Det är fel slutsats från rätt siffra: poängen är korrekt, men frågan den besvarar var aldrig den som ställdes.
Vanan som löser detta är enkel. Öppna områdeskartan innan du läser huvudresultatet på alla bilder där oron gäller en specifik person, och behandla den högsta rutan snarare än genomsnittet som det fynd som är värt att agera på.