AI-uppskalat jämfört med AI-genererat

Vad ett uppskalningsverktyg faktiskt gör

En traditionell storleksändring interpolerar. Den beräknar mellanliggande pixelvärden från pixlarna intill, producerar en större och mjukare bild och lägger inte till någon information som inte redan fanns där.

Ett modernt uppskalningsverktyg genererar. Det är en modell tränad på par av små och stora bilder, och den producerar detaljer som är rimliga för motivet snarare än härledda ur det: porer i ett ansikte, trådar i tyg, löv på ett avlägset träd.

Den skillnaden är hela poängen. Porerna fotograferades inte. De är en modells bästa gissning på hur porer skulle se ut där, vilket är samma operation som en generator utför över en hel bildyta.

En bild som har passerat ett uppskalningsverktyg innehåller alltså genuint syntetisk textur, och en detektor som analyserar textur rapporterar exakt det. Iakttagelsen är korrekt; slutsatsen som dras är det inte.

Varför detta ger så många falska positiva resultat

Uppskalning sker överallt och är oftast osynlig för den som utför den. Mobilkameror tillämpar det vid digital zoom, redigeringsprogram erbjuder det som förbättring, videosamtal använder det för att kompensera för bandbredd och plattformar tillämpar det när de visar bilder i större storlek än originalet.

Arkiv- och restaureringsarbete är extremfallet. Ett gammalt fotografi som skannats med låg upplösning och förbättrats för tryck är till sin natur kraftigt omskapat, och det kommer att ge samma utslag som något en modell producerat, eftersom en stor del av det du ser faktiskt är det.

Det övre högra området är problemet. Dessa bilder föreställer verkliga ting och innehåller påhittade pixlar, och inget mätvärde kan skilja de två egenskaperna åt eftersom modellen bara mäter en av dem.

Så skiljer du dem åt

Områdeskartan är det första verktyget, och den fungerar eftersom uppskalning och generering fördelar sin påhittade textur på olika sätt.

• Uppskalning är enhetlig. Varje del av bildytan förstorades genom samma process, så rutnätet är jämnt och varmt.
• Generering är också enhetlig, vilket är anledningen till att kartan ensam inte avgör frågan.
• Selektiv förbättring är det inte. Ansiktsrestaurering på en person i ett gruppfoto ger lokal värme, vilket ger värdefull information.
• Kompositionen stämmer fortfarande. Ett uppskalat fotografi har samma geometri, perspektiv och ljussättning som en verklig scen, eftersom det var en.
• Detaljer kan kontrolleras. Förstora de påhittade områdena: uppskalad text blir till rimligt nonsens, medan verklig text förblir läsbar.

Den sista punkten är den mest praktiska. Zooma in på skyltar, etiketter eller finstilt text. Ett uppskalningsverktyg som ställs inför oläslig text producerar självsäkra bokstavsliknande krumelurer som inte bildar ord, och det misslyckandet är synligt för ett mänskligt öga även när ett mätvärde inte visar det.

De två nedersta raderna är de som faktiskt avgör saken, och ingen av dem handlar om pixelmätning. En omvänd bildsökning som hittar en mindre, tidigare kopia, eller en källa som kan tillhandahålla filen före förbättring, avgör frågan direkt.

Vad detta innebär i praktiken

För alla som bedömer en bild är grundregeln att fråga om förbättringar innan ett högt resultat behandlas som ett slutgiltigt svar. Det är en enda fråga, den kostar ingenting, och den förklarar en stor del av alla förbryllande resultat.

För alla som publicerar är det ett argument för att spara original. En fotograf, en skadereglerare eller en journalist som kan visa upp filen före förbättring har ett fullgott svar på en fråga som annars saknar lösning.

Och för arkiv och restaureringsarbete är det en märkningsfråga snarare än en detektionsfråga. Ett förbättrat historiskt fotografi är ett legitimt och användbart tidsdokument som alltid kommer att få dåliga resultat, så det ärliga svaret är att ange vad som har gjorts med det.

När detta orsakar verklig skada

Tre sammanhang förvandlar detta från en kuriositet till ett problem, och alla tre delar ett drag: någon fattar ett beslut om en person baserat på en bild de själva inte tagit.

Försäkringsärenden är det tydligaste exemplet. En försäkringstagare fotograferar en skada med mobilen, bilden är liten och någon förstorar den för att se detaljerna. Den förstorade versionen ger högt utslag, och ett genuint krav förses med en notering om misstänkt manipulation som ingen sedan kan ta bort.

Journalistik fungerar på samma sätt. Ett fotografi från en källa skalas upp för tryck, den förbättrade versionen sprids, och en senare kontroll av den cirkulerande kopian flaggar den. Originalet var äkta men finns inte längre kvar hos någon.

Rättsliga och disciplinära sammanhang är de allvarligaste, eftersom den förbättrade kopian ofta är den som läggs till handlingarna. När en bild ska användas som underlag är det filen före alla förbättringar som ska vidarebefordras, och förbättringen ska dokumenteras separat.

Ett råd till dig som bygger arbetsflöden

Om bilder passerar genom din organisation och bedöms, är den enklaste förbättringen ett fält som registrerar om en fil har förbättrats. Det kostar en kryssruta vid mottagandet och eliminerar en hel kategori av olösliga tvister senare.

Den näst enklaste är regeln att förbättringar alltid görs på en kopia. Behåll filen i ursprungligt skick, förbättra en kopia för granskning och se till att det är originalet snarare än den tillpiffade versionen som följer med ärendet.

Här finns en bredare lärdom om vad ett mätvärde faktiskt mäter. Modellen rapporterar hur mycket av texturen framför den som skapats av programvara, vilket är en verklig egenskap och inte samma sak som egenskapen folk vill veta: huruvida bilden visar något som faktiskt har inträffat.

De flesta förbryllande resultaten inom det här området uppstår ur det glappet. Uppskalning är det tydligaste exemplet eftersom de två egenskaperna pekar åt motsatta håll: kraftigt syntetisk textur, helt genuint motiv.