De två spåren
Ett verktyg gör två oberoende kontroller som svarar på olika saker. Att hålla isär dem är det viktigaste konceptet på denna sida.
Pixelanalys
- Fungerar efter skärmdumpar och komprimering
- Ger en sannolikhet, inte en identitet
- Oberoende av specifik generator
- Kan inte namnge ett verktyg
- Tappar precision mot okända arkitekturer
Fildata
- Kan namnge verktyget exakt
- Kryptografisk vid signering
- Rensas bort av nästan alla plattformar
- Saknas i de flesta bilder
- Enkel att avsiktligt ta bort
Vad en fil kan deklarera
När en bild har kvar sin ursprungliga struktur kan flera typer av markörer finnas. Varje markör är ett påstående från programvaran som skapade filen, inte något som härletts ur pixlarna.
- Content Credentials. Ett signerat manifest som anger verktyget och vad som gjordes. Vissa större generatorer signerar nu sina filer, vilket är den starkaste formen av detta.
- Genereringsparametrar. Flera öppna verktyg bäddar in prompt, seed, sampler och modellnamn direkt i filen, vilket är mer information än vad de flesta förväntar sig.
- Programvaruidentifierare. Ett vanligt metadatafält som anger vilket program som senast sparade bilden.
- Deklarerade AI-vattenstämplar. En markering som anger att en osynlig vattenstämpel har applicerats, vilket är en deklaration snarare än själva vattenstämpeln.
- Kameradataverifiering. Det omvända påståendet, från en signerande kamera, om att filen kommer direkt från en sensor.
Allt detta försvinner så fort en bild laddas upp till nästan vilken plattform som helst. Därför är en filskanning värd att göra men aldrig att förlita sig på: när den hittar något är beviset starkt, men för det mesta hittar den ingenting.
Varför det är svårt att namnge generatorn
Det låter som att det borde vara möjligt. Olika verktyg ger olika estetik, och en person med vana kan ofta gissa rätt. Den intuitionen går inte att överföra till en detektor av tre skäl.
Modeller delar arkitekturer och träningsdata, så deras statistiska fingeravtryck överlappar kraftigt. Många verktyg är finjusteringar av samma grundmodell, vilket gör dem nästan omöjliga att skilja på strukturnivå även när bilderna ser olika ut för ett mänskligt öga.
Bilderna efterbehandlas också. Uppskalning, ansiktsförbättring och redigering sker efter genereringen och skriver över just den textur som en identifiering skulle bygga på. När en bild publiceras bär den ofta fler spår av uppskalaren än av själva generatorn.
Dessutom flyttas målet hela tiden. Varje identifieringsmodell är en uppslagstabell över sådant som redan fanns, vilket gör att den missar allt som lanserats efter att den tränades – tyst snarare än uppenbart.
Vad god täckning faktiskt innebär
Den relevanta frågan om ett analysverktyg är inte vilka generatorer det känner igen vid namn. Det är hur bred träningen var, eftersom bredd är vad som avgör prestandan på modeller som ännu inte har släppts.
| Metod | Styrka | Svaghet |
|---|---|---|
| Träna på ett fåtal stora kommersiella verktyg | Hög träffsäkerhet på just de verktygen | Dålig generalisering till allt annat |
| Träna över tusentals generatorer | Generaliserar till okända modeller | Lägre topprecision på enskilda modeller |
| Leta efter artefakter från en viss arkitektur | Mycket hög precision så länge det varar | Fungerar inte alls när metoden ändras |
| Läs endast filmarkörer | Exakt när de finns | Fungerar inte på majoriteten av bilder |
Den andra raden beskriver metoden som används här, och kompromissen är avsiktlig. Ett verktyg som är utmärkt på fyra produkter och oanvändbart på den femte är till liten hjälp när du ska granska en bild du fått skickad till dig.
Om produktnamn
Listor över generatorer som stöds är mer marknadsföring än teknik. En pixelmodell har ingen lista; den har en träningsdistribution. Att namnge produkter antyder en verktygsspecifik funktion som bred analys varken har eller behöver.
Om ett namn visas i ett resultat här kommer det från filen, inte från pixlarna, och resultatet anger det. Den distinktionen bör du kräva av alla verktyg du använder.
Så tolkar du påståenden om täckning
Leverantörer beskriver täckning på sätt som låter jämförbara men inte är det. Tre formuleringar återkommer ofta, och de betyder alla olika saker.
Identifierar bilder från X, Y och Z betyder oftast att testdatan innehöll dessa tre. Det är ett uttalande om testningen, inte om förmågan, och säger ingenting om en fjärde generator.
Stödjer över 40 generatorer betyder oftast att träningsdatan hämtades från så många källor. Det är mer relevant, eftersom bredd i träningen ger bättre generalisering, men det är fortfarande ingen garanti för något specifikt verktyg.
Att identifiera källmodellen är det påstående man bör ifrågasätta hårdast. Fråga om identifieringen kommer från filen eller från pixlarna. Om den kommer från pixlarna, be om träffsäkerheten för identifieringen separat från träffsäkerheten för detekteringen, eftersom det handlar om två helt olika siffror.