Rodzina pierwsza: obraz został zdegradowany
Największa kategoria z dużą przewagą. Sygnał, który odczytuje detektor, znajduje się w drobnej teksturze, a ta tekstura jest pierwszą rzeczą, którą odrzuca każda kompresja, zmiana rozmiaru i zrzut ekranu.
- Wielokrotne zapisy JPEG. Dokładność spada z 91,3 procent na czystych oryginałach do 84,6 procent przy jakości 40 w opublikowanym benchmarku, a w warunkach rzeczywistych jeszcze bardziej.
- Zrzuty ekranu. Ponowne renderowanie w rozdzielczości ekranu z całkowitym odrzuceniem oryginalnego pliku.
- Skalowanie w dół. Mniej pikseli, mniej tekstury, a poniżej około 576 pikseli na krótszym boku brak jakiejkolwiek mapy regionów.
- Ponowne kodowanie na platformie. Każde przesłanie to co najmniej jedno ponowne zakodowanie, a większość obrazów przeszła przez kilka.
- Agresywne przycinanie. Mały wycinek dużego obrazu traci kontekst, do którego model został skalibrowany.
Degradacja spycha wyniki w stronę środka w obu kierunkach: autentyczne fotografie w górę, wygenerowane obrazy w dół. Średni wynik na wyraźnie podróżującym pliku zazwyczaj oznacza plik, a nie zdjęcie.
Rodzina druga: generator nie był znany
Detektor rozpoznaje to, na czym został przeszkolony. Model wydany po zakończeniu treningu to nieznany teren, a nieznane wyniki mają tendencję do uzyskiwania niskich, a nie niepewnych wyników.
- 1 Generator wydany Nic nie widziało jego wyniku
- 2 Ślepe okno Nowe dane wyjściowe są oceniane jako prawdziwe
- 3 Zebrane próby Tygodnie zbierania i oznaczania
- 4 Zaktualizowany detektor Do następnego wydania
Daje to pewne fałszywie negatywne wyniki, które są najbardziej niebezpiecznym rodzajem. Narzędzie nie sygnalizuje niepewności; zgłasza, że obraz wygląda dobrze, ponieważ nie przypomina niczego, czego nauczono je oznaczać.
Rodzina trzecia: zawartość przypomina syntetyczną teksturę
Niektóre autentyczne zdjęcia są po prostu trudne. Nie dlatego, że zrobiono cokolwiek, aby oszukać, ale dlatego, że zawarta w nich tekstura wygląda jak tekstura produkowana przez generację.
- Tryb nocny w telefonie i fotografia obliczeniowa. Kilka klatek połączonych i odszumionych przez oprogramowanie, co przepisuje drobne detale na całym obrazie.
- Ciężki retusz. Wygładzanie skóry i separacja częstotliwości odbudowują teksturę na twarzach.
- Obrazy powiększone. Powiększenie wymyśla piksele, a wymyślone piksele to piksele wygenerowane.
- Ilustracje, renderowanie 3D i CGI. Nigdy nie były fotografowane, więc nic w nich nie przypomina zdjęcia z aparatu.
- Fotografia stockowa z silną redukcją szumów. Przetworzona komercyjnie, aby wyglądać czysto, co jest odczytywane jako syntetyczne.
- Bardzo płaskie obrazy. Puste ściany, czyste niebo i proste tła niosą ze sobą mało sygnału w obu kierunkach.
Porównaj z wygenerowaną klatką w latach dziewięćdziesiątych i lokalną edycją z jednym gorącym kafelkiem. Ten wzorzec nie jest żadnym z nich.
Czwórka rodzinna: celowe unikanie wykrywania
Najmniejsza kategoria i ta, o którą ludzie martwią się najbardziej. Każda technika, która przepisuje relacje między pikselami, obniża wynik, a większość z nich przy okazji widocznie uszkadza obraz.
Wyjątek stanowi kompozycja. Wygenerowany obiekt umieszczony w autentycznej fotografii zachowuje prawdziwą teksturę na większości kadru, dlatego istnieje mapa regionów i dlatego sam wynik dla całego kadru nie wystarcza w żadnych spornych przypadkach.
Jak wygląda każda awaria w praktyce
| Co widzisz | Najbardziej prawdopodobna przyczyna | Co należy zrobić |
|---|---|---|
| Autentyczne zdjęcie ma wysoki wynik, równomiernie ciepła mapa | Przetwarzanie lub kompresja | Sprawdź ponownie oryginalny plik |
| Autentyczne zdjęcie ma wysoki wynik, jeden gorący kafelek | Legalna edycja lub płaski region | Spójrz na to, co znajduje się w tym kafelku |
| Wygenerowany obraz ma niski wynik, zdegradowany plik | Kompresja lub zrzut ekranu | Traktuj to jako brak odpowiedzi, a nie czysty wynik |
| Wygenerowany obraz ma niski wynik, czysty plik | Niewidziany wcześniej generator | Oprzyj się na proweniencji i źródłach |
| Wynik znajduje się w środkowym przedziale | Zbyt mało sygnału w jedną lub drugą stronę | Znajdź lepszą kopię |
| Brak wygenerowanej mapy regionów | Obraz jest zbyt mały, aby go podzielić na kafelki | Znajdź większą kopię |
Czym to wszystko nie jest
Warto oddzielić ograniczenia od rzeczy, do których detektor nigdy nie był przeznaczony. Narzędzie nie jest wadliwe tylko dlatego, że nie potrafi wykonać czegoś spoza swojego zakresu.
- Nie potrafi powiedzieć, kto stworzył obraz. Nic w pikselach nie powiąże pliku z konkretną osobą.
- Nie potrafi powiedzieć, czy treść jest prawdziwa. Autentyczna fotografia może mieć fałszywy podpis, a to jest częstsze oszustwo.
- Nie potrafi nazwać generatora. Tylko poświadczenie lub znacznik w pliku mogą to zrobić.
- Nie potrafi obrysować edycji. Mapa regionów pokazuje, gdzie koncentruje się sygnał, a nie granicę manipulacji.
Jak zbudować proces, który to toleruje
Wymienione wyżej błędy są stałymi cechami, a nie usterkami oczekującymi na naprawę, więc przydatne pytanie dotyczy tego, jak zaprojektować system uwzględniający je, a nie jak ich unikać.
Używaj więcej niż jednego rodzaju sygnału. Piksele, proweniencja i historia publikacji zawodzą w różnych miejscach, a obraz, który wygląda na podejrzany pod każdym z tych trzech względów, jest znacznie silniejszym dowodem niż taki, który budzi wątpliwości tylko pod jednym.
Kieruj flagi do człowieka, a nie do automatycznego działania. Każdy poważny błąd wymieniony powyżej staje się do zniesienia, jeśli konsekwencją pomyłki jest to, że ktoś przyjrzy się sprawie dokładniej, i nie do przyjęcia, jeśli konsekwencją jest automatyczne odrzucenie.
Poproś o oryginał, zanim cokolwiek wywnioskujesz. Niezwykła proporcja błędnych wyników wyjaśnia się na tym jednym etapie, ponieważ otrzymany plik niemal nigdy nie jest najlepszą istniejącą kopią.