Dwa pasy ruchu
Detektor uruchamia dwa niezależne sprawdzenia i odpowiadają one na różne rzeczy. Utrzymanie ich oddzielnie to najbardziej użyteczna idea na tej stronie.
Analiza pikseli
- Działa po zrobieniu zrzutów ekranu i po kompresji
- Zwraca prawdopodobieństwo, a nie tożsamość
- Niezależny od generatora z założenia
- Nie może nazwać narzędzia
- Ulega pogorszeniu w przypadku niewidzianych wcześniej architektur
Dowody z pliku
- Może dokładnie nazwać narzędzie
- Kryptograficzne, gdy podpisane
- Usuwane przez niemal każdą platformę
- Nieobecne w większości obrazów
- Celowo i bez trudu usuwane
Co może zadeklarować plik
Gdy obraz nadal zachowuje swoją oryginalną strukturę, obecnych może być kilka rodzajów znaczników. Każdy z nich to twierdzenie wysunięte przez oprogramowanie, które go zapisało, a nie coś wywnioskowanego z pikseli.
- Content Credentials. Podpisany manifest określający narzędzie i to, co zrobiło. Niektóre główne generatory podpisują teraz swoje dane wyjściowe, co jest najsilniejszą formą tego rozwiązania.
- Parametry generowania. Kilka otwartych narzędzi osadza prompt, seed, sampler i nazwę modelu bezpośrednio w pliku, co stanowi więcej informacji, niż większość ludzi spodziewa się znaleźć.
- Identyfikator oprogramowania. Zwykłe pole metadanych zawierające nazwę aplikacji, która ostatnio zapisała obraz.
- Zadeklarowane znaki wodne AI. Flaga informująca, że zastosowano niewidoczny znak wodny, co jest raczej deklaracją niż samym znakiem wodnym.
- Zapewnienia dotyczące rejestrowania przez aparat. Przeciwne twierdzenie, wysunięte przez podpisujący aparat, że plik pochodzi z matrycy.
Wszystko to znika w momencie przesłania obrazu na niemal dowolną platformę. Dlatego skanowanie pliku jest warte przeprowadzenia, ale nigdy nie warto na nim polegać: gdy coś znajdzie, wynik jest silny, a przez większość czasu nie znajduje nic.
Dlaczego nazwanie generatora jest trudne
Brzmi to tak, jakby powinno być możliwe. Różne narzędzia wytwarzają różną estetiku, a osoba, która spędza z nimi czas, często potrafi zgadnąć poprawnie. Ta intuicja nie przenosi się na detektor z trzech powodów.
Modele dzielą architektury i dane treningowe, więc ich odciski palców nakładają się mocno. Wiele narzędzi to dostrojone wersje tej samej bazy, co czyni je niemal nierozróżnialnymi na poziomie tekstury, nawet jeśli ich wyniki wyglądają inaczej dla człowieka.
Wyniki podlegają również postprodukcji. Skalowanie w górę, rekonstrukcja twarzy i edycja odbywają się po wygenerowaniu i nadpisują dokładnie tę teksturę, od której zależałaby identyfikacja. Zanim obraz zostanie opublikowany, może w sobie zawierać więcej ze skalera niż z generatora.
A cel bez przerwy się porusza. Dowolny model identyfikacji to tablica wyszukiwania rzeczy, które już istniały, co sprawia, że myli się co do wszystkiego, co zostało wydane od czasu jego przeszkolenia, w sposób cichy, a nie oczywisty.
Czym właściwie jest dobre pokrycie
Przydatne pytanie dotyczące detektora nie dotyczy tego, które generatory rozpoznaje z nazwy. Chodzi o to, jak szeroki był trening, ponieważ szerokość pozwala przewidzieć wydajność na modelu, który jeszcze nie został wydany.
| Podejście | Siła | Słabość |
|---|---|---|
| Trenuj na kilku głównych narzędziach komercyjnych | Wysoka dokładność na tych narzędziach | Słaba generalizacja na cokolwiek innego |
| Trenuj na tysiącach generatorów | Generalizuje na niewidziane modele | Niższa szczytowa dokładność na dowolnym pojedynczym |
| Szukaj artefaktu jednej architektury | Bardzo wysoka dopóki trwa | Zawodzi całkowicie, gdy zmienia się metoda |
| Czytaj tylko znaczniki plików | Dokładny, gdy jest obecny | Ślepy na większości obrazów |
Drugi wiersz to podejście stosowane tutaj, a kompromis jest celowy. Detektor, który jest doskonały na czterech produktach i bezużyteczny na piątym, nie przydaje się zbytnio do sprawdzania obrazu, który ktoś Ci wysłał.
O nazwach produktów
Listy obsługiwanych generatorów to bardziej artefakt marketingowy niż techniczny. Model pikselowy nie ma listy; ma rozkład treningowy. Nazewnictwo produktów sugeruje zdolność dla konkretnego narzędzia, której szerokie wykrywanie nie ma i nie potrzebuje.
Tam, gdzie nazwa pojawia się w wynikach tutaj, pochodzi z pliku, a nie z pikseli, i wynik o tym mówi. To rozróżnienie jest warte podkreślenia w przypadku każdego używanego narzędzia.
Jak czytać twierdzenia o pokryciu
Dostawcy opisują pokrycie w sposób, który brzmi porównywalnie, ale taki nie jest. Trzy sformułowania powracają regularnie i każde oznacza coś innego.
Wykrywa obrazy z X, Y i Z zazwyczaj oznacza, że benchmark zawierał te trzy. Jest to stwierdzenie na temat testowania, a nie zdolności i nic nie mówi o czwartym generatorze.
Obsługuje ponad czterdzieści generatorów zazwyczaj oznacza, że zestaw treningowy czerpał z tylu źródeł. To bardziej znaczące, ponieważ szerokość treningu pozwala przewidzieć generalizację, ale nadal nie jest to gwarancją w stosunku do konkretnego narzędzia.
Identyfikacja modelu źródłowego to najtrudniejsze zadanie. Warto zadać sobie pytanie, czy ta identyfikacja pochodzi z pliku, czy z pikseli. Jeśli pochodzi z pikseli, należy osobno zapytać o dokładność identyfikacji i dokładność wykrywania, ponieważ są to zupełnie inne wartości.