Dwa różne pojęcia pod tą samą nazwą
Obraz w pełni wygenerowany powstaje od zera. Nie ma pod nim żadnej fotografii, żadnego odczytu matrycy ani zdarzenia z przeszłości. Każdy piksel stworzył model, a przedstawiona postać nie ma tożsamości, którą można by zniesławić, bo fizycznie nie istnieje.
Deepfake bazuje na materiale autentycznym. Punktem wyjścia jest zdjęcie lub nagranie wideo – faktyczny zapis realnej chwili – w którym model zastąpił określony obszar, zazwyczaj twarz, wyrenderowanym wizerunkiem kogoś innego.
Rozróżnienie to ma znaczenie prawne, redakcyjne i techniczne. Wygenerowane zdjęcie stockowe nieistniejącego lekarza to kwestia praw licencyjnych. Zdjęcie prawdziwego lekarza z twarzą wklejoną w ciało, do którego nigdy nie należała, to kwestia zniesławienia i potencjalny czyn karalny.
Dlaczego deepfake jest trudniejszy do wykrycia
Detektor analizuje teksturę statystyczną obrazu i określa, w jakim stopniu przypomina ona wynik działania modelu. Gdy cały kadr jest syntetyczny, sygnał ten występuje wszędzie, a wynik jest jednoznaczny.
Face swap odwraca ten problem. Dziewięćdziesiąt procent obrazu to prawdziwe zdjęcie, z autentycznym szumem matrycy i historią kompresji, co odzwierciedla średnia dla całego kadru. Przekonująca zamiana twarzy może dać wynik na poziomie około 30 na obrazie, który w rzeczywistości wprowadza w błąd.
Nie jest to wada samego modelu, lecz niewłaściwie postawione pytanie. Pytanie, czy obraz został wygenerowany, jest nieadekwatne, gdy rzetelna odpowiedź brzmi: większość nie, ale jeden istotny fragment tak.
Uśrednienie, które dało wynik 33, to dokładnie to, co ukrywa ten jeden istotny fragment.
Odpowiedzią na ten problem jest mapa regionów. Osobna ocena nakładających się kafelków sprawia, że lokalna modyfikacja jest mierzona względem swojego bezpośredniego otoczenia, a nie rozmywana w całym kadrze, do którego nie pasuje.
Terminologia w kolejności pojawiania się
| Pojęcie | Co to oznacza | Czy obiekt jest prawdziwy? |
|---|---|---|
| Deepfake | Wizerunek prawdziwej osoby przeniesiony do innego materiału | Tak |
| Face swap | Powszechna forma deepfake'a na zdjęciu lub filmie | Tak |
| Wygenerowane przez AI | Wygenerowany z promptu bez zdjęcia źródłowego | Nie |
| Edytowane przez AI | Prawdziwe zdjęcie z czymś dodanym lub usuniętym | Zazwyczaj |
| Media syntetyczne | Pojęcie nadrzędne obejmujące wszystkie powyższe | Zależy |
| Cheapfake | Prawdziwe media wprowadzające w błąd podpisem, kadrowaniem lub starą datą | Tak |
Warto zatrzymać się przy ostatnim wierszu, ponieważ jest to najczęstsza forma dezinformacji wizualnej i jedyna, której nie wykryje żaden detektor. Autentyczne, nieedytowane zdjęcie z innego kraju sprzed trzech lat, podpisane jako dzisiejsza wiadomość, zostanie ocenione zgodnie z prawdą jako autentyczna fotografia.
Praktyczne postępowanie w zależności od przypadku
- Podejrzewasz, że cały obraz został zmyślony. Wykonaj analizę całego kadru. Wysoki wynik przy jednolitej mapie daje maksymalną pewność.
- Podejrzewasz wklejenie lub zamianę osoby. Najpierw sprawdź mapę regionów. Ogólny wynik liczbowy będzie zaniżony.
- Podejrzewasz modyfikację dokumentu. Podobnie jak wyżej; oczekuj dokładnie jednego wyróżnionego kafelka nad zmienionym polem.
- Podejrzewasz fałszywy podpis. Detektor tu nie pomoże. Użyj odwrotnego wyszukiwania obrazem, a następnie sprawdź datę i miejsce.
- To jest wideo. Wymaga zupełnie innych narzędzi. Analiza klatka po klatce pomija artefakty czasowe, które zdradzają zamiany w czasie rzeczywistym.
Dlaczego to rozróżnienie chroni ludzi
Traktowanie każdego syntetycznego obrazu z jednakową powagą rodzi dwa problemy jednocześnie. Marnuje uwagę na nieszkodliwe przypadki, takie jak użycie wygenerowanego portretu z braku budżetu na fotografa, a zarazem umniejsza znaczenie sytuacji, które rzeczywiście komuś szkodzą.
Szkoda nie wynika z samej sztuczności pikseli. Wynika z przedstawienia prawdziwej, konkretnej osoby robiącej coś, czego nie zrobiła. To wymaga eskalacji i to w tym przypadku średni wynik jest najmniej wiarygodnym podsumowaniem.
Oparcie wewnętrznych zasad na tożsamości, a nie na technologii, zapewnia im dłuższą aktualność. Metody będą się zmieniać; pytanie o to, czy konkretna osoba została fałszywie przedstawiona – nie.
Jak powstaje face swap
Zrozumienie procesu produkcji ułatwia zrozumienie detekcji. Zamiana twarzy zaczyna się od zdjęcia docelowego oraz zestawu zdjęć osoby, której twarz ma zostać użyta. Model uczy się renderować tę twarz przy oświetleniu, kącie i mimice obecnych na zdjęciu docelowym.
Wyrenderowana twarz jest następnie wklejana z powrotem do oryginalnego kadru, a najtrudniejszym etapem jest łączenie krawędzi. Obie części mają inny szum, inną historię kompresji i często nieco inną charakterystykę barwną, dlatego proces wtapiania wygładza granicę, aż oko przestanie zauważać łączenie.
To wygładzenie jest dokładnie tym, co odczytuje mapa regionów. Wtapianie usuwa drobnoziarnistą teksturę generowaną przez matrycę, a powstały obszar różni się statystycznie od całego otoczenia, nawet jeśli łączenie jest niewidoczne. Szew pozostaje niedostrzegalny dla oka, lecz w pełni mierzalny.
To wyjaśnia również, dlaczego podmiana twarzy tak łatwo przechodzi test całego kadru. Zmanipulowany obszar jest mały, celowo wtopiony w otoczenie i otoczony autentycznym zdjęciem, które dominuje w każdej średniej liczonej dla całego kadru.
Błąd, który stale się powtarza
Użytkownicy sprawdzają podejrzany deepfake w detektorze, widzą wynik w granicach 30 i dochodzą do wniosku, że obraz jest autentyczny. To błędny wniosek z prawidłowej liczby: wynik jest poprawny, ale odpowiedział na inne pytanie niż to, które zadano.
Wystarczy prosty nawyk. Przy każdym obrazie, na którym istotna jest konkretna osoba, otwórz mapę regionów przed odczytaniem ogólnego wyniku i potraktuj najwyżej oceniony kafelek, a nie średnią, jako wniosek wymagający reakcji.