Две различни неща, които хората наричат с едно и също име
Напълно генерираното изображение започва от нищото. Под него няма фотография, няма отчитане на сензор, няма момент, който да се е случил. Всеки пиксел е създаден от модел и човекът в него няма самоличност за оронване, защото няма такъв човек.
Дийпфейкът започва от нещо реално. Под него има фотография или видео, истинско заснемане на истински момент, като модел е заменил определена област от него, обикновено лице, с изобразяване на някой друг.
Разликата е от значение в юридическо, редакционно и техническо отношение. Генерирана стокова снимка на несъществуващ лекар е въпрос на лицензиране. Снимка на истински лекар с лицето му, залепено върху тяло, към което никога не е бил прикрепен, е въпрос на клевета и евентуално престъпление.
Защо дийпфейкът е по-труден за улавяне
Детекторът разчита статистическата текстура на дадено изображение и отчита доколко то прилича на нещо, произведено от модел. Когато целият кадър е синтетичен, този сигнал е навсякъде и резултатът е еднозначен.
Смяната на лице обръща проблематиката. Деветдесет процента от снимката е истинска фотография с реален сензорен шум и реална история на компресията, като средната стойност за целия кадър отразява това. Една убедителна смяна може да даде резултат в тридесетте на сто върху изображение, което е наистина заблуждаващо.
Това не е толкова провал на модела, колкото провал на въпроса. Задаването на въпроса дали изображението е генерирано има погрешна форма, когато честният отговор е, че по-голямата му част не е, а една важна негова част е.
Усредняването, което доведе до 33, е точно това, което скрива едното поле от значение.
Картата на регионите е отговорът на този проблем с формата. Оценяването на припокриващи се полета поотделно означава, че локализираната замяна се измерва спрямо собственото ѝ обкръжение, а не се размива в рамките на кадър, към който не принадлежи.
Речникът в реда на тяхната поява
| Термин | Какво означава | Обектът реален ли е? |
|---|---|---|
| Дийпфейк (Deepfake) | Външният вид на реално лице, пренесен върху други кадри | Да |
| Смяна на лице | Често срещаната форма на дийпфейк върху кадър или видео | Да |
| Генерирано от AI | Произведено от подкана без изходна фотография | Не |
| Редактирано с AI | Реална снимка с добавено или премахнато нещо | Обикновено |
| Синтетични медии | Общ термин, обхващащ всичко по-горе | Зависи |
| Евтин фалшификат (Cheapfake) | Реални медии, подведоха с надпис, изрязване или стара дата | Да |
Последният ред заслужава внимание, защото това е най-често срещаната форма на визуална дезинформация и тази, с която никой детектор не се занимава. Една истинска, нередактирана фотография от друга държава от преди три години, надписана като днешна новина, ще получи оценка като истинската фотография, каквато е.
Какво всъщност да направите според случая
- Подозрения, че цялата картина е измислена. Направете проверка на целия кадър. Високият резултат с плоска карта е толкова ясен, колкото може да бъде.
- Имате подозрения, че дадено лице е добавено или заменено. Първо прочетете картата на регионите. Числото ще го подцени.
- Имате подозрения, че даден документ е променен. Същото като по-горе и очаквайте точно едно горещо поле върху промененото поле.
- Имате подозрения, че надписът лъже. Детекторът не може да помогне. Обратно търсене на изображение, след това проверете датата и мястото.
- Става въпрос за видео. Напълно различни инструменти. Анализът на неподвижни изображения кадър по кадър пропуска времевите артефакти, които издават смяната в реално време.
Защо това разграничение предпазва хората
Третирането на всяко синтетично изображение като еднакво сериозно води до два провала едновременно. То губи внимание за безвредни неща, като например някой, който използва генериран портрет, защото не може да си позволи фотограф, и подценява случая, който наистина уврежда човек.
Вредата не е в изкуствените пиксели. Тя е в това, че реално, поименно лице е показано да прави нещо, което не е направило. Това е нещо, което си струва да бъде ескалирано, и това е случаят, в който средният резултат е най-малко надежден като обобщение.
Изграждането на вътрешна политика около самоличността, а не около технологиите, също я прави по-устойчива във времето. Методите ще продължат да се променят; въпросът дали конкретно лице е представено погрешно – не.
Как всъщност се прави смяна на лице
Разбирането на производството помага да се обясни детекцията. Смяната започва с целева фотография и набор от изображения на човека, чието лице ще бъде използвано. Моделът се научава да визуализира това лице при осветлението, ъгъла и изражението, които вече присъстват в целта.
След това визуализираното лице се композира обратно в оригиналния кадър, като шевът е трудната част. Двете половини имат различен шум, различна история на компресията и често малко по-различна цветова реакция, така че стъпката на смесване изглажда границата, докато окото спре да забелязва сглобката.
Това изглаждане е това, което картата на регионите разчита. Смесването премахва високочестотната текстура, която сензорът произвежда, и полученият патч е статистически различен от всичко около него, дори когато сглобката е невидима. Шевът е невидим и измерим едновременно.
Това също така обяснява защо една смяна оцелява при проверка на целия кадър толкова лесно. Манипулираната област е малка, умишлено смесена с обкръжението си и заобиколена от автентична фотография, която доминира над всяка средна стойност, взета в рамките на кадъра.
Грешката, която постоянно се повтаря
Хората пускат предполагаем дийпфейк през детектор, виждат резултат в тридесетте и заключват, че изображението е автентично. Това е погрешно заключение от правилно число: резултатът е верен, а въпросът, на който отговаря, никога не е бил този, който се задава.
Навикът, който го поправя, е малък. При всяко изображение, при което има загриженост относно конкретно лице, отворете картата на регионите, преди да прочетете основната цифра, и третирайте най-високото поле, а не средната стойност като находката, по която си струва да се действа.