Всички начини, по които един детектор на AI изображения може да греши

Четири семейства от грешки: изображението е било влошено, генераторът е непознат, съдържанието прилича на синтетична текстура или някой умишлено го е избелил. Всяко от тях дава различен погрешен отговор.

Първо семейство: изображението е било влошено

Най-голямата категория с голяма преднина. Сигналът, който детекторът чете, се намира в фината текстура, а тази текстура е първото нещо, което всяко компресиране, преоразмеряване и екранна снимка изхвърлят.

Повторни JPEG запазвания. Точността спада от 91,3 процента при чисти оригинали до 84,6 процента при качество 40 на публикувания бенчмарк и още повече в реални условия.
Екранни снимки. Повторно рендиране в разделителна способност на екрана, като оригиналният файл е напълно изхвърлен.
Намаляване на мащаба. По-малко пиксели, по-малко текстура, а под около 576 пиксела по-кратката страна изобщо няма карта на регионите.
Прекодиране от платформи. Всяко качване представлява поне едно повторно кодиране, а повечето изображения са преминали през няколко.
Агресивно изрязване. Малко изрязване на голямо изображение губи контекста, спрямо който моделът е бил калибриран.

Влошаването тласка резултатите към средата и в двете посоки: истинските фотографии нагоре, генерираните изображения надолу. Средният резултат при файл с видими следи от пътуване обикновено означава файла, а не картината.

Второ семейство: генераторът е непознат

Детекторът разпознава това, на което е бил обучен. Модел, пуснат след приключване на обучението, е непозната територия, а непознатите изходни данни са склонни да получават нисък, а не несигурен резултат.

1 Генераторът е пуснат Нищо не е виждало изходните му данни
2 Сляп прозорец Новите изходни данни се оценяват като истински
3 Събрани са проби Седмици на събиране и етикетиране
4 Детекторът е актуализиран До следващото пускане

Сляпата зона е структурна. Преобучението винаги следва пускането на пазара, вместо да го предхожда.

Това води до уверени фалшиво отрицателни резултати, които са най-опасният вид. Инструментът не сигнализира за несигурност; той съобщава, че изображението изглежда добре, тъй като не прилича на нищо, на което е било научено да поставя маркер.

Трето семейство: съдържанието прилича на синтетична текстура

Някои истински изображения просто са трудни. Не защото е било направено нещо с цел измама, а защото текстурата, която съдържат, изглежда като текстурата, която генерирането произвежда.

Нощен режим на телефон и изчислителна фотография. Няколко кадъра, обединени и с премахнат шум от софтуер, което пренаписва фините детайли по цялото изображение.
Тежка ретуш. Изглаждането на кожата и разделянето на честотите изграждат наново текстурата върху лицата.
Мащабирани изображения. Увеличението измисля пиксели, а измислените пиксели са генерирани пиксели.
Илюстрации, 3D рендъри и CGI. Никога не са били снимани, така че нищо в тях не прилича на заснето с камера.
Сток фотография с тежко премахване на шума. Търговски обработена да изглежда чиста, което се чете като синтетично.
Много плоски изображения. Празни стени, ясни небета и обикновени фончета носят малко сигнал в двете посоки.

57 62 55 60 58 63 54 61 59

Сравнете с генериран кадър в деветдесетте и локална редакция с една гореща плочка. Този шаблон не е нито едното, нито другото.

Истинска фотография в нощен режим. Нищо драматично, но всяка плочка е топла, което е подписът на глобалната обработка.

Семейна четворка: умишлено заобикаляне

Най-малката категория и тази, за която хората се тревожат най-много. Всяка техника, която пренаписва връзките между пикселите, понижава оценката, като повечето от тях видимо увреждат изображението в процеса.

Изключението е композирането. Генериран обект, поставен в истинска фотография, запазва истинска текстура в по-голямата част от кадъра, ето защо съществува картата на регионите и защо числото за целия кадър само по себе си не е достатъчно за нищо състезателно.

Как изглежда всеки вид неизправност, когато се прояви

Разчитане на съмнителен резултат в обратна посока
Какво виждате	Най-вероятна причина	Какво да направите
Истинската снимка е с висока оценка, равномерно топла карта	Обработка или компресия	Проверете отново оригиналния файл
Истинската снимка е с висока оценка, едно горещо поле	Законна корекция или плосък регион	Погледнете какво има в това поле
Генерираното изображение е с ниска оценка, влошен файл	Компресия или екранна снимка	Третирайте го като липса на отговор, а не като чист резултат
Генерираното изображение е с ниска оценка, чист файл	Невидян генератор	Разчитайте на произход и източници
Оценката е в средната лента	Няма достатъчно сигнал в нито една от посоките	Намерете по-добро копие
Няма създадена карта на регионите	Изображението е твърде малко за разделяне на полета	Намерете по-голямо копие

Какво от всичко това не е вярно

Струва си да се разграничат ограниченията от нещата, които детекторът никога не се е опитвал да прави. Един инструмент не греши, когато не успява да направи нещо извън обхвата си.

Той не може да каже кой е създал изображението. Нищо в пикселите не обвързва даден файл с конкретно лице.
Той не може да каже дали съдържанието е истинско. Една истинска фотография може да носещ фалшив надпис и това е по-често срещаната измама.
Той не може да назове генератора. Само удостоверение или маркер във файла могат да направят това.
Той не може да очертае корекция. Картата на регионите показва къде се концентрира сигналът, а не границите на манипулацията.

Как да изградите процес, който да го понася

Горепосочените неизправности са постоянни характеристики, а не грешки, които очат корекция, така че полезният въпрос е как да проектирате работата си около тях, а не как да ги избягвате.

Използвайте повече от един вид сигнал. Пикселите, произходът и историята на публикуване се провалят на различни места и изображение, което изглежда погрешно и според трите, е много по-сериозно откритие от такова, което изглежда погрешно само според едно от тях.

Насочвайте флаговете към човек, а не към действие. Всяка сериозна неизправност по-горе става допустима, ако последицата от грешката е някой да се вгледа по-внимателно, и недопустима, ако последицата е автоматично отхвърляне.

Поискайте оригинала, преди да стигате до заключения. Забележителен дял от грешните резултати се разрешават само с тази стъпка, тъй като файлът, който ви е предоставен, почти никога не е най-доброто съществуващо копие.

Въпроси, които хората задават

Кой е най-честият начин детекторът да сбърка?

Истинска фотография е отбелязана, защото файлът е бил влошен. Екранните снимки, многократната компресия и нощният режим на телефона пронаписват текстурата, която детекторът разчита, като и трите са обичайни неща, които се случват с изображенията, без никой да има за цел да заблуждава.

Коя неизправност е най-опасна?

Уверен фалшив отрицателен резултат при изход от нов генератор. Инструментът докладва изображението като чисто, а не като несигурно, така че нищо не сигнализира, че отговорът е ненадежден. Ето защо произходът и източниците са от значение дори когато проверката на пикселите даде нисък резултат.

Мога ли да разбера предварително дали резултатът ще бъде надежден?

Често пъти, да. Голям оригинален файл направо от камера с много текстура дава отчитане, на което можете да се доверите. Малка екранна снимка на плоска сцена, препратена през две приложения, не го прави, и знанието за това, преди да погледнете числото, представлява по-голямата част от умението.

Тези ограничения важат ли за всички детектори?

Първите три семейства се отнасят за всеки инструмент, който разчита пиксели, тъй като те са свойства на метода, а не на конкретен продукт. Това, което се различава между инструментите, е кои генератори са виждали и къде поставят границата на решението.

Ще бъдат ли решени тези проблеми?

Проблемът с влошаването е вроден: унищожената информация не може да бъде възстановена. Проблемът с невидяния генератор е структурен, тъй като преобучаването следва пускането на пазара. Точността при чистите изображения ще продължи да се подобрява, но нито един от тези два проблема няма да изчезне.

И кога всъщност е полезен детекторът?

При сравнително запазен файл, като един сигнал сред няколко други, за да се реши къде да се търси по-задълбочено. Това е наистина ценна работа. Той спира да бъде полезен в момента, в който някой третира числото като отговор, а не като причина да продължи разследването.