Почему реальное фото помечается как ИИ

Почти всегда из-за обработки файла: апскейлинг, шумоподавление, скриншот или сильное сжатие. Детекторы читают мелкие детали, а обработка меняет их способами, характерными для генерации.

Шесть причин ложноположительного результата

Детектор считывает статистическую текстуру между соседними пикселями. Любое изменение этой текстуры меняет оценку, независимо от того, участвовал ли в этом ИИ. Вот причины в порядке их частоты.

Скриншоты. Скриншот — это перерисовка изображения, а не его копия. Мелкие детали, которые считывает модель, заменяются тем, что было на экране. Скриншоты со скриншотов еще хуже.
Апскейлинг. Любой инструмент для увеличения фото создает пиксели, которых не было при съемке. Эти созданные пиксели являются сгенерированными, поэтому детектор не ошибается, он отвечает на вопрос, который вы не собирались задавать.
Сильное шумоподавление. Ночные режимы телефонов и фильтры подавления шума сглаживают шум матрицы, который характерен для реального снимка. Удаление этого шума удаляет доказательство работы камеры.
Агрессивная ретушь. Сглаживание кожи, частотное разложение и портретные фильтры пересоздают текстуру лица. Сильно отретушированный портрет может получить более высокий балл, чем слегка отредактированный ИИ-образ.
Сильное сжатие. Повторное сохранение в JPEG уничтожает мелкие детали. Точность на опубликованном бенчмарке падает с 91.3 процента на чистых оригиналах до 84.6 процента при качестве 40.
Маленькие изображения и сильное кадрирование. При размере менее 576 пикселей по меньшей стороне деталей недостаточно для анализа областей, и общая оценка кадра становится менее надежной.

Что означает пересжатие

Чистые оригиналы

91.3 %

Качество JPEG 60

87.3 %

Качество JPEG 40

84.6 %

Ось начинается с 80%, чтобы сделать график читаемым. Цифры взяты из исследовательского бенчмарка, а не из изображений, полученных из открытого интернета.

Сбалансированная точность относительно качества JPEG согласно опубликованному бенчмарку модели. Каждое повторное сохранение снижает показатели изображения.

Почему фотографии с современных телефонов — самый сложный случай

Фотография с современного телефона — это не один кадр с одной экспозицией. Это несколько кадров, объединенных, очищенных от шума, усиленных и тонированных программным обеспечением еще до того, как вы их увидите. Вычислительная фотография и генерация изображений решают схожие задачи и оставляют схожие следы.

Это не баг, который можно исправить, а объективное ограничение. В портрете, снятом в ночном режиме, большая часть мелких текстур создана программно, а не захвачена сенсором. Детектор, считывающий эту текстуру, считывает результат работы программы, потому что именно это содержится в файле.

Как правильно провести повторный тест

Найдите исходный файл, а не его копию
Используйте фотопленку, карту памяти или оригинальный экспорт. Все, что пришло через мессенджер, соцсети или в виде скриншота, уже было пересжато.
Отправляйте как файл, а не как фото
Мессенджеры пересжимают все, что отправляется как изображение. В большинстве из них есть опция отправки документа или файла, позволяющая передать оригинальные байты.
Отключите обработку, которую можете контролировать
Если вы переснимаете кадр, отключите бьюти-фильтры и сглаживание кожи. Если камера предлагает формат RAW или вариант без обработки, используйте его.
Проверьте региональную карту
Равномерно «теплая» карта по всему кадру указывает на глобальную обработку. Один «горячий» участок на фоне «холодного» кадра указывает на локальное редактирование. Это разные результаты.
Сравните с достоверно известным фото
Проверьте фото с той же камеры, в котором вы уверены. Если результат схож, причина в обработке самой камерой, а не в снимке.

Что говорит паттерн

58 61 54 63 59 57 55 62 60

Сравните это с генеративным кадром, где фрагменты находятся в девяностых годах, и с локальным редактированием, где один фрагмент «горячий», а остальные «холодные».

Сильно обработанная, но подлинная фотография. Ни один фрагмент не выделяется, но все они «теплые» — так выглядит глобальная обработка.

Равномерное распределение в среднем диапазоне — признак настоящей фотографии, прошедшей через слишком большое количество программной обработки. Это также честный ответ: изображение больше не содержит достаточно оригинальных деталей для уверенного вывода в любую сторону.

Если вас обвиняют

Дизайнеров, фотографов и студентов просят доказать авторство своих работ. Один лишь балл не может этого сделать, но сопутствующие материалы — могут.

Сохраняйте исходный многослойный файл или RAW-снимок. Рабочий файл с историей изменений — гораздо более сильное доказательство, чем результат любого детектора.
Сохраняйте промежуточные версии. Прогресс-кадры с метками времени сложно подделать задним числом.
Экспортируйте с Content Credentials, если ваше ПО это поддерживает. Подписанные учетные данные — это криптографическое, а не статистическое доказательство.
Спросите, на чем основано обвинение. Одиночный балл от неизвестного инструмента с неопубликованными диапазонами — это не результат, и указывать на это вполне разумно.

Также полезно знать, что ошибки не случайны. Детекторы настроены на обнаружение сгенерированных изображений, и эта настройка делает их более склонными помечать подлинную фотографию как ИИ, чем пропускать синтетическую. Если вы тот, кого подозревают, инструмент не является нейтральным по отношению к вам, и тот, кто читает результат, должен знать об этом, прежде чем предпринимать действия.

Вопросы пользователей

Как часто настоящие фото помечаются как ИИ?

На опубликованном бенчмарке модель достигает 91.3 процента сбалансированной точности на чистых изображениях, что означает, что примерно одно из одиннадцати изображений попадает не на ту сторону линии в контролируемых условиях. В реальности показатели хуже, так как реальные изображения были сжаты, обрезаны и пересохранены до того, как попали в детектор.

Вызывает ли редактирование в Lightroom или Photoshop ложноположительный результат?

Обычные правки — нет. Настройка экспозиции, цвета, кадрирование и выравнивание оставляют исходную текстуру нетронутой. На балл влияют действия, восстанавливающие детали: сильное шумоподавление, сглаживание кожи, увеличение разрешения, генеративное заполнение и агрессивная резкость.

Почему мое фото набрало больше баллов после того, как я отправил его кому-то?

Потому что приложение его пересжало. Большинство мессенджеров перекодируют изображения при отправке, а некоторые делают это дважды. Всегда тестируйте файл из фотопленки, а не копию, вернувшуюся через переписку.

Могу ли я доказать, что фото мое, если детектор говорит обратное?

Детектором — нет, но обычно да — всем остальным. RAW-файл, многослойный рабочий документ, промежуточные версии и Content Credentials вместе создают гораздо более весомый аргумент, чем любой балл. Инструменты обнаружения были созданы, чтобы задать вопрос, а не разрешить спор об авторстве.