← Все руководства Принцип работы

AI-апскейлинг против AI-генерации

Апскейлинг создает пиксели, которые никогда не были зафиксированы, и из-за этого получает высокую оценку, как и генерация, поскольку в узком смысле это она и есть. Как отличить увеличенную фотографию от сгенерированной.

· 10 мин чтения · Best AI Image Detector

Апскейлер — это генеративная модель, выполняющая узкую задачу. Она создает детали, которых не было в оригинале, поэтому увеличенная фотография содержит подлинно синтетическую текстуру и получает высокий балл, оставаясь при этом реальной фотографией реального объекта.

Что на самом деле делает апскейлер

Традиционное изменение размера использует интерполяцию. Оно вычисляет промежуточные значения пикселей на основе соседних, создает изображение большего размера, но более мягкое, и не добавляет никакой новой информации.

Современный апскейлер генерирует. Это модель, обученная на парах маленьких и больших изображений, и она создает детали, которые выглядят правдоподобно для данного объекта, а не извлечены из него: поры на коже, нити в ткани, листья на далеком дереве.

Это различие — суть всей статьи. Эти поры не были сфотографированы. Это лучшее предположение модели о том, как поры должны выглядеть в этом месте, что является той же операцией, которую генератор выполняет по всему кадру.

Таким образом, изображение, прошедшее через апскейлер, содержит подлинно синтетическую текстуру, и детектор, считывая текстуру, сообщает именно об этом. Результат верен, но выводы, которые люди из него делают, — нет.

Почему это дает так много ложноположительных результатов

Апскейлинг повсюду и по большей части незаметен для того, кто его использует. Камеры телефонов применяют его при цифровом зуме, редакторы предлагают его как функцию улучшения, видеозвонки используют его для компенсации ширины канала, а платформы применяют его при отображении изображений в размерах, превышающих оригинал.

Архивная и реставрационная работа — крайний случай. Старая фотография, отсканированная в низком разрешении и улучшенная для печати, сильно переработана в процессе, и она будет иметь такие же показатели, как нечто созданное моделью, потому что многое из того, что вы видите, таковым и является.

Оригинал с камеры Обычное изменение размера AI-апскейленная фотография Восстановленное архивное фото Сгенерированное изображение
Сколько текстуры было придумано → ↑ Изображает ли это что-то реальное
Иллюстративно. В правом верхнем углу честные изображения получают такие же оценки, как и нечестные.
Где находится каждое из них. Апскейленные фотографии по определению занимают неудобное среднее положение.

Верхняя правая область — это проблема. Эти изображения изображают реальные вещи и содержат искусственные пиксели, и никакой балл не может разделить эти два свойства, потому что модель измеряет только одно из них.

Как их различить

Карта областей — первый инструмент, и он работает, потому что апскейлинг и генерация распределяют придуманную текстуру по-разному.

  • Апскейлинг однороден. Каждая часть кадра была увеличена одним и тем же процессом, поэтому сетка теплая и плоская.
  • Генерация тоже однородна, поэтому одна только карта не решает проблему.
  • Выборочное улучшение — нет. Восстановление лица, примененное к одному человеку на групповом фото, создает локализованный нагрев, что информативно.
  • Композиция сохраняется. Апскейленная фотография имеет геометрию, перспективу и освещение реальной сцены, потому что она ей была.
  • Детали можно проверить. Увеличьте придуманные области: апскейленный текст превращается в правдоподобную бессмыслицу, а настоящий текст остается читаемым.

Последний пункт — практический. Увеличьте вывески, этикетки или мелкий шрифт. Апскейлер, столкнувшись с нечитаемым текстом, создает уверенные знаки в форме букв, которые ничего не означают, и этот сбой виден человеку, даже если оценка нет.

Чтение их вместе
СигналАпскейленная фотографияСгенерированное изображение
Балл по всему кадруВысокийВысокий
Карта областей«Тепло» и ровно«Тепло» и ровно
Мелкий текст при увеличенииПравдоподобная бессмыслицаПравдоподобная бессмыслица
Геометрия сценыСогласована, это было реальноОбычно согласована сейчас
Существует ранняя, меньшая копияЧастоНет
Оригинальный файл доступенДа, запросите егоЕго нет

Две нижние строки — это то, что действительно решает проблему, и ни одна из них не является измерением пикселей. Поиск по изображению, находящий меньшую раннюю копию, или источник, который может предоставить файл до улучшения, напрямую решает вопрос.

Что это значит на практике

Для любого, кто оценивает изображение, рабочее правило — спрашивать об улучшении, прежде чем рассматривать высокий балл как вывод. Это один вопрос, он ничего не стоит и объясняет большую часть запутанных результатов.

Для любого, кто публикует контент, это аргумент в пользу хранения оригиналов. Фотограф, специалист по претензиям или журналист, который может предоставить файл до улучшения, имеет полный ответ на вопрос, на который иначе ответа нет.

А для архивов и реставрационных работ это проблема маркировки, а не обнаружения. Улучшенная историческая фотография — это законный и полезный артефакт, который всегда будет получать плохие оценки, поэтому честный ответ — сказать, что с ней было сделано.

Где это причиняет реальный вред

Три ситуации превращают это из любопытного факта в проблему, и все три объединяет одна особенность: кто-то принимает решение о человеке на основе изображения, которое он сам не снимал.

Страховые случаи — самый очевидный пример. Заявитель фотографирует ущерб на телефон, изображение маленькое, и кто-то увеличивает его, чтобы увидеть детали. Увеличенная версия получает высокий балл, и реальная претензия получает пометку о возможной манипуляции, которую теперь никто не может удалить.

В журналистике ситуация похожая. Фотография из источника апскейлится для печати, улучшенная версия распространяется, и последующая проверка этой версии помечает ее. Оригинал был в порядке, но теперь это не та версия, которая у всех на руках.

Юридические и дисциплинарные контексты наиболее серьезны, потому что улучшенная копия часто является той, которая приобщается к делу. Когда на изображение собираются полагаться, файлом, который должен использоваться, должен быть тот, что был до любого улучшения, а само улучшение должно быть задокументировано отдельно.

Заметка для тех, кто выстраивает рабочий процесс

Если изображения проходят через вашу организацию и подлежат оценке, самое дешевое доступное улучшение — это поле, фиксирующее, был ли файл улучшен. Это стоит одной галочки при получении и устраняет целую категорию неразрешимых споров в будущем.

Второе самое дешевое — правило, что улучшение применяется к копии. Сохраняйте файл в полученном виде, улучшайте дубликат для просмотра и убедитесь, что в деле используется оригинал, а не улучшенная версия.

Здесь есть более широкий урок о том, что измеряет балл. Модель сообщает, какая часть текстуры перед ней была создана программным обеспечением, что является реальным свойством, но это не то же самое свойство, которое нужно людям: фиксирует ли снимок нечто, что произошло на самом деле.

Большинство запутанных результатов в этой области возникают из-за этого разрыва. Апскейлинг — самый ясный пример, потому что два свойства указывают в противоположных направлениях: сильно синтетическая текстура, полностью подлинный объект.

Вопросы пользователей

Почему мое апскейленное фото оценивается как AI?
Потому что часть его — это AI. Апскейлер — это генеративная модель, которая создает детали, никогда не зафиксированные на снимке, поэтому увеличенное изображение содержит подлинно синтетическую текстуру. Детектор считывает это правильно; ошибка в том, чтобы сделать вывод, что снимок не изображает что-то реальное.
Как отличить апскейлинг от генерации?
Ненадежно по баллу или карте, потому что оба выглядят похоже. Что решает проблему, так это происхождение: поиск по изображению, находящий меньшую раннюю копию, или источник, который может предоставить файл до улучшения. Задавайте вопрос, а не пытайтесь анализировать глубже.
Считается ли цифровой зум на телефоне?
Да, на современных устройствах. За пределами оптического диапазона цифровой зум — это в значительной степени реконструкция, а не кадрирование, и сильно увеличенные фотографии с телефонов несут значительные искусственные детали. Это одна из причин, почему далекие объекты, сфотографированные на телефон, получают более высокие баллы, чем близкие.
Что насчет восстановленных исторических фотографий?
Они получают очень высокий балл, и это правильно. Сканирование оригинала с низким разрешением и его улучшение для печати переписывает большую часть того, что вы видите. Это законная архивная работа, и честный ответ — маркировать то, что было сделано, а не ожидать чистого результата.
Стоит ли мне перестать апскейлить свои работы?
Нет, но сохраняйте оригинал. Фотограф, который может предоставить файл до улучшения, имеет полный ответ на любой вопрос об опубликованном изображении, и это стоит большего, чем отказ от метода, который существует по веским причинам.
Может ли детектор когда-либо их разделить?
Не только на основе улучшенного файла, потому что измеряемое свойство присутствует в обоих. Для их разделения требуется информация, которой пиксели не содержат: ранняя копия, оригинальный файл или учетные данные, записывающие, что и когда было сделано.

Проверить изображение сейчас

Бесплатно, без учетной записи, файл никогда не покидает ваше устройство. Пятьдесят проверок в день.

Открыть детектор

Читать далее