← Все руководства Журналистика

ИИ-изображения в дезинформации о выборах

Большинство вводящих в заблуждение политических изображений — это реальные фотографии с ложными подписями. Где обнаружение помогает, где оно активно вводит в заблуждение и что делать в решающие часы.

· 10 мин чтения · Best AI Image Detector

Проверяйте подпись, а не пиксели. Основная форма дезинформации в политических изображениях — это подлинная, нередактированная фотография, представленная с неверной датой, местом или контекстом, и она проходит любую проверку, так как в ней нет ничего синтетического.

Три категории в зависимости от их распространенности

Классификация на первом этапе предотвращает самую распространенную аналитическую ошибку: использование детектора для чего-то, с чем он не может справиться, и принятие чистого результата за вердикт.

  1. Реальная фотография, ложный контекст. Доминирующая категория с огромным отрывом. Подлинное изображение из другой страны или другого года, представленное как сегодняшнее.
  2. Реальная фотография, измененная. Толпа сделана больше, вывеска изменена, человек убран или добавлен. Обнаружимо, и именно карта областей это показывает.
  3. Полностью сгенерированное. Сцена, которой никогда не было. Самая обсуждаемая и наименее распространенная категория, хотя она растет.

Первая категория по своей сути невидима для попиксельного анализа. Фотография подлинная, была сделана камерой и обладает всеми статистическими свойствами фотографии, потому что это именно она и есть.

Это самый важный момент, который должен усвоить каждый, кто занимается проверкой данных о выборах. Чистый результат проверки вводящего в заблуждение политического изображения — ожидаемый исход, и выдача его за доказательство подлинности — это то, как проверяющий становится частью проблемы.

Обратный поиск Попиксельная проверка Карта областей
Реальное фото, ложная подпись Yes Находит оригинал No Распознается как подлинное No
Изменена толпа или вывеска Partly Может найти неизмененный вариант Partly Оценка остается низкой Yes Локализованная тепловая карта
Человек добавлен или убран Partly Иногда No Размыто общим кадром Yes Это его случай
Полностью сгенерированная сцена Partly Нет более ранних копий Yes Лучший случай для детектора Yes Равномерно и ярко
Какой инструмент к какой категории относится. Самая распространенная находится в левом столбце.

Работа в решающие часы

Заявления о политических изображениях распространяются быстрее всего в период, когда проверка затруднена: последние дни кампании, ночь голосования и часы после подсчета голосов. Фактор скорости — часть стратегии.

Последовательность действий помогает больше, чем любой отдельный инструмент, потому что она сначала выполняет быстрые и убедительные проверки, оставляя медленные и неоднозначные напоследок.

  1. Сначала обратный поиск изображения

    Десять секунд — и это сразу закрывает самую большую категорию, находя более раннюю копию с верной подписью.

  2. Проверьте, что в кадре

    Вывески, язык, номерные знаки, время года, архитектура. Фотография, выдаваемая за сделанную в одной стране, но с дорожной разметкой другой, говорит сама за себя.

  3. Запустите попиксельную проверку и прочитайте карту

    Именно здесь проявляется измененная толпа или плакат, и где общая оценка будет занижена.

  4. Найдите самую раннюю публикацию

    Кто первым опубликовал, когда и что они написали. Провенанс важнее анализа, если он доступен.

  5. Публикуйте неуверенность

    Там, где ответ не найден, признать это лучше, чем подразумевать вердикт в любую из сторон.

Пятый шаг — это то, что отделяет проверку от пропаганды. Честный вывод о невозможности проверки полезнее для читателя, чем уверенный, но неверный ответ, и его значительно легче исправить позже.

Почему рискованно публиковать результат детектора

Цифра несет в себе авторитет, который не подтверждается уровнем ошибок. Публикация того, что изображение получило оценку 71, побуждает читателей воспринимать это как измерение истины, и оговорки теряются при распространении.

Это также асимметрично опасно в политическом контексте. Ложное объявление подлинной фотографии подделкой дает реальный повод для недовольства тому, кто ее опубликовал, а опровержение никогда не достигнет той же аудитории, что оригинал.

Практическое правило, к которому пришли большинство редакций: использовать детектор как сигнал для внутренней сортировки и публиковать только те выводы, которые человек может объяснить независимо от оценки: более ранняя копия, несоответствующая вывеска, измененная область, видимая при указании на нее.

Что редакции делают иначе сейчас

Практический ответ большинства отделов проверки — перенести обнаружение на более поздний этап процесса. Работа с провенансом идет первой, потому что она дает результаты, которые можно публиковать, а анализ — последним, потому что он выдает цифры, которые публиковать нельзя.

Эта инверсия важна. Проверяющий, который сначала запускает детектор, привязывается к его ответу, а затем ищет доказательства в его поддержку. Тот, кто сначала ищет, приходит к детектору уже зная, чем является картинка по заявлению, и только в этом контексте оценка что-то значит.

Некоторые отделы также полностью прекратили публиковать оценки, продолжая использовать их внутренне. Логика в том, что цифра побуждает читателя воспринимать проверку как измерение, а оговорки, делающие ее честной, не сохраняются при шеринге.

Что делать, если вы не можете прийти к решению

Значительная часть политических изображений не может быть определена в полезные сроки. Фотография низкого качества, самую раннюю копию найти невозможно, оценка находится посередине, а крайний срок уже наступил.

Признать это — законный результат. Примечание с объяснением того, что было проверено, что обнаружено и что остается неизвестным, полезнее для читателя, чем подразумеваемый вердикт, и его гораздо проще обновить, когда появится лучшая информация.

Это также защищает от сбоя, который наносит наибольший долгосрочный ущерб в политическом освещении: уверенное утверждение в неверном направлении. Опровержение никогда не достигает той же аудитории, что исходное заявление, и ошибка становится аргументом в следующем споре.

Там, где утверждение не может быть разрешено, а оно распространяется, более продуктивный шаг — обычно сообщить о самом утверждении, а не выносить суждение об изображении: кто его распространяет, когда оно появилось и для каких аргументов его используют.

Один навык стоит перенять независимо от дедлайна. Запишите, что, как утверждается, показывает изображение, прежде чем запускать любую проверку, а затем проверяйте это утверждение, а не саму картинку. Это простая дисциплина, которая предотвращает самую распространенную аналитическую ошибку в этой области.

Вопросы пользователей

Являются ли ИИ-изображения главной проблемой дезинформации о выборах?
Нет. Реальные фотографии с ложными подписями остаются гораздо более распространенными, их легче распространять и сложнее разоблачить, потому что в них нет ничего синтетического для обнаружения. Детектор выдает на них чистый результат, и это верно, поэтому обратный поиск изображения должен быть первым.
Что именно здесь улавливает детектор?
Две вещи хорошо: полностью сгенерированные сцены и локализованные изменения, такие как увеличенная толпа, измененный плакат или добавленная фигура. Второе видно на карте областей, а не в общей оценке, которая остается низкой, так как большая часть кадра — реальная фотография.
Можно ли публиковать оценку детектора в фактчеке?
Это неразумно в отрыве от всего остального. Цифра подразумевает точность, которую уровень ошибок не поддерживает, а неверный вердикт по политическому изображению дает повод для недовольства автору публикации. Публикуйте выводы, которые читатель может проверить самостоятельно, а оценку используйте, чтобы направлять поиск.
Как быстро проверить фото во время прямого эфира?
Сначала обратный поиск изображения, затем прочитайте, что в кадре: вывески, язык, номера, время года, архитектура. Оба способа быстрее любого анализа и оба охватывают самую большую категорию. Попиксельную проверку запускайте третьей, для измененных и сгенерированных случаев.
Что такое дивиденд лжеца?
Эффект, при котором реальные доказательства отбрасываются как синтетические просто потому, что существуют синтетические медиа. Это вторичный вред всей этой области, и он означает, что детектор, который уверенно ошибочно маркирует реальные фотографии, наносит ущерб, выходящий далеко за рамки отдельного случая.
Должны ли платформы помечать политические изображения автоматически?
Маркировка на основе маркеров внутри файла надежна, когда она срабатывает, и молчит в остальное время, так как большинство изображений не имеют маркеров. Маркировка на основе оценки детектора в больших масштабах применяла бы известный уровень ошибки к миллионам изображений, что является совершенно иной задачей.

Проверить изображение сейчас

Бесплатно, без учетной записи, файл никогда не покидает ваше устройство. Пятьдесят проверок в день.

Открыть детектор

Читать далее