Почему ИИ до сих пор ошибается с руками, и когда он этого не делает

Почему руки были действительно сложной задачей

Это не было случайностью. В руке больше независимых суставов, чем почти в любой другой части тела, и количество возможных конфигураций огромно по сравнению, например, с лицом, которое меняется в гораздо более узких пределах.

Руки также постоянно перекрывают сами себя. Пальцы проходят за другими пальцами, захват скрывает большую часть ладони, а видимый контур полностью меняется при небольшом повороте. Модель, обучающаяся на фотографиях, видит огромное разнообразие частичных форм для одного объекта.

К тому же обучающие данные были бесполезны. Фотографии компонуются вокруг лиц, а руки появляются по краям кадра, размытые движением, обрезанные или держащие что-то, что их скрывает. Примеров было много, и все они были низкого качества именно в тех аспектах, которые имеют значение.

В совокупности это приводило к привычной ошибке: модель «знала», что к руке прикреплены объекты, похожие на пальцы, но не имела надежного представления о том, сколько их, в каком порядке и в каком масштабе.

Что это исправило

Ничего необычного. Больше данных, лучшая аннотация, плюс архитектурные изменения, улучшившие обработку моделью пространственной структуры в целом, а также пристальное внимание команд, уставших от критики.

Последняя строка — это главный вывод всей статьи. Признак был устранен много лет назад, а совет все еще циркулирует, что означает, что люди активно неверно интерпретируют изображения, применяя его.

Почему подсчет пальцев теперь дает сбой в обе стороны

Во-первых, ложноотрицательный результат: правильные руки ничего не доказывают. Текущие модели ревностно отображают их корректно большую часть времени, поэтому изображение, прошедшее «пальцевый тест», прошло проверку, которую проходит почти всё.

Во-вторых, ложноположительный результат, и он приносит больше вреда. Настоящие руки, сфотографированные в движении, создают размытые, сливающиеся, порой деформированные формы. Подлинная фотография человека, жестикулирующего на вечеринке, может выглядеть для того, кто привык считать пальцы, точно так же, как то, о чем его предупреждали.

Эта асимметрия важна, потому что последствия распределяются неравномерно. Ошибочно принять сгенерированное изображение за реальное — это обычно поправимо; ошибочно обвинить настоящую фотографию и человека на ней — нет.

Это также самоподкрепляющийся процесс. Кто-то, кому сказали, что руки — это маркер, находит руку, которая выглядит странно, делает вывод, что изображение поддельное, и повторяет совет, породивший ошибку. Так устаревшая эвристика годами сохраняет свою ложную значимость.

Чему этот эпизод учит в отношении любого другого признака

Руки — это рабочий пример общей закономерности, и сама закономерность полезнее любого конкретного совета.

• Видимый недостаток — это публичный бенчмарк. Все, что можно назвать, измеряется, а все, что измеряется, оптимизируется.
• Популярность ускоряет исправление. Чем шире распространяется признак, тем больше стимулов его устранить.
• Советы живут дольше, чем недоработка, на годы. Исправление никогда не распространяется так быстро, как исходный совет.
• Исправления неравномерны в разных инструментах. Признак, удаленный в флагманской модели, может сохраняться в более старой или компактной версии.
• Остаток перемещается вниз. То, что выживает, — это не видимые дефекты, а статистическая текстура, которая находится ниже порога разрешения глаза.

Последний пункт объясняет, зачем вообще существуют инструменты обнаружения. Если бы различия все еще были видны, никому не нужна была бы модель для их поиска, и вся область свелась бы к списку вещей, на которые стоит смотреть.

Что все еще работает

Два типа проверок не поддались этой закономерности, и оба они касаются согласованности по всему кадру, а не локальных деталей.

Освещение — первое из них. Каждая поверхность на фотографии освещена одними и теми же источниками, поэтому направление теней, их резкость и цветовая температура совпадают. Сгенерированная сцена часто правильно передает объект и примерно — окружение, но в тенях проявляется несоответствие.

Физическая непрерывность — второе. Ремешок, который проходит за плечом и появляется в неправильном месте, отражение, показывающее комнату, которой там быть не может, узор, который не стыкуется при перекрытии. Для этого нужна модель мира, а не модель внешнего вида.

Ни то, ни другое не является быстрой проверкой, и это честный вывод. Проверки, которые все еще работают, требуют рассмотрения снимка как пространства, а те, что были быстрыми, — это те, что уже исправлены.

Что это значит для тех, кто этому обучает

Большое количество материалов по медиаграмотности все еще начинается с подсчета пальцев, что теперь обучает людей тесту, который дает самоуверенные ошибки. У любого, кто пишет инструкции, руководства или школьные уроки на эту тему, проблема с версией знаний, а не с содержанием.

Долговечная версия урока заключается в методе, а не в признаках. Учите тому, что видимые недостатки временны, что любой признак, достаточно популярный, чтобы его преподавать, достаточно популярен, чтобы его исправили, и что надежные вопросы касаются источника и контекста.

Также стоит прямо указывать на режим ошибки. Тот, кто знает, что настоящие руки в движении выглядят неправильно, с гораздо меньшей вероятностью выдвинет обвинение, которое причиняет реальный ущерб: назовет подлинную фотографию реального человека подделкой.

Честный заголовок для таких материалов: ни один быстрый визуальный тест не выдерживает проверки текущими моделями, а полезные навыки заключаются в вопросах о том, откуда взялось изображение и кому выгодно, чтобы в него поверили.