Защо ИИ все още бърка ръцете и кога се справя

Защо ръцете наистина бяха трудни

Това не беше случайно. Една ръка има повече независими стави от почти всяка друга част на тялото, а броят на различните конфигурации, които може да приеме, е огромен в сравнение с, да речем, лицето, което варира в много по-тесен диапазон.

Ръцете също така непрекъснато се закриват сами. Пръстите минават зад пръстите, хватката скрива голяма част от дланта, а видимият контур се променя напълно при малко завъртане. Един модел, който се учи от фотографии, вижда огромно разнообразие от частични форми за един обект.

А данните за обучението бяха неусърдни. Снимките са композирани около лица, а ръцете се появяват в края на кадъра, размазани от движението, изрязани или държащи нещо, което ги скрива. Примерите бяха изобилни и с ниско качество точно по начина, който има значение.

Взети заедно, това доведе до познатия провал: модел, който знаеше, че ръката има неща с форма на пръсти, прикрепени към нея, и нямаше надеждно усещане колко на брой, в какво подреждане, в какъв мащаб.

Какво го оправи

Нищо екзотично. Повече данни, по-добре анотирани, плюс архитектурни промени, които подобряват начина, по който моделите обработват пространствената структура като цяло, плюс изрично внимание от екипи, които бяха уморени от критиките.

Последният ред е същността на цялата статия. Белегът беше поправен преди години и съветът все още циркулира, което означава, че хората активно разчитат грешно изображенията, като го прилагат.

Защо броенето сега се проваля в двете посоки

Фалшиво отрицание първо: правилните ръце не доказват нищо. Текущите модели ги изобразяват правилно през повечето време, така че снимка, която преминава теста с пръстите, е преминала тест, който почти всичко преминава.

Фалшиво положително второ, и това нанесе повече вреда. Истинските ръце, снимани в движение, създават размазани, слети, видимо деформирани форми. Истинска снимка на някого, който жестикулира на парти, може да изглежда за човек, настроен да броя, точно като нещо, срещу което е бил предупреден.

Тази асиметрия има значение, защото цената пада неравномерно. Погрешното отхвърляне на генерирано изображение като истинско обикновено подлежи на поправка; погрешното обвиняване на истинска снимка и човека в нея не е така.

Това също е самоподсилващо се. Някой, на когото му е казано, че ръцете са белегът, намират ръка, която изглежда странно, заключва, че изображението е фалшиво, и повтаря съвета, който е произвел грешката, което е начинът, по който една оттеглена евристика надживява своята полезност с години.

Какво учи епизодът за всеки друг белег

Ръцете са работен пример за общ модел и моделът е по-полезен от всеки конкретен съвет.

• Видимият недостатък е обществен бенчмарк. Всяко нещо, което може да бъде назовано, се измерва, и всичко измерено се оптимизира.
• Популярността ускорява корекцията. Колкото по-широко се повтаря един белег, толкова по-голям е стимулът той да бъде премахнат.
• Съветите надживяват недостатъка с години. Корекцията никога не се разпространява толкова бързо, колкото оригиналният съвет.
• Корекциите са неравномерни в различните инструменти. Белег, премахнат във флагмански модел, може да се запази в по-стар или по-малък такъв.
• Остатъкът се мести надолу. Това, което оцелява, не са видимите недостатъци, а статистическата текстура, която е под прага на разделителната способност на окото.

Последният пункт е причината изобщо да съществуват инструменти за детекция. Ако разликите бяха все още видими, никой нямаше да има нужда от модел, който да ги открие, и цялото поле щеше да бъде списък с неща, които да се търсят.

Какво все още се държи

Две семейства проверки са се противопоставили на модела и двете са за кохерентност в рамките на кадъра, а не за локални детайли.

Осветлението е първото. Всяка повърхност на снимка се осветява от едни и същи източници, така че посоката на сенките, твърдостта и цветната температура съвпадат. Една генерирана сцена често прави обекта правилен, а околната среда приблизително правилна, като несъответствието си личи в сенките.

Физическата непрекъснатост е втората. Презрамка, която минава зад рамо и се появява отново на грешното място, отражение, показващо стая, която не може да бъде там, шарка, която не успява да се подравни при закритост. Те се нуждаят от модел на света, а не от модел на външния вид.

Никое от двете не е бърз тест и това е честното заключение. Проверките, които все още работят, изискват разглеждане на снимката като място, а проверките, които бяха бързи, са тези, които бяха поправени.

Какво означава това за всеки, който преподава това

Голямо количество материали за медийна грамотност все още водят с броене на пръсти, което сега учи хората на тест, който дава уверени грешки. Всеки, който пише обучение, насоки или училищен урок по този въпрос, има проблем с версията, а не проблем със съдържанието.

Трайният вариант на урока е за метода, а не за характеристиките. Научете, че видимите недостатъци са временни, че всеки белег, достатъчно популярен, за да бъде преподаван, е достатъчно популярен, за да бъде поправен, и че надеждните въпроси са за източника и контекста.

Също така си струва да се преподаде режима на повреда изрично. Някой, който знае, че истинските ръце в движение изглеждат погрешно, е много по-малко вероятно да отправи обвинението, което нанася истинска щета, а именно нареждането на истинска снимка на реален човек като фалшива.

Честното заглавие за всеки такъв материал е, че нито един бърз визуален тест не оцелява при контакт с текущите модели и че полезните умения са да се запитате откъде идва изображението и кой има полза от това да му се вярва.