Dlaczego AI wciąż popełnia błędy w dłoniach i kiedy ich unika

Dlaczego dłonie sprawiały tak duży problem

To nie był przypadek. Dłoń ma więcej niezależnych stawów niż niemal jakakolwiek inna część ciała, a liczba jej możliwych ułożeń jest ogromna w porównaniu z na przykład twarzą, która mieści się w znacznie węższym zakresie.

Dłonie nieustannie same się też zasłaniają. Palce chowają się za innymi palcami, uścisk kryje większość wnętrza dłoni, a widoczny zarys zmienia się całkowicie przy drobnym obrocie. Model uczący się na fotografiach widzi ogromną różnorodność niepełnych kształtów tego samego obiektu.

Dane treningowe również nie pomagały. Kadry zdjęć skupiają się na twarzach, a dłonie pojawiają się na krawędziach, rozmyte w ruchu, przycięte lub trzymające coś, co je zasłania. Przykładów było mnóstwo, lecz miały one niską jakość dokładnie w tych aspektach, które miały znaczenie.

Wszystko to złożyło się na powszechnie znany błąd: model wiedział, że do dłoni przymocowane są elementy w kształcie palców, ale nie miał pojęcia, ile ich jest, w jakim układzie i w jakiej skali.

Co rozwiązało problem

Nic niezwykłego. Więcej lepiej opisanych danych, zmiany w architekturze poprawiające ogólne odwzorowanie struktur przestrzennych oraz wyraźne skupienie się na tym problemie przez zespoły zmęczone krytyką.

Ostatni wiersz oddaje sens całego artykułu. Ta cecha charakterystyczna została poprawiona lata temu, a porada nadal krąży, co oznacza, że stosujący ją ludzie błędnie interpretują obrazy.

Dlaczego liczenie palców zawodzi teraz w obie strony

Po pierwsze, fałszywy negatyw: poprawne dłonie niczego nie dowodzą. Obecne modele generują je prawidłowo przez większość czasu, więc obraz przechodzący „test palców” zdaje sprawę, z którą radzi sobie niemal każdy model.

Po drugie, fałszywy pozytyw – i ten niesie za sobą większe szkody. Prawdziwe dłonie sfotografowane w ruchu dają rozmyte, zlane i pozornie zdeformowane kształty. Autentyczne zdjęcie kogoś gestykulującego na przyjęciu może wyglądać dla osoby nastawionej na liczenie palców dokładnie tak, jak to, przed czym ją ostrzegano.

Ta asymetria ma znaczenie, ponieważ koszty rozkładają się nierówno. Błędne uznanie wygenerowanego obrazu za prawdziwy zazwyczaj da się naprawić; niesłuszne zakwestionowanie prawdziwego zdjęcia i widocznej na nim osoby – już nie.

Mechanizm ten sam się napędza. Osoba, której powiedziano, że dłonie zdradzają fałszywkę, widzi nietypowo wyglądającą dłoń, dochodzi do wniosku, że obraz jest wygenerowany, i powtarza radę, która doprowadziła do błędu. W ten sposób nieaktualna metoda zachowuje popularność całe lata po utracie przydatności.

Czego ta sytuacja uczy nas o innych wskazówkach

Dłonie są przykładem ogólnego schematu, a sam schemat jest bardziej użyteczny niż jakakolwiek pojedyncza porada.

• Widoczna wada staje się publicznym punktem odniesienia. Wszystko, co da się nazwać, zostaje zmierzone, a wszystko, co zmierzone – zoptymalizowane.
• Popularność przyspiesza poprawki. Im powszechniej powtarza się daną wskazówkę, tym większa jest motywacja, by ją wyeliminować.
• Porady żyją całe lata dłużej niż same błędy. Sprostowania nigdy nie rozprzestrzeniają się tak szybko, jak pierwotne wskazówki.
• Poprawki są wdrażane nierównomiernie w różnych narzędziach. Cecha usunięta we flagowym modelu może nadal występować w starszym lub mniejszym.
• Ślady przenoszą się na głębszy poziom. To, co pozostaje, to nie widoczne gołym okiem wady, lecz statystyczna tekstura – poza zakresem rozdzielczości ludzkiego oka.

Ostatni punkt tłumaczy, dlaczego narzędzia do detekcji w ogóle istnieją. Gdyby różnice nadal były widoczne, nikt nie potrzebowałby modelu do ich wykrywania, a cała dziedzina sprowadzałaby się do listy elementów, na które należy patrzeć.

Co nadal ma znaczenie

Dwa rodzaje weryfikacji oparły się temu schematowi – oba dotyczą spójności całego kadru, a nie lokalnych detali.

Pierwszym jest oświetlenie. Każda powierzchnia na fotografii jest oświetlona przez te same źródła, więc kierunek cieni, ich ostrość i temperatura barwowa są spójne. Wygenerowana scena często przedstawia poprawnie główny obiekt i w przybliżeniu otoczenie, a rozbieżności uwidaczniają się w cieniach.

Drugim jest ciągłość fizyczna. Pasek, który znika za ramieniem i pojawia się w złym miejscu, odbicie ukazujące pokój, którego nie powinno tam być, czy wzór, który nie łączy się po zasłonięciu. Te elementy wymagają modelu świata, a nie jedynie modelu wyglądu.

Żadna z tych metod nie jest szybkim testem – i to jest uczciwy wniosek. Metody, które wciąż działają, wymagają spojrzenia na obraz jak na przestrzeń, a te proste i szybkie zostały już przez algorytmy wyeliminowane.

Co to oznacza dla osób zajmujących się edukacją

Wiele materiałów z zakresu edukacji medialnej wciąż zaczyna się od liczenia palców, ucząc metody prowadzącej do błędnych, lecz pewnych siebie wniosków. Każdy, kto tworzy szkolenia, poradniki lub lekcje szkolne na ten temat, ma problem z nieaktualnością materiałów, a nie z ich formą.

Trwała nauka powinna dotyczyć metody, a nie konkretnych cech obrazu. Należy uczyć, że widoczne wady są tymczasowe, że każda wskazówka na tyle popularna, by o niej uczyć, jest też na tyle popularna, by ją poprawiono, a wiarygodne pytania dotyczą źródła i kontekstu.

Warto również wyraźnie omawiać typowe pomyłki. Osoba wiedząca, że prawdziwe dłonie w ruchu mogą wyglądać nienaturalnie, znacznie rzadziej postawi zarzut niosący realne szkody – czyli nazwanie autentycznego zdjęcia prawdziwej osoby fałszywką.

Uczciwy wniosek dla wszelkich takich materiałów brzmi: żaden szybki test wzrokowy nie zdaje egzaminu w starciu z obecnymi modelami, a przydatne umiejętności to sprawdzanie, skąd pochodzi obraz i komu zależy na tym, by w niego uwierzono.