Por que a IA ainda erra as mãos, e quando não erra

Por que as mãos eram genuinamente difíceis

Não era por acaso. Uma mão tem mais articulações independentes do que quase qualquer outra parte do corpo, e o número de configurações distintas que pode adotar é enorme em comparação com, digamos, um rosto, que varia dentro de uma faixa muito mais estreita.

As mãos também criam oclusão constante de si mesmas. Os dedos passam por trás de outros dedos, um aperto esconde a maior parte da palma e o contorno visível muda completamente com uma pequena rotação. Um modelo que aprende com fotografias vê uma enorme variedade de formas parciais para um único objeto.

E os dados de treino não ajudavam. As fotografias são compostas em torno de rostos, e as mãos aparecem na borda do enquadramento, desfocadas pelo movimento, cortadas ou segurando algo que as esconde. Os exemplos eram abundantes e de baixa qualidade exatamente da maneira que importa.

Juntando tudo, isso produzia a falha familiar: um modelo que sabia que uma mão tem coisas em formato de dedo acopladas e não tinha noção confiável de quantas, em que arranjo e em que escala.

O que resolveu o problema

Nada exótico. Mais dados, melhor anotados, além de mudanças arquiteturais que melhoraram a forma como os modelos lidam com a estrutura espacial em geral, mais a atenção explícita de equipas cansadas das críticas.

A última linha é o ponto principal de todo o artigo. O indício foi corrigido há anos e o conselho ainda circula, o que significa que as pessoas estão a ler mal as imagens ativamente ao aplicá-lo.

Por que contar agora falha em ambas as direções

Primeiro, um falso negativo: mãos corretas não provam nada. Os modelos atuais renderizam-nas corretamente na maior parte do tempo, portanto, uma imagem que passa no teste dos dedos passou num teste pelo qual quase tudo passa.

Segundo, um falso positivo, e este causa mais danos. Mãos reais fotografadas em movimento produzem formas desfocadas, fundidas e aparentemente deformadas. Uma fotografia genuína de alguém a gesticular numa festa pode parecer, para uma pessoa predisposta a contar, exatamente aquilo contra o qual foi avisada.

Essa assimetria importa porque o custo recai de forma desigual. Descartar erradamente uma imagem gerada como real é geralmente recuperável; acusar erradamente uma fotografia real, e a pessoa nela, não é.

Também se autoalimenta. Alguém a quem disseram que as mãos são o indício encontra uma mão com aspeto estranho, conclui que a imagem é falsa e repete o conselho que produziu o erro, que é como uma heurística obsoleta sobrevive à sua utilidade por anos.

O que o episódio ensina sobre qualquer outro indício

As mãos são um exemplo prático de um padrão geral, e o padrão é mais útil do que qualquer dica específica.

• Uma falha visível é um benchmark público. Qualquer coisa que possa ser nomeada é medida, e qualquer coisa medida é otimizada.
• A popularidade acelera a correção. Quanto mais amplamente um indício é repetido, maior é o incentivo para o remover.
• O conselho sobrevive à falha por anos. A correção nunca se espalha tão depressa quanto a dica original.
• As correções são irregulares entre ferramentas. Um indício removido num modelo principal pode persistir num mais antigo ou menor.
• O resíduo desloca-se para baixo. O que sobrevive não são falhas visíveis, mas sim a textura estatística, que está abaixo do que um olho consegue resolver.

O último ponto é a razão pela qual as ferramentas de deteção existem. Se as diferenças ainda fossem visíveis, ninguém precisaria de um modelo para as encontrar, e todo o campo seria apenas uma lista de coisas a procurar.

O que ainda se mantém válido

Duas famílias de verificação resistiram ao padrão, e ambas dizem respeito à coerência em todo o enquadramento e não a detalhes locais.

A iluminação é a primeira. Cada superfície numa fotografia é iluminada pelas mesmas fontes, pelo que a direção, a intensidade e a temperatura de cor das sombras concordam entre si. Uma cena gerada frequentemente acerta no sujeito e aproxima-se do que está à volta, e a discordância transparece nas sombras.

A continuidade física é a segunda. Uma alça que passa por trás de um ombro e reaparece no sítio errado, um reflexo que mostra uma sala que não poderia estar lá, um padrão que não se alinha através de uma oclusão. Estas coisas exigem um modelo do mundo em vez de um modelo de aparências.

Nenhuma delas é um teste rápido, e essa é a conclusão honesta. As verificações que ainda funcionam exigem olhar para a imagem como um lugar, e as verificações que eram rápidas são aquelas que foram corrigidas.

O que isto significa para quem ensina estes conceitos

Uma grande quantidade de material de literacia mediática ainda começa pela contagem de dedos, o que agora ensina às pessoas um teste que produz erros confiantes. Qualquer pessoa que esteja a escrever conteúdos de treino, orientações ou uma lição escolar sobre isto tem um problema de versão e não um problema de conteúdo.

A versão duradoura da lição foca-se no método em vez de nas características. Ensine que as falhas visíveis são temporárias, que qualquer indício suficientemente popular para ser ensinado é suficientemente popular para ser corrigido, e que as perguntas fiáveis dizem respeito à origem e ao contexto.

Também vale a pena ensinar explicitamente o modo de falha. Alguém que saiba que as mãos reais em movimento parecem erradas tem muito menos probabilidade de fazer a acusação que causa danos reais, que é chamar falsa a uma fotografia genuína de uma pessoa real.

O título honesto para qualquer material deste género é que nenhum teste visual rápido sobrevive ao contacto com os modelos atuais, e que as competências úteis consistem em perguntar de onde veio uma imagem e quem beneficia com o facto de ela ser acreditada.