Por qué la IA todavía se equivoca con las manos, y cuándo no lo hace

Por qué las manos eran verdaderamente difíciles

No fue arbitrario. Una mano tiene más articulaciones independientes que casi cualquier otra parte del cuerpo, y la cantidad de configuraciones distintas que puede adoptar es enorme en comparación con, digamos, un rostro, que varía dentro de un rango mucho más estrecho.

Las manos también se tapan constantemente. Los dedos pasan por detrás de los dedos, un agarre oculta la mayor parte de la palma y el contorno visible cambia por completo con una pequeña rotación. Un modelo que aprende a partir de fotografías ve una enorme variedad de formas parciales para un solo objeto.

Y los datos de entrenamiento no servían de ayuda. Las fotografías se componen alrededor de rostros, y las manos aparecen en el borde del encuadre, borrosas por el movimiento, recortadas o sosteniendo algo que las oculta. Los ejemplos abundaban y eran de baja calidad exactamente de la manera que importa.

En conjunto, eso produjo el fallo conocido: un modelo que sabía que una mano tiene elementos con forma de dedo adheridos y no tenía una idea fiable de cuántos, en qué disposición ni a qué escala.

Qué lo solucionó

Nada exótico. Más datos, mejor anotados, además de cambios arquitectónicos que mejoraron la forma en que los modelos gestionan la estructura espacial en general, y la atención explícita de equipos cansados de las críticas.

La última fila es el punto clave de todo el artículo. El indicio se solucionó hace años y el consejo sigue circulando, lo que significa que la gente interpreta mal las imágenes activamente al aplicarlo.

Por qué contar ahora falla en ambas direcciones

Primero, un falso negativo: las manos correctas no prueban nada. Los modelos actuales las representan correctamente la mayoría de las veces, por lo que una imagen que supera la prueba de los dedos ha pasado una prueba que casi todo supera.

Segundo, un falso positivo, y este causa más daño. Las manos reales fotografiadas en movimiento producen formas borrosas, fusionadas y Aparentemente deformes. Una fotografía auténtica de alguien gesticulando en una fiesta puede parecer, a una persona predispuesta a contar, exactamente aquello de lo que le advirtieron.

Esa asimetría importa porque el coste recae de forma desigual. Descartar erróneamente una imagen generada como si fuera real suele ser subsanable; acusar erróneamente a una fotografía real, y a la persona que aparece en ella, no lo es.

También se retroalimenta. Alguien a quien le han dicho que las manos son el indicio encuentra una mano que parece extraña, concluye que la imagen es falsa y repite el consejo que produjo el error, que es como una heurística retirada prolonga su utilidad durante años.

Lo que el episodio enseña sobre cualquier otro indicio

Las manos son un ejemplo práctico de un patrón general, y el patrón es más útil que cualquier consejo específico.

• Un defecto visible es una referencia pública. Todo lo que tiene nombre se mide, y todo lo que se mide se optimiza.
• La popularidad acelera la solución. Cuanto más se repite un indicio, más incentivos hay para eliminarlo.
• Los consejos sobreviven al defecto durante años. La corrección nunca se propaga tan rápido como lo hizo el consejo original.
• Las soluciones son desiguales entre herramientas. Un indicio eliminado en un modelo insignia puede persistir en uno más antiguo o más pequeño.
• El residuo se desplaza hacia abajo. Lo que sobrevive no son defectos visibles, sino textura estadística, que está por debajo de lo que un ojo puede resolver.

El último punto es la razón por la cual existen las herramientas de detección. Si las diferencias siguieran siendo visibles, nadie necesitaría un modelo para encontrarlas, y todo el campo sería una lista de cosas que buscar.

Qué sigue manteniéndose en pie

Dos familias de comprobación han resistido el patrón, y ambas tratan sobre la coherencia en todo el encuadre en lugar del detalle local.

La iluminación es la primera. Cada superficie de una fotografía está iluminada por las mismas fuentes, por lo que la dirección, la dureza y la temperatura del color de las sombras coinciden. Una escena generada a menudo acierta con el sujeto y aproxima el entorno, y la discrepancia se nota en las sombras.

La continuidad física es la segunda. Una correa que pasa por detrás de un hombro y reaparece en el lugar equivocado, un reflejo que muestra una habitación que no podría estar ahí, un patrón que no coincide a través de una oclusión. Estas requieren un modelo del mundo en lugar de un modelo de apariencias.

Ninguna es una prueba rápida, y esa es la conclusión honesta. Las comprobaciones que aún funcionan exigen ver la imagen como un lugar, y las comprobaciones que eran rápidas son las que se han solucionado.

Qué significa esto para cualquiera que enseñe esto

Una gran cantidad de material de alfabetización mediática sigue encabezándose con el recuento de dedos, lo que ahora enseña a las personas una prueba que genera errores seguros. Cualquiera que escriba material de formación, directrices o una lección escolar sobre esto tiene un problema de versión en lugar de un problema de contenido.

La versión duradera de la lección trata sobre el método en lugar de sobre las características. Enseña que los defectos visibles son temporales, que cualquier indicio lo suficientemente popular como para enseñarse es lo suficientemente popular como para solucionarse, y que las preguntas fiables tratan sobre la fuente y el contexto.

También vale la pena enseñar explícitamente el modo de fallo. Alguien que sabe que las manos reales en movimiento se ven mal tiene muchas menos probabilidades de cometer la acusación que causa un daño real, que es calificar de falsa una fotografía genuina de una persona real.

El titular honesto para cualquier material de este tipo es que ninguna prueba visual rápida sobrevive al contacto con los modelos actuales, y que las habilidades útiles consisten en preguntar de dónde viene una imagen y a quién beneficia que se crea.