Perché l'IA sbaglia ancora le mani, e quando non lo fa

Perché le mani erano davvero difficili

Non era arbitrario. Una mano ha più articolazioni indipendenti di quasi ogni altra parte del corpo e il numero di configurazioni distinte che può assumere è enorme rispetto, ad esempio, a un volto, che varia entro un intervallo molto più ristretto.

Le mani, inoltre, si auto-occludono costantemente. Le dita passano dietro le dita, una presa nasconde gran parte del palmo e il profilo visibile cambia completamente con una piccola rotazione. Un modello che apprende dalle fotografie vede un'enorme varietà di forme parziali per un singolo oggetto.

E i dati di addestramento non erano utili. Le fotografie sono composte attorno ai volti e le mani appaiono ai bordi dell'inquadratura, sfocate dal movimento, ritagliate o mentre tengono qualcosa che le nasconde. Gli esempi erano numerosi e di bassa qualità proprio nel modo in cui conta.

Mettendo tutto insieme, si è prodotto il fallimento familiare: un modello che sapeva che una mano ha oggetti a forma di dito attaccati, ma non aveva alcun senso affidabile di quanti, in quale disposizione, a quale scala.

Cosa lo ha risolto

Niente di esotico. Più dati, annotati meglio, oltre a cambiamenti architetturali che hanno migliorato il modo in cui i modelli gestiscono la struttura spaziale in generale, più l'attenzione esplicita da parte di team stanchi delle critiche.

L'ultima riga è il senso dell'intero articolo. L'indizio è stato risolto anni fa e il consiglio continua a circolare, il che significa che le persone stanno attivamente leggendo male le immagini applicandolo.

Perché il conteggio ora fallisce in entrambe le direzioni

Un falso negativo per primo: le mani corrette non provano nulla. I modelli attuali le renderizzano correttamente la maggior parte delle volte, quindi un'immagine che supera il test delle dita ha superato un test che quasi tutto supera.

Un falso positivo per secondo, e questo causa più danni. Mani reali fotografate in movimento producono forme sfocate, unite, apparentemente deformate. Una fotografia autentica di qualcuno che gesticola a una festa può sembrare, a una persona preparata a contare, esattamente come la cosa di cui era stata avvertita.

Quell'asimmetria è importante perché il costo ricade in modo non uniforme. Liquidare erroneamente un'immagine generata come reale è solitamente recuperabile; accusare erroneamente una fotografia reale, e la persona che vi è ritratta, non lo è.

È anche auto-rinforzante. Qualcuno a cui è stato detto che le mani sono l'indizio trova una mano che sembra strana, conclude che l'immagine è falsa e ripete il consiglio che ha prodotto l'errore, che è il modo in cui un'euristica in disuso sopravvive anni alla sua utilità.

Cosa insegna l'episodio su ogni altro indizio

Le mani sono un esempio pratico di uno schema generale, e lo schema è più utile di qualsiasi consiglio specifico.

• Un difetto visibile è un punto di riferimento pubblico. Tutto ciò che è denominabile viene misurato, e tutto ciò che viene misurato viene ottimizzato.
• La popolarità accelera la correzione. Più un indizio viene ripetuto, più c'è incentivo a rimuoverlo.
• Il consiglio sopravvive al difetto per anni. La correzione non si diffonde mai così velocemente come ha fatto il suggerimento originale.
• Le correzioni non sono uniformi tra gli strumenti. Un indizio rimosso in un modello di punta potrebbe persistere in uno più vecchio o più piccolo.
• Il residuo si sposta verso il basso. Ciò che sopravvive non sono i difetti visibili ma la trama statistica, che è al di sotto di ciò che un occhio può risolvere.

L'ultimo punto è il motivo per cui esistono gli strumenti di rilevamento. Se le differenze fossero ancora visibili, nessuno avrebbe bisogno di un modello per trovarle, e l'intero campo sarebbe un elenco di cose da cercare.

Ciò che ancora regge

Due famiglie di controlli hanno resistito allo schema, ed entrambe riguardano la coerenza attraverso l'inquadratura piuttosto che il dettaglio locale.

L'illuminazione è la prima. Ogni superficie in una fotografia è illuminata dalle stesse fonti, quindi la direzione dell'ombra, la durezza e la temperatura del colore concordano tutte. Una scena generata spesso rende bene il soggetto e approssimativamente bene l'ambiente circostante, e il disaccordo si nota nelle ombre.

La continuità fisica è la seconda. Un cinturino che passa dietro una spalla e riappare nel posto sbagliato, un riflesso che mostra una stanza che non potrebbe essere lì, un motivo che non riesce ad allinearsi attraverso un'occlusione. Questi richiedono un modello del mondo piuttosto che un modello delle apparenze.

Nessuno dei due è un test rapido, e questa è la conclusione onesta. I controlli che ancora funzionano richiedono di guardare l'immagine come un luogo, e i controlli che erano rapidi sono quelli che sono stati risolti.

Cosa significa questo per chiunque insegni questo

Una grande quantità di materiale sull'alfabetizzazione mediatica inizia ancora con il conteggio delle dita, che ora insegna alle persone un test che produce errori sicuri. Chiunque scriva formazione, guida o una lezione scolastica su questo ha un problema di versione piuttosto che un problema di contenuto.

La versione duratura della lezione riguarda il metodo piuttosto che le caratteristiche. Insegna che i difetti visibili sono temporanei, che qualsiasi indizio abbastanza popolare da essere insegnato è abbastanza popolare da essere risolto, e che le domande affidabili riguardano la fonte e il contesto.

Vale anche la pena insegnare esplicitamente la modalità di fallimento. Qualcuno che sa che le mani reali in movimento sembrano sbagliate ha molte meno probabilità di fare l'accusa che causa un danno reale, ovvero chiamare falsa una fotografia genuina di una persona reale.

Il titolo onesto per qualsiasi materiale di questo tipo è che nessun test visivo rapido sopravvive al contatto con i modelli attuali, e che le competenze utili sono chiedere da dove provenga un'immagine e chi tragga vantaggio dal fatto che le si creda.