Como identificar rostos gerados por IA

Pare de olhar para o rosto. Os indícios confiáveis mudaram para as bordas do quadro anos atrás: fundos, joias, dentes, orelhas e o limite onde o cabelo encontra todo o resto. O rosto em si é a parte que cada novo modelo conserta primeiro.

Por que a lista de verificação antiga parou de funcionar

Todas as listas de indícios amplamente compartilhadas têm o mesmo problema: descrevem as fraquezas dos modelos que existiam quando foram escritas. Essas fraquezas são públicas, mensuráveis e embaraçosas, o que as torna precisamente as coisas para cuja correção o próximo lançamento é ajustado.

As mãos são o exemplo mais claro. Contar dedos foi genuinamente útil por cerca de dezoito meses, depois tornou-se uma maneira de estar confiantemente errado em ambas as direções: as mãos geradas geralmente estão corretas agora, e as mãos reais em movimento se fundem em formas que parecem erradas para alguém a quem foi dito para contar.

O mesmo aconteceu com os reflexos nos olhos, a assimetria das orelhas e a geometria dental, aproximadamente nessa ordem. Qualquer coisa que possa ser descrita em uma postagem viral é submetida a benchmarks, e qualquer coisa com benchmark é consertada.

2019
Fundos dissolvidos Os primeiros geradores de rostos produziam um rosto nítido sobre uma mancha. Isso foi corrigido quando os modelos aprenderam cenas inteiras.
2022
Orelhas e brincos desalinhados Joias assimétricas eram um forte indício até que os dados de treinamento passaram a contemplá-las.
2023
Mãos e dedos O indício mais citado de todos. Em grande parte resolvido no espaço de duas versões de lançamento.
2024
Texto no enquadramento Sinalizações e rótulos tornaram-se legíveis, eliminando um ponto fraco óbvio.
2026
O que resta é estatístico As diferenças remanescentes estão na textura e no ruído, abaixo do que o olho humano consegue distinguir.

Aproximadamente quando cada indício popular parou de ser confiável. O padrão é o foco, não as datas exatas.

Olhe para longe do rosto

O esforço de geração concentra-se onde a atenção se concentra. Um modelo treinado em retratos torna-se muito bom na região para a qual as pessoas olham, e continua mais fraco em tudo o que o sinal de treinamento tratou como segundo plano.

É aí que residem as verificações duradouras. Pergunte o que está escrito no cordão do crachá, se o padrão da camisa continua corretamente atrás do braço, se a corrente de um colar passa por trás do pescoço e sai no lugar certo, e se o ambiente atrás do ombro é um lugar que poderia existir.

Detalhes repetidos são a outra família confiável. Papel de parede, alvenaria, folhagem e rostos em multidões são caros de gerar de forma coerente, por isso tendem a se repetir, desviar ou perder seu ponto de fuga de maneiras que um olho humano consegue captar, mesmo quando o retrato à frente está perfeito.

Texto longe do centro. Distintivos, sinalizações, lombadas de livros, embalagens. O texto central agora costuma estar correto; o texto periférico ainda é onde o sistema falha.
Continuidade através de uma oclusão. Uma alça, uma corrente ou uma listra que passa por trás de algo e retorna incorretamente.
Multidões e objetos repetidos. A segunda e a terceira fileira de uma multidão, ou a quarta cadeira em uma fileira, recebem menos atenção do que a primeira.
Pele em alta ampliação. A pele real tem poros, fios de cabelo perdidos e imperfeições assimétricas. A pele gerada costuma ser lisa de uma forma que nenhuma iluminação explica.
Onde o cabelo encontra tudo o mais. A fronteira entre o cabelo e o fundo continua sendo uma das regiões mais difíceis de renderizar de forma coerente.

O que um detetor vê que o utilizador não consegue

O motivo para realizar uma verificação em vez de confiar na inspeção visual é que as diferenças remanescentes estão abaixo da resolução da visão humana. O sensor de uma câmera produz um tipo específico de ruído; um processo de geração produz outro, e nenhum deles é visível no tamanho normal de visualização.

Esta é também a razão pela qual um detector e os seus olhos podem discordar. Uma imagem com um erro visual óbvio pode pontuar baixo porque a sua textura é fotográfica, e uma imagem que parece perfeita pode pontuar alto porque a sua textura não é. Ambas as leituras são informativas, e nenhuma anula a outra.

Dois tipos diferentes de evidência
	Inspeção visual	Análise de píxeis
Funciona em	Erros de composição e lógica	Estrutura de textura e ruído
Sobrevive à compressão	Sim	Degrada
Sobrevive a uma captura de ecrã	Sim	Degrada gravemente
Deteta uma edição pequena	Apenas se você notar	Sim, através do mapa de regiões
Piora com o tempo	Rapidamente	Gradualmente

A última linha é a útil. Os indícios visuais decaem a cada lançamento de modelo; um detector treinado em vários geradores decai mais devagar, porque aprendeu o que a textura sintética tem em comum, em vez do que um único produto errou em um ano.

O caso que mais importa: um rosto real, alterado

A maioria das fraudes relevantes não são retratos totalmente gerados. São fotografias de pessoas reais com uma coisa alterada: um rosto diferente no mesmo corpo, um objeto adicionado à mão, um distintivo modificado, uma segunda pessoa removida do enquadramento.

Uma pontuação de enquadramento inteiro lida mal com isso por definição, porque noventa por cento da imagem é realmente uma fotografia e a média reflete isso. O mapa de regiões é o que traz isso à tona, e ler o mapa em vez do número é o hábito isolado que mais melhora a precisão em rostos.

14 18 11 16 12 15 89 13 17 10 14 19

Onze blocos são lidos como fotográficos. Um não é, e é justamente o que cobre um rosto.

Uma fotografia de grupo genuína com um rosto substituído. A pontuação de enquadramento inteiro foi 31.

Um hábito viável

Dê ao retrato cinco segundos de inspeção periférica: texto, continuidade, padrão repetido, limite do cabelo. Em seguida, execute uma verificação e leia o mapa. Os dois juntos detetam muito mais do que qualquer um deles isoladamente, e todo o processo leva menos de um minuto.

Onde há riscos reais, adicione a etapa que nenhuma quantidade de análise de pixel substitui: encontre o mesmo rosto em algum lugar com histórico. Um perfil com três anos de publicações, fotografias marcadas por outras pessoas e um empregador consistente constitui um tipo de evidência que nenhum gerador produz.

Os indícios que não mudaram

Duas coisas resistiram a quatro anos de melhorias, e ambas dizem respeito à coerência à distância e não aos detalhes locais. A primeira é a iluminação: se todas as superfícies no enquadramento são iluminadas pelas mesmas fontes, a partir das mesmas direções, com sombras da mesma suavidade.

Um retrato gerado geralmente acerta o rosto e o ambiente de forma aproximada, e a discrepância aparece nas sombras. Uma sombra dura sob o queixo próxima a uma sombra suave na parede atrás descreve dois cômodos diferentes.

A segunda é a profundidade. Superfícies refletoras, vidro, água e espelhos devem estar de acordo com a geometria de todo o resto, e muitas vezes não estão. Uma janela atrás de um sujeito exibindo uma cena que não poderia estar lá é o tipo de erro que sobrevive a atualizações de modelos, pois requer um modelo de mundo em vez de um modelo de rostos.

Nenhum dos dois é um teste que se possa aplicar mecanicamente, e ambos exigem mais tempo do que contar dedos. Essa é a contrapartida: as verificações que ainda funcionam são aquelas que exigem pensar na imagem como um lugar em vez de escaneá-la em busca de um defeito.

Perguntas que as pessoas fazem

Contar dedos ainda é útil?

Raramente, e agora falha em ambas as direções. Os modelos atuais renderizam as mãos corretamente na maior parte do tempo, portanto, uma mão correta não prova nada, e mãos reais capturadas em meio a um movimento produzem formas borradas que as pessoas interpretam como geradas. Foi uma boa heurística por cerca de dezoito meses, mas deixou de ser.

E quanto aos olhos? Li que os reflexos não coincidem.

Isso era verdade nos primeiros geradores de rostos, que renderizavam cada olho de forma um tanto independente. Os modelos modernos produzem pontos de luz consistentes. Ainda vale a pena dar uma olhada rápida porque não custa nada, mas um par correspondente de reflexos já não serve de prova para nada.

Por que um detector sinaliza a fotografia de uma pessoa real?

Normalmente trata-se de processamento e não de manipulação. Filtros de beleza, modo retrato, modo noturno e redução agressiva de ruído reescrevem a textura da pele após a captura, e esse é exatamente o sinal que o modelo lê. Peça um original sem filtros antes de tratar uma pontuação mediana como significativa.

O sistema pode me dizer qual ferramenta criou o rosto?

Não a partir dos pixels. Os modelos compartilham arquiteturas e dados de treinamento, de modo que suas impressões digitais se sobrepõem, e qualquer pós-processamento borra o pouco que os separa. Se um nome aparecer em um resultado, ele veio de uma credencial no arquivo e não da imagem, e o resultado deixa isso claro.

Funciona em um rosto dentro de uma foto de grupo?

Sim, e é aqui que o mapa de regiões justifica a sua existência. Um único rosto substituído dentro de uma fotografia que de outro modo seria genuína mal altera a pontuação de enquadramento inteiro, mas acende um único bloco. Leia o mapa primeiro em qualquer imagem com mais de uma pessoa.

E quanto a chamadas de vídeo?

Outro problema, outras ferramentas. A detecção de imagens estáticas não resolve a manipulação de vídeo ao vivo, e verificar quadros individuais deixa passar as inconsistências temporais que denunciam trocas de rosto em tempo real. Trate isso separadamente, em vez de assumir que uma verificação de imagem estática dá conta do recado.