Duas coisas diferentes que as pessoas chamam da mesma coisa
Uma imagem totalmente gerada começa do zero. Não há fotografia por embaixo dela, nenhuma leitura de sensor, nenhum momento que aconteceu. Cada pixel foi produzido por um modelo, e a pessoa nele não tem identidade para difamar porque não há pessoa.
Um deepfake começa a partir de algo real. Há uma fotografia ou vídeo por embaixo, uma captura genuína de um momento genuíno, e um modelo substituiu uma região específica dela, geralmente um rosto, por uma renderização de outra pessoa.
A distinção importa legalmente, editorialmente e tecnicamente. Uma foto de banco de imagens gerada de um médico inexistente é uma questão de licenciamento. Uma fotografia de um médico real com seu rosto colado em um corpo ao qual ele nunca foi anexado é uma questão de difamação, e possivelmente criminal.
Por que o deepfake é mais difícil de detetar
Um detetor lê a textura estatística de uma imagem e indica qual a proporção que se assemelha a algo produzido por um modelo. Quando todo o enquadramento é sintético, esse sinal está em todo o lado e a pontuação é inequívoca.
Uma troca de rosto inverte o problema. Noventa por cento da imagem é uma fotografia real, com ruído de sensor real e histórico de compressão real, e a média de todo o enquadramento reflete isso. Uma troca convincente pode produzir uma pontuação na casa dos trinta numa imagem que é genuinamente enganadora.
Isso não é tanto uma falha do modelo quanto uma falha da pergunta. Perguntar se a imagem foi gerada tem a forma errada quando a resposta honesta é que a maior parte dela não foi, e uma parte importante dela foi.
A média que produziu 33 é exatamente o que oculta o único bloco que importa.
O mapa de regiões é a resposta a esse problema de forma. Pontuar blocos sobrepostos separadamente significa que uma substituição localizada é medida em relação à sua própria vizinhança, em vez de ser diluída num enquadramento a que não pertence.
O vocabulário, na ordem em que apareceu
| Termo | O que significa | O sujeito é real? |
|---|---|---|
| Deepfake | A imagem de uma pessoa real transposta para outras imagens | Sim |
| Troca de rosto | A forma comum de um deepfake, num fotograma ou vídeo | Sim |
| Gerada por IA | Produzido a partir de um comando sem fotografia de origem | Não |
| Editada por IA | Uma foto real com algo adicionado ou removido | Normalmente |
| Média sintética | Termo abrangente que engloba todos os anteriores | Depende |
| Cheapfake | Media real descontextualizada por legenda, corte ou data antiga | Sim |
Vale a pena deter-se na última linha, porque é a forma mais comum de desinformação visual e aquela que nenhum detetor aborda. Uma fotografia genuína e não editada de um país diferente há três anos, legendada como a notícia de hoje, pontuará como a fotografia real que é.
O que fazer exatamente, por caso
- Suspeita que a imagem inteira foi inventada. Execute uma verificação de todo o enquadramento. Uma pontuação elevada com um mapa plano é tão clara quanto possível.
- Suspeita que uma pessoa foi inserida ou trocada. Leia primeiro o mapa de regiões. O número irá subestimá-lo.
- Suspeita que um documento foi alterado. O mesmo que acima, e espere exatamente um bloco ativo sobre o campo alterado.
- Suspeita que a legenda está a mentir. Um detetor não pode ajudar. Pesquisa inversa de imagens, depois verifique a data e o local.
- Trata-se de um vídeo. Ferramentas totalmente diferentes. A análise de fotogramas estáticos individualmente perde os artefactos temporais que revelam as trocas em tempo real.
Porque é que esta distinção protege as pessoas
Tratar cada imagem sintética como sendo igualmente grave produz duas falhas em simultâneo. Desperdiça atenção em coisas inofensivas, como alguém que utiliza um retrato gerado porque não tinha dinheiro para um fotógrafo, e desvaloriza o caso que prejudica realmente uma pessoa.
O dano não está nos pixéis serem artificiais. Está no facto de um indivíduo real e nomeado ser mostrado a fazer algo que não fez. Essa é a questão em que vale a pena intervir, e é o caso em que uma pontuação intermédia é menos fiável como resumo.
Estruturar uma política interna em torno da identidade em vez da tecnologia faz com que envelheça melhor também. Os métodos continuarão a mudar; a questão de saber se uma pessoa específica está a ser alvo de representação falsa não mudará.
Como é feita realmente uma troca de rosto
Compreender a produção ajuda a explicar a deteção. Uma troca começa com uma fotografia de destino e um conjunto de imagens da pessoa cujo rosto será utilizado. Um modelo aprende a compor esse rosto sob a iluminação, o ângulo e a expressão já presentes no destino.
O rosto composto é depois integrado novamente no enquadramento original, sendo a transição a parte mais difícil. As duas metades têm ruído diferente, histórico de compressão diferente e, frequentemente, uma resposta de cor ligeiramente diferente, pelo que a etapa de mistura suaviza o limite até que o olho deixe de notar a junção.
Essa suavização é o que um mapa de regiões lê. A mistura remove a textura de alta frequência produzida por um sensor, e o remendo resultante é estatisticamente diferente de tudo o que o rodeia, mesmo quando a junção é invisível. A junção é invisível e mensurável ao mesmo tempo.
Isso também explica porque é que uma troca sobrevive tão facilmente a uma verificação de todo o enquadramento. A área manipulada é pequena, deliberadamente misturada com o que a rodeia, e está rodeada por uma fotografia autêntica que domina qualquer média obtida em todo o enquadramento.
O erro que continua a repetir-se
As pessoas passam um suposto deepfake por um detetor, veem uma pontuação na casa dos trinta e concluem que a imagem é genuína. Essa é a inferência errada a partir do número correto: a pontuação está correta e a pergunta a que responde nunca foi a que estava a ser feita.
O hábito que resolve isto é pequeno. Em qualquer imagem em que a preocupação seja uma pessoa específica, abra o mapa de regiões antes de ler o valor principal, e trate o bloco mais alto em vez da média como a conclusão sobre a qual agir.