O ChatGPT consegue dizer se uma imagem foi gerada por IA?

Não. Um modelo de linguagem descreve o aspeto de uma imagem e raciocina sobre ela em palavras. Não tem um limiar calibrado, não tem parâmetros de referência e não tem acesso às estatísticas de píxeis de que a deteção depende.

O que um chatbot está realmente a fazer

Um modelo de linguagem multimodal converte uma imagem numa descrição semântica e depois raciocina sobre essa descrição em texto. Está a responder à pergunta se esta imagem se parece com as imagens de IA sobre as quais li durante o treino.

Essa é uma questão sobre conteúdo e composição. A deteção é uma questão sobre textura: como os valores dos píxeis vizinhos se relacionam entre si, a uma escala muito abaixo de qualquer coisa que uma descrição semântica preserve.

A informação que um detetor lê é descartada antes de um modelo de linguagem começar a pensar. Não é que os chatbots sejam maus nisto. Estão a trabalhar a partir de uma representação que não contém a evidência.

O que isso produz na prática

Respostas confiantes sem limiar. Um chatbot dirá provavelmente gerada por IA sem qualquer escala por trás da palavra provavelmente. Não existe um número, não existe uma banda e não existe nada para comparar com outra imagem.
Raciocínio a partir de pistas obsoletas. Os modelos citam dedos, dentes, pele cerosa e texto deformado, porque é isso que o texto de treino diz para procurar. Isso foi corrigido há anos.
Concordância com o seu enquadramento. Pergunte se uma imagem é falsa e é mais provável que ouça sim do que se tivesse perguntado de forma neutra. Essa é uma propriedade da interface, não da imagem.
Sem reprodutibilidade. Pergunte duas vezes e poderá obter duas respostas diferentes sobre o mesmo ficheiro, com explicações igualmente confiantes para cada uma.
Sem informação de região. Não lhe pode dizer que um canto de uma fotografia se comporta de forma diferente do resto, que é a conclusão que, habitualmente, importa.

Capacidade	Chatbot	Detetor de píxeis
Lê textura ao nível do píxel	No	Yes
Pontuação calibrada com bandas publicadas	No	Yes
A mesma resposta sempre	No	Yes
Análise ao nível da região	No	Yes
Medido contra um parâmetro de referência	No	Yes
Explica o seu raciocínio em prosa	Yes fluentemente	Partly como sinais
Descreve o que está na imagem	Yes	No

O que cada abordagem pode realmente produzir. A coluna do meio é aquela que as pessoas confundem com a coluna da direita.

As duas últimas linhas são as que vale a pena manter. Um modelo de linguagem é genuinamente bom a descrever uma imagem e a raciocinar sobre se uma cena faz sentido. Isso é útil, mas não é deteção.

Onde um chatbot é genuinamente útil

Descartar a ferramenta por completo seria a lição errada. Usada para o que é capaz de fazer, complementa um detetor em vez de o substituir.

Peça-lhe para descrever a cena em detalhe
Uma descrição cuidadosa revela muitas vezes coisas que não notou conscientemente, incluindo objetos que não pertencem ao mesmo contexto ou sinalética que não leu.
Pergunte se a cena é fisicamente consistente
Sombras, reflexos, escala e perspetiva são problemas de raciocínio, e o raciocínio é para o que o modelo serve. Isto apanha compósitos que a análise de píxeis pode não detetar.
Pergunte o que confirmaria ou refutaria
Transformar uma suspeita numa lista de verificações é uma boa utilização de um modelo de linguagem, e a lista é muitas vezes melhor do que a que teria escrito.
Depois, execute um detetor real
Para a questão dos píxeis, use algo concebido para o efeito e leia a pontuação em relação a uma escala publicada.

Por que a fluidez é o perigo

Um detetor que não tem a certeza devolve um número intermédio, e o número em si comunica a incerteza. Um modelo de linguagem que não tem a certeza devolve um parágrafo, e os parágrafos não têm margens de erro.

A mesma explicação bem estruturada aparece quer o modelo tenha identificado algo real ou produzido um relato plausível sobre nada. Os leitores calibram a sua confiança na qualidade da escrita, que é exatamente o sinal que não transporta qualquer informação aqui.

É por isso que perguntar a um chatbot é um ponto de partida pior do que olhar para a imagem você mesmo. A sua própria incerteza é, pelo menos, visível para si.

O mesmo problema noutras ferramentas

Não se trata realmente de um produto. Qualquer sistema que raciocine semanticamente sobre uma imagem tem a mesma lacuna, e várias ferramentas agora apresentadas como detetores fazem exatamente isso por baixo.

Um teste útil: pergunte o que a ferramenta reportaria sobre uma fotografia de uma fotografia, ou sobre uma imagem sem qualquer assunto reconhecível. Um detetor de píxeis devolve uma pontuação em ambos os casos, porque a textura existe independentemente do conteúdo. Um sistema semântico não tem nada sobre que raciocinar e ou se recusará ou inventará algo.

Um segundo teste: execute o mesmo ficheiro duas vezes. Um modelo de píxeis é determinista e devolve o mesmo número. Um modelo de linguagem faz amostragem, e duas execuções podem discordar. Se uma ferramenta lhe dá respostas diferentes para os mesmos bytes, não está a medir nada.

Nenhum dos testes requer a compreensão de como a ferramenta funciona. Ambos demoram um minuto e, entre eles, separam a medição da descrição de forma mais fiável do que a leitura de uma página de marketing.

Perguntas que as pessoas fazem

O ChatGPT consegue detetar imagens geradas por IA?

Não, não num sentido mensurável. Produz uma avaliação com aspeto confiante baseada no que a imagem descreve, em vez de em como os píxeis foram feitos. Não existe um limiar calibrado por trás da resposta, não existe referência, e perguntar duas vezes pode produzir dois vereditos diferentes.

Mas acertou numa imagem que testei.

Acertará muitas vezes, particularmente em casos óbvios onde você também teria acertado. O problema é que soa idêntico quando está errado, pelo que uma resposta correta não lhe dá forma de saber que tipo recebeu na imagem seguinte.

E se eu lhe pedir para analisar os píxeis?

Não pode. A imagem é convertida numa representação semântica antes de o modelo raciocinar sobre ela, e a textura fina de que a deteção depende é descartada nessa conversão. Pedir uma análise de píxeis produz uma descrição de como seria a análise de píxeis.

Existem modelos multimodais criados para deteção?

Existe investigação na área e não é o que um assistente geral faz. Um detetor criado para o efeito é treinado em pares de imagens reais e geradas com um resultado calibrado; um modelo geral é treinado para ser útil em tudo. Os dois não são substitutos próximos.

Devo usar um chatbot ao verificar uma imagem?

Sim, para descrição e raciocínio. Pergunte-lhe o que está na moldura, se a iluminação é consistente e o que confirmaria ou refutaria a sua suspeita. Depois, use um detetor para a questão dos píxeis e mantenha as duas respostas separadas na sua mente.

Por que tantas pessoas perguntam primeiro a um chatbot?

Porque está aberto noutro separador e responde sempre. A conveniência supera a precisão quando o custo de estar errado é invisível e, com a verificação de imagens, o custo é habitualmente invisível até alguém já ter agido com base na resposta.