ChatGPT può dire se un'immagine è generata dall'AI?

No. Un modello linguistico descrive come appare un'immagine e ragiona al riguardo a parole. Non ha una soglia calibrata, nessun benchmark e nessun accesso alle statistiche dei pixel da cui dipende il rilevamento.

Cosa sta effettivamente facendo un chatbot

Un modello linguistico multimodale converte un'immagine in una descrizione semantica e quindi ragiona su quella descrizione nel testo. Sta rispondendo alla domanda: questa immagine assomiglia alle immagini AI di cui ho letto durante l'addestramento.

Questa è una domanda sul contenuto e sulla composizione. Il rilevamento è una domanda sulla trama: come si relazionano i valori dei pixel vicini tra loro, su una scala molto inferiore a qualsiasi cosa preservata da una descrizione semantica.

Le informazioni che un rilevatore legge vengono scartate prima che un modello linguistico inizi a pensare. Non è che i chatbot siano scarsi in questo. Stanno lavorando da una rappresentazione che non contiene le prove.

Cosa produce in pratica

Risposte sicure senza soglia. Un chatbot dirà probabilmente generata dall'AI senza alcuna scala dietro la parola probabilmente. Non c'è un numero, nessuna banda e nulla da confrontare con un'altra immagine.
Ragionamento basato su segnali obsoleti. I modelli citano dita, denti, pelle cerosa e testo deformato, perché è quello che il testo di addestramento dice di cercare. Quelli sono stati risolti anni fa.
Accordo con la tua impostazione. Chiedi se un'immagine è falsa ed è più probabile che sentirai dire sì di quanto avresti fatto se avessi chiesto in modo neutro. Questa è una proprietà dell'interfaccia, non dell'immagine.
Nessuna riproducibilità. Chiedi due volte e potresti ottenere due risposte diverse sullo stesso file, con spiegazioni ugualmente sicure per ciascuna.
Nessuna informazione sulle regioni. Non può dirti che un angolo di una fotografia si comporta in modo diverso dal resto, che è il risultato che di solito conta.

Capacità	Chatbot	Rilevatore di pixel
Legge la trama a livello di pixel	No	Yes
Punteggio calibrato con bande pubblicate	No	Yes
Stessa risposta ogni volta	No	Yes
Analisi a livello di regione	No	Yes
Misurato rispetto a un benchmark	No	Yes
Spiega il suo ragionamento in prosa	Yes fluentemente	Partly come segnali
Descrive cosa c'è nell'immagine	Yes	No

Cosa può effettivamente produrre ogni approccio. La colonna centrale è quella che le persone scambiano per la colonna di destra.

Le ultime due righe sono quelle che vale la pena conservare. Un modello linguistico è davvero bravo a descrivere un'immagine e a valutare se una scena abbia senso. Sono funzioni utili, ma non si tratta di rilevamento.

Dove un chatbot è davvero utile

Scartare del tutto lo strumento sarebbe l'insegnamento sbagliato. Usato per ciò che sa fare, affianca un rilevatore anziché sostituirlo.

Chiedi di descrivere la scena in dettaglio
Una descrizione accurata spesso fa emergere elementi che non avevi notato coscientemente, compresi oggetti che non c'estanno insieme o scritte che non avevi letto.
Chiedi se la scena è fisicamente coerente
Ombre, riflessi, scala e prospettiva sono problemi di ragionamento, ed è proprio a questo che serve il modello. Questo rileva compositi che l'analisi dei pixel potrebbe perdere.
Chiedi cosa confermerebbe o smentirebbe la tesi
Trasformare un sospetto in una lista di controlli è un buon uso di un modello linguistico, e la lista è spesso migliore di quella che avresti scritto tu.
Dopodiché esegui un rilevatore vero e proprio
Per la questione dei pixel, usa qualcosa creato appositamente e leggi il punteggio confrontandolo con una scala pubblicata.

Perché la fluidità è il pericolo

Un rilevatore che ha dubbi restituisce un numero intermedio, e il numero stesso comunica l'incertezza. Un modello linguistico che ha dubbi restituisce un paragrafo, e i paragrafi non hanno margini di errore.

La stessa spiegazione ben strutturata appare sia che il modello abbia identificato qualcosa di reale, sia che abbia prodotto un resoconto verosimile del nulla. I lettori calibrano la propria fiducia sulla qualità della scrittura, che è esattamente il segnale che qui non trasporta alcuna informazione.

Questo è il motivo per cui chiedere a un chatbot è un punto di partenza peggiore rispetto a guardare l'immagine da soli. La tua incertezza è almeno visibile a te.

Lo stesso problema in altri strumenti

Non si tratta davvero di un singolo prodotto. Qualsiasi sistema che ragioni su un'immagine in modo semantico presenta la stessa lacuna, e diversi strumenti oggi presentati come rilevatori fanno esattamente questo sotto la superficie.

Un test utile: chiedi cosa riporterebbe lo strumento su una fotografia di fotografia o su un'immagine senza alcun soggetto riconoscibile. Un rilevatore di pixel restituisce comunque un punteggio, perché la texture esiste a prescindere dal contenuto. Un sistema semantico non ha nulla su cui ragionare e si rifiuterà o inventerà qualcosa.

Un secondo test: esegui lo stesso file due volte. Un modello basato sui pixel è deterministico e restituisce lo stesso numero. Un modello linguistico effettua campionamenti, e due esecuzioni possono non concordare. Se uno strumento ti fornisce risposte diverse per gli stessi byte, non sta misurando nulla.

Nessun test richiede di comprendere come funzioni lo strumento. Entrambi richiedono un minuto e, nel loro insieme, separano la misurazione dalla descrizione in modo più affidabile rispetto alla lettura di una pagina di marketing.

Domande frequenti

ChatGPT è in grado di rilevare immagini generate dall'IA?

No, non in alcun senso misurabile. Produce una valutazione che suona sicura basandosi su ciò che l'immagine raffigura anziché su come siano stati creati i pixel. Dietro la risposta non c'è alcuna soglia calibrata o benchmark, e fare la stessa domanda due volte può produrre due verdetti diversi.

Ma ci ha azzeccato su un'immagine che ho testato.

Ci azzeccerà spesso, in particolare nei casi ovvi in cui ci avresti azzeccato anche tu. Il problema è che ha lo stesso identico tono quando sbaglia, quindi una risposta corretta non ti offre alcun modo per sapere quale tipo tu abbia ricevuto sull'immagine successiva.

E se gli chiedessi di analizzare i pixel?

Non può farlo. L'immagine viene convertita in una rappresentazione semantica prima che il modello vi ragioni sopra, e la finissima analisi delle texture da cui dipende il rilevamento viene scartata durante tale conversione. Chiedere un'analisi dei pixel produce una descrizione di come sarebbe l'analisi dei pixel.

Esistono modelli multimodali creati appositamente per il rilevamento?

Esiste ricerca in questo ambito e non è ciò che fa un assistente generico. Un rilevatore pensato appositamente viene addestrato su coppie di immagini reali e generate con un output calibrato; un modello generico viene addestrato per essere utile in qualsiasi ambito. I due non sono affatto sostituti.

Dovrei usare un chatbot quando verifico un'immagine?

Sì, per la descrizione e il ragionamento. Chiedi cosa c'è nell'inquadratura, se l'illuminazione è coerente e cosa confermerebbe o smentirebbe il tuo sospetto. Dopodiché usa un rilevatore per la questione dei pixel e tieni separate le due risposte nella tua mente.

Perché così tante persone chiedono prima a un chatbot?

Perché è aperto in un'altra scheda e risponde sempre. La comodità batte l'accuratezza quando il costo di sbagliare è invisibile, e con la verifica delle immagini il costo è di solito invisibile finché qualcuno non ha già agito sulla base della risposta.