Comment fonctionne réellement la détection d'images par IA

Un vision transformer évalue l'ensemble de l'image, le même modèle l'analyse à nouveau sous forme de tuiles, un lecteur distinct vérifie les propres identifiants du fichier et les trois résultats sont combinés en un seul chiffre étalonné.

Ce que le modèle analyse

Un appareil photo enregistre la lumière à travers un objectif sur un capteur. Ce processus laisse un type de bruit spécifique, un motif de perte de netteté spécifique vers les bords et une relation spécifique entre les pixels adjacents provenant de la grille du capteur et du dématriçage qui suit.

Un modèle de diffusion construit une image en éliminant à plusieurs reprises le bruit d'un champ aléatoire jusqu'à l'obtention d'un résultat cohérent. Ce processus laisse également une signature, et elle est différente. Le résultat peut être visuellement parfait et statistiquement distinguishable en même temps.

C'est pourquoi la détection résiste à une capture d'écran lorsque les métadonnées disparaissent. La signature réside dans les valeurs des pixels elles-mêmes plutôt que dans un en-tête, de sorte que la copie des pixels copie les preuves.

Les quatre étapes

1 Lire le fichier Décodé dans le navigateur, jamais téléchargé
2 Noter l'image Vision transformer à 384 pixels carrés
3 Noter les tuiles Le même modèle sur des zones qui se chevauchent
4 Lire les identifiants C2PA et marqueurs de générateur, le cas échéant

Deux parcours de preuves indépendants qui convergent. Aucun d'eux n'est invité à fournir la réponse seul.

Première étape : le décodage

Le fichier est lu sur le disque par la page et décodé en pixels bruts. HEIC, AVIF, TIFF et les autres sont gérés par les décodeurs propres au navigateur. Rien n'est transmis, ce qui découle du lieu où s'effectue le traitement plutôt que d'une politique appliquée sur un serveur.

Deuxième étape : le score global de l'image

L'image est redimensionnée à 384 pixels carrés et transmise à un vision transformer. Le modèle renvoie une probabilité brute que l'image soit synthétique. Ce chiffre est ensuite étalonné afin de correspondre de manière cohérente aux tranches publiées plutôt que de dériver avec le modèle.

Le redimensionnement entraîne une perte de détails, ce qui constitue la première source de baisse de précision. C'est également inévitable : le modèle a une taille d'entrée fixe et une photographie de 4000 pixels doit être réduite pour y correspondre.

Troisième étape : l'analyse par tuiles

L'image est divisée en zones qui se chevauchent et chacune d'elles est évaluée individuellement par le même modèle. C'est ce qui distingue une image entièrement générée d'une véritable photographie contenant des ajouts, et c'est l'étape qu'un chiffre unique ne peut pas remplacer.

14 11 16 12 88 13 9 15 10

La moyenne de ces valeurs donne 21. La vue par tuiles préserve l'information que le calcul de la moyenne détruit.

Le même modèle, exécuté neuf fois sur des zones qui se chevauchent. Le score global pour cette image était de 31.

Les tuiles ont besoin de suffisamment de pixels pour être significatives, c'est pourquoi les images dont le côté le plus court est inférieur à environ 576 pixels n'obtiennent qu'un score global. Il n'y a pas assez de détails dans une petite zone pour l'évaluer indépendamment.

Quatrième étape : l'enregistrement propre au fichier

Indépendamment des pixels, le fichier est vérifié pour y rechercher des Content Credentials et des marqueurs de générateur laissés par certains outils. Ce processus est cryptographique plutôt que statistique : une signature valide est vérifiée par rapport à une liste de confiance, et non estimée.

Comment les résultats sont combinés

Les deux approches ne sont pas moyennées, car elles portent des poids différents. Un identifiant valide certifiant une capture par appareil photo l'emporte sur un score de pixels modéré. Un identifiant certifiant une génération par IA tranche la question de lui-même.

Pondération des preuves
Preuve	Type	Poids
Identifiant valide certifiant une génération par IA	Cryptographique	Décisif
Identifiant valide certifiant une capture par appareil photo	Cryptographique	Très fort
Marqueur de générateur dans le fichier	Déclaratif	Fort, mais supprimable
Score de pixels global	Statistique	Modéré
Scores des tuiles de la région	Statistique	Modéré, et plus spécifique
Aucun identifiant présent	Aucun	Aucune information dans un sens ou dans l'autre

Cette dernière ligne est celle que les gens interprètent le plus souvent de travers. L'absence d'identifiant n'est pas un signal négatif. L'écrasante majorité des images jamais créées n'en comportent aucun, et presque toutes les plateformes les suppriment lors du téléchargement.

Pourquoi le traitement s'exécute dans le navigateur

Le modèle pèse environ 40 Mo et s'exécute via WebAssembly sur l'appareil de l'utilisateur. Il s'agit d'un choix architectural délibéré qui entraîne trois conséquences qu'il convient de comprendre.

Rien n'est téléchargé, de sorte qu'aucun serveur ne détient les images de quiconque et qu'il n'y a pas de relation de traitement de données à documenter.
Une vérification ne coûte rien à fournir, c'est pourquoi l'outil peut être gratuit sans compteur d'utilisation en arrière-plan.
La première vérification est plus lente, car le modèle se télécharge une seule fois avant de pouvoir s'exécuter. Les vérifications ultérieures réutilisent la copie mise en cache.

Ce que le processus ne fait délibérément pas

Plusieurs techniques présentes dans les anciens outils d'analyse médico-légale sont absentes, car elles ne fonctionnent plus sur les images qui ont circulé sur les plateformes modernes.

Analyse du niveau d'erreur (ELA). Populaire, largement mal comprise et peu fiable sur toute image ayant été enregistrée plus d'une fois.
Détection de copie-déplacement. Trouve les zones dupliquées à l'intérieur d'une image, ce qui permet de détecter le clonage de style ancien et non la génération.
Verdict basé sur les métadonnées. Les données EXIF sont supprimées lors du téléchargement presque partout, de sorte qu'une vérification qui en dépend échoue précisément sur les images que les utilisateurs ont besoin de vérifier.
Analyse spécifique aux visages. Utile pour une catégorie étroite de manipulation et aveugle à tout le reste.

Questions fréquentes

Le détecteur analyse-t-il le contenu de l'image ?

Non. Il n'a aucune notion des objets, des visages ou des scènes. Il mesure les relations statistiques entre les pixels voisins, ce qui explique pourquoi il fonctionne de la même manière sur un portrait, une scène de rue et un reçu, et pourquoi il ne peut pas vous dire si le contenu d'une image est véridique.

Pourquoi la première vérification prend-elle plus de temps ?

Le modèle se télécharge une seule fois (environ 40 Mo) avant que quoi que ce soit puisse s'exécuter. Ensuite, il est mis en cache et les vérifications suivantes démarrent immédiatement. C'est le prix à payer pour s'exécuter sur votre appareil plutôt que sur un serveur, et cela vous garantit que rien n'est téléchargé.

Comment la sortie brute du modèle est-elle convertie en score ?

Par étalonnage. Le modèle renvoie une probabilité brute, qui est mise en correspondance avec une échelle fixe afin qu'un chiffre donné signifie toujours la même chose. Sans cette étape, les scores changeraient chaque fois que le modèle serait modifié et aucune tranche publiée ne conserverait sa signification.

Pourquoi utiliser des tuiles qui se chevauchent plutôt qu'une simple grille ?

Une modification à cheval sur la limite de deux tuiles serait répartie entre elles et diluée dans les deux. Faire se chevaucher les zones signifie que toute modification tombe entièrement à l'intérieur d'au moins une région, ce qui empêche qu'une petite insertion ne soit gommée par le calcul d'une moyenne.

Peut-il indiquer quel générateur a créé une image ?

Uniquement lorsque le fichier le mentionne. Un marqueur de générateur ou un identifiant peut nommer l'outil ; le modèle de pixels ne le peut pas. Il renvoie une probabilité qu'un processus génératif ait été impliqué, ce qui est une question différente de l'identification et beaucoup plus facile à résoudre de manière fiable.

Utilise-t-on le même modèle pour l'image entière et pour les tuiles ?

Oui. L'utilisation d'un même modèle sur différentes zones permet de rendre les deux résultats comparables. Un modèle de région distinct aurait son propre étalonnage et ses propres erreurs, et les deux chiffres ne se situeraient plus sur la même échelle.