Première famille : l'image a été dégradée
La catégorie la plus importante de loin. Le signal qu'un détecteur lit réside dans les textures fines, et cette texture est la première chose que suppriment chaque compression, redimensionnement et capture d'écran.
- Enregistrements JPEG répétés. La précision chute de 91,3 pour cent sur les originaux propres à 84,6 pour cent à une qualité de 40 sur le banc d'essai publié, et baisse encore davantage en conditions réelles.
- Captures d'écran. Un re-rendu à la résolution de l'écran avec la suppression totale du fichier d'origine.
- Réduction d'échelle. Moins de pixels, moins de texture, et en dessous d'environ 576 pixels sur le côté le plus court, plus aucune carte de région du tout.
- Ré-encodage par les plateformes. Chaque téléchargement entraîne au moins un ré-encodage, et la plupart des images sont passées par plusieurs.
- Recadrage agressif. Un petit recadrage d'une grande image fait perdre le contexte sur lequel le modèle a été calibré.
La dégradation pousse les scores vers le milieu dans les deux sens : vers le haut pour les photographies authentiques, vers le bas pour les images générées. Un résultat moyen sur un fichier qui a visiblement beaucoup circulé concerne généralement le fichier, et non l'image.
Deuxième famille : le générateur est inconnu
Un détecteur reconnaît ce sur quoi il a été entraîné. Un modèle publié après la fin de l'entraînement constitue un terrain inconnu, et une sortie inconnue a tendance à obtenir un score bas plutôt qu'incertain.
- 1 Générateur publié Rien n'a vu sa sortie
- 2 Fenêtre aveugle Les nouvelles sorties sont notées comme réelles
- 3 Échantillons rassemblés Semaines de collecte et d'étiquetage
- 4 Détecteur mis à jour Jusqu'à la prochaine publication
Cela génère de faux négatifs sûrs d'eux, qui sont les plus dangereux. L'outil ne signale pas d'incertitude ; il indique qu'une image a l'air correcte parce qu'elle ne ressemble à rien de ce qu'on lui a appris à signaler.
Troisième famille : le contenu ressemble à une texture synthétique
Certaines images authentiques sont tout simplement difficiles. Non pas qu'une action ait été entreprise pour tromper, mais parce que la texture qu'elles contiennent ressemble à celle produite par la génération.
- Mode nuit de téléphone et photographie computationnelle. Plusieurs images fusionnées et débruitées par logiciel, ce qui réécrit les détails fins sur l'ensemble de l'image.
- Retouche lourde. Le lissage de la peau et la séparation des fréquences reconstruisent la texture sur les visages.
- Images suréchantillonnées. L'agrandissement invente des pixels, et les pixels inventés sont des pixels générés.
- Illustration, rendus 3D et images de synthèse. Jamais photographiés, rien en eux ne ressemble donc à une capture d'appareil photo.
- Photographie de stock avec réduction de bruit poussée. Traitée commercialement pour paraître propre, ce qui est interprété comme synthétique.
- Images très plates. Les murs blancs, les ciels dégagés et les arrière-plans unis portent peu de signal dans un sens comme dans l'autre.
À comparer avec une image générée dans les années 90 et une modification locale avec un carreau chaud. Ce modèle ne correspond à aucun des deux.
Famille quatre : évasion délibérée
La plus petite catégorie et celle qui inquiète le plus les gens. Toute technique qui réécrit les relations entre pixels abaisse un score, et la plupart d'entre elles endommagent visiblement l'image en le faisant.
L'exception est la composition. Un objet généré placé dans une véritable photographie conserve une texture réelle sur la majeure partie du cadre, c'est pourquoi la carte de régions existe et pourquoi un chiffre unique pour l'ensemble du cadre ne suffit pas pour des cas contradictoires.
À quoi ressemble chaque défaillance lorsqu'elle survient
| Ce que vous voyez | Cause la plus probable | Mesure à prendre |
|---|---|---|
| Une photo authentique obtient un score élevé, carte uniformément chaude | Traitement ou compression | Vérifier à nouveau le fichier d'origine |
| Une photo authentique obtient un score élevé, une tuile chaude | Une modification légitime ou une région unie | Regardez ce qui se trouve dans cette tuile |
| Une image générée obtient un score bas, fichier dégradé | Compression ou capture d'écran | Traiter comme une absence de réponse, et non comme un résultat net |
| Une image générée obtient un score bas, fichier net | Un générateur inconnu | Se replier sur la provenance et l'origine |
| Le score se situe dans la bande médiane | Pas assez de signal dans un sens ou dans l'autre | Trouver une meilleure copie |
| Aucune carte de régions produite | Image trop petite pour être découpée en tuiles | Trouver une copie plus grand format |
Ce que tout cela n'est pas
Il est utile de séparer les limitations des éléments qu'un détecteur n'a jamais cherché à faire. Un outil n'est pas défectueux pour ne pas avoir accompli une tâche hors de sa portée.
- Il ne peut pas dire qui a créé une image. Rien dans les pixels ne lie un fichier à une personne.
- Il ne peut pas dire si le contenu est vrai. Une photographie authentique peut comporter une légende fausse, ce qui constitue la supercherie la plus fréquente.
- Il ne peut pas nommer le générateur. Seule une information d'identification ou un marqueur dans le fichier peut le faire.
- Il ne peut pas délimiter une modification. La carte de régions montre où le signal se concentre, et non la frontière d'une manipulation.
Comment concevoir un processus qui tolère cela
Les défaillances ci-dessus sont des caractéristiques permanentes plutôt que des bogues en attente de correction ; la question utile est donc de savoir comment concevoir le processus en fonction d'elles plutôt que de chercher à les éviter.
Utilisez plus d'un type de signal. Les pixels, la provenance et l'historique de publication échouent à des endroits différents, et une image qui paraît suspecte aux trois constitue un résultat beaucoup plus solide que celle qui ne paraît suspecte qu'à un seul d'entre eux.
Acheminez les signalements vers une personne plutôt que vers une action. Chaque défaillance grave mentionnée ci-dessus devient tolérable si la conséquence d'une erreur est qu'une personne y regarde de plus près, et intolérable si la conséquence est un rejet automatique.
Demandez l'original avant de conclure quoi que ce soit. Une proportion remarquable de résultats erronés se résout à cette seule étape, car le fichier qui vous a été transmis n'est presque jamais la meilleure copie existante.