Les deux voies
Un détecteur effectue deux vérifications indépendantes qui répondent à des questions différentes. Les maintenir séparées est l'idée la plus utile de cette page.
Analyse des pixels
- Fonctionne après les captures d'écran et la compression
- Renvoie une probabilité, et non une identité
- Agnostique vis-à-vis des générateurs par conception
- Ne peut pas nommer un outil
- S'altère face à des architectures inconnues
Preuve de fichier
- Peut nommer l'outil avec exactitude
- Cryptographique lorsqu'elle est signée
- Supprimée par presque toutes les plateformes
- Absente de la plupart des images
- Supprimée intentionnellement sans difficulté
Ce qu'un fichier peut déclarer
Lorsqu'une image conserve sa structure d'origine, plusieurs types de marqueurs peuvent être présents. Chacun constitue une affirmation faite par le logiciel qui l'a enregistrée plutôt qu'une déduction tirée des pixels.
- Content Credentials. Un manifeste signé nommant l'outil et son action. Certains grands générateurs signent désormais leurs productions, ce qui constitue la forme la plus solide à cet égard.
- Paramètres de génération. Plusieurs outils ouverts intègrent directement dans le fichier le prompt, la graine, l'échantillonneur et le nom du modèle, ce qui représente plus d'informations que la plupart des gens ne s'attendent à en trouver.
- Identifiants logiciels. Un champ de métadonnées textuel nommant l'application qui a enregistré l'image en dernier.
- Filigranes d'IA déclarés. Un fanion indiquant qu'un filigrane invisible a été appliqué, ce qui constitue une déclaration plutôt que le filigrane lui-même.
- Certitudes de capture par l'appareil photo. L'affirmation inverse, formulée par un appareil photo doté d'une signature, selon laquelle le fichier provient d'un capteur.
Tous ces éléments disparaissent dès qu'une image est téléchargée sur presque n'importe quelle plateforme. C'est pourquoi une analyse de fichier vaut la peine d'être exécutée sans qu'il faille s'y fier aveuglément : lorsqu'elle trouve quelque chose, la conclusion est forte, mais elle ne trouve rien la plupart du temps.
Pourquoi il est difficile de nommer le générateur
Cela devrait sembler possible en théorie. Différents outils produisent des esthétiques différentes, et une personne qui y passe du temps peut souvent deviner juste. Cette intuition ne s'applique pas à un détecteur pour trois raisons.
Les modèles partagent des architectures et des données d'entraînement, de sorte que leurs empreintes statistiques se chevauchent considérablement. De nombreux outils sont des adaptations fines de la même base, ce qui les rend presque impossibles à distinguer au niveau de la texture, même lorsque leurs résultats paraissent différents à un œil humain.
Les résultats subissent également un post-traitement. La mise à l'échelle, la restauration faciale et l'retouche interviennent toutes après la génération et réécrivent précisément la texture sur laquelle reposerait l'identification. Au moment où une image est publiée, elle peut porter davantage la marque du système de mise à l'échelle que celle du générateur.
De plus, la cible évolue constamment. Tout modèle d'identification constitue une table de correspondance de choses qui existaient déjà, ce qui le met en défaut face à tout ce qui a été publié depuis son entraînement, d'une manière silencieuse plutôt qu'évidente.
Ce que signifie réellement une bonne couverture
La question utile concernant un détecteur n'est pas de savoir quels générateurs il reconnaît par leur nom. C'est l'étendue de son entraînement, car c'est cette étendue qui permet de prédire les performances sur le modèle qui n'est pas encore sorti.
| Approche | Force | Faiblesse |
|---|---|---|
| S'entraîner sur quelques grands outils commerciaux | Précision élevée sur ces outils | Mauvaise généralisation à tout le reste |
| S'entraîner sur des milliers de générateurs | Generalise aux modèles inconnus | Précision de pointe inférieure sur un outil individuel |
| Rechercher l'artefact d'une architecture | Très élevée tant que cela dure | Échec complet lorsque la méthode change |
| Lire uniquement les marqueurs de fichiers | Exact en cas de présence | Aveugle sur la majorité des images |
La deuxième ligne correspond à l'approche utilisée ici, et ce compromis est délibéré. Un détecteur qui excelle sur quatre produits et s'avère inutile sur le cinquième n'est pas d'une grande utilité pour vérifier une image que quelqu'un vous a envoyée.
À propos des noms de produits
Les listes de générateurs pris en charge relèvent davantage de l'argument marketing que technique. Un modèle de pixels ne possède pas de liste ; il dispose d'une distribution d'entraînement. Citer des produits implique une capacité par outil que la détection globale ne possède pas et n'a pas besoin d'avoir.
Lorsqu'un nom apparaît dans un résultat ici, il provient du fichier plutôt que des pixels, et le résultat le signale. Il convient d'exiger cette distinction de la part de tout outil que vous utilisez.
Comment interpréter une revendication de couverture
Les fournisseurs décrivent la couverture d'une manière qui semble comparable mais ne l'est pas. Trois tournures reviennent régulièrement et signifient chacune quelque chose de différent.
Détecte les images de X, Y et Z signifie généralement que le banc d'essai contenait ces trois éléments. Il s'agit d'une déclaration relative aux tests plutôt qu'aux capacités, et elle ne dit rien sur un quatrième générateur.
Prend en charge plus de quarante générateurs signifie généralement que l'ensemble d'entraînement provenait d'autant de sources. C'est plus significatif, car l'étendue de l'entraînement permet de prédire la capacité de généralisation, mais cela ne constitue toujours pas une garantie pour un outil spécifique.
Identifier le modèle source est l'affirmation la plus difficile à vérifier. Demandez-vous si cette identification provient du fichier ou des pixels. Si elle provient des pixels, évaluez la précision de l'identification séparément de celle de la détection, car ce sont des chiffres très différents.