Familia uno: la imagen fue degradada
La categoría más amplia con gran diferencia. La señal que lee un detector reside en la textura fina, y esa textura es lo primero que descarta cualquier compresión, redimensionamiento y captura de pantalla.
- Guardados JPEG repetidos. La precisión baja del 91.3 por ciento en originales limpios al 84.6 por ciento con calidad 40 en la evaluación de referencia publicada, y aún más en la práctica.
- Capturas de pantalla. Un nuevo renderizado a la resolución de la pantalla en el que el archivo original se descarta por completo.
- Reducción de escala. Menos píxeles, menos textura, y por debajo de unos 576 píxeles en el lado más corto no hay ningún mapa de regiones en absoluto.
- Recodificación de plataformas. Cada subida supone al menos una recodificación, y la mayoría de las imágenes han pasado por varias.
- Recorte agresivo. El recorte pequeño de una imagen grande hace que se pierda el contexto con el que se calibró el modelo.
La degradación empuja las puntuaciones hacia el medio en ambas direcciones: las fotografías genuinas hacia arriba, las imágenes generadas hacia abajo. Un resultado medio en un archivo que claramente ha circulado suele referirse al archivo, no a la imagen.
Familia dos: el generador no se había visto
Un detector reconoce aquello con lo que se entrenó. Un modelo publicado tras finalizar el entrenamiento es territorio desconocido, y un resultado desconocido tiende a puntuar bajo en lugar de dudoso.
- 1 Lanzamiento del generador Nada ha visto sus resultados
- 2 Periodo a ciegas Los nuevos resultados puntúan como reales
- 3 Muestras recopiladas Semanas de recolección y etiquetado
- 4 Detector actualizado Hasta el próximo lanzamiento
Esto produce falsos negativos seguros, que son los más peligrosos. La herramienta no indica incertidumbre; informa de que una imagen parece correcta porque no se parece a nada de lo que se le enseñó a marcar.
Familia tres: el contenido se asemeja a una textura sintética
Algunas imágenes auténticas simplemente son difíciles. No porque se haya hecho nada para engañar, sino porque la textura que contienen se parece a la textura que produce la generación.
- Modo nocturno del teléfono y fotografía computacional. Varios fotogramas fusionados y sin ruido gracias al software, que reescribe los detalles finos en toda la imagen.
- Retoque intenso. El suavizado de la piel y la separación de frecuencias reconstruyen la textura de los rostros.
- Imágenes ampliadas. El aumento de tamaño inventa píxeles, y los píxeles inventados son píxeles generados.
- Ilustración, renderizados 3D y CGI. Nunca fotografiados, así que nada en ellos se asemeja a la captura de una cámara.
- Fotografía de archivo con gran reducción de ruido. Procesada comercialmente para que parezca limpia, lo que se interpreta como sintética.
- Imágenes muy planas. Las paredes en blanco, los cielos despejados y los fondos lisos transmiten poca señal en ninguna dirección.
Compare con un fotograma generado en los noventa y una edición local con un sector destacado. Este patrón no es ninguna de las dos cosas.
Cuarta familia: evasión deliberada
La categoría más pequeña y la que más preocupa a la gente. Cualquier técnica que reescribe las relaciones de los píxeles reduce la puntuación, y la mayoría daña visiblemente la imagen al hacerlo.
La excepción es la composición. Un objeto generado colocado en una fotografía genuina mantiene la textura real en la mayor parte del encuadre; por eso existe el mapa de regiones y por eso un número de todo el encuadre por sí solo no es suficiente para ningún caso adversarial.
Cómo se ve cada fallo cuando ocurre
| Lo que ve | Causa más probable | Qué hacer |
|---|---|---|
| Foto genuina con puntuación alta, mapa uniformemente cálido | Procesamiento o compresión | Vuelva a comprobar el archivo original |
| Foto genuina con puntuación alta, un sector cálido | Una edición legítima, o una región plana | Mire qué hay en ese sector |
| Imagen generada con puntuación baja, archivo degradado | Compresión o una captura de pantalla | Trátelo como sin respuesta, no como un resultado limpio |
| Imagen generada con puntuación baja, archivo limpio | Un generador no visto | Recurra a la procedencia y al origen |
| La puntuación se sitúa en la franja media | No hay suficiente señal en ningún sentido | Busque una copia mejor |
| No se ha generado ningún mapa de regiones | Imagen demasiado pequeña para dividirla en sectores | Busque una copia más grande |
Lo que no es nada de esto
Vale la pena separar las limitaciones de las cosas que un detector nunca intentó. Una herramienta no se equivoca al no hacer algo fuera de su alcance.
- No puede decir quién hizo una imagen. Nada en los píxeles vincula un archivo a una persona.
- No puede decir si el contenido es cierto. Una fotografía genuina puede llevar un pie de foto falso, y ese es el engaño más común.
- No puede nombrar el generador. Solo una credencial o un marcador en el archivo puede hacerlo.
- No puede delimitar una edición. El mapa de regiones muestra dónde se concentra la señal, no el límite de una manipulación.
Cómo construir un proceso que tolere esto
Los fallos anteriores son características permanentes en lugar de errores que esperan una solución, por lo que la pregunta útil es cómo diseñar teniéndolos en cuenta en lugar de cómo evitarlos.
Utilice más de un tipo de señal. Los píxeles, la procedencia y el historial de publicación fallan en diferentes lugares, y una imagen que parece incorrecta en los tres es un hallazgo mucho más sólido que una que parece incorrecta solo en uno de ellos.
Dirija las alertas a una persona en lugar de a una acción. Todo fallo grave anterior se vuelve tolerable si la consecuencia de equivocarse es que alguien investigue más a fondo, e intolerable si la consecuencia es un rechazo automático.
Pida el original antes de sacar ninguna conclusión. Una proporción notable de resultados incorrectos se resuelve en este único paso, porque el archivo que le dieron casi nunca es la mejor copia que existe.