Por qué las normas de transparencia llegaron aquí primero
Regular si los medios sintéticos pueden existir es intratable. Regular si se le informa a la gente sobre ello no lo es, razón por la cual la divulgación se ha convertido en el enfoque común en varias jurisdicciones en lugar de una peculiaridad europea.
El razonamiento es que la mayor parte del daño en este campo es un malentendido más que una imagen. El hecho de que alguien crea que una fotografía registra algo que sucedió, cuando no es así, es el perjuicio, y una etiqueta lo aborda directamente sin que nadie decida lo que se puede producir.
Ese marco explica la forma de las reglas. Se aplican al momento de la publicación y al momento de la producción, y dicen muy poco sobre el contenido en sí, que se deja a la legislación existente sobre fraude, difamación y el resto.
Sobre quién recae cada deber
| Parte | Deber | Cómo se ve en la práctica |
|---|---|---|
| Proveedor del generador | Marcar el resultado de forma legible por máquina | Metadatos incrustados, marcas de agua, credenciales |
| Editor de contenido sintético | Divulgar a las personas | Una etiqueta visible o pie de foto |
| Editor, uso artístico | Divulgación más ligera | Reconocimiento que no arruina la obra |
| Deepfake de una persona real | Divulgar claramente | El caso más estricto, pocas exenciones |
| Texto sobre asuntos de interés público | Divulgar a menos que sea revisado | La revisión editorial humana puede desplazarlo |
La primera fila es la que la mayoría de las empresas asume que les concierne y no es así. A menos que construyas y suministres un sistema generativo, eres la segunda fila: alguien que publica resultados, con el deber de informar a tu audiencia.
La cuarta fila conlleva las consecuencias más estrictas, porque una representación sintética de una persona real identificable es donde el daño es más concreto. Las exenciones allí son limitadas y es probable que también se aplique otra legislación.
Si te afecta fuera de la UE
Probablemente, si tienes usuarios en la UE. Estas reglas generalmente siguen al mercado en lugar del establecimiento, de la misma manera que lo hacen las normas de protección de datos, lo que significa que publicar para una audiencia de la UE puede incluirte dentro del alcance independientemente de dónde te encuentres.
La consecuencia práctica para la mayoría de las organizaciones es que una política global única es más barata que una delimitada geográficamente. Etiquetar imágenes sintéticas en todas partes cuesta un pie de foto; mantener dos versiones de cada recurso y una regla sobre quién ve cuál cuesta considerablemente más.
También envejece mejor. Requisitos de divulgación similares están apareciendo en varias otras jurisdicciones, y una organización que ya etiqueta no tiene nada que hacer cuando llegue el próximo.
-
2024
La ley entra en vigor Obligaciones introducidas de forma gradual en lugar de de golpe.
-
2025
Prohibiciones y deberes de alfabetización El primer tramo, que cubre las prácticas prohibidas.
-
2026
Se aplican los deberes de transparencia Marcado del resultado generado y divulgación por parte de los editores.
-
En curso
Códigos de prácticas y orientación Cómo se cumplen los deberes en la práctica aún se está estableciendo.
-
En otros lugares
Aparecen reglas similares Requisitos de divulgación comparables en otras jurisdicciones.
Cómo es realmente el cumplimiento
-
Averigua lo que publicas
Audita tu propio sitio, campañas y publicaciones en redes sociales. La mayoría de las organizaciones descubren que las imágenes generadas llegan a través de agencias y suscripciones de bancos de imágenes sobre las que nunca preguntaron.
-
Anota dónde está permitido
Decoración e ilustración sí, cualquier cosa que afirme un hecho no. Esa línea hace más trabajo que cualquier regla específica de una tecnología.
-
Etiqueta en el pie de foto, no en la política
Una divulgación oculta en una página de términos no es una divulgación para la persona que mira la imagen.
-
Deja de eliminar metadatos
Cuando un generador marca su resultado, mantener dicha marca intacta a través de su flujo de trabajo es parte del propósito de la norma.
-
Inclúyalo en los contratos con proveedores
Las agencias y los autónomos deben declarar el contenido generado en las entregas. La mayoría no lo ofrecerá voluntariamente porque nadie se lo ha pedido.
El quinto paso es donde el esfuerzo da mejores frutos. Una organización no puede zafarse mediante auditorías de una cadena de suministro que sigue añadiendo imágenes no declaradas, y una cláusula en un encargo no cuesta nada en comparación con una revisión retrospectiva.
Por qué la detección no es el mecanismo de cumplimiento
Conviene dejar claro que estas normas se basan en la declaración más que en la detección, y de forma deliberada. La obligación de marcar los resultados en el punto de generación es exigible; la obligación de identificar correctamente el contenido sintético a posteriori sería la obligación de acertar sobre algo en lo que nadie puede acertar de forma fiable.
Esto tiene una consecuencia práctica. Cumplir con sus obligaciones significa saber lo que ha publicado y decirlo, no pasar un detector por todo y esperar que coincida. La detección es la forma de averiguar qué le han entregado sus proveedores; no es el documento probatorio de cumplimiento.
También significa que una puntuación alta en el contenido de otra persona no es prueba de infracción. La obligación recae en el editor de divulgar lo que sabe, y una tasa de error no constituye un dictamen sobre lo que sabía.
Qué debería hacer realmente una pequeña empresa
La mayor parte de esto recae en organizaciones sin funciones de cumplimiento normativo, y la respuesta proporcionada es breve. Tres acciones cubren la exposición real y llevan una tarde en lugar de un proyecto completo.
Añada una línea en el encargo a su proveedor exigiendo que se declare el contenido generado. Esa única frase traslada el problema a quienes realmente saben la respuesta, y es el control más económico disponible.
Etiquete las imágenes generadas en los pies de foto siempre que un lector pueda tomarlas por una fotografía. No en una página de políticas, no en un pie de página; en el pie de foto junto a la imagen, donde cualquier persona que la mire pueda verlo.
Compruebe que su flujo de trabajo de imágenes no elimina los metadatos durante la optimización. La mayoría lo hace de manera predeterminada, y cuando un generador ha marcado su resultado, descartar dicha marca va en contra directa del propósito de la norma.
Hacia dónde se dirige esto
La dirección en las distintas jurisdicciones es lo suficientemente coherente como para planificar en torno a ella, incluso cuando los detalles difieren. Los deberes de divulgación se están expandiendo, los metadatos de procedencia se están convirtiendo en infraestructura en lugar de en un estándar de nicho, y el etiquetado en plataformas se basa en marcas en lugar de en la detección.
Esto tiene una implicación útil para cualquiera que publique fotografía original. Preservar la procedencia está pasando de ser un detalle técnico agradable a convertirse en un activo comercial, ya que una imagen que puede afirmar lo que es será tratada cada vez de forma distinta a una que no puede hacerlo.