A Lei de IA da UE e o rotulamento de imagens

Porque as regras de transparência chegaram aqui primeiro

Regulamentar se a mídia sintética pode existir é insolúvel. Regulamentar se as pessoas são informadas sobre isso não é, e é por isso que a divulgação se tornou a abordagem comum em várias jurisdições, em vez de uma peculiaridade europeia.

O raciocínio é que a maior parte do dano neste campo é um mal-entendido, e não uma imagem em si. Acreditar que uma imagem registra algo que aconteceu quando isso não ocorreu é o prejuízo, e um rótulo aborda isso diretamente sem que ninguém decida o que pode ser produzido.

Essa estrutura explica o formato das regras. Elas se aplicam ao momento da publicação e ao momento da produção, e dizem muito pouco sobre o conteúdo em si, que é deixado para a lei existente sobre fraudes, difamação e afins.

Sobre quem recai cada dever

A primeira linha é a que a maioria das empresas assume que as abrange, mas não abrange. A menos que você construa e forneça um sistema generativo, você está na segunda linha: alguém que publica conteúdos de saída, com o dever de informar o seu público.

A quarta linha carrega os riscos mais graves, pois uma representação sintética de uma pessoa real identificável é o caso em que o dano é mais concreto. As isenções aí são restritas, e outras leis provavelmente também se aplicarão.

Se isso alcança você fora da UE

Provavelmente, se você tiver usuários na UE. Estas regras geralmente seguem o mercado em vez do local de estabelecimento, da mesma forma que as regras de proteção de dados fazem, o que significa que publicar para um público na UE pode colocá-lo no escopo, independentemente de onde você esteja.

A consequência prática para a maioria das organizações é que uma única política global é mais barata do que uma restrita por geolocalização. Rotular imagens sintéticas em todo lugar custa uma legenda; manter duas versões de cada ativo e uma regra sobre quem vê qual custa consideravelmente mais.

Também envelhece melhor. Requisitos de divulgação semelhantes estão surgindo em várias outras jurisdições, e uma organização que já rotula não tem nada a fazer quando o próximo chegar.

Como é a conformidade na prática

1. Descubra o que você publica

   Audite seu próprio site, campanhas e publicações sociais. A maioria das organizações descobre imagens geradas chegando por meio de agências e assinaturas de bancos de imagens que nunca solicitaram.

2. Anote onde elas são permitidas

   Decoração e ilustração sim, qualquer coisa que afirme um fato não. Essa linha faz mais trabalho do que qualquer regra específica de tecnologia.

3. Rotule na legenda, e não na política

   Uma divulgação escondida em uma página de termos não é uma divulgação para a pessoa que está olhando para a imagem.

4. Pare de remover os metadados

   Se um gerador marca a sua saída, manter essa marcação intacta através do seu fluxo de trabalho faz parte do objetivo da regra.

5. Inclua isto nos contratos de fornecedores

   Agências e freelancers precisam de declarar conteúdos gerados nas entregas. A maioria não o fará voluntariamente porque ninguém o pediu.

O quinto passo é onde o esforço mais se compensa. Uma organização não consegue safar-se através de auditorias a uma cadeia de fornecimento que continua a adicionar imagens não declaradas, e uma cláusula num briefing custa zero em comparação com uma revisão retrospetiva.

Porque é que a deteção não é o mecanismo de conformidade

Vale a pena esclarecer que estas regras se baseiam na declaração e não na deteção, e de forma deliberada. Um dever de marcar a saída no momento da geração é aplicável; um dever de identificar corretamente conteúdos sintéticos após o facto seria o dever de acertar em algo em que ninguém pode acertar com fiabilidade.

Isso tem uma consequência prática. Cumprir as suas obrigações significa saber o que publicou e dizê-lo, e não passar um detetor por cima de tudo a esperar que ele concorde. A deteção serve para descobrir o que os seus fornecedores lhe entregaram; não é o artefacto de conformidade.

Significa também que uma pontuação alta no conteúdo de outra pessoa não é prova de infração. A obrigação recai sobre o editor para divulgar o que sabe, e uma taxa de erro não constitui uma conclusão sobre o que sabiam.

O que uma pequena empresa deve fazer realmente

A maior parte disto recai sobre organizações sem função de conformidade, e a resposta proporcional é curta. Três ações cobrem a exposição realista e demoram uma tarde em vez de um projeto.

Escreva uma linha no seu briefing de fornecedor a exigir que o conteúdo gerado seja declarado. Essa única frase transfere o problema para as pessoas que realmente sabem a resposta, e é o controlo mais barato disponível.

Sinalize imagens geradas nas legendas sempre que um leitor as possa tomar por uma fotografia. Não numa página de política, não num rodapé, mas sim na legenda ao lado da imagem onde quem olha para ela a verá.

Verifique se o seu fluxo de imagem não está a remover metadados durante a otimização. A maioria faz isso por predefinição, e onde um gerador marcou a sua saída, descartar essa marcação funciona diretamente contra o propósito da regra.

Para onde isto está a caminhar

A direção entre jurisdições é suficientemente consistente para planear em torno dela, mesmo onde os detalhes diferem. Os deveres de divulgação estão a expandir-se, os metadados de proveniência estão a tornar-se infraestrutura em vez de uma norma de nicho, e a rotulagem de plataformas está a ser construída com base em marcadores e não em deteção.

Isso tem uma implicação útil para quem publica fotografia original. Preservar a proveniência está a deixar de ser um pormenor técnico para se tornar um ativo comercial, porque uma imagem que consegue afirmar o que é será cada vez tratada de forma diferente de uma que não o consegue.