É seguro carregar as suas fotos para um detetor de IA?

A maioria dos detetores requer um carregamento, o que significa entregar uma cópia da sua imagem à infraestrutura de terceiros. Para imagens comuns, isso geralmente não tem problema; para fotografias de sinistros, documentos de identidade e trabalho de clientes, cria obrigações que raramente são tidas em conta.

O que um carregamento implica realmente

Colar uma imagem num serviço web é uma transferência. Uma cópia sai do seu dispositivo, atravessa uma rede, aterra numa infraestrutura que não controla e é processada por software que não pode inspecionar.

Para a maioria das imagens, isto é irrelevante e ninguém deve ficar alarmado com isso. Uma captura de ecrã de uma conversa de grupo, uma imagem de um site de notícias, uma fotografia de anúncio: nenhuma destas acarreta obrigações e o risco é próximo de zero.

O problema é que os casos interessantes nunca são esses. As pessoas recorrem a um detetor precisamente quando uma imagem importa, e as imagens que importam são desproporcionadamente sensíveis: fotografias de sinistros de alguém, o passaporte de um candidato, uma imagem não publicada, um trabalho entregue a um cliente sob contrato.

A partir desse momento, o carregamento deixa de ser um detalhe técnico e passa a ser uma decisão com consequências que duram mais do que a verificação.

As perguntas que vale a pena fazer

Antes de carregar qualquer coisa que importe, cinco perguntas cobrem a maior parte da exposição. Um serviço que não consiga responder-lhes claramente já lhes respondeu.

Cinco perguntas para qualquer detetor

A imagem é retida e durante quanto tempo? Eliminada após a conclusão, guardada durante trinta dias ou guardada indefinidamente são respostas muito diferentes.
É utilizada para treino? Vários serviços gratuitos reservam esse direito. É um custo real, pago em dados em vez de dinheiro.
Onde é processada? A transferência transfronteiriça é importante para dados regulamentados e, muitas vezes, necessita da sua própria avaliação.
Quem a pode ver? Acesso da equipa, subcontratantes e qualquer pessoa com a ligação do resultado.
Existe um contrato disponível? Para uso comercial, um acordo de processamento é geralmente obrigatório e não opcional.

O que estabelecer antes de uma imagem sair da sua máquina.

A segunda linha é a que mais engana as pessoas. Um serviço gratuito sem modelo de negócio óbvio tem frequentemente um, e reter os carregamentos para melhorar um modelo está entre as suas versões mais comuns.

Onde as obrigações se aplicam

Para um indivíduo, carregar uma fotografia pessoal é uma escolha pessoal com consequências pessoais. Para uma organização, é geralmente uma decisão de processamento sujeita a regras.

Casos comuns e o que um carregamento desencadeia
O que está a verificar	Upload risk	Por quê
Uma imagem de um site de notícias	Negligible	Já pública, sem obrigações
Uma fotografia de um anúncio de marketplace	Baixo	Pública, não sua, não sensível
Uma fotografia de sinistro	Alto	Dados pessoais de alguém, mantidos em confiança
Um documento de identificação	Very high	Dados de categoria especial em vários regimes
Unpublished client work	Alto	Contractual confidentiality
Uma fotografia privada de uma pessoa	Alto	Cabe-lhes a eles controlar, não a si

O padrão é que o risco acompanha a quem pertence a imagem, e não o quão interessante a resposta seria. Verificar a fotografia de outra pessoa enviando-a a terceiros é uma decisão tomada em seu nome, normalmente sem lhe perguntar.

Para as organizações regulamentadas, a consequência prática é processual. Um processador de imagens de terceiros precisa de um contrato, uma base legal, uma posição sobre retenção e uma linha num aviso de privacidade, e a avaliação custa frequentemente mais do que a ferramenta que está a ser avaliada.

Por que motivo a análise local muda a questão

Quando o modelo é executado no seu navegador, o ficheiro é lido do disco pela página e nunca é transmitido. Não há nenhum servidor em que confiar, nenhuma política de retenção para ler e nenhum processador para nomear, porque nenhum processamento acontece em lado nenhum além da sua máquina.

Esse é um tipo de garantia diferente de uma promessa. Um serviço que diz eliminar os carregamentos pede-lhe que confie nas suas operações; uma ferramenta que nunca recebe o ficheiro removeu aquilo em que teria de confiar.

É também verificável, o que é importante para quem tem de justificar uma escolha. Abra o painel de rede num navegador, faça uma verificação e observe que o modelo desce e nada sobe. Isso demora um minuto e resolve a questão de forma mais convincente do que qualquer página de políticas.

100%

da análise acontece no seu próprio dispositivo O modelo é descarregado uma vez e executado no separador do navegador. Não há carregamento, portanto não há nenhuma política de retenção para ler, nenhum processador para nomear e nenhuma violação que possa expor a imagem.

O número que torna irrelevante a questão da retenção.

A troca é honesta e vale a pena referir: o modelo é descarregado uma vez, o que gasta largura de banda, e a análise utiliza o seu processador, o que é mais lento em hardware antigo do que seria num centro de dados. Esse é o custo total.

Decida de quem é a imagem
Se não for sua, o padrão deve ser não a enviar para lado nenhum sem um motivo.
Leia os termos de retenção e treino
Dois parágrafos, e são os dois que importam. Um serviço que reserve os direitos de treino sobre os seus carregamentos está a cobrar-lhe em dados.
Prefira a análise local para tudo o que seja sensível
Fotografias de sinistros, documentos, imagens privadas e trabalhos de clientes. A verificação é a mesma; a exposição não é.
Verifique em vez de confiar sempre que possível
Observe a atividade da rede durante uma verificação. Demora um minuto e é a única garantia que não depende da honestidade de terceiros.
Inclua-o no seu processo
Uma regra de uma linha sobre quais as imagens que podem sair da organização evita que a decisão seja tomada de forma avulso por quem estiver com pressa.

O modelo de ameaças que a maioria das pessoas tem na realidade

Ajuda sermos específicos sobre o que poderia correr mal, porque um desconforto vago produz paralisia ou indiferença, e nenhuma delas é útil. Quatro coisas acontecem realisticamente a uma imagem carregada, por ordem decrescente de probabilidade.

É retida e utilizada para melhorar um modelo. É comum, normalmente divulgado nalgum ponto dos termos, e quase inofensivo para uma fotografia vulgar. É desconfortável para uma fotografia privada de uma pessoa que não consentiu ser dado de treino.

É acessível à equipa. Todos os serviços alojados têm pessoas que podem aceder aos ficheiros armazenados para suporte e depuração, o que é uma prática normal de engenharia e não uma má conduta. Continua a ser um grupo de desconhecidos com acesso à sua imagem.

É exposta numa violação. Os serviços que detêm os carregamentos são alvos, e uma imagem que não havia problema em partilhar com uma empresa não é necessariamente apropriada para publicação. Este é o risco que persiste muito depois de se ter esquecido da verificação.

É alvo de intimação ou solicitação. É raro e o que tem mais consequências quando a imagem se relaciona com um litígio. Uma cópia na infraestrutura de terceiros pode ser descoberta de formas que um ficheiro na sua própria máquina não o pode ser.

Uma regra proporcional

Nada disto defende tratar cada verificação como um incidente de segurança. A posição proporcional é a que as pessoas já aplicam aos documentos: as coisas públicas podem ir para qualquer lado e as coisas que pertencem a outra pessoa ficam onde estão.

Escrita como uma regra, cabe numa frase. Se a imagem já é pública, carregue-a para onde quiser. Se pertence a um cliente, a um candidato, a um requerente ou a um utente, ela não sai da organização.

Perguntas que as pessoas fazem

Os detetores de IA guardam as imagens que carrego?

Varia, e a resposta está nos termos. Alguns eliminam-na após a conclusão, outros retêm-na por um período e vários serviços gratuitos reservam o direito de guardar os carregamentos para melhoria do modelo. Este último é um custo genuíno, pago em dados e não em dinheiro.

É seguro verificar um passaporte ou documento de identificação?

Não através de um serviço que requeira o carregamento, a menos que tenha um acordo de processamento em vigor. Os documentos de identificação encontram-se entre os dados mais sensíveis que uma organização trata e são considerados dados de categoria especial em vários regimes. Utilize uma ferramenta que analise localmente.

De que forma esta ferramenta é diferente?

O modelo e o ambiente de execução são descarregados para o seu navegador e a análise acontece no seu dispositivo, por isso a imagem nunca é transmitida. Esta é uma diferença estrutural e não de política: não há nenhum servidor que possa reter o ficheiro, porque nenhum servidor chega a recebê-lo.

Posso verificar que não é carregado nada?

Sim, e vale a pena fazê-lo. Abra o painel de rede nas ferramentas de programador do seu navegador, efetue uma verificação e observe o que acontece. O modelo desce e nada sobe. Isso demora um minuto e é mais convincente do que qualquer política de privacidade.

E no caso de verificar a imagem de um cliente sujeita a NDA?

Um carregamento é uma divulgação a terceiros e a maioria das cláusulas de confidencialidade abrange exatamente isso. A análise local evita totalmente a questão, o que é geralmente mais simples do que pedir autorização ou explicar à posteriori por que motivo o ficheiro foi enviado para algum lado.

Uma ferramenta de navegador é menos precisa porque é executada localmente?

Não. É a mesma classe de modelo a fazer a mesma análise; a diferença é onde ocorre o processamento. O que se troca é uma descarga única do modelo e alguns segundos de tempo do seu próprio processador, o que num hardware moderno é quase impercetível.