L'EU AI Act e l'etichettatura delle immagini

Gli obblighi si dividono in due. I fornitori di sistemi generativi devono contrassegnare il loro output in modo leggibile dalle macchine, e gli utilizzatori che pubblicano contenuti sintetici devono divulgarli alle persone. Entrambi possono applicarsi a un'organizzazione al di fuori dell'UE.

Perché le regole sulla trasparenza sono arrivate qui per prime

Regolare se i media sintetici possano esistere è intrattabile. Regolare se le persone ne vengano informate non lo è, motivo per cui la divulgazione è diventata l'approccio comune in diverse giurisdizioni piuttosto che una peculiarità europea.

Il ragionamento è che la maggior parte dei danni in questo campo deriva da un malinteso piuttosto che da un'immagine. Qualcuno che crede che un'immagine registri qualcosa che è accaduto, quando non è così, subisce il danno, e un'etichetta lo affronta direttamente senza che nessuno decida cosa possa essere prodotto.

Quell'inquadramento spiega la forma delle regole. Si applicano al momento della pubblicazione e al momento della produzione, e dicono molto poco sul contenuto stesso, che è lasciato alla legge esistente su frode, diffamazione e altro.

Su chi ricade ogni dovere

I due obblighi, approssimativamente
Parte	Dovere	Come appare nella pratica
Fornitore del generatore	Contrassegnare l'output in modo leggibile dalle macchine	Metadati incorporati, filigrana, credenziali
Editore di media sintetici	Divulgare alle persone	Un'etichetta visibile o una didascalia
Editore, uso artistico	Divulgazione più leggera	Riconoscimento che non rovini l'opera
Deepfake di una persona reale	Divulgare chiaramente	Il caso più rigoroso, poche esenzioni
Testo su questioni di interesse pubblico	Divulgare a meno che non sia stato revisionato	La revisione editoriale umana può sostituirla

La prima riga è quella che la maggior parte delle aziende presume le riguardi e invece non è così. A meno che tu non costruisca e fornisca un sistema generativo, sei la seconda riga: qualcuno che pubblica output, con il dovere di informare il proprio pubblico.

La quarta riga ha gli effetti più severi, perché una rappresentazione sintetica di una persona reale identificabile è dove il danno è più concreto. Le esenzioni in quel caso sono ristrette ed è probabile che si applichi anche altra legislazione.

Se ti raggiunge al di fuori dell'UE

Probabilmente, se hai utenti nell'UE. Queste regole seguono generalmente il mercato piuttosto che lo stabilimento, nello stesso modo in cui fanno le regole sulla protezione dei dati, il che significa che pubblicare per un pubblico dell'UE può portarti all'interno dell'ambito di applicazione, indipendentemente da dove ti trovi.

La conseguenza pratica per la maggior parte delle organizzazioni è che una singola politica globale è più economica di una geolocalizzata. Etichettare le immagini sintetiche ovunque costa una didascalia; mantenere due versioni di ogni risorsa e una regola su chi vede quale costa considerevolmente di più.

Invecchia anche meglio. Requisiti di divulgazione simili stanno comparendo in diverse altre giurisdizioni, e un'organizzazione che etichetta già non ha nulla da fare quando arriverà la prossima.

2024
L'atto entra in vigore Obblighi introdotti gradualmente piuttosto che attivati all'improvviso.
2025
Divieti e doveri di alfabetizzazione La prima tranche, che copre le pratiche vietate.
2026
Si applicano i doveri di trasparenza Contrassegno dell'output generato e divulgazione da parte degli editori.
In corso
Codici di condotta e linee guida Il modo in cui i doveri vengono soddisfatti nella pratica si sta ancora definendo.
Altrove
Regole simili appaiono Requisiti di divulgazione comparabili in altre giurisdizioni.

Approssimativamente quando ogni obbligo diventa vincolante. Le date sono indicative e l'implementazione nazionale differisce.

Come appare realmente la conformità

Scopri cosa pubblichi
Controlla il tuo sito, le campagne e gli output sui social. La maggior parte delle organizzazioni scopre immagini generate che arrivano tramite agenzie e abbonamenti a immagini d'archivio di cui non avevano mai richiesto l'utilizzo.
Scrivi dove è consentito
Decorazione e illustrazione sì, qualsiasi cosa che affermi un fatto no. Quella linea fa più lavoro di qualsiasi regola specifica sulla tecnologia.
Etichetta nella didascalia, non nella policy
Una divulgazione sepolta in una pagina di termini non è una divulgazione alla persona che guarda l'immagine.
Smetti di rimuovere i metadati
Dove un generatore appone un contrassegno al proprio output, mantenere tale contrassegno intatto lungo tutta la pipeline è uno degli scopi della regola.
Inseriscila nei contratti con i fornitori
Le agenzie e i freelance devono dichiarare i contenuti generati nei materiali consegnati. La maggior parte non lo farà spontaneamente perché nessuno lo ha richiesto.

Il quinto passaggio è quello in cui l'impegno ripaga maggiormente. Un'organizzazione non può limitarsi a controllare una catena di fornitura che continua ad aggiungere immagini non dichiarate, e una clausola nel brief non costa nulla rispetto a una revisione retrospettiva.

Perché il rilevamento non è il meccanismo di conformità

Vale la pena chiarire che queste regole si basano sulla dichiarazione piuttosto che sul rilevamento, ed è una scelta deliberata. L'obbligo di contrassegnare l'output nel momento della generazione è applicabile; un obbligo di identificare correttamente i contenuti sintetici a posteriori sarebbe l'obbligo di aver ragione su qualcosa su cui nessuno può essere infallibilmente nel giusto.

Ciò ha un'implicazione pratica. Soddisfare i propri obblighi significa sapere cosa si è pubblicato e dichiararlo, non passare un rilevatore su tutto sperando che sia d'accordo. Il rilevamento è il modo in cui scopri cosa ti hanno dato i tuoi fornitori; non è l'elemento di prova della conformità.

Significa anche che un punteggio elevato sui contenuti di qualcun altro non è prova di una violazione. L'obbligo di divulgare ciò che sanno ricade sull'editore, e un tasso di errore non costituisce una constatazione di ciò che sapevano.

Cosa dovrebbe fare effettivamente una piccola impresa

Gran parte di questo ricade sulle organizzazioni prive di una funzione di conformità, e la risposta proporzionata è breve. Tre azioni coprono l'esposizione realistica e richiedono un pomeriggio piuttosto che un intero progetto.

Inserisci una riga nel brief per i fornitori in cui si richiede di dichiarare i contenuti generati. Quella singola frase sposta il problema sulle persone che conoscono effettivamente la risposta, ed è il controllo più economico disponibile.

Etichetta le immagini generate nelle didascalie ovunque un lettore potrebbe scambiarle per una fotografia. Non in una pagina delle policy, non nel footer, ma nella didascalia accanto all'immagine dove chiunque la guardi possa vederlo.

Controlla che la tua pipeline di immagini non elimini i metadati durante l'ottimizzazione. La maggior parte lo fa per impostazione predefinita e, laddove un generatore abbia contrassegnato il proprio output, eliminare tale contrassegno va direttamente contro lo scopo della regola.

Verso dove stiamo andando

La direzione tra le diverse giurisdizioni è abbastanza coerente da poter pianificare, anche dove i dettagli differiscono. Gli obblighi di divulgazione si stanno espandendo, i metadati di provenienza stanno diventando infrastruttura piuttosto che uno standard di nicchia, e l'etichettatura delle piattaforme viene costruita sui contrassegni piuttosto che sul rilevamento.

Ciò ha un'implicazione utile per chiunque pubblichi fotografia originale. Preservare la provenienza sta passando dall'essere una raffinatezza tecnica a un asset commerciale, perché un'immagine in grado di attestare cosa sia verrà sempre più trattata in modo diverso da una che non può farlo.

Domande frequenti

Devo etichettare le immagini AI sul mio sito web?

Laddove pubblichi contenuti sintetici a persone che potrebbero ragionevolmente scambiarli per la prova di qualcosa di reale, è sempre più probabile che si applichino gli obblighi di divulgazione, e le regole UE raggiungono organizzazioni al di fuori dell'UE con un pubblico UE. Una didascalia costa poco; chiedi al tuo avvocato in merito alla tua situazione specifica.

Questo si applica a un'azienda al di fuori dell'UE?

Può succedere. Queste regole seguono generalmente il mercato piuttosto che il luogo di stabilimento, proprio come fanno le regole sulla protezione dei dati, quindi pubblicare per un pubblico UE può rientrare nel campo di applicazione. Una singola policy di etichettatura globale è solitamente più economica di quella geofencing.

E per le immagini puramente decorative?

Gli obblighi mirano ai contenuti che potrebbero essere scambiati per una prova di realtà. Un'intestazione astratta che nessuno scambierebbe per una fotografia è un caso diverso da un'immagine che implica un cliente reale o un evento reale, e un trattamento più leggero si applica a opere chiaramente artistiche.

Chi deve aggiungere il contrassegno leggibile dalla macchina?

Il fornitore del sistema generativo, non tu. Il tuo compito è evitare di rimuoverlo. La maggior parte delle pipeline di immagini rimuove i metadati durante l'ottimizzazione per impostazione predefinita, il che scarta silenziosamente esattamente il contrassegno che la regola mira a creare.

Posso usare un rilevatore per provare la conformità?

No, e non è progettato per questo. Queste regole si basano sulla dichiarazione nel punto di generazione e sulla divulgazione nel punto di pubblicazione. Il rilevamento è il modo in cui controlli ciò che i tuoi fornitori hanno effettivamente consegnato, il che è un utile controllo interno piuttosto che un elemento di prova della conformità.

Cosa dovrebbe contenere un contratto con un'agenzia?

L'obbligo di dichiarare i contenuti generati in ogni consegna, il divieto di utilizzare immagini generate in qualsiasi materiale che attesti un fatto e l'obbligo di conservare i metadati di provenienza. La maggior parte delle agenzie non offrirà nulla di tutto ciò spontaneamente, perché fino a poco tempo fa nessuno lo chiedeva.