EU AI Act и маркировка изображений

Почему правила прозрачности появились в первую очередь

Регулировать существование синтетического медиаконтента нереально. Регулировать информирование об этом — вполне возможно, поэтому раскрытие информации стало общим подходом в разных юрисдикциях, а не европейской особенностью.

Логика в том, что основной вред в этой области — это недопонимание, а не само изображение. Травма заключается в том, что кто-то верит, будто снимок фиксирует реальное событие, когда это не так. Маркировка решает проблему напрямую, не запрещая того, что может быть создано.

Такой подход объясняет суть правил. Они применяются в момент публикации и в момент создания, почти ничего не говоря о самом контенте, который остается в ведении существующего законодательства о мошенничестве, клевете и прочем.

На кого ложится каждая обязанность

Первая строка — та, под которую большинство компаний ошибочно думают, что они подпадают. Если вы не разрабатываете и не поставляете генеративную систему, вы — вторая строка: тот, кто публикует вывод и обязан информировать свою аудиторию.

Четвертая строка наиболее критична, так как синтетическое изображение реального человека — это случай наиболее явного вреда. Исключения там узкие, и скорее всего будут применимы другие законы.

Касается ли это вас за пределами ЕС

Вероятно, если у вас есть пользователи из ЕС. Эти правила обычно следуют за рынком, а не за местом регистрации, как и правила защиты данных. Это означает, что публикация для аудитории ЕС может подвести вас под действие закона, где бы вы ни находились.

Практический вывод для большинства организаций: единая глобальная политика дешевле, чем политика с учетом географических ограничений. Маркировка синтетики везде стоит лишь подписи; поддержание двух версий каждого актива и правил о том, кто что видит, стоит значительно дороже.

Это также более перспективный подход. Похожие требования о раскрытии информации появляются в ряде других юрисдикций, и организации, которая уже маркирует контент, не придется ничего делать, когда правила придут в их регион.

Как на самом деле выглядит соответствие требованиям

1. Выясните, что вы публикуете

   Проведите аудит вашего сайта, кампаний и публикаций в соцсетях. Большинство организаций обнаруживают сгенерированные изображения, которые приходят через агентства и подписки на стоки, о чем они даже не просили.

2. Запишите, где это допустимо

   Декор и иллюстрации — да, всё, что утверждает факт — нет. Эта граница важнее любого специфического технологического правила.

3. Маркируйте в подписи, а не в политике

   Раскрытие, спрятанное на странице правил, не является раскрытием для человека, который смотрит на изображение.

4. Перестаньте удалять метаданные

   Если генератор помечает результат, сохранение этой маркировки в процессе обработки — одна из целей этого правила.

5. Внесите это в контракты с поставщиками

   Агентства и фрилансеры должны указывать сгенерированный контент в результатах работы. Большинство не сделает этого добровольно, потому что их никто об этом не просил.

Пятый шаг — самый эффективный. Организация не сможет обеспечить соответствие требованиям, если в ее цепочке поставок постоянно появляется немаркированный контент, а пункт в техническом задании ничего не стоит по сравнению с ретроспективной проверкой.

Почему детектор — это не механизм обеспечения комплаенса

Важно прояснить, что эти правила строятся на декларировании, а не на детектировании, и это сделано намеренно. Обязанность маркировать контент в момент генерации исполнима; обязанность точно определять синтетический контент постфактум была бы обязанностью быть правым в том, в чем никто не может быть надежно прав.

Это имеет практические последствия. Соблюдение ваших обязательств означает знание того, что вы публикуете, и открытое заявление об этом, а не прогон всего через детектор в надежде, что он подтвердит ваши ожидания. Детектор нужен, чтобы узнать, что вам предоставили поставщики; он не является артефактом комплаенса.

Это также означает, что высокий балл у чужого контента не является доказательством нарушения. Обязанность раскрыть информацию лежит на издателе, а процент ошибок не является выводом о том, что он знал.

Что на самом деле должен делать малый бизнес

Большая часть этого касается организаций без функции комплаенса, и соразмерный ответ будет кратким. Три действия покрывают реалистичные риски и занимают вторую половину дня, а не целый проект.

Добавьте одну строку в техническое задание для поставщика, требующую декларировать сгенерированный контент. Это единственное предложение перекладывает проблему на тех, кто действительно знает ответ, и это самый дешевый доступный контроль.

Маркируйте сгенерированные изображения в подписях везде, где читатель может принять их за фотографию. Не на странице с политикой, не в футере, а в подписи рядом с картинкой, где ее увидит любой смотрящий.

Убедитесь, что ваш пайплайн обработки изображений не удаляет метаданные при оптимизации. Большинство делает это по умолчанию, и если генератор пометил свой результат, удаление этой маркировки прямо противоречит цели правила.

К чему это ведет

Тенденция в разных юрисдикциях достаточно последовательна, чтобы планировать работу, даже если детали различаются. Обязанности по раскрытию информации расширяются, метаданные о происхождении контента становятся инфраструктурой, а не нишевым стандартом, а маркировка на платформах строится на маркерах, а не на детектировании.

Это имеет полезное значение для всех, кто публикует оригинальные фотографии. Сохранение данных о происхождении переходит из разряда технических удобств в коммерческий актив, поскольку изображение, которое может подтвердить свою подлинность, будет все чаще рассматриваться иначе, чем то, которое не может.