Безопасно ли загружать свои фото в AI-детектор?

Большинство детекторов требуют загрузки, что означает передачу копии вашего изображения на чужую инфраструктуру. Для обычных фотографий это обычно нормально; для фотографий к страховым случаям, документов, удостоверяющих личность, и клиентских работ это создает обязательства, которые люди редко учитывают.

На что на самом деле вы подписываетесь при загрузке

Вставка изображения в веб-сервис — это передача. Копия покидает ваше устройство, пересекает сеть, попадает на инфраструктуру, которую вы не контролируете, и обрабатывается программным обеспечением, которое вы не можете проверить.

Для большинства фотографий это не имеет значения, и никто не должен из-за этого беспокоиться. Скриншот из группового чата, картинка с новостного сайта, фото из каталога: ничто из этого не несет обязательств, и риск близок к нулю.

Проблема в том, что интересные случаи — почти никогда не такие. Люди обращаются к детектору именно тогда, когда изображение имеет значение, а важные изображения непропорционально чувствительны: чьи-то фотографии для страховки, паспорт кандидата, неопубликованный снимок, результат работы для клиента по контракту.

В этот момент загрузка перестает быть технической деталью и становится решением с последствиями, которые переживут саму проверку.

Вопросы, которые стоит задать

Прежде чем загружать что-то важное, пять вопросов покрывают большинство рисков. Сервис, который не может четко на них ответить, уже дал ответ.

Пять вопросов для любого детектора

Сохраняется ли изображение и как долго? Удаление по завершении, хранение тридцать дней или хранение на неопределенный срок — это очень разные ответы.
Используется ли это для обучения? Несколько бесплатных сервисов оставляют за собой это право. Это реальная цена, которая оплачивается данными, а не деньгами.
Где происходит обработка? Трансграничная передача данных важна для регулируемых сфер и часто требует отдельной оценки.
Кто может это видеть? Доступ персонала, субпроцессоры и любой, у кого есть ссылка на результат.
Есть ли договор? Для бизнеса договор об обработке обычно необходим, а не является опциональным.

Что установить, прежде чем изображение покинет вашу машину.

Вторая строка чаще всего вводит людей в заблуждение. Бесплатный сервис без очевидной бизнес-модели часто имеет скрытую, и удержание загруженных файлов для улучшения модели — один из самых распространенных вариантов.

Где кроются обязательства

Для частного лица загрузка личной фотографии — это личный выбор с личными последствиями. Для организации это обычно решение об обработке данных, связанное с определенными правилами.

Типичные случаи и то, что влечет за собой загрузка
Что вы проверяете	Риск при загрузке	Почему
Изображение с новостного сайта	Ничтожный	Уже общедоступно, обязательств нет
Фотография для объявления на маркетплейсе	Низкий	Публично, не ваше, не конфиденциально
Фотография страхового случая	Высокий	Чьи-то персональные данные, хранящиеся на доверии
Документ, удостоверяющий личность	Очень высокий	Особая категория данных во многих правовых режимах
Неопубликованная работа клиента	Высокий	Договорная конфиденциальность
Личная фотография человека	Высокий	Контроль принадлежит им, а не вам

Риск зависит от того, чье это изображение, а не от того, насколько интересен ответ. Проверка чужой фотографии путем отправки ее третьей стороне — это решение, принимаемое от их имени, как правило, без их согласия.

Для регулируемых организаций практическим следствием является процедура. Сторонний обработчик изображений требует договора, законного основания, политики хранения и пункта в уведомлении о конфиденциальности, и проверка часто стоит дороже самого инструмента.

Почему локальный анализ меняет вопрос

Когда модель работает в браузере, страница считывает файл с диска, и он никуда не передается. Нет сервера, которому нужно доверять, нет политики хранения, которую нужно читать, и нет обработчика, которого нужно назначать, так как обработка происходит только на вашем компьютере.

Это другой уровень гарантии, чем просто обещание. Сервис, заявляющий об удалении загруженных файлов, просит вас доверять его операциям; инструмент, который никогда не получает файл, устраняет сам объект доверия.

Это также можно проверить, что важно для любого, кто должен обосновать свой выбор. Откройте панель сети в браузере, выполните проверку и убедитесь, что модель загружается, а данные не отправляются. Это занимает минуту и убеждает больше, чем любая страница с политикой конфиденциальности.

100%

анализа выполняется на вашем собственном устройстве Модель загружается один раз и работает во вкладке браузера. Загрузки нет, поэтому нет политики хранения, которую нужно изучать, нет обработчика, которого нужно назначать, и нет риска утечки, который мог бы раскрыть изображение.

Цифра, делающая вопрос о хранении бессмысленным.

Это честный обмен: модель загружается один раз, что требует трафика, а анализ использует ваш процессор, что на старом оборудовании медленнее, чем в дата-центре. Это вся цена.

Определите, чье это изображение
Если оно не ваше, по умолчанию его не следует никуда отправлять без причины.
Прочитайте условия хранения и обучения
Два абзаца, и именно они имеют значение. Сервис, резервирующий права на обучение на ваших загрузках, берет с вас плату данными.
Предпочитайте локальный анализ для всего конфиденциального
Фотографии страховых случаев, документы, личные снимки и рабочие материалы клиентов. Проверка та же, а вот уровень угрозы — нет.
Проверяйте, а не доверяйте, где это возможно
Следите за сетевой активностью во время проверки. Это занимает минуту и является единственной гарантией, которая не зависит от честности кого-то другого.
Внесите это в свои регламенты
Правило в одну строку о том, какие изображения могут покидать организацию, предотвращает принятие решений на ходу тем, кто спешит.

Модель угроз, с которой большинство сталкивается на самом деле

Полезно конкретизировать, что может пойти не так, потому что смутная тревога порождает либо паралич, либо безразличие, и ни то, ни другое не полезно. С загруженным изображением реально могут произойти четыре вещи, в порядке убывания вероятности.

Оно сохраняется и используется для улучшения модели. Распространено, обычно где-то раскрыто в условиях и по большей части безопасно для обычного снимка. Некомфортно для личной фотографии человека, который не давал согласия на использование в качестве обучающих данных.

Оно доступно персоналу. В любом хостинговом сервисе есть люди, которые могут получить доступ к сохраненным файлам для поддержки и отладки, и это нормальная инженерная работа, а не нарушение. Но это все равно набор посторонних людей с доступом к вашему изображению.

Оно попадает в утечку. Сервисы, хранящие загрузки, — это цели, и снимок, которым было нормально поделиться с одной компанией, не обязательно должен быть опубликован. Это риск, который сохраняется долго после того, как вы забыли о проверке.

Его могут затребовать по повестке или запросу. Редко, но имеет наибольшие последствия, если изображение связано со спором. Копия на чужой инфраструктуре может быть изъята в отличие от файла на вашем компьютере.

Соразмерное правило

Ничто из этого не призывает рассматривать каждую проверку как инцидент безопасности. Соразмерная позиция — та, которую люди уже применяют к документам: публичные вещи могут отправляться куда угодно, а чужие остаются там, где они есть.

В виде правила это укладывается в одно предложение. Если изображение уже публично, загружайте его куда хотите. Если оно принадлежит клиенту, кандидату, заявителю или заказчику, оно не должно покидать пределы организации.

Вопросы пользователей

Сохраняют ли детекторы ИИ загружаемые мной изображения?

По-разному, ответ содержится в условиях использования. Некоторые удаляют после завершения, некоторые хранят определенное время, а некоторые бесплатные сервисы оставляют за собой право использовать загрузки для обучения модели. Последнее — это реальная цена, оплачиваемая данными, а не деньгами.

Безопасно ли проверять паспорт или удостоверение личности?

Не через сервис, требующий загрузки, если у вас нет соглашения об обработке. Документы, удостоверяющие личность, относятся к наиболее чувствительным данным, которыми оперирует организация, и во многих правовых режимах считаются данными особой категории. Используйте инструмент, который анализирует локально.

Чем этот инструмент отличается?

Модель и среда выполнения загружаются в ваш браузер, и анализ происходит на вашем устройстве, поэтому изображение никогда не передается. Это структурное отличие, а не политическое: не существует сервера, который мог бы удержать файл, потому что ни один сервер его не получает.

Могу ли я убедиться, что ничего не загружается?

Да, и это стоит сделать. Откройте панель сети в инструментах разработчика браузера, запустите проверку и наблюдайте. Модель загружается, а данные не отправляются. Это занимает минуту и убеждает больше, чем любая политика конфиденциальности.

Как насчет проверки изображения клиента под NDA?

Загрузка — это раскрытие информации третьей стороне, и большинство пунктов о конфиденциальности покрывают именно это. Локальный анализ полностью обходит этот вопрос, что обычно проще, чем запрашивать разрешение или объяснять потом, почему файл был куда-то отправлен.

Менее точен ли браузерный инструмент из-за локальной работы?

Нет. Это тот же класс модели, выполняющий тот же анализ; разница лишь в том, где происходят вычисления. Вы платите за это разовой загрузкой модели и несколькими секундами времени процессора, что на современном оборудовании почти незаметно.