EU AI Act 및 이미지 라벨링

투명성 규칙이 가장 먼저 도입된 이유

합성 미디어의 존재 자체를 규제하는 것은 다루기 힘든 문제입니다. 그러나 사람들에게 이를 알리도록 규제하는 것은 가능하며, 이것이 정보 공개가 유럽만의 특이점이 아닌 여러 관할 구역에서 공통적인 접근 방식으로 자리 잡은 이유입니다.

이 분야의 피해 대부분은 이미지 자체보다는 오해에서 비롯된다는 판단에 근거합니다. 실제 발생하지 않은 일을 기록한 사진이라고 믿는 것이 피해의 본질이며, 라벨 표시는 제작 허용 범위를 통제하지 않고도 이 문제를 직접적으로 해결합니다.

이러한 접근 방식은 규칙의 형태를 설명해 줍니다. 이 규칙들은 게시 시점과 제작 시점에 적용되며, 콘텐츠 자체에 대해서는 거의 언급하지 않고 사기, 명예훼손 등에 관한 기존 법률에 맡깁니다.

각 의무의 적용 대상

첫 번째 행은 대부분의 기업이 자신에게 적용된다고 오해하지만 실제로는 그렇지 않은 항목입니다. 귀사가 생성형 시스템을 직접 구축하여 공급하지 않는 한, 귀사는 두 번째 행인 출력을 게시하고 오디언스에게 고지할 의무가 있는 주체에 해당합니다.

네 번째 행은 가장 강력한 구속력을 지닙니다. 식별 가능한 실제 인물을 합성하여 묘사하는 것은 피해가 가장 구체적으로 나타나는 영역이기 때문입니다. 이 경우 예외는 매우 좁게 인정되며 기타 법률도 함께 적용될 가능성이 높습니다.

EU 외 지역 기업에도 적용되는지 여부

EU 사용자가 있다면 적용될 가능성이 높습니다. 이러한 규칙은 데이터 보호 규정과 마찬가지로 일반적으로 설립지가 아닌 시장을 따르므로, 어디에 있든 EU 오디언스를 대상으로 콘텐츠를 게시하면 적용 대상이 될 수 있습니다.

대부분의 조직에 실질적인 결론은 지역별 차단 정책보다 단일 글로벌 정책을 적용하는 것이 비용이 적게 든다는 점입니다. 어디서나 합성 이미지에 라벨을 부착하는 데는 캡션 하나면 되지만, 모든 에셋의 두 가지 버전을 유지하고 누가 무엇을 볼지 제어하는 규칙을 운영하는 데는 훨씬 더 많은 비용이 듭니다.

또한 향후 규제 대응에도 유리합니다. 유사한 정보 공개 요건이 다른 여러 관할 구역에서도 나타나고 있으므로, 이미 라벨을 부착하고 있는 조직은 다음 규제가 도입되어도 별도로 조치할 것이 없습니다.

실제 규정 준수 방안

1. 게시 중인 콘텐츠 파악

   자체 사이트, 캠페인, 소셜 미디어 게시물을 점검하십시오. 대부분의 조직은 확인해 본 적 없는 대행사 및 스톡 구독 서비스를 통해 생성된 이미지가 유입되고 있음을 발견합니다.

2. 허용 기준 문서화

   장식 및 일러스트레이션은 허용하되, 사실을 주장하는 모든 이미지는 금지하십시오. 이 기준 하나가 특정 기술에 대한 규정보다 훨씬 더 효과적입니다.

3. 방침 페이지가 아닌 캡션에 라벨 표기

   이용약관 페이지 깊숙이 묻혀 있는 고지는 이미지를 보는 사람에게 제대로 된 고지가 아닙니다.

4. 메타데이터 제거 중단

   생성 도구가 출력물에 표시를 남기는 경우, 파이프라인 전반에서 해당 표시를 온전히 유지하는 것이 규정의 핵심 취지 중 하나입니다.

5. 공급업체 계약서에 명시하기

   에이전시와 프리랜서는 납품물에 포함된 생성형 콘텐츠를 명시해야 합니다. 아무도 요구하지 않으면 대부분 먼저 밝히지 않습니다.

다섯 번째 단계는 노력이 가장 큰 효과를 내는 지점입니다. 조직은 출처가 불분명한 이미지가 계속 추가되는 공급망을 사후 감사만으로 바로잡을 수 없으며, 사후 검토 비용에 비하면 업무 지침서에 조항 하나를 넣는 비용은 거의 들지 않습니다.

탐지가 규제 준수 수단이 될 수 없는 이유

이러한 규정은 탐지가 아닌 자진 신고를 기반으로 설계되었다는 점을 분명히 할 필요가 있으며, 이는 의도된 것입니다. 생성 시점에 출력물에 표시를 남기도록 하는 의무는 집행 가능하지만, 사후에 합성 콘텐츠를 정확히 식별해야 하는 의무는 그 누구도 신뢰성 있게 확신할 수 없는 대상을 맞혀야 하는 의무가 되기 때문입니다.

이는 실무적으로 중요한 의미를 갖습니다. 규제 의무를 준수한다는 것은 무엇을 게시했는지 알고 이를 명시하는 것을 뜻하며, 모든 것에 탐지기를 돌리고 결과가 일치하기를 바라는 것이 아닙니다. 탐지는 공급업체가 무엇을 전달했는지 확인하는 수단일 뿐, 규정 준수 증빙 자료가 아닙니다.

이는 또한 타인의 콘텐츠에서 높은 점수가 나왔다고 해서 그것이 규정 위반의 증거가 되지는 않음을 의미합니다. 정보 공개 의무는 게시자에게 있으며, 탐지 오류율이 게시자가 무엇을 알고 있었는지를 증명하는 것은 아닙니다.

중소기업이 실제로 취해야 할 조치

이 문제의 대부분은 컴플라이언스 부서가 없는 조직에 영향을 미치며, 이에 대한 현실적인 대응책은 간단합니다. 세 가지 조치만으로 실질적인 위험을 방어할 수 있으며, 프로젝트 단위가 아닌 반나절 정도면 충분합니다.

공급업체 업무 지침서에 생성형 콘텐츠를 명시하도록 요구하는 문구를 한 줄 추가하십시오. 이 한 문장으로 답을 실제로 알고 있는 사람에게 책임을 넘길 수 있으며, 가장 비용이 적게 드는 통제 수단입니다.

독자가 사진으로 오인할 수 있는 생성형 이미지는 캡션에 라벨을 붙이십시오. 운영 정책 페이지나 푸터가 아니라, 이미지를 보는 사람이 바로 확인할 수 있도록 사진 옆 캡션에 표기해야 합니다.

이미지 파이프라인이 최적화 과정에서 메타데이터를 삭제하고 있지 않은지 확인하십시오. 대부분은 기본적으로 메타데이터를 삭제하며, 생성 도구가 출력물에 남긴 표시를 제거하는 것은 규정의 취지에 정면으로 배치됩니다.

향후 전망

세부 사항은 다를 수 있지만, 여러 사법 관할권 전반의 방향성은 대비 계획을 세울 수 있을 만큼 일관적입니다. 정보 공개 의무는 확대되고 있으며, 출처 메타데이터는 틈새 표준이 아닌 기본 인프라로 자리잡고 있고, 플랫폼 라벨링은 탐지가 아닌 마커를 기반으로 구축되고 있습니다.

이는 원본 사진을 게시하는 모든 이에게 유용한 시사점을 줍니다. 자신의 출처를 명확히 입증할 수 있는 이미지는 그렇지 않은 이미지와 점차 다른 취급을 받게 되므로, 출처 보존은 단순한 기술적 권장 사항을 넘어 상업적 자산으로 변화하고 있습니다.