첫 번째 유형: 이미지 손상
큰 차이로 가장 큰 비중을 차지하는 카테고리입니다. 탐지기가 읽어들이는 신호는 미세한 텍스처에 존재하며, 그 텍스처는 모든 압축, 크기 조정, 스크린샷이 가장 먼저 버리는 것입니다.
- 반복된 JPEG 저장. 게시된 벤치마크 기준에서 정확도는 깨끗한 원본의 91.3%에서 품질 40일 때 84.6%로 떨어지며, 실제 환경에서는 더 떨어집니다.
- 스크린샷. 원본 파일이 완전히 유실된 상태로 화면 해상도에서 다시 렌더링된 경우.
- 다운스케일링. 더 적은 픽셀, 더 적은 텍스처, 그리고 짧은 변을 기준으로 약 576픽셀 미만인 경우 영역 맵이 전혀 생성되지 않습니다.
- 플랫폼 재인코딩. 모든 업로드는 최소 한 번 이상의 재인코딩을 거치며, 대부분의 이미지는 여러 번 거쳤습니다.
- 공격적인 크롭. 대형 이미지의 작은 크롭은 모델이 보정된 컨텍스트를 잃게 만듭니다.
손상은 양방향으로 점수를 중간값으로 몰아갑니다: 실제 사진은 위로, 생성된 이미지는 아래로. 이동을 거친 것이 명확한 파일에서 중간 정도의 결과가 나온다면 사진이 아니라 파일의 문제임을 의미합니다.
두 번째 유형: 보지 못한 생성기
탐지기는 자신이 학습한 것을 인식합니다. 학습이 완료된 후에 출시된 모델은 익숙하지 않은 영역이며, 익숙하지 않은 출력물은 불확실한 점수보다는 낮은 점수를 받는 경향이 있습니다.
- 1 생성기 출시됨 아무것도 해당 출력을 본 적 없음
- 2 블라인드 윈도우 새로운 출력물이 실제 사진으로 점수화됨
- 3 샘플 수집됨 수주간의 수집 및 라벨링
- 4 탐지기 업데이트됨 다음 출시 전까지
이는 가장 위험한 유형인 자신 있는 위음성(False Negative)을 만들어냅니다. 도구는 불확실성을 신호로 보내는 것이 아니라, 플래그를 지정하도록 교육받은 어떤 것과도 닮지 않았기 때문에 이미지가 좋아 보인다고 보고하고 있습니다.
세 번째 유형: 합성 텍스처를 닮은 콘텐츠
일부 실제 이미지는 단순히 판별하기 어렵습니다. 기만하려는 의도가 있어서가 아니라, 그들이 담고 있는 텍스처가 생성 모델이 만들어내는 텍스처와 유사해 보이기 때문입니다.
- 휴대폰 야간 모드 및 연산 사진술. 소프트웨어에 의해 여러 프레임이 병합되고 노이즈가 제거되어 이미지 전체의 미세한 디테일이 다시 쓰여집니다.
- 과도한 리터칭. 피부 스무딩과 주파수 분해는 얼굴의 텍스처를 재구축합니다.
- 업스케일된 이미지. 확장은 픽셀을 발명하며, 발명된 픽셀은 생성된 픽셀입니다.
- 일러스트레이션, 3D 렌더 및 CGI. 사진 촬영된 적이 없으므로 카메라 촬영본과 닮은 부분이 전혀 없습니다.
- 노이즈 제거가 강하게 적용된 스톡 사진. 깔끔해 보이도록 상업적으로 처리되었으며, 이는 합성으로 읽힙니다.
- 매우 평탄한 이미지. 빈 벽, 맑은 하늘, 단순한 배경은 양방향으로 신호를 거의 전달하지 않습니다.
90년대의 생성된 프레임 및 하나의 핫 타일이 포함된 로컬 편집본과 비교해보세요. 이 패턴은 어느 쪽도 아닙니다.
가족 사진 4: 고의적인 회피
가장 작은 카테고리이자 사람들이 가장 걱정하는 부분입니다. 픽셀 관계를 다시 쓰는 모든 기법은 점수를 낮추며, 대부분은 그렇게 하는 과정에서 이미지를 육안으로 손상시킵니다.
예외는 합성입니다. 실제 사진에 삽입된 생성 객체는 프레임 대부분에 걸쳐 실제 질감을 유지하므로, 영역 맵이 존재하는 이유이자 단일 전체 프레임 수치만으로는 적대적 이미지에 대응하기에 충분하지 않은 이유입니다.
각 실패 유형이 나타나는 모습
| 확인되는 현상 | 가장 유력한 원인 | 대응 방안 |
|---|---|---|
| 진본 사진은 높은 점수, 고르게 따뜻한 맵 | 처리 또는 압축 | 원본 파일 다시 확인 |
| 진본 사진은 높은 점수, 하나의 핫 타일 | 정상적인 편집 또는 평탄한 영역 | 해당 타일에 무엇이 있는지 확인 |
| 생성된 이미지는 낮은 점수, 손상된 파일 | 압축 또는 스크린샷 | 결과 없음으로 처리, 깔끔한 결과로 취급하지 않음 |
| 생성된 이미지는 낮은 점수, 깔끔한 파일 | 알 수 없는 생성기 | 출처 및 소싱에 의존 |
| 점수가 중간 대역에 위치 | 어느 쪽이든 신호 부족 | 더 나은 사본 찾기 |
| 영역 맵 생성되지 않음 | 타일로 나누기에는 너무 작은 이미지 | 더 큰 사본 찾기 |
이 모든 것에 해당하지 않는 것
탐지기가 애초에 시도조차 하지 않았던 것과 한계를 구분할 가치가 있습니다. 도구가 그 범위를 벗어난 작업을 수행하지 못한다고 해서 틀린 것은 아닙니다.
- 누가 이미지를 만들었는지 알 수 없습니다. 픽셀 안에는 파일을 특정 개인과 연결하는 요소가 없습니다.
- 콘텐츠가 진실인지 여부를 판별할 수 없습니다. 진정한 사진에도 거짓된 캡션이 달릴 수 있으며, 그것이 더 흔한 기만입니다.
- 생성기의 이름을 명시할 수 없습니다. 파일 내의 크레덴셜이나 마커만이 이를 수행할 수 있습니다.
- 편집 부위를 외곽선으로 표시할 수 없습니다. 영역 맵은 조작의 경계가 아니라 신호가 집중되는 위치를 보여줍니다.
이를 수용할 수 있는 프로세스를 구축하는 방법
위의 실패 사례들은 수정 대기 중인 버그라기보다 고유한 특징에 가까우므로, 이를 회피하는 방법보다는 어떻게 우회하여 설계할지가 유용한 질문입니다.
둘 이상의 신호 종류를 사용하세요. 픽셀, 출처 및 게시 기록은 실패하는 지점이 다르며, 세 가지 모두에서 문제가 있어 보이는 이미지가 어느 한쪽에서만 문제가 있어 보이는 이미지보다 훨씬 더 강력한 근거가 됩니다.
플래그를 조치가 아니라 담당자에게 라우팅하세요. 위의 모든 심각한 실패는 틀렸을 때의 결과가 누군가로 하여금 더 면밀히 살펴보게 하는 것이라면 감내할 수 있게 되며, 결과가 자동 거절이라면 감내할 수 없게 됩니다.
어떤 결론을 내리기 전에 원본을 요청하세요. 전달받은 파일은 존재하는 최상의 사본인 경우가 거의 없기 때문에, 이 단 한 단계만 거쳐도 놀라울 정도로 많은 오답이 해결됩니다.