AI가 여전히 손을 잘못 그리는 이유와 그렇지 않은 경우

손 표현이 유독 어려웠던 이유

우연한 결과가 아니었습니다. 손은 신체의 거의 모든 다른 부위보다 독립된 관절이 많고, 훨씬 좁은 범위 내에서 변화하는 얼굴 등에 비해 취할 수 있는 구체적인 형태의 수가 엄청나게 많습니다.

손은 스스로를 끊임없이 가리기도 합니다. 손가락이 손가락 뒤로 넘어가고, 무언가를 쥐면 손바닥 대부분이 가려지며, 약간만 회전해도 보이는 윤곽이 완전히 바뀝니다. 사진을 통해 학습하는 모델은 단일 객체에 대해 수없이 다양한 부분적 형태를 접하게 됩니다.

학습 데이터도 도움이 되지 않았습니다. 사진은 얼굴을 중심으로 구도가 잡히므로 손은 프레임 가장자리에 나타나거나, 모션 블러로 흐려지거나, 잘리거나, 무언가를 쥐어 가려지곤 합니다. 학습 예시는 풍부했으나 바로 그 부분에서 품질이 낮았습니다.

이러한 요소들이 결합하여 익숙한 실패 사례를 만들었습니다. 손에 손가락 모양의 부위가 붙어 있다는 점은 알지만, 몇 개가 어떤 배열과 어떤 크기로 있어야 하는지에 대한 신뢰할 만한 감각이 없는 모델이 만들어진 것입니다.

문제가 해결된 과정

특별한 것은 없었습니다. 더 많은 데이터와 더 정교해진 라벨링, 모델이 공간 구조 전반을 처리하는 방식을 개선한 아키텍처 변화, 그리고 비판에 지친 개발팀의 집중적인 개선 노력이 더해진 결과입니다.

마지막 행이 이 글 전체의 핵심입니다. 판별 기준이 되었던 오점은 수년 전에 수정되었지만 관련 조언은 여전히 유통되고 있어, 사람들은 이 조언을 적용함으로써 오히려 이미지를 잘못 판독하고 있습니다.

손가락 세기가 양방향 모두에서 실패하는 이유

첫째로 거짓 음성(위음성)의 문제입니다. 올바른 손 형태는 아무것도 증명하지 못합니다. 현재 모델은 대부분 손을 올바르게 렌더링하므로, 손가락 검사를 통과한 이미지는 거의 모든 이미지가 통과하는 테스트를 거쳤을 뿐입니다.

둘째로 거짓 양성(위양성)의 문제이며, 이는 더 큰 피해를 줍니다. 움직이는 실제 손을 촬영하면 흐려지거나 겹치며 겉보기에 기형적인 형태가 나타납니다. 파티에서 제스처를 취하는 사람의 실제 사진도 손가락을 세도록 유도된 사람의 눈에는 경고받았던 오류 형태와 정확히 똑같이 보일 수 있습니다.

이러한 비대칭성은 중요한데, 그에 따른 비용이 불균등하게 발생하기 때문입니다. 생성된 이미지를 실제 사진으로 잘못 판단하는 것은 대개 만회할 수 있지만, 실제 사진과 그 안의 인물을 거짓으로 잘못 지목하는 것은 그렇지 않습니다.

이 현상은 스스로를 강화하기도 합니다. 손이 식별 기준이라고 들은 사람은 어색해 보이는 손을 발견하고 이미지가 가짜라고 결론을 내린 뒤, 그 오류를 낳은 조언을 다른 이에게 전달합니다. 이로써 효용이 다한 휴리스틱이 수년 동안 생명력을 이어가게 됩니다.

이 사례가 다른 모든 식별 기준에 시사하는 점

손의 사례는 일반적인 패턴을 보여주는 구체적인 예시이며, 이 패턴은 특정 팁보다 더 유용합니다.

• 눈에 보이는 결함은 공개적인 벤치마크가 됩니다. 지적할 수 있는 모든 것은 측정 대상이 되며, 측정되는 모든 것은 최적화됩니다.
• 인지도가 높을수록 수정이 빨라집니다. 특정 판별 기준이 널리 공유될수록 이를 제거하려는 동기도 커집니다.
• 조언은 결함보다 수년 더 오래 지속됩니다. 오류에 대한 정정은 최초의 팁만큼 빠르게 퍼지지 않습니다.
• 도구마다 수정 속도가 다릅니다. 플래그십 모델에서 제거된 결함이 구형 모델이나 소형 모델에는 여전히 남아 있을 수 있습니다.
• 식별 잔재는 더 미세한 영역으로 이동합니다. 살아남는 것은 눈에 보이는 결함이 아니라 눈으로 식별할 수 없는 통계적 텍스처입니다.

마지막 점은 감지 도구가 존재하는 이유이기도 합니다. 차이가 여전히 육안으로 보인다면 모델을 통해 찾을 필요가 없을 것이며, 이 분야 전체가 찾아보아야 할 항목들의 목록에 불과했을 것입니다.

여전히 유효한 기준

두 가지 유형의 검사는 이러한 패턴에 영향을 받지 않았으며, 둘 다 국소적인 세부 묘사보다는 프레임 전반의 일관성과 관련이 있습니다.

첫 번째는 조명입니다. 사진 속 모든 표면은 동일한 광원의 영향을 받으므로 그림자의 방향, 경계의 선명도, 색온도가 모두 일치합니다. 생성된 장면은 피사체는 정확히 표현하고 주변부는 대략적으로 맞추는 경우가 많아, 이러한 불일치가 그림자에서 드러납니다.

두 번째는 물리적 연속성입니다. 어깨 뒤로 넘어갔다가 엉뚱한 위치에서 다시 나타나는 끈, 해당 공간에 있을 수 없는 방을 비추는 반사광, 가려진 부분을 넘어갈 때 어긋나는 패턴 등이 해당합니다. 이는 외형 모델이 아니라 세상에 대한 물리적 이해 모델을 필요로 합니다.

두 가지 모두 빠르게 끝낼 수 있는 테스트가 아니며, 이것이 솔직한 결론입니다. 여전히 유효한 검사들은 이미지를 하나의 공간으로 바라볼 것을 요구하며, 빠르게 확인할 수 있었던 검사법들은 이미 수정된 결함들입니다.

이를 교육하는 사람들에게 시사하는 점

많은 미디어 리터러시 자료가 여전히 손가락 세기를 주요 방법으로 내세우고 있으며, 이는 확신을 동반한 오류를 낳는 검사법을 가르치는 결과를 초래합니다. 이에 관한 교육, 지침 또는 강의를 작성하는 경우 내용 자체보다는 정보의 최신성 문제를 점검해야 합니다.

오래 지속될 수 있는 교육은 세부 특징보다는 방법론에 초점을 맞추는 것입니다. 눈에 보이는 결함은 일시적이며, 교육될 만큼 널리 퍼진 판별 기준은 수정될 만큼 인지도가 높다는 점, 그리고 신뢰할 수 있는 질문은 출처와 맥락에 관한 것임을 가르쳐야 합니다.

오류가 발생하는 메커니즘을 명시적으로 교육하는 것도 가치가 있습니다. 움직이는 실제 손이 어색해 보일 수 있음을 아는 사람은 실제 인물의 진짜 사진을 가짜라고 지목하는, 실질적인 피해를 주는 비난을 할 가능성이 훨씬 낮아집니다.

이러한 모든 자료의 솔직한 핵심 요약은 현재 모델을 상대로 살아남는 간단한 시각적 테스트는 없으며, 유용한 능력은 이미지가 어디에서 왔는지, 이를 믿음으로써 누가 이익을 얻는지를 묻는 것이라는 점입니다.