AI 이미지와 학술적 진실성 | Best AI Image Detector

점수는 부정행위 판정을 뒷받침할 수 없습니다. 탐지기는 공표된 오류율을 가지며, 증거 보존 체인(chain of custody)이나 검사관이 없고, 학생은 모델을 상대로 반대 신문을 할 수 없습니다.

점수가 심의 결정을 내릴 수 없는 이유

학술적 부정행위 절차는 준사법적 성격을 띱니다. 학생이 검토하고 이의를 제기할 수 있는 증거가 일관되게 적용되어야 하며 항소 경로가 있어야 합니다. 탐지기 출력 결과는 이 모든 항목을 충족하지 못합니다.

알려진 오류율이 존재합니다. 실험실 조건에서도 약 11개의 이미지 중 1개는 잘못 판정되며, 포털을 통해 내보내기, 압축, 업로드된 제출물에서는 오류가 더 심해집니다.
증거 보존 체인이 없습니다. 파일은 실행 기록이나 어떤 모델 버전이 해당 숫자를 생성했는지에 대한 기록 없이 누군가의 노트북에서 처리되었습니다.
추론 과정을 검토할 수 없습니다. 학생은 수치를 생성한 이유에 대해 모델에 질문할 수 없으며, 기관 역시 대개 이를 설명할 수 없습니다.
오류가 고르게 분포되어 있지 않습니다. 보조 편집 도구를 사용하거나, 압축된 내보내기를 생성하는 저사양 장비로 작업하는 학생들이 더 자주 플래그가 지정됩니다.

마지막 요점이 바로 기관들이 과소평가하는 부분입니다. 탐지기가 특정 학생 그룹에 체계적으로 더 자주 플래그를 지정한다면, 이를 의사결정에 사용하는 것은 공정성 문제를 넘어 평등 문제를 야기합니다.

대신 요구해야 할 사항

질문은 이미지가 생성된 것처럼 보이는지가 아닙니다. 학생이 작업을 수행했는지가 중요합니다. 과정 증거는 이에 대해 직접적으로 답변하며, 완성된 파일보다 사후에 위조하기가 훨씬 어렵습니다.

제출 시 작업 파일 요구
레이어드 문서, 프로젝트 파일, 원본 캡션 또는 버전 기록을 요구하세요. 조사가 진행되는 동안이 아니라 제출 시점에 요구함으로써, 누구나 의심받는 상황 속에서 파일을 급하게 수집해야 하는 상황을 방지할 수 있습니다.
중간 단계 요청
타임스탬프가 포함된 세 가지 진행 상황 내보내기는 개발 과정을 증명합니다. 이는 기관이 추가할 수 있는 가장 유용한 요구 사항이며, 학생들에게 거의 비용이 들지 않습니다.
작업물에 대한 간단한 구두 심사(viva) 진행
결정이 내려진 이유를 묻는 5분의 시간으로 대부분의 사례가 해결됩니다. 이미지를 만든 학생은 자신의 선택을 설명할 수 있습니다. 그렇지 못한 학생은 대개 설명하지 못합니다.
어디를 살펴볼지 결정하는 용도로만 탐지기 사용
플래그는 작업 파일을 요청해야 하는 이유입니다. 그것은 판정 결과가 아니며, 혐의 통지서에 절대 나타나서는 안 됩니다.

과제물에서의 위양성(false positive) 문제

학생들의 제출물은 탐지 관점에서 최악의 시나리오에 가깝습니다. 작업물은 포털용으로 내보내지고, 업로드 시 압축되며, 수업 중 학습된 워크플로의 적법한 일부로서 업스케일링, 디노이징 또는 제너레이티브 필이 포함되어 제작되는 경우가 많습니다.

하나의 이미지, 동일한 제출물의 4가지 단계

원본 내보내기

업로드용 압축

포털 재인코딩

마커 스크린샷

정상적으로 내보내지고 업로드된 실제 학생 사진의 예시 수치.

제출 시스템을 거치는 동안 동일한 작업물이 얼마나 크게 달라질 수 있는지 보여줍니다.

해당 이미지에는 제출하는 것 외에 아무런 작업도 가해지지 않았습니다. 채점 인터페이스의 스크린샷을 확인하는 마커는 체인에서 가장 성능이 저하된 사본을 검사하고 있으며, 사용 가능한 가장 신뢰할 수 없는 답변을 얻고 있는 것입니다.

고발당한 학생인 경우

자신이 직접 작업했음을 증명하라는 요구를 받는 것은 어렵고 빈번해지고 있습니다. 다음은 심사위원단에게 무게감 있게 작용하는 요소들입니다.

레이어와 기록이 그대로 유지된 작업 파일. 이는 사용 가능한 가장 강력한 증거이며 설득력 있게 위조하기 어렵습니다.
마음에 들지 않았던 버전을 포함하여 날짜가 기록된 중간 버전.
제출한 내보내기 파일이 아닌, 카메라나 휴대폰에서 바로 가져온 원본 캡션.
보조 기능을 포함하여 사용한 도구에 대한 기록. 나중에 발견되는 것보다 공개적으로 명시되는 것이 좋습니다.
귀하에 대한 구체적인 증거 요청. 기관은 숫자 그 이상으로 신뢰하는 근거를 말할 수 있어야 합니다.

지속 가능한 정책 작성

이를 가장 잘 처리하는 기관들은 탐지기를 구매하는 대신 제출 요구 사항을 변경했습니다. 이러한 접근 방식은 비용이 적게 들고, 분쟁을 줄이며, 항소 심사위원단의 검토를 통과합니다.

저작권이 중요한 모든 평가에 대해 제출 시 작업 파일을 요구하세요. 요구 사항을 아는 학생들은 이에 대비하며, 자료는 의심받는 사람에게 강제로 요구되는 것이 아니라 당연한 절차로서 제출됩니다.

어떤 도구가 허용되는지 명시하고 사용한 도구에 대한 간략한 선언을 요구하세요. 대부분의 분쟁은 수업에서 허용된 도구를 사용하고 언급할 생각을 하지 못한 학생과 관련이 있으며, 선언 필드는 이를 완전히 해소해 줍니다.

자동화된 탐지가 그 자체만으로 부정행위의 증거가 되지 않는다고 분명히 명시하세요. 정책에 이를 포함하는 것은 심사위원단이 적절히 검토할 수 없는 항목에 의존하도록 강요하는 것을 막기 때문에 학생만큼이나 기관을 보호합니다.

자주 묻는 질문

대학에서 제출된 이미지에 AI 탐지기를 사용할 수 있나요?

분류(triage) 신호로서 주의를 기울여 사용하는 것은 가능합니다. 부정행위 사례의 증거로 사용하는 것은 안 됩니다. 오류율이 공표되어 있고, 추론 과정을 검토할 수 없으며, 학생은 모델에 이의를 제기할 수 없습니다. 모든 판정에는 완성된 파일이 아니라 작업물이 제작된 과정에 대한 증거가 필요합니다.

학생이 작업 파일을 제출할 수 없는 경우는 어떻게 하나요?

이는 학생의 문제가 아니라 귀하의 제출 요구 사항에 대한 문제입니다. 제출 시 작업 파일이 필수가 아니었는데 나중에 이를 요구하는 것은 부당하며 충족하기 불가능한 경우가 많습니다. 이번 학생을 처벌하기보다 다음 기수를 위해 요구 사항을 변경하세요.

특정 학생들이 더 자주 플래그되나요?

그렇습니다. 이것이 바로 기관들이 놓치는 위험 요소입니다. 보조 편집 도구를 사용하거나, 저사양 장비로 작업하거나, 압축이 심한 시스템을 통해 제출하는 학생들은 모두 플래그될 가능성이 더 높으며, 이 중 어떤 것도 부정행위와 상관관계가 없습니다.

과제에서 이미지 AI를 금지해야 하나요?

이는 해당 과정에서 무엇을 가르치는지에 따라 다르며, 전면 금지는 대개 집행이 불가능합니다. 어떤 도구가 허용되는지에 대한 명확한 규칙과 선언 요구 사항이 결합되면, 누구도 검증할 수 없는 금지 조치보다 훨씬 적은 분쟁을 유발합니다.

혐의 통지서에는 어떤 내용이 담겨야 하나요?

학생이 대응할 수 있는 용어로 어떤 증거에 기반했는지가 담겨야 합니다. 자동화된 검사 결과 AI 생성 가능성이 있는 것으로 나타났다는 내용의 통지서는 누구나 답변할 수 있는 혐의가 아니며, 심사위원단 역시 그렇게 판단할 것입니다.

학생들이 제출 전에 자신의 작업을 직접 확인할 수 있나요?

네, 제출하려는 정확한 파일로 확인해 볼 가치가 있습니다. 진본 작업에서 높은 점수가 나온 것은 작품에 대한 어떤 점을 변경해야 하는 이유가 아니라, 작업 파일을 보관하고 사용된 도구를 기록해 두라는 신호입니다.