ตระกูลที่หนึ่ง: ภาพถูกทำให้เสื่อมคุณภาพ
เป็นหมวดหมู่ที่ใหญ่ที่สุดโดยมีส่วนต่างกว้างมาก สัญญาณที่เครื่องมือตรวจจับอ่านจะอยู่ในพื้นผิวที่ละเอียด และพื้นผิวนั้นเป็นสิ่งแรกที่ทุกการบีบอัด การปรับขนาด และการจับภาพหน้าจอจะตัดออกไป
- การบันทึก JPEG ซ้ำๆ ความแม่นยำลดลงจาก 91.3 เปอร์เซ็นต์ในต้นฉบับที่สะอาด เหลือ 84.6 เปอร์เซ็นต์ที่คุณภาพ 40 บนมาตรฐานที่เผยแพร่ และลดลงอีกเมื่อนำไปใช้จริง
- การจับภาพหน้าจอ เป็นการเรนเดอร์ใหม่ที่ความละเอียดหน้าจอโดยทิ้งไฟล์ต้นฉบับไปโดยสิ้นเชิง
- การลดขนาด พิกเซลน้อยลง พื้นผิวน้อยลง และต่ำกว่าประมาณ 576 พิกเซลในด้านที่สั้นกว่า จะไม่มีแผนที่ภูมิภาค (region map) ให้เลย
- การเข้ารหัสใหม่โดยแพลตฟอร์ม ทุกการอัปโหลดจะมีการเข้ารหัสใหม่อย่างน้อยหนึ่งครั้ง และภาพส่วนใหญ่ผ่านกระบวนการนี้มาหลายครั้ง
- การครอปอย่างหนักหน่วง การครอปส่วนเล็กๆ จากภาพขนาดใหญ่ทำให้สูญเสียบริบทที่โมเดลใช้ในการปรับเทียบ
ความเสื่อมคุณภาพผลักดันคะแนนไปตรงกลางในทั้งสองทิศทาง: ภาพถ่ายจริงสูงขึ้น ภาพที่สร้างขึ้นต่ำลง ผลลัพธ์ปานกลางในไฟล์ที่ผ่านการส่งต่อมามักจะหมายถึงตัวไฟล์ ไม่ใช่ตัวภาพ
ตระกูลที่สอง: ตัวสร้างภาพไม่เคยพบมาก่อน
เครื่องมือตรวจจับจะจำสิ่งที่มันถูกฝึกสอนมาได้ โมเดลที่ปล่อยออกมาหลังจากฝึกสอนเสร็จสิ้นเป็นดินแดนที่ไม่คุ้นเคย และผลลัพธ์ที่ไม่คุ้นเคยมีแนวโน้มที่จะได้คะแนนต่ำแทนที่จะเป็นไม่แน่ใจ
- 1 ตัวสร้างภาพถูกปล่อยออกมา ยังไม่มีอะไรเห็นผลลัพธ์ของมัน
- 2 ช่วงเวลาที่มองไม่เห็น ผลลัพธ์ใหม่ถูกให้คะแนนว่าเป็นของจริง
- 3 รวบรวมตัวอย่าง สัปดาห์แห่งการรวบรวมและติดป้ายกำกับ
- 4 อัปเดตเครื่องมือตรวจจับ จนกระทั่งการปล่อยครั้งถัดไป
สิ่งนี้ทำให้เกิดผลลบปลอม (false negatives) ที่มั่นใจ ซึ่งเป็นประเภทที่อันตรายที่สุด เครื่องมือไม่ได้ส่งสัญญาณความไม่แน่นอน แต่มันรายงานว่าภาพดูปกติดีเพราะมันไม่เหมือนกับสิ่งที่ถูกสอนให้แจ้งเตือน
ตระกูลที่สาม: เนื้อหาคล้ายพื้นผิวสังเคราะห์
ภาพจริงบางภาพนั้นยากต่อการตรวจสอบ ไม่ใช่เพราะมีเจตนาหลอกลวง แต่เพราะพื้นผิวที่ภาพเหล่านั้นมีดูเหมือนกับพื้นผิวที่การสร้างภาพผลิตออกมา
- โหมดกลางคืนของโทรศัพท์และการถ่ายภาพเชิงคำนวณ หลายเฟรมถูกรวมเข้าด้วยกันและลบสัญญาณรบกวนด้วยซอฟต์แวร์ ซึ่งเป็นการเขียนรายละเอียดใหม่ทั่วทั้งภาพ
- การรีทัชอย่างหนัก การทำให้ผิวเรียบเนียนและการแยกความถี่ (frequency separation) สร้างพื้นผิวบนใบหน้าขึ้นใหม่
- ภาพที่เพิ่มขนาด การขยายภาพสร้างพิกเซลขึ้นใหม่ และพิกเซลที่ถูกสร้างขึ้นใหม่ก็คือพิกเซลที่ถูกสร้างโดย AI
- ภาพประกอบ, งานเรนเดอร์ 3D และ CGI ไม่เคยผ่านการถ่ายภาพ ดังนั้นไม่มีอะไรเกี่ยวกับมันที่เหมือนกับการจับภาพด้วยกล้อง
- ภาพสต็อกที่มีการลดสัญญาณรบกวนอย่างหนัก ถูกประมวลผลเชิงพาณิชย์เพื่อให้ดูสะอาด ซึ่งอ่านผลได้ว่าเป็นภาพสังเคราะห์
- ภาพที่แบนราบมากๆ ผนังเปล่า ท้องฟ้าแจ่มใส และพื้นหลังเรียบๆ แทบไม่มีสัญญาณในทิศทางใดเลย
เปรียบเทียบกับเฟรมที่สร้างขึ้นในยุคเก้าสิบและการแก้ไขเฉพาะจุดด้วยส่วนที่ร้อนหนึ่งจุด รูปแบบนี้ไม่ใช่ทั้งสองอย่าง
กลุ่มที่สี่: การหลีกเลี่ยงโดยเจตนา
เป็นหมวดหมู่ที่เล็กที่สุดและเป็นสิ่งที่ผู้คนกังวลมากที่สุด เทคนิคใดก็ตามที่เขียนความสัมพันธ์ของพิกเซลใหม่จะทำให้คะแนนลดลง และส่วนใหญ่จะสร้างความเสียหายต่อภาพให้เห็นได้อย่างชัดเจนในขณะที่ทำเช่นนั้น
ข้อยกเว้นคือการตัดต่อ (compositing) วัตถุที่สร้างขึ้นซึ่งนำมาวางในภาพถ่ายจริงจะยังคงพื้นผิวจริงไว้ได้เกือบทั้งภาพ ซึ่งนั่นคือเหตุผลที่มีแผนผังพื้นที่ (region map) และเหตุผลที่คะแนนทั้งภาพเพียงอย่างเดียวไม่เพียงพอสำหรับกรณีที่มีเจตนาโต้แย้ง
ลักษณะของข้อผิดพลาดแต่ละแบบเมื่อเกิดขึ้น
| สิ่งที่คุณเห็น | สาเหตุที่เป็นไปได้มากที่สุด | สิ่งที่ควรทำ |
|---|---|---|
| ภาพถ่ายจริงได้คะแนนสูง แผนผังมีความสม่ำเสมอ | การประมวลผลหรือการบีบอัด | ตรวจสอบไฟล์ต้นฉบับอีกครั้ง |
| ภาพถ่ายจริงได้คะแนนสูง มีหนึ่งช่องที่ผิดปกติ | การแก้ไขที่ถูกต้อง หรือพื้นผิวเรียบในจุดนั้น | ดูว่ามีอะไรอยู่ในช่องนั้น |
| ภาพที่สร้างขึ้นได้คะแนนต่ำ ไฟล์เสื่อมสภาพ | การบีบอัดหรือภาพหน้าจอ | ให้ถือว่าไม่มีคำตอบ ไม่ใช่ผลลัพธ์ที่ชัดเจน |
| ภาพที่สร้างขึ้นได้คะแนนต่ำ ไฟล์ที่สะอาด | เครื่องมือสร้างที่ระบบยังไม่รู้จัก | ให้พึ่งพาแหล่งที่มาและการตรวจสอบย้อนกลับ |
| คะแนนอยู่ในระดับกลาง | ข้อมูลไม่เพียงพอที่จะสรุปได้ | หาไฟล์ภาพที่ดีกว่าเดิม |
| ไม่มีการสร้างแผนผังพื้นที่ | ภาพมีขนาดเล็กเกินกว่าจะแบ่งช่องได้ | หาไฟล์ภาพที่มีขนาดใหญ่กว่านี้ |
สิ่งที่ไม่ใช่สิ่งที่เครื่องมือนี้ทำ
การแยกแยะข้อจำกัดออกจากสิ่งที่เครื่องมือตรวจจับไม่ได้ตั้งใจจะทำนั้นเป็นเรื่องที่คุ้มค่า เครื่องมือไม่ได้ผิดที่ทำสิ่งที่อยู่นอกเหนือขอบเขตการทำงานของมันไม่ได้
- มันไม่สามารถบอกได้ว่าใครเป็นคนสร้างภาพ ไม่มีอะไรในพิกเซลที่เชื่อมโยงไฟล์เข้ากับบุคคลหนึ่งได้
- มันไม่สามารถบอกได้ว่าเนื้อหาเป็นจริงหรือไม่ ภาพถ่ายจริงสามารถมีคำบรรยายภาพที่เป็นเท็จได้ และนั่นคือการหลอกลวงที่พบบ่อยกว่า
- มันไม่สามารถระบุชื่อเครื่องมือสร้างได้ มีเพียงข้อมูลรับรองหรือเครื่องหมายในไฟล์เท่านั้นที่สามารถระบุได้
- มันไม่สามารถขีดเส้นขอบเขตการแก้ไขได้ แผนผังพื้นที่แสดงตำแหน่งที่สัญญาณรวมตัวกัน ไม่ใช่เส้นขอบของการดัดแปลง
วิธีสร้างกระบวนการที่รองรับปัญหานี้
ข้อผิดพลาดข้างต้นเป็นคุณลักษณะถาวรไม่ใช่ข้อผิดพลาดที่รอการแก้ไข ดังนั้นคำถามที่เป็นประโยชน์คือวิธีออกแบบเพื่อรับมือกับสิ่งเหล่านี้แทนที่จะหาวิธีหลีกเลี่ยง
ใช้สัญญาณมากกว่าหนึ่งประเภท พิกเซล แหล่งที่มา และประวัติการเผยแพร่ล้มเหลวในจุดที่ต่างกัน และภาพที่ดูผิดปกติทั้งสามสัญญาณถือเป็นข้อสรุปที่หนักแน่นกว่าภาพที่ดูผิดปกติเพียงสัญญาณเดียว
ส่งการแจ้งเตือนไปยังบุคคลแทนที่จะเป็นการดำเนินการอัตโนมัติ ข้อผิดพลาดร้ายแรงทุกอย่างข้างต้นจะยอมรับได้หากผลของการประเมินผิดคือการที่ใครบางคนตรวจสอบให้ละเอียดยิ่งขึ้น และจะยอมรับไม่ได้หากผลที่ตามมาคือการปฏิเสธโดยอัตโนมัติ
ขอไฟล์ต้นฉบับก่อนจะสรุปสิ่งใด สัดส่วนที่น่าทึ่งของผลลัพธ์ที่ผิดพลาดจะได้รับการแก้ไขในขั้นตอนนี้เพียงขั้นตอนเดียว เพราะไฟล์ที่คุณได้รับเกือบจะไม่ใช่ไฟล์ที่ดีที่สุดที่มีอยู่