Deepfake กับ ภาพที่สร้างโดย AI ไม่ใช่ปัญหาเดียวกัน

สองสิ่งที่ต่างกันที่คนมักเรียกด้วยชื่อเดียวกัน

ภาพที่สร้างขึ้นทั้งหมดเริ่มจากศูนย์ ไม่มีภาพถ่ายรองรับ ไม่มีข้อมูลจากเซ็นเซอร์ ไม่มีเหตุการณ์ที่เกิดขึ้นจริง ทุกพิกเซลถูกสร้างขึ้นโดยโมเดล และบุคคลในภาพไม่มีอัตลักษณ์ที่จะถูกใส่ร้ายเพราะไม่มีบุคคลนั้นอยู่จริง

Deepfake เริ่มต้นจากสิ่งที่เป็นจริง มีภาพถ่ายหรือวิดีโอรองรับ มีการบันทึกเหตุการณ์จริง และโมเดลได้แทนที่พื้นที่เฉพาะของภาพนั้น ส่วนใหญ่มักเป็นใบหน้า ด้วยการเรนเดอร์ของบุคคลอื่น

ความแตกต่างนี้มีความสำคัญในทางกฎหมาย ในทางบรรณาธิการ และทางเทคนิค ภาพสต็อกที่สร้างโดย AI ของแพทย์ที่ไม่มีอยู่จริงเป็นเรื่องของลิขสิทธิ์ ภาพถ่ายของแพทย์ตัวจริงที่ใบหน้าถูกตัดแปะลงบนร่างกายที่ไม่ใช่ของตัวเองเป็นเรื่องของการหมิ่นประมาท และอาจเป็นคดีอาญาด้วย

เหตุใด Deepfake ถึงตรวจจับได้ยากกว่า

โปรแกรมตรวจจับจะอ่านพื้นผิวทางสถิติของภาพและรายงานว่าส่วนใดดูเหมือนสิ่งที่โมเดลสร้างขึ้นมา เมื่อภาพทั้งเฟรมเป็นสิ่งที่ถูกสร้างขึ้น สัญญาณนั้นจะปรากฏอยู่ทั่วไปและคะแนนจะระบุได้ชัดเจน

การสลับใบหน้าเป็นปัญหาในทางกลับกัน ภาพร้อยละ 90 คือภาพถ่ายจริง ซึ่งมีสัญญาณรบกวนจากเซ็นเซอร์และประวัติการบีบอัดไฟล์ที่ถูกต้อง ทำให้ค่าเฉลี่ยของทั้งเฟรมสะท้อนความเป็นจริง การสลับใบหน้าที่มีความแนบเนียนอาจได้คะแนนเพียง 30 กว่าๆ แม้จะเป็นภาพที่หลอกลวงอย่างชัดเจนก็ตาม

นั่นไม่ใช่ความล้มเหลวของโมเดล แต่เป็นความล้มเหลวของการตั้งคำถาม การถามว่าภาพนี้ถูกสร้างขึ้นมาหรือไม่นั้นไม่ถูกต้องในเมื่อคำตอบที่แท้จริงคือ ส่วนใหญ่ของภาพไม่ได้ถูกสร้างขึ้น แต่มีส่วนสำคัญบางส่วนที่ถูกสร้างขึ้นมา

แผนที่ภูมิภาค (Region map) คือคำตอบของปัญหานี้ การให้คะแนนช่องตารางที่ซ้อนทับกันแยกต่างหากหมายความว่าการแก้ไขเฉพาะจุดจะถูกวัดเทียบกับพื้นที่โดยรอบ แทนที่จะถูกเจือจางไปทั่วทั้งเฟรมที่ไม่ได้เกี่ยวข้อง

คำศัพท์ตามลำดับที่ปรากฏ

แถวล่างสุดเป็นสิ่งที่ควรพิจารณา เพราะเป็นรูปแบบของข้อมูลบิดเบือนทางภาพที่พบได้บ่อยที่สุดและเป็นรูปแบบที่ไม่มีโปรแกรมตรวจจับใดจัดการได้ ภาพถ่ายจริงที่ไม่มีการแก้ไขจากต่างประเทศเมื่อสามปีก่อน ซึ่งถูกนำมาเขียนคำบรรยายว่าเป็นข่าววันนี้ จะได้รับคะแนนว่าเป็นภาพถ่ายจริงตามความเป็นจริง

สิ่งที่ควรทำจริงในแต่ละกรณี

1. คุณสงสัยว่าภาพทั้งภาพถูกสร้างขึ้นทั้งหมด ให้ตรวจสอบแบบทั้งเฟรม คะแนนที่สูงพร้อมแผนที่ที่เรียบเสมอกันคือสิ่งที่ชัดเจนที่สุดแล้ว
2. คุณสงสัยว่ามีการแทรกหรือสลับบุคคลในภาพ ให้ดูแผนที่ภูมิภาคก่อน ตัวเลขรวมจะต่ำกว่าความเป็นจริง
3. คุณสงสัยว่าเอกสารถูกแก้ไข เช่นเดียวกับข้างต้น และให้คาดหวังว่าจะพบช่องตารางที่มีความผิดปกติเพียงจุดเดียวบนส่วนที่ถูกแก้ไข
4. คุณสงสัยว่าคำบรรยายภาพเป็นเรื่องโกหก โปรแกรมตรวจจับช่วยไม่ได้ ให้ใช้การค้นหาด้วยภาพ แล้วตรวจสอบวันที่และสถานที่
5. หากเป็นวิดีโอ ต้องใช้เครื่องมืออื่นโดยสิ้นเชิง การวิเคราะห์ภาพนิ่งทีละเฟรมจะพลาดสัญญาณความผิดปกติทางเวลาที่เผยให้เห็นการสลับใบหน้าแบบเรียลไทม์

เหตุใดการแยกแยะนี้จึงปกป้องผู้คน

การปฏิบัติกับภาพที่ถูกสร้างขึ้นทุกภาพว่ามีความร้ายแรงเท่ากันทำให้เกิดความผิดพลาดสองประการพร้อมกัน คือเสียเวลาไปกับเรื่องที่ไม่เป็นอันตราย เช่น คนที่ใช้ภาพพอร์ตเทรตที่สร้างจาก AI เพราะไม่มีงบจ้างช่างภาพ และให้น้ำหนักน้อยเกินไปกับกรณีที่สร้างความเสียหายต่อบุคคลจริง

อันตรายไม่ได้อยู่ที่พิกเซลเป็นสิ่งที่ประดิษฐ์ขึ้น แต่อยู่ที่การนำบุคคลจริงที่มีชื่อเสียงไปแสดงในสิ่งที่พวกเขาไม่ได้ทำ นั่นคือสิ่งที่ควรให้ความสำคัญ และเป็นกรณีที่คะแนนระดับกลางไม่ควรถูกนำมาใช้เป็นบทสรุป

การวางนโยบายภายในโดยเน้นที่อัตลักษณ์มากกว่าเทคโนโลยีจะทำให้มันคงอยู่ได้นานขึ้น วิธีการต่างๆ จะเปลี่ยนไปเรื่อยๆ แต่คำถามที่ว่าบุคคลใดบุคคลหนึ่งกำลังถูกบิดเบือนความจริงหรือไม่นั้นจะยังคงอยู่

วิธีการสร้างการสลับใบหน้า

การเข้าใจกระบวนการผลิตช่วยอธิบายวิธีการตรวจจับ การสลับใบหน้าเริ่มต้นจากภาพถ่ายเป้าหมายและชุดภาพของบุคคลที่จะนำใบหน้ามาใช้ โมเดลจะเรียนรู้ที่จะเรนเดอร์ใบหน้านั้นภายใต้แสง มุม และการแสดงออกที่มีอยู่ในภาพเป้าหมาย

จากนั้นใบหน้าที่ถูกเรนเดอร์จะถูกนำมาประกอบเข้ากับเฟรมเดิม และรอยต่อคือส่วนที่ทำได้ยาก สองส่วนนี้มีสัญญาณรบกวน ประวัติการบีบอัด และการตอบสนองต่อสีที่แตกต่างกันเล็กน้อย ดังนั้นขั้นตอนการผสมผสานจึงต้องทำให้รอยต่อราบรื่นจนสายตามองไม่เห็น

การทำให้ราบรื่นนั้นคือสิ่งที่แผนที่ภูมิภาคอ่านได้ การผสมผสานจะลบพื้นผิวที่มีความถี่สูงที่เซ็นเซอร์สร้างขึ้น และส่วนที่ได้มานั้นจะมีความแตกต่างทางสถิติกับพื้นที่โดยรอบ แม้ว่ารอยต่อจะดูไม่เห็นก็ตาม รอยต่อนั้นมองไม่เห็นแต่สามารถวัดผลได้ในเวลาเดียวกัน

นี่ยังอธิบายว่าเหตุใดการสลับใบหน้าจึงผ่านการตรวจสอบแบบทั้งเฟรมได้ง่าย พื้นที่ที่ถูกจัดการมีขนาดเล็ก ถูกผสมผสานเข้ากับสภาพแวดล้อมอย่างตั้งใจ และถูกล้อมรอบด้วยภาพถ่ายจริงซึ่งมีผลต่อค่าเฉลี่ยรวมของทั้งเฟรม

ความผิดพลาดที่เกิดขึ้นซ้ำๆ

ผู้คนนำภาพที่สงสัยว่าเป็น Deepfake มาผ่านโปรแกรมตรวจจับ เห็นคะแนน 30 กว่าๆ แล้วสรุปว่าภาพนั้นเป็นของจริง นั่นคือการอนุมานที่ผิดจากตัวเลขที่ถูกต้อง คะแนนนั้นถูกต้องแต่คำถามที่มันตอบไม่ใช่สิ่งที่ถูกถามตั้งแต่แรก

นิสัยที่ช่วยแก้ไขเรื่องนี้คือเรื่องเล็กน้อย ในภาพใดก็ตามที่ความกังวลอยู่ที่ตัวบุคคล ให้เปิดแผนที่ภูมิภาคก่อนดูตัวเลขรวม และให้ถือว่าคะแนนของช่องตารางที่สูงที่สุดคือผลลัพธ์ที่ควรนำไปจัดการ ไม่ใช่ค่าเฉลี่ย