การตรวจจับภาพ AI ทำงานอย่างไร

สิ่งที่โมเดลกำลังตรวจสอบ

กล้องบันทึกแสงผ่านเลนส์ลงบนเซนเซอร์ กระบวนการนั้นทิ้งร่องรอยของสัญญาณรบกวน (noise) เฉพาะตัว รูปแบบความคมชัดที่ลดลงบริเวณขอบ และความสัมพันธ์ระหว่างพิกเซลที่เกิดจากตารางเซนเซอร์และการประมวลผลแบบ demosaicing

โมเดล diffusion สร้างภาพโดยการลบสัญญาณรบกวนออกจากสนามสุ่มซ้ำๆ จนกว่าจะได้ภาพที่ชัดเจน กระบวนการนั้นก็ทิ้งร่องรอยเฉพาะตัวไว้เช่นกันและแตกต่างกัน ผลลัพธ์อาจดูสมบูรณ์แบบทางสายตา แต่สามารถแยกแยะได้ด้วยสถิติในเวลาเดียวกัน

นี่คือเหตุผลที่การตรวจจับยังคงแม่นยำแม้จะผ่านการแคปหน้าจอ ในขณะที่ข้อมูล metadata หายไป ร่องรอยจะอยู่ที่ค่าพิกเซลเองไม่ใช่ในส่วนหัว (header) ดังนั้นการคัดลอกพิกเซลจึงเป็นการคัดลอกหลักฐานไปด้วย

สี่ขั้นตอน

ขั้นตอนที่หนึ่ง: การถอดรหัส

ไฟล์ถูกอ่านจากดิสก์โดยหน้าเว็บและถอดรหัสเป็นพิกเซลดิบ ไฟล์ HEIC, AVIF, TIFF และอื่นๆ จะถูกจัดการโดยตัวถอดรหัสของเบราว์เซอร์เอง ไม่มีการส่งข้อมูลออกไป ซึ่งเป็นคุณสมบัติของการทำงานในเครื่อง ไม่ใช่นโยบายบนเซิร์ฟเวอร์

ขั้นตอนที่สอง: การประเมินทั้งเฟรม

ภาพถูกปรับขนาดเป็น 384 พิกเซลจัตุรัสและส่งผ่าน Vision Transformer โมเดลจะคืนค่าความน่าจะเป็นดิบที่เฟรมนั้นเป็นภาพสังเคราะห์ ตัวเลขนั้นจะถูกปรับเทียบเพื่อให้แสดงผลบนช่วงที่กำหนดไว้อย่างสม่ำเสมอแทนที่จะคลาดเคลื่อนไปตามโมเดล

การปรับขนาดทำให้รายละเอียดหายไป ซึ่งเป็นจุดแรกที่ความแม่นยำลดลง แต่นี่เป็นสิ่งที่หลีกเลี่ยงไม่ได้: โมเดลมีขนาดอินพุตคงที่ และภาพถ่ายขนาด 4000 พิกเซลต้องถูกลดขนาดลงเพื่อให้พอดี

ขั้นตอนที่สาม: การประเมินแบบแบ่งส่วน

เฟรมจะถูกแบ่งออกเป็นส่วนๆ ที่ซ้อนทับกันและแต่ละส่วนจะถูกประเมินโดยโมเดลเดิม นี่คือสิ่งที่แยกภาพที่สร้างขึ้นทั้งหมดออกจากภาพถ่ายจริงที่มีการเพิ่มวัตถุเข้ามา และเป็นขั้นตอนที่ตัวเลขเดียวไม่สามารถทดแทนได้

ส่วนภาพที่แบ่งต้องมีพิกเซลเพียงพอจึงจะมีนัยสำคัญ ซึ่งเป็นเหตุผลว่าทำไมภาพที่มีด้านสั้นน้อยกว่าประมาณ 576 พิกเซล จะได้รับคะแนนทั้งเฟรมเท่านั้น เนื่องจากไม่มีรายละเอียดเพียงพอในส่วนภาพขนาดเล็กที่จะประเมินแยกส่วน

ขั้นตอนที่สี่: บันทึกของไฟล์

นอกเหนือจากพิกเซล ไฟล์จะถูกตรวจสอบข้อมูล Content Credentials และตัวระบุของผู้สร้างที่เครื่องมือบางอย่างทิ้งไว้ เส้นทางนี้เป็นแบบเข้ารหัสลับมากกว่าเชิงสถิติ: ลายเซ็นที่ถูกต้องจะถูกตรวจสอบเทียบกับรายการที่เชื่อถือได้ ไม่ใช่การประมาณ

วิธีรวมผลลัพธ์

ทั้งสองเส้นทางจะไม่ถูกนำมาหาค่าเฉลี่ย เนื่องจากมีน้ำหนักต่างกัน ข้อมูลอ้างอิงที่ถูกต้องซึ่งระบุว่าถ่ายจากกล้องจะมีน้ำหนักมากกว่าคะแนนพิกเซลปานกลาง ข้อมูลอ้างอิงที่ระบุว่าสร้างจาก AI จะตัดสินคำถามนี้ได้ทันที

บรรทัดสุดท้ายนั้นเป็นสิ่งที่ผู้คนเข้าใจผิดบ่อยที่สุด ข้อมูลอ้างอิงที่หายไปไม่ใช่สัญญาณเชิงลบ ภาพส่วนใหญ่มหาศาลที่เคยสร้างมาไม่มีข้อมูลเหล่านี้ และแพลตฟอร์มเกือบทั้งหมดจะลบข้อมูลเหล่านี้ออกเมื่อมีการอัปโหลด

ทำไมจึงทำงานในเบราว์เซอร์

โมเดลมีขนาดประมาณ 40 MB และทำงานผ่าน WebAssembly บนอุปกรณ์ของผู้ใช้งาน นี่คือทางเลือกทางสถาปัตยกรรมที่ตั้งใจให้มีผลลัพธ์สามประการที่ควรทำความเข้าใจ

• ไม่มีการอัปโหลด ดังนั้นจึงไม่มีเซิร์ฟเวอร์ใดที่เก็บภาพของผู้ใช้ และไม่มีความสัมพันธ์ในการประมวลผลข้อมูลที่ต้องบันทึก
• การตรวจสอบไม่มีค่าใช้จ่ายในการให้บริการ ซึ่งเป็นเหตุผลที่เครื่องมือสามารถใช้งานได้ฟรีโดยไม่มีมาตรวัดการใช้งาน
• การตรวจสอบครั้งแรกจะช้ากว่า เพราะโมเดลต้องดาวน์โหลดหนึ่งครั้งก่อนจะเริ่มทำงาน การตรวจสอบครั้งถัดไปจะใช้สำเนาที่แคชไว้ในเครื่อง

สิ่งที่เครื่องมือนี้จงใจไม่ทำ

เทคนิคหลายอย่างที่ปรากฏในเครื่องมือวิเคราะห์ยุคเก่าไม่ได้ถูกนำมาใช้ เพราะไม่สามารถใช้ได้อีกต่อไปกับภาพที่ผ่านการแชร์บนแพลตฟอร์มสมัยใหม่

• การวิเคราะห์ระดับข้อผิดพลาด (ELA) เป็นที่นิยม เข้าใจผิดกันมาก และไม่น่าเชื่อถือกับภาพที่ถูกบันทึกซ้ำมากกว่าหนึ่งครั้ง
• การตรวจจับการคัดลอก-ย้าย (Copy-move) ตรวจพบพื้นที่ที่ซ้ำกันในเฟรม ซึ่งตรวจพบการตัดต่อแบบเก่า ไม่ใช่ภาพที่สร้างจาก AI
• ผลลัพธ์จาก Metadata EXIF มักถูกลบออกเมื่ออัปโหลดเกือบทุกที่ ดังนั้นการตรวจสอบที่ขึ้นอยู่กับข้อมูลนี้จึงล้มเหลวในภาพที่ผู้คนจำเป็นต้องตรวจสอบ
• การวิเคราะห์ใบหน้าเฉพาะทาง มีประโยชน์สำหรับการจัดการภาพที่จำกัด และไม่สามารถตรวจจับสิ่งอื่นๆ ได้