Keluarga pertama: gambar diturunkan kualitasnya
Kategori terbesar dengan margin yang jauh. Sinyal yang dibaca detektor ada di tekstur halus, dan tekstur tersebut adalah hal pertama yang dibuang oleh setiap kompresi, pengubahan ukuran, dan tangkapan layar.
- Penyimpanan JPEG berulang. Akurasi turun dari 91.3 persen pada dokumen asli yang bersih menjadi 84.6 persen pada kualitas 40 dalam tolok ukur yang dipublikasikan, dan lebih jauh lagi di alam liar.
- Tangkapan layar. Render ulang pada resolusi layar dengan file asli dibuang sepenuhnya.
- Penurunan skala. Lebih sedikit piksel, lebih sedikit tekstur, dan di bawah sekitar 576 piksel di sisi yang lebih pendek, tidak ada peta wilayah sama sekali.
- Pengkodean ulang platform. Setiap unggahan setidaknya adalah satu pengkodean ulang, dan sebagian besar gambar telah melalui beberapa proses tersebut.
- Pemotongan agresif. Pemotongan kecil dari gambar besar menghilangkan konteks tempat model dikalibrasi.
Penurunan kualitas mendorong skor ke tengah di kedua arah: foto asli ke atas, gambar yang dihasilkan ke bawah. Hasil menengah pada file yang jelas-jelas sudah beredar biasanya merujuk pada file tersebut, bukan gambarnya.
Keluarga kedua: generator tidak dikenali
Detektor mengenali apa yang dilatih padanya. Model yang dirilis setelah pelatihan selesai adalah wilayah yang tidak dikenal, dan output yang tidak dikenal cenderung mendapat skor rendah daripada tidak pasti.
- 1 Generator dirilis Belum ada yang melihat output-nya
- 2 Celah buta Skor output baru sebagai asli
- 3 Sampel dikumpulkan Mingguan pengumpulan dan pelabelan
- 4 Detektor diperbarui Hingga rilis berikutnya
Hal ini menghasilkan negatif palsu dengan tingkat keyakinan tinggi, yang merupakan jenis yang paling berbahaya. Alat ini tidak memberikan sinyal ketidakpastian; alat ini melaporkan bahwa gambar terlihat baik karena tidak menyerupai apa pun yang diajarkan untuk ditandai.
Keluarga ketiga: konten menyerupai tekstur sintetis
Beberapa gambar asli memang sulit. Bukan karena ada yang dilakukan untuk menipu, tetapi karena tekstur di dalamnya terlihat seperti tekstur yang dihasilkan oleh pembuatan sintetis.
- Mode malam ponsel dan fotografi komputasional. Beberapa bingkai digabungkan dan dihilangkan deraunya oleh perangkat lunak, yang menulis ulang detail halus di seluruh gambar.
- Perbaikan (retouching) berat. Penghalusan kulit dan pemisahan frekuensi membangun ulang tekstur pada wajah.
- Gambar yang ditingkatkan skalanya. Pembesaran menciptakan piksel, dan piksel yang diciptakan adalah piksel yang dihasilkan secara generatif.
- Ilustrasi, render 3D, dan CGI. Tidak pernah difoto, jadi tidak ada hal di dalamnya yang menyerupai tangkapan kamera.
- Fotografi stok dengan pengurangan derau berat. Diproses secara komersial agar terlihat bersih, yang terbaca sebagai sintetis.
- Gambar yang sangat datar. Dinding kosong, langit cerah, dan latar belakang polos membawa sedikit sinyal di kedua arah.
Bandingkan dengan bingkai yang dihasilkan pada tahun sembilan puluhan dan pengeditan lokal dengan satu ubin panas. Pola ini tidak seperti keduanya.
Keluarga keempat: penghindaran yang disengaja
Kategori terkecil dan yang paling dikhawatirkan orang. Teknik apa pun yang menulis ulang hubungan piksel akan menurunkan skor, dan sebagian besar merusak gambar secara kasat mata saat melakukannya.
Pengecualiannya adalah compositing. Objek buatan yang ditempatkan ke dalam foto asli mempertahankan tekstur nyata di sebagian besar bingkai, itulah sebabnya peta wilayah ada dan mengapa angka seluruh bingkai saja tidak cukup untuk kasus manipulasi apa pun.
Seperti apa bentuk setiap kegagalan saat terjadi
| Apa yang Anda lihat | Kemungkinan besar penyebabnya | Yang harus dilakukan |
|---|---|---|
| Foto asli mendapat skor tinggi, peta hangat merata | Pemrosesan atau kompresi | Periksa kembali file asli |
| Foto asli mendapat skor tinggi, satu ubin panas | Edit yang sah, atau wilayah datar | Lihat apa yang ada di dalam ubin tersebut |
| Gambar buatan mendapat skor rendah, file terdegradasi | Kompresi atau screenshot | Perlakukan sebagai tanpa jawaban, bukan hasil yang bersih |
| Gambar buatan mendapat skor rendah, file bersih | Generator yang tak terlihat | Andalkan provenance dan sumber |
| Skor berada di kisaran tengah | Signal tidak cukup untuk kedua arah | Cari salinan yang lebih baik |
| Tidak ada peta wilayah yang dihasilkan | Gambar terlalu kecil untuk dipecah ubin | Cari salinan yang lebih besar |
Bukan hal-hal ini
Penting untuk memisahkan batasan dari hal-hal yang tidak pernah coba dilakukan oleh detektor. Suatu alat tidak salah hanya karena gagal melakukan sesuatu di luar cakupannya.
- Alat ini tidak dapat mengatakan siapa yang membuat gambar. Tidak ada apa pun pada piksel yang mengaitkan file dengan seseorang.
- Alat ini tidak dapat mengatakan apakah isinya benar. Foto asli dapat membawa taktik keterangan palsu, dan itu adalah penipuan yang lebih umum.
- Alat ini tidak dapat menyebutkan nama generator. Hanya kredensial atau penanda dalam file yang dapat melakukan itu.
- Alat ini tidak dapat menguraikan hasil edit. Peta wilayah menunjukkan di mana sinyal terkonsentrasi, bukan batas dari sebuah manipulasi.
Cara membangun proses yang menoleransi hal ini
Kegagalan di atas adalah fitur permanen daripada bug yang menunggu perbaikan, jadi pertanyaan yang berguna adalah bagaimana merancang sistem di sekitarnya daripada bagaimana menghindarinya.
Gunakan lebih dari satu jenis sinyal. Piksel, provenance, dan riwayat publikasi gagal di tempat yang berbeda, dan gambar yang terlihat salah pada ketiganya adalah temuan yang jauh lebih kuat daripada gambar yang terlihat salah pada salah satunya saja.
Teruskan tanda bahaya ke seseorang alih-alih ke suatu tindakan. Setiap kegagalan serius di atas menjadi dapat ditoleransi jika konsekuensi dari kesalahan adalah seseorang melihat lebih teliti, dan menjadi tidak dapat ditoleransi jika konsekuensinya adalah penolakan otomatis.
Minta file asli sebelum menyimpulkan apa pun. Proporsi hasil salah yang luar biasa besar terselesaikan pada langkah tunggal ini, karena file yang diberikan kepada Anda hampir tidak pernah merupakan salinan terbaik yang ada.