Dua hal berbeda yang disebut sebagai hal yang sama
Gambar yang sepenuhnya dihasilkan AI dimulai dari ketiadaan. Tidak ada foto di bawahnya, tidak ada pembacaan sensor, tidak ada momen yang benar-benar terjadi. Setiap piksel diproduksi oleh model, dan orang di dalamnya tidak memiliki identitas untuk dicemarkan karena tidak ada orangnya.
Deepfake dimulai dari sesuatu yang nyata. Ada foto atau video di bawahnya, tangkapan asli dari momen yang asli, dan sebuah model telah menggantikan wilayah tertentu darinya, biasanya wajah, dengan renderan orang lain.
Perbedaan ini penting secara hukum, editorial, dan teknis. Stok foto buatan dari seorang dokter fiktif adalah masalah perizinan. Foto seorang dokter asli dengan wajah mereka yang ditempelkan ke tubuh yang tidak pernah melekat pada mereka adalah masalah pencemaran nama baik, and berpotensi menjadi masalah kriminal.
Mengapa deepfake lebih sulit dideteksi
Detektor membaca tekstur statistik dari sebuah gambar dan melaporkan seberapa banyak gambar tersebut terlihat seperti sesuatu yang dihasilkan oleh model. Ketika seluruh bingkai bersifat sintetis, sinyal tersebut ada di mana-mana, dan skornya tidak ambigu.
Pertukaran wajah membalikkan masalah tersebut. Sembilan puluh persen dari gambar adalah foto asli, dengan derau sensor asli dan riwayat kompresi asli, dan rata-rata seluruh bingkai mencerminkan hal tersebut. Pertukaran yang meyakinkan dapat menghasilkan skor di kisaran tiga puluhan pada gambar yang sebenarnya bersifat menipu.
Itu bukanlah kegagalan dari model, melainkan kegagalan dari pertanyaannya. Menanyakan apakah gambar tersebut dihasilkan memiliki bentuk yang salah ketika jawaban yang jujur adalah bahwa sebagian besar gambar tersebut tidak demikian, dan satu bagian penting darinya adalah demikian.
Perataan yang menghasilkan angka 33 itulah yang justru menyembunyikan satu ubin yang penting.
Peta wilayah adalah jawaban atas masalah bentuk tersebut. Menilai ubin yang tumpang tindih secara terpisah berarti penggantian yang terlokalisasi diukur terhadap lingkungannya sendiri alih-alih dicairkan di seluruh bingkai yang bukan tempatnya.
Kosa kata, sesuai urutan kemunculannya
| Istilah | Artinya | Apakah subjeknya asli? |
|---|---|---|
| Deepfake | Kemiripan orang asli yang dipindahkan ke rekaman lain | Ya |
| Pertukaran wajah | Bentuk umum dari deepfake, pada gambar diam atau video | Ya |
| Dihasilkan oleh AI | Dihasilkan dari sebuah prompt tanpa foto sumber | Tidak |
| Diedit AI | Foto asli dengan sesuatu yang ditambahkan atau dihapus | Biasanya |
| Media sintetis | Istilah payung yang mencakup semua hal di atas | Tergantung |
| Cheapfake | Media asli yang disesatkan oleh takarir, potongan, atau tanggal lama | Ya |
Baris terakhir patut untuk direnungkan, karena itu adalah bentuk misinformasi visual yang paling umum dan bentuk yang tidak ditangani oleh detektor mana pun. Foto asli yang tidak disunting dari negara yang berbeda tiga tahun lalu, yang diberi takarir sebagai berita hari ini, akan mendapat skor sebagai foto asli sebagaimana mestinya.
Apa yang harus benar-benar dilakukan, berdasarkan kasusnya
- Anda menduga seluruh gambar tersebut buatan. Jalankan pemeriksaan seluruh bingkai. Skor tinggi dengan peta datar adalah kejelasan yang paling mendekati dari hal ini.
- Anda menduga seseorang disisipkan atau ditukar. Baca peta wilayah terlebih dahulu. Angka tersebut akan meremehkannya.
- Anda menduga dokumen telah diubah. Sama seperti di atas, dan perkirakan tepat satu ubin panas di atas bidang yang diubah.
- Anda menduga takarirnya berbohong. Detektor tidak dapat membantu. Lakukan pencarian gambar terbalik, lalu periksa tanggal dan tempatnya.
- Ini adalah video. Perangkat yang digunakan sama sekali berbeda. Analisis gambar diam bingkai demi bingkai akan melewatkan artefak temporal yang membocorkan pertukaran waktu nyata.
Mengapa pembedaan ini melindungi orang
Memperlakukan setiap gambar sintetis sebagai hal yang sama-sama serius menghasilkan dua kegagalan sekaligus. Hal itu membuang-buang perhatian pada hal-hal yang tidak berbahaya, seperti seseorang yang menggunakan potret hasil buatan karena mereka tidak mampu menyewa fotografer, dan meremehkan kasus yang benar-benar merugikan seseorang.
Kerugiannya bukan terletak pada piksel yang bersifat buatan. Kerugiannya terletak pada individu nyata bernama tertentu yang ditampilkan melakukan sesuatu yang tidak mereka lakukan. Itulah hal yang layak untuk eskalasi, dan itu adalah kasus di mana skor menengah paling tidak dapat dipercaya sebagai ringkasan.
Membingkai kebijakan internal seputar identitas alih-alih teknologi membuatnya bertahan lebih baik seiring berjalannya waktu. Metode akan terus berubah; pertanyaan tentang apakah orang tertentu sedang disalahartikan tidak akan berubah.
Bagaimana pertukaran wajah sebenarnya dibuat
Memahami proses produksi membantu menjelaskan proses deteksi. Pertukaran dimulai dengan foto target dan sekumpulan gambar dari orang yang wajahnya akan digunakan. Model belajar untuk merender wajah tersebut di bawah pencahayaan, sudut, dan ekspresi yang sudah ada di dalam target.
Wajah yang dirender kemudian digabungkan kembali ke dalam bingkai asli, dan bagian sambungannya adalah bagian yang sulit. Kedua bagian tersebut memiliki derau yang berbeda, riwayat kompresi yang berbeda, dan seringkali respons warna yang sedikit berbeda, sehingga langkah pembauran menghaluskan batas tersebut hingga mata berhenti menyadari bagian sambungannya.
Penghalusan itulah yang dibaca oleh peta wilayah. Pembauran menghilangkan tekstur frekuensi tinggi yang dihasilkan oleh sensor, dan tempelan yang dihasilkan secara statistik tidak mirip dengan segala sesuatu di sekitarnya bahkan ketika sambungannya tidak terlihat. Sambungannya tidak terlihat sekaligus dapat diukur pada saat yang bersamaan.
Hal itu juga menjelaskan mengapa pertukaran dapat lolos dari pemeriksaan seluruh bingkai dengan begitu mudah. Area yang dimanipulasi berukuran kecil, dibaurkan dengan sengaja ke sekitarnya, dan dikelilingi oleh foto otentik yang mendominasi rata-rata apa pun yang diambil di seluruh bingkai.
Kesalahan yang terus berulang
Orang-orang menjalankan dugaan deepfake melalui detektor, melihat skor di kisaran tiga puluhan, dan menyimpulkan bahwa gambar tersebut asli. Itu adalah kesimpulan yang salah dari angka yang benar: skornya benar dan pertanyaan yang dijawabnya tidak pernah menjadi pertanyaan yang diajukan.
Kebiasaan yang memperbaikinya itu sederhana. Pada gambar apa pun yang menjadi kekhawatiran tentang orang tertentu, buka peta wilayah sebelum membaca angka utama, dan perlakukan ubin tertinggi alih-alih rata-rata sebagai temuan yang layak untuk ditindaklanjuti.