Dua perkara berbeza yang orang panggil dengan nama yang sama
Imej janaan sepenuhnya bermula dari ketiadaan. Tiada gambar di baliknya, tiada bacaan penderia, tiada detik yang berlaku. Setiap piksel dihasilkan oleh sebuah model, dan individu di dalam gambar tidak mempunyai identiti untuk difitnah kerana tiada mana-mana individu di situ.
Sebuah deepfake bermula dari sesuatu yang nyata. Terdapat gambar atau video di sebaliknya, rakaman asli suatu detik nyata, dan model telah menggantikan kawasan tertentu, biasanya sebuah muka, dengan pemaparan seseorang yang lain.
Perbezaan ini penting dari segi perundangan, editorial dan teknikal. Foto stok janaan bagi doktor yang tidak wujud ialah persoalan pelesenan. Foto doktor sebenar dengan muka yang ditampal pada badan yang bukan milik mereka ialah persoalan pemfitnahan, dan berkemungkinan jenayah.
Mengapa deepfake lebih sukar dikesan
Sebuah pengesan membaca tekstur statistik sesuatu imej dan melaporkan sejauh mana ia kelihatan seperti sesuatu yang dihasilkan oleh model. Apabila seluruh bingkai adalah sintetik, isyarat itu wujud di merata-rata, dan skornya adalah jelas.
Pertukaran wajah menyongsangkan masalah tersebut. Sembilan puluh peratus daripada gambar itu adalah foto sebenar, dengan hingar sensor sebenar dan sejarah mampatan sebenar, dan purata seluruh bingkai mencerminkan perkara itu. Pertukaran yang meyakinkan boleh menghasilkan skor dalam lingkungan 30-an pada imej yang benar-benar memperdayakan.
Itu bukan sekadar kegagalan model tetapi kegagalan soalan. Bertanya sama ada imej itu dijana mempunyai bentuk yang salah apabila jawapan jujurnya adalah sebahagian besarnya bukan, dan satu bahagian penting daripadanya adalah ya.
Pemurataan yang menghasilkan 33 itulah yang menyembunyikan satu jubin yang penting.
Peta kawasan adalah jawapan kepada masalah bentuk itu. Pemarkahan jubin bertindih secara berasingan bermakna penggantian setempat diukur berbanding kawasan sekitarnya sendiri dan bukannya dicairkan ke seluruh bingkai yang tidak tergolong kepadanya.
Kosa kata, mengikut susunan ia muncul
| Istilah | Maksudnya | Adakah subjek itu wujud? |
|---|---|---|
| Deepfake | Rupa seseorang yang sebenar dipindahkan ke rakaman lain | Ya |
| Tukar wajah | Bentuk biasa bagi deepfake, pada imej pegun atau video | Ya |
| Dijana AI | Dihasilkan daripada prom tanpa foto sumber | Tidak |
| Disunting AI | Foto sebenar dengan sesuatu ditambah atau dialih keluar | Biasanya |
| Media sintetik | Istilah payung yang merangkumi semua di atas | Bergantung |
| Cheapfake | Media sebenar yang disalah ertikan oleh kapsyen, potongan atau tarikh lama | Ya |
Baris terakhir bernilai untuk diteliti, kerana ia adalah bentuk maklumat salah visual yang paling biasa dan tidak ditangani oleh mana-mana pengesan. Gambar tulen yang tidak disunting dari negara lain tiga tahun lalu, yang dikapsyenkan sebagai berita hari ini, akan mendapat skor sebagai foto sebenar.
Apa yang perlu dilakukan sebenarnya, mengikut kes
- Anda mengesyaki keseluruhan gambar itu direka. Jalankan semakan seluruh bingkai. Skor yang tinggi dengan peta yang rata adalah cukup jelas.
- Anda mengesyaki seseorang telah dimasukkan atau ditukar. Baca peta kawasan terlebih dahulu. Nombor tersebut akan memperkecilkannya.
- Anda mengesyaki dokumen telah diubah. Sama seperti di atas, dan jangkakan tepat satu jubin panas di atas ruang yang diubah.
- Anda mengesyaki kapsyen itu berbohong. Pengesan tidak dapat membantu. Carian imej terbalik, kemudian semak tarikh dan tempat.
- Ia adalah video. Alat yang berbeza sepenuhnya. Analisis imej pegun bingkai demi bingkai terlepas artifak temporal yang mendedahkan pertukaran masa nyata.
Sebab perbezaan ini melindungi orang ramai
Menganggap setiap imej sintetik sebagai sama serius menghasilkan dua kegagalan serentak. Ia membazirkan perhatian pada perkara yang tidak berbahaya, seperti seseorang menggunakan potret janaan kerana tidak mampu mengupah jurugambar, dan ia meremehkan kes yang sebenarnya merosakkan reputasi seseorang.
Kemudaratannya bukan pada piksel yang dibuat-buat. Ia adalah apabila individu sebenar yang dinamakan dipaparkan sedang melakukan sesuatu yang tidak mereka lakukan. Itu adalah perkara yang berbaloi untuk diselidik lanjut, dan ia adalah kes di mana skor pertengahan paling tidak boleh dipercayai sebagai satu rumusan.
Merangka dasar dalaman sekitar identiti dan bukannya sekitar teknologi juga menjadikannya lebih tahan lama. Kaedah akan terus berubah; persoalan sama ada orang tertentu telah disalahtafsirkan tidak akan berubah.
Cara pertukaran wajah sebenarnya dibuat
Memahami proses penciptaannya membantu menjelaskan pengesanannya. Sesuatu pertukaran bermula dengan foto sasaran dan satu set imej individu yang wajahnya akan digunakan. Sesuatu model belajar untuk menghasilkan wajah itu di bawah pencahayaan, sudut dan riak wajah yang sedia ada pada sasaran.
Wajah yang dihasilkan kemudian dikompositkan kembali ke dalam bingkai asal, dan kelimnya adalah bahagian yang sukar. Kedua-dua separuh bahagian itu mempunyai hingar yang berbeza, sejarah mampatan yang berbeza dan selalunya respons warna yang sedikit berbeza, jadi langkah pengadunan melicinkan sempadan sehingga mata tidak lagi menyedari sambungannya.
Kelancaran itulah yang dibaca oleh peta kawasan. Pengadunan menyingkirkan tekstur frekuensi tinggi yang dihasilkan oleh sensor, dan tampalan yang terhasil secara statistiknya tidak menyerupai persekitarannya walaupun apabila cantuman itu tidak kelihatan. Kelimnya tidak kelihatan tetapi boleh diukur pada masa yang sama.
Ia juga menerangkan sebab pertukaran terlepas daripada semakan seluruh bingkai dengan begitu mudah. Kawasan yang dimanipulasi adalah kecil, sengaja diadun ke dalam persekitarannya, dan dikelilingi oleh gambar asli yang mendominasi mana-mana purata yang diambil merentasi seluruh bingkai.
Kesilapan yang terus berulang
Orang ramai memasukkan kandungan yang disyaki deepfake melalui pengesan, melihat skor dalam lingkungan 30-an, dan menyimpulkan bahawa imej tersebut tulen. Itu adalah inferens yang salah daripada nombor yang betul: skornya betul dan soalan yang dijawabnya tidak pernah sama dengan yang ditanya.
Tabiat yang membetulkannya adalah kecil. Pada sebarang imej yang kebimbangannya berkaitan dengan individu tertentu, buka peta kawasan sebelum membaca angka utama, dan anggap jubin tertinggi bukannya purata sebagai penemuan yang patut diambil tindakan.