İnsanların aynı şey için söylediği iki farklı şey
Tamamen oluşturulmuş bir görsel sıfırdan başlar. Altında fotoğraf yok, sensör okuması yok, gerçekleşen bir an yok. Her piksel bir model tarafından üretilmiştir ve içindeki kişinin lekelenecek bir kimliği yoktur çünkü ortada hiçbir kişi yoktur.
Bir deepfake gerçek bir şeyden başlar. Altında bir fotoğraf veya video, gerçek bir anın gerçek bir yakalaması vardır ve bir model bunun belirli bir bölgesini (genellikle bir yüzü) başka birinin işlenmiş haliyle değiştirmiştir.
Bu ayrım yasal, editoryal ve teknik açıdan önemlidir. Var olmayan bir doktorun oluşturulmuş stok fotoğrafı bir lisans meselesidir. Yüzü asla ait olmadığı bir vücuda yapıştırılmış gerçek bir doktorun fotoğrafı ise bir itibar zedeleme ve muhtemelen suç meselesidir.
Deepfake neden yakalaması daha zordur
Bir dedektör, bir görselin istatistiksel dokusunu okur ve ne kadarının bir model tarafından üretilmiş bir şeye benzediğini bildirir. Çerçevenin tamamı sentetik olduğunda bu sinyal her yerdedir ve skor nettir.
Bir yüz değişimi sorunu tersine çevirir. Resmin yüzde doksanı, gerçek sensör gürültüsüne ve gerçek sıkıştırma geçmişine sahip gerçek bir fotoğraftır ve çerçevenin tamamının ortalaması bunu yansıtır. İkna edici bir değişim, gerçekten aldatıcı olan bir görselde otuzlu seviyelerde bir skor üretebilir.
Bu, modelin bir hatasından çok sorunun hatasıdır. Dürüst cevap çoğunun öyle olmadığını ve önemli bir kısmının öyle olduğunu söylediğinde, görselin üretilip üretilmediğini sormak yanlış bir yapıya sahiptir.
33'ü üreten ortalamaya alma, tam olarak önemli olan tek karoyu gizleyen şeydir.
Bölge haritası bu şekil sorununun cevabıdır. Kapsamlı çakışan karoları ayrı ayrı puanlamak, yerelleştirilmiş bir değiştirmenin, ait olmadığı bir çerçeveye yayılmak yerine kendi yakın çevresine göre ölçülmesi anlamına gelir.
Görünüm sırasına göre kelime dağarcığı
| Terim | Ne anlama gelir | Özne gerçek mi? |
|---|---|---|
| Deepfake | Gerçek bir kişinin benzerliğinin diğer görüntülere aktarılması | Evet |
| Yüz değişimi | Hareketsiz görüntü veya videoda deepfake'in yaygın biçimi | Evet |
| Yapay zeka üretimi | Kaynak fotoğraf olmadan bir komuttan üretilmiştir | Hayır |
| AI ile düzenlenmiş | Bir şeyler eklenmiş veya çıkarılmış gerçek bir fotoğraf | Genellikle |
| Sentetik medya | Yukarıdakilerin tümünü kapsayan çatı terim | Bağlı |
| Ucuz sahte (Cheapfake) | Altyazı, kırpma veya eski tarih nedeniyle yanıltıcı hale gelmiş gerçek medya | Evet |
Son satır üzerinde durmaya değer, çünkü görsel dezenformasyonun en yaygın biçimidir ve hiçbir dedektörün ele almadığı konudur. Üç yıl öncesine ait farklı bir ülkeden gelen, bugünün haberi olarak altyazılanmış orijinal, düzenlenmemiş bir fotoğraf, olduğu gibi gerçek bir fotoğraf olarak puanlanacaktır.
Duruma göre ne yapılmalı
- Resmin tamamının uydurma olduğundan şüpheleniyorsunuz. Çerçevenin tamamı için bir kontrol çalıştırın. Düz haritaya sahip yüksek bir skor, bu işin olabileceği en net durumdur.
- Bir kişinin eklendiğinden veya değiştirildiğinden şüpheleniyorsunuz. Önce bölge haritasını okuyun. Sayı bunu eksik gösterecektir.
- Bir belgenin değiştirildiğinden şüpheleniyorsunuz. Yukarıdakiyle aynıdır ve değiştirilen alan üzerinde tam olarak bir sıcak karo bekleyin.
- Altyazının yalan söylediğinden şüpheleniyorsunuz. Bir dedektör yardımcı olamaz. Tersine görsel arama yapın, ardından tarih ve yeri kontrol edin.
- Bu bir video. Tamamen farklı bir araç takımı. Kare kare hareketsiz analiz, gerçek zamanlı değişimleri açığa çıkaran zamansal yapıları kaçırır.
Bu ayrım insanları neden korur
Her sentetik görseli aynı derecede ciddi ele almak aynı anda iki hataya yol açar. Fotoğrafçıya gücü yetmediği için üretilmiş bir portre kullanan biri gibi zararsız şeylere dikkat harcar ve bir insana gerçekten zarar veren durumu hafife alır.
Zarar piksellerin yapay olmasında değildir. Gerçek, adı olan bir bireyin yapmadığı bir şeyi yapıyormuş gibi gösterilmesindedir. Bu, üst kademelere taşınmaya değer bir durumdur ve orta düzey bir skorun özet olarak en az güvenilir olduğu durumdur.
İç politikayı teknoloji etrafında değil kimlik etrafında şekillendirmek onun daha iyi yaşlanmasını da sağlar. Yöntemler değişmeye devam edecektir; belirli bir kişinin yanlış tanıtılıp tanıtılmadığı sorusu değişmeyecektir.
Bir yüz değişimi aslında nasıl yapılır
Üretimi anlamak tespiti açıklamaya yardımcı olur. Bir değişim, hedef fotoğraf ve yüzü kullanılacak kişinin bir dizi görseliyle başlar. Bir model, o yüzü, halihazırda hedefte bulunan aydınlatma, açı ve ifade altında oluşturmayı öğrenir.
Oluşturulan yüz daha sonra orijinal çerçeveye geri eklenir ve zor kısmı dikiş yeridir. İki yarının farklı gürültüsü, farklı sıkıştırma geçmişi ve genellikle biraz farklı renk tepkisi vardır, bu nedenle harmanlama adımı, bir göz birleşme yerini fark etmeyi bırakana kadar sınırı yumuşatır.
Bu yumuşatma, bir bölge haritasının okuduğu şeydir. Harmanlama, bir sensörün ürettiği yüksek frekanslı dokuyu ortadan kaldırır ve elde edilen yama, birleşme yeri görünmez olsa bile etrafındaki her şeyden istatistiksel olarak farklıdır. Dikiş yeri aynı anda hem görünmez hem de ölçülebilirdir.
Bu aynı zamanda bir değişimin çerçevenin tamamı kontrolünden neden bu kadar kolay sağ çıktığını da açıklar. Manipüle edilen alan küçüktür, bilerek çevresiyle harmanlanmıştır ve çerçeve genelinde alınan herhangi bir ortalamaya hakim olan otantik bir fotoğraf ile çevrelenmiştir.
Sürekli tekrarlanan hata
İnsanlar şüpheli bir deepfake'i bir dedektörden geçirir, otuzlu seviyelerde bir skor görür ve görselin orijinal olduğu sonucuna varır. Bu, doğru sayıdan yapılan yanlış çıkarımdır: skor doğrudur ve cevapladığı soru hiçbir zaman sorulan soru olmamıştır.
Bunu düzelten alışkanlık basittir. Endişenin belirli bir kişiyle ilgili olduğu herhangi bir görselde, manşet rakamını okumadan önce bölge haritasını açın ve ortalama yerine en yüksek karoyu üzerinde işlem yapılmaya değer bulgu olarak ele alın.