Bir yapay zekâ görüntü tespit aracının yanılmış olabileceği her durum

Dört başarısızlık ailesi: görüntü bozulmuştur, oluşturucu görülmemiştir, içerik sentetik dokuya benziyordur veya birisi görüntüyü kasten aklamıştır. Her biri farklı bir yanlış cevap üretir.

Birinci aile: görüntü bozulmuşsa

Açık ara en büyük kategori. Bir tespit aracının okuduğu sinyal ince dokuda yaşar; bu doku da her sıkıştırma, yeniden boyutlandırma ve ekran görüntüsü alımında ilk atılan şeydir.

Tekrarlanan JPEG kayıtları. Doğruluk, yayınlanan kıyaslamada temiz orijinallerde yüzde 91,3 iken, 40 kalitesinde yüzde 84,6'ya düşer ve gerçek dünyada daha da azalır.
Ekran görüntüleri. Orijinal dosya tamamen atılarak ekran çözünürlüğünde yeniden oluşturma.
Düşük ölçekleme. Daha az piksel, daha az doku ve kısa kenarda yaklaşık 576 pikselin altında hiçbir bölge haritası yoktur.
Platform yeniden kodlaması. Her yükleme en az bir kez yeniden kodlanır ve çoğu görüntü birkaç işlemden geçmiştir.
Yoğun kırpma. Büyük bir görüntünün küçük bir kırpıntısı, modelin kalibre edildiği bağlamı kaybeder.

Bozulma, puanları her iki yönde de ortaya doğru iter: gerçek fotoğrafları yukarı, oluşturulmuş görüntüleri aşağı çeker. Çok dolaşmış bir dosyada orta şekerli bir sonuç, genellikle görüntüyü değil, dosyanın kendisini ifade eder.

İkinci aile: oluşturucu görülmemişse

Bir tespit aracı, üzerinde eğitildiği şeyi tanır. Eğitim bittikten sonra çıkan bir model alışılmadık bir alandır ve alışılmadık çıktılar genellikle belirsiz sonuçtan ziyade düşük puan alma eğilimindedir.

1 Oluşturucu yayınlandı Çıktısını kimse görmedi
2 Kör pencere Yeni çıktı gerçek olarak puanlanır
3 Örnekler toplandı Haftalar süren toplama ve etiketleme
4 Tespit aracı güncellendi Bir sonraki sürüme kadar

Kör nokta yapısal bir durumdur. Yeniden eğitim, her zaman bir sürümün çıkışından sonra gelir, önce değil.

Bu durum, en tehlikeli tür olan güvenli yanlış negatifler üretir. Araç belirsizlik sinyali vermez; görüntü, işaretlenmesi için öğretilen hiçbir şeye benzemediğinden görüntünün normal göründüğünü rapor eder.

Üçüncü aile: içerik sentetik dokuya benziyorsa

Bazı gerçek görüntüler sadece zordur. Aldatmak için bir şey yapıldığından değil, içerdikleri doku oluşturma sürecinin ürettiği dokuya benzediği için.

Telefon gece modu ve hesaplamalı fotoğrafçılık. Yazılım tarafından birleştirilen ve gürültüsü alınan birkaç kare; bu işlem tüm görüntüdeki ince detayları yeniden yazar.
Yoğun rötuş. Cilt yumuşatma ve frekans ayırma, yüzlerdeki dokuyu yeniden inşa eder.
Ölçeklenmiş görüntüler. Büyütme işlemi pikselleri icat eder ve icat edilen pikseller oluşturulmuş piksellerdir.
İllüstrasyon, 3B renderlar ve CGI. Hiç fotoğraflanmamışlardır, bu yüzden hiçbir yanları kamera çekimine benzemez.
Yoğun gürültü azaltmalı stok fotoğraflar. Ticari olarak temiz görünmesi için işlenmiştir, bu da sentetik olarak okunur.
Çok düz görüntüler. Boş duvarlar, açık gökyüzü ve sade arka planlar her iki yönde de az sinyal taşır.

57 62 55 60 58 63 54 61 59

Doksanlardaki oluşturulmuş bir kare ve tek bir sıcak karolu yerel bir düzenleme ile karşılaştırın. Bu desen ikisi de değil.

Gerçek bir gece modu fotoğrafı. Dramatik bir şey yok ama her bir karo sıcak; bu da küresel işlemenin imzasıdır.

Dördüncü aile: kasıtlı kaçınma

En küçük kategori ve insanların en çok endişelendiği grup. Piksel ilişkilerini yeniden yazan her teknik puanı düşürür ve bunların çoğu bunu yaparken görüntüye gözle görülür şekilde zarar verir.

İstisna kompozitlemedir. Gerçek bir fotoğrafın içine yerleştirilen üretilmiş bir nesne, karenin büyük bölümünde gerçek dokuyu korur; bölge haritasının var olma nedeni ve tüm kareye ait tek bir sayının herhangi bir düşmanca durum için yeterli olmamasının sebebi budur.

Her hata gerçekleştiğinde nasıl görünür

Şüpheli bir sonucu tersten okuma
Gördüğünüz	En olası neden	Ne yapmalı
Gerçek fotoğraf yüksek puan alır, dengeli ve sıcak harita	İşleme veya sıkıştırma	Orijinal dosyayı tekrar kontrol edin
Gerçek fotoğraf yüksek puan alır, tek bir sıcak kutucuk	Meşru bir düzenleme veya düz bir bölge	O kutucukta ne olduğuna bakın
Üretilmiş görüntü düşük puan alır, bozulmuş dosya	Sıkıştırma veya ekran görüntüsü	Sonuç yokmuş gibi değerlendirin, temiz bir sonuç değil
Üretilmiş görüntü düşük puan alır, temiz dosya	Görülmemiş bir üretici	Kanıta ve kaynağa başvurun
Puan orta bantta kalıyor	Her iki yönde de yeterli sinyal yok	Daha iyi bir kopya bulun
Bölge haritası oluşturulmadı	Görüntü kutucuklara ayrılmak için çok küçük	Daha büyük bir kopya bulun

Bunların hiçbiri olmayanlar

Sınırlamaları, bir dedektörün hiçbir zaman yapmaya çalışmadığı şeylerden ayırmak gerekir. Kapsamı dışındaki bir şeyi yapamadığı için bir araca hatalı denemez.

Görüntüyü kimin yaptığını söyleyemez. Piksellerdeki hiçbir şey, dosyayı bir kişiye bağlamaz.
İçeriğin doğru olup olmadığını söyleyemez. Gerçek bir fotoğraf yanlış bir başlık taşıyabilir; bu daha yaygın bir aldatmacadır.
Üreticiyi isimlendiremez. Bunu yalnızca bir kimlik bilgisi veya dosya içindeki bir işaret yapabilir.
Düzenlemenin ana hatlarını çizemez. Bölge haritası, sinyalin nerede yoğunlaştığını gösterir, bir manipülasyonun sınırını değil.

Bunu tolere eden bir süreç nasıl oluşturulur

Yukarıdaki hatalar düzeltilmeyi bekleyen hatalardan ziyade kalıcı özelliklerdir, bu yüzden faydalı olan soru onlardan nasıl kaçınılacağı değil, onlara göre nasıl tasarım yapılacağıdır.

Birden fazla sinyal türü kullanın. Pikseller, kanıtlar ve yayın geçmişi farklı yerlerde başarısız olur; üçüne de hatalı görünen bir görüntü, tek başına herhangi birine hatalı görünen bir görüntüden çok daha güçlü bir bulgudur.

İşaretleri bir eyleme değil, bir kişiye yönlendirin. Yanlış olmanın sonucu birinin daha dikkatli bakması ise yukarıdaki her ciddi hata tolere edilebilir, ancak sonuç otomatik bir ret ise bu kabul edilemez.

Herhangi bir sonuca varmadan önce orijinalini isteyin. Yanlış sonuçların şaşırtıcı bir kısmı bu tek adımda çözülür, çünkü size verilen dosya neredeyse hiçbir zaman var olan en iyi kopya değildir.

İnsanların sorduğu sorular

Bir dedektörün en yaygın yanılma şekli nedir?

Dosya bozulduğu için hatalı işaretlenen gerçek bir fotoğraf. Ekran görüntüleri, tekrarlanan sıkıştırma ve telefon gece modu, dedektörün okuduğu dokuyu yeniden yazar ve bu üçü de kimsenin aldatma niyeti olmadan görüntülere uygulanan sıradan işlemlerdir.

Hangi hata en tehlikelidir?

Yeni bir üreticiden gelen çıktıda kendinden emin bir yanlış negatif. Araç görüntüyü belirsiz değil temiz olarak rapor eder, bu yüzden cevabın güvenilmez olduğuna dair hiçbir işaret yoktur. Piksel kontrolü düşük çıksa bile kanıtın ve kaynağın önemli olmasının nedeni budur.

Bir sonucun güvenilir olup olmadığını önceden anlayabilir miyim?

Genellikle evet. Kameradan doğrudan gelen, bol dokulu büyük bir orijinal dosya, güvenebileceğiniz bir okuma sağlar. İki uygulama üzerinden iletilmiş düz bir sahnenin küçük bir ekran görüntüsü bunu sağlamaz ve sayıya bakmadan önce bunu bilmek becerinin büyük bir kısmıdır.

Bu sınırlamalar tüm dedektörler için geçerli mi?

İlk üç aile, pikselleri okuyan her araç için geçerlidir çünkü bunlar tek bir ürünün değil, yöntemin özellikleridir. Araçlar arasında farklılık gösteren şey, hangi üreticileri gördükleri ve karar çizgisini nereye koyduklarıdır.

Bu sorunlar çözülecek mi?

Bozulma sorunu doğasından kaynaklıdır: yok edilen bilgi kurtarılamaz. Görülmemiş üretici sorunu ise yapısal bir sorundur çünkü yeniden eğitim, yayınlamayı takip eder. Temiz görüntülerdeki doğruluk gelişmeye devam edecektir ancak bu iki sorun ortadan kalkmayacaktır.

Peki bir dedektör ne zaman gerçekten faydalıdır?

Makul derecede sağlam bir dosyada, birkaç sinyalden biri olarak, nereye daha yakından bakılacağına karar vermek için. Bu gerçekten değerli bir iştir. Birisi sayıyı cevabın kendisi olarak değil de araştırmaya devam etme nedeni olarak görmeyi bıraktığı an, araç faydasını yitirir.