AI resim dedektörleri kandırılabilir mi?

Piksel dedektörü neden yenilebilir

Bir dedektör komşu pikseller arasındaki istatistiksel dokuyu okur. O doku kanıttır. Onu yeniden yazan her şey kanıtı ortadan kaldırır ve bunu yapmak için birçok sıradan neden vardır.

Bu, bir ürünün kusurundan ziyade yöntemin bir özelliğidir. Kandırılamayacağını iddia eden bir araç, ya piksellerden başka bir şey ölçüyordur ya da size karşı dürüst değildir.

Kategoriler, talimat olarak değil, tanımlanmış olarak

Bunlar, bir savunucunun ihtiyaç duyacağı seviyede yazılmıştır. Bir kategorinin var olduğunu bilmek, onun imzasını bir sonuçta tanımanızı sağlar. Bu bir yemek tarifi değildir ve hiçbiri adım adım değildir.

Sağdaki son madde en önemli olanıdır çünkü tek bir sayıyla yakalanması en zor olandır. İçine üretilmiş bir nesne yerleştirilmiş gerçek bir fotoğraf, çerçevenin büyük bir kısmında orijinal dokusunu korur.

Bölge haritası bu konuda ne yapıyor

Çerçeveyi bölmelere ayırarak puanlamak, birleştirmeye (compositing) doğrudan verilen cevaptır. Çerçeve genelindeki ortalama gerçek kısımlar tarafından aşağı çekilir ancak ek parçayı içeren bölme (tile) başka bir şeyle ortalamaya tabi tutulmaz.

Kaçınmanın bunu yapan kişiye maliyeti

Sinyali gizleyen her teknik, görselin kendisine de zarar verir. Bu takas, bir savunucunun bilebileceği en yararlı bilgidir.

Bir dedektörü geçecek kadar iyi temizlenmiş bir görsel genellikle temizlenmiş görünür. Eğer bir resim hem şüpheli derecede düşük kalitedeyse hem de bir şeyin kanıtı olarak sunuluyorsa, kalitesizliği başlı başına bir bulgudur.

Kolayca taklit edilemeyecek olanlar

• Yayın geçmişi. Yıllar önce dizine eklenmiş bir resim geçen ay üretilmemiştir. Ters görsel arama, en güçlü tekil kontrol olmaya devam etmektedir.
• Geçerli bir İçerik Kimlik Bilgisi (Content Credential). Mevcut piksellere bağlı imzalı bir bildirim kriptografiktir. Kaldırılabilir ancak sahtesi yapılamaz.
• Tutarlı bir fiziksel sahne. Gölgeler, yansımalar ve nesneler arasındaki süreklilik, üreticilerin hala başarısız olduğu ve temizleme işlemlerinin düzeltemediği noktalardır.
• Başkasının elinde zaten var olan bir dosya. Gönderenden, resmi çeken cihazdaki orijinali isteyin ve sonrasında neler olacağını izleyin.

Bu sizi nereye getiriyor

Kararlı ve teknik bilgiye sahip bir rakip, piksel dedektörünü yenebilir. Bu doğrudur ancak yaygın bir durum değildir. İnsanların çoğu tarafından kontrol edilen görseller dikkatsizce yapılmış, gelişigüzel paylaşılmış ve kanıtlarını sağlam bir şekilde taşımaktadır ya da bunları bir saldırgandan ziyade sohbet uygulamalarına kaybetmişlerdir.

Ağır bozulmuş bir görseldeki düşük puanı, temiz bir sonuçtan ziyade yanıtsızlık olarak okuyun. Bu ayrım, arkasındaki teknik hakkında hiçbir şey bilmenize gerek kalmadan karşılaşacağınız hemen hemen tüm kaçınma yöntemlerini ele alır.

Silahlanma yarışı asimetriktir

Üretim ve tespit aynı hızda gelişmez ve dengesizlik tek taraflıdır. Yeni bir üretici, mevcut her dedektör için görülmemiş veri olarak gelir. Yeniden eğitme süreci, yayından önce değil sonra gerçekleşir; bu nedenle en yeni çıktıların görünmez olduğu bir zaman aralığı her zaman vardır.

Bu aralık kısa değildir. Yeni bir modelden yeterince çıktı toplamak, bunları etiketlemek, yeniden eğitmek ve yayınlamak en iyi ihtimalle haftalar sürer. Bu süre zarfında bir dedektör, yeni üretilenleri gerçek olarak puanlar çünkü bunlar dedektörün işaretlemek üzere eğitildiği hiçbir şeye benzememektedir.

Bu, tek bir sinyale asla güvenmemek için en güçlü pratik argümandır. Köken verileri ve yayın geçmişi, bir görseli hangi modelin yaptığıyla ilgilenmez; bu nedenle piksel analizinin kapsayamadığı zaman aralığında da çalışmaya devam ederler.