← Tüm rehberler Teknik altyapı

Yapay zeka neden hala elleri yanlış yapıyor ve ne zaman yanlış yapmıyor?

Eller yapay zeka görüntülerindeki en çok alıntılanan ipucuuydu ve şimdi çoğunlukla düzeltildi. Onları neyin zorlaştırdığı, neyin çözdüğü ve bu bölümün diğer tüm görsel ipuçları hakkında ne söylediği.

· 10 dakika okuma · Best AI Image Detector

Eller zordu; çünkü yüksek düzeyde eklemlidirler, kendi üzerlerini örterler ve tutarlı bir şekilde nadiren fotoğraflanırlar. Bu kalıcı bir sınırlamadan ziyade bir eğitim verisi sorunuydu ve büyük ölçüde iki sürüm döngüsü içinde çözüldü.

Ellerin neden gerçekten zor olduğu

Bu rastgele değildi. Bir el, vücudun neredeyse diğer tüm kısımlarından daha fazla bağımsız ekleme sahiptir ve alabildiği farklı konfigürasyon sayısı, çok daha dar bir aralıkta değişen, örneğin bir yüze kıyasla çok büyüktür.

Eller ayrıca sürekli olarak kendi üzerini örter. Parmaklar parmakların arkasından geçer, bir kavrama avucun çoğunu gizler ve görünür dış hat küçük bir döndürmeyle tamamen değişir. Fotoğraflardan öğrenen bir model, tek bir nesne için çok çeşitli kısmi şekiller görür.

Ve eğitim verileri yardımcı olmuyor. Fotoğraflar yüzler etrafında oluşturulur ve eller karenin kenarında görünür, hareketle bulanıklaştırılır, kırpılır veya onları gizleyen bir şey tutar. Örnekler, tam olarak önemli olan yönüyle bol ve düşük kaliteliydi.

Bir araya getirildiğinde, bu tanıdık hatayı üretti: bir elin parmak şeklindeki şeylere bağlı olduğunu bilen ve kaç tane oldukları, hangi düzenlemede, hangi ölçekte oldukları konusunda güvenilir bir hissiyata sahip olmayan bir model.

Onu ne düzeltti

Egzozmatik bir şey yok. Daha fazla veri, daha iyi etiketlenmiş, ayrıca modellerin mekansal yapıyı genel olarak nasıl ele aldığını iyileştiren mimari değişiklikler ve eleştiriden yorulmuş ekiplerin açık ilgisi.

  1. 2022
    Eller standart şakadır Altı parmak, yapışık dijitler, imkansız kavramalar.
  2. 2023
    Tavsiye yayılıyor Parmak sayın evrensel ipucu haline gelir.
  3. 2023
    Hedeflenen düzeltmeler yayınlanıyor Yeni sürümlerde daha iyi etiketleme ve mekansal işleme.
  4. 2024
    Çoğunlukla çözüldü Doğru eller istisna olmaktan çıkıp varsayılan hâle geliyor.
  5. 2026
    Tavsiye kusurdan daha uzun ömürlü oluyor İnsanlar hâlâ sayıyor ve artık her iki yönde de yanlış sonuç alıyor.
Ünlü bir sınırlamanın ne kadar sürede sınırlama olmaktan çıktığı.

Son satır tüm makalenin amacını oluşturur. Anlatı yıllar önce düzeltildi ve tavsiye hâlâ dolaşımda, bu da insanların bunu uygulayarak görüntüleri aktif olarak yanlış okuduğu anlamına geliyor.

Sayım neden artık her iki yönde de başarısız oluyor

Önce yanlış negatif: doğru eller hiçbir şey kanıtlamaz. Mevcut modeller bunları çoğu zaman düzgün bir şekilde oluşturur, bu nedenle parmak testini geçen bir resim, neredeyse her şeyin geçtiği bir testi geçmiştir.

İkincisi yanlış pozitif ve bu durum daha fazla zarara yol açıyor. Hareket halindeki fotoğraflanan gerçek eller bulanık, birleşmiş, görünüşte deforme olmuş şekiller üretir. Bir partide jest yapan birinin gerçek bir fotoğrafı, saymaya odaklanmış bir kişiye, uyarldıkları şeyin tam aynısı gibi görünebilir.

Bu asimetri önemlidir çünkü maliyet eşit olmayan bir şekilde dağılır. Üretilmiş bir görüntüyü yanlışlıkla gerçek olarak reddetmek genellikle telafi edilebilir; gerçek bir fotoğrafı ve içindeki kişiyi yanlışlıkla suçlamak ise telafi edilemez.

Ayrıca kendi kendini pekiştirir. Ellerin ayırt edici özellik olduğunun söylendiği biri garip görünen bir el bulur, görüntünün sahte olduğu sonucuna varır ve hatayı üreten tavsiyeyi tekrarlar; emekli bir sezgiselliğin faydalılığından yıllarca daha uzun süre yaşamasının yolu budur.

Olayın diğer tüm ayırt edici özellikler hakkında öğrettikleri

Eller genel bir modelin üzerinde çalışılmış bir örneğidir ve bu model herhangi bir özel ipucundan daha yararlıdır.

  • Görünür bir kusur halka açık bir kıyaslama ölçütüdür. Adı konabilen her şey ölçülür ve ölçülen her şey optimize edilir.
  • Popülarite düzeltmeyi hızlandırır. Bir ayırt edici özellik ne kadar yaygın olarak tekrarlanırsa, onu kaldırmak için o kadar çok teşvik olur.
  • Tavsiye kusurdan yıllarca daha uzun ömürlüdür. Düzeltme hiçbir zaman orijinal ipucunun yayıldığı kadar hızlı yayılmaz.
  • Düzeltmeler araçlar arasında eşit değildir. Amiral gemisi bir modelde kaldırılan bir ayırt edici özellik, daha eski veya daha küçük bir modelde kalmaya devam edebilir.
  • Artık aşağı doğru hareket eder. Hayatta kalan şey görünür kusurlar değil, bir gözün çözümleyebileceğinin altında olan istatistiksel dokudur.

Son nokta, algılama araçlarının var olmasının tam nedenidir. Farklılıklar hala görünür olsaydı, kimse bunları bulmak için bir modele ihtiyaç duymazdı ve tüm alan aranacak şeylerin bir listesi olurdu.

Hâlâ geçerliliğini koruyanlar

İki kontrol ailesi bu modele direndi ve her ikisi de yerel ayrıntılardan ziyade kare genelindeki tutarlılıkla ilgilidir.

Işıklandırma birincisidir. Bir fotoğraftaki her yüzey aynı kaynaklar tarafından aydınlatılır, bu nedenle gölge yönü, sertliği ve renk sıcaklığı uyuşur. Üretilen bir sahne genellikle özneyi doğru ve çevreyi yaklaşık olarak doğru yakalar ve uyumsuzluk gölgelerde kendini gösterir.

Fiziksel süreklilik ikincisidir. Omuzun arkasından geçip yanlış yerde yeniden görünen bir kayış, orada olamayacak bir odayı gösteren bir yansıma, bir tıkanıklık boyunca sıraya girmeyen bir desen. Bunlar dış görünüşlerin bir modelinden ziyade dünyanın bir modeline ihtiyaç duyar.

Hiçbiri hızlı bir test değildir ve dürüst sonuç budur. Hâlâ işe yarayan kontroller resme bir yer olarak bakmayı gerektirir ve hızlı olan kontroller düzeltilmiş olanlardır.

Bunun bunu öğreten herkes için anlamı nedir

Çok miktarda medya okuryazarlığı materyali hâlâ insanlara güven veren hatalar üreten bir testi öğreten parmak sayımıyla öncülük etmektedir. Bu konuda eğitim, rehberlik veya okul dersi yazan herkesin içerik sorunu değil sürüm sorunu vardır.

Dersin dayanıklı sürümü özelliklerden ziyade yöntemle ilgilidir. Görünür kusurların geçici olduğunu, öğretilecek kadar popüler olan herhangi bir ipucunun düzeltilecek kadar da popüler olduğunu ve güvenilir soruların kaynak ve bağlamla ilgili olduğunu öğretin.

Hata modunu açıkça öğretmek de değerlidir. Hareket halindeki gerçek ellerin yanlış göründüğünü bilen birinin gerçek bir kişinin gerçek fotoğrafına sahte deme gibi asıl zararı veren suçlamada bulunma olasılığı çok daha düşüktür.

Bu tür materyaller için dürüst başlık, hiçbir hızlı görsel testin mevcut modellerle temastan sağ çıkamayacağı ve yararlı becerilerin bir görüntünün nereden geldiğini ve inanılmasından kimin yarar sağladığını sormak olduğudur.

İnsanların sorduğu sorular

AI görüntüleri hâlâ elleri yanlış yapıyor mu?
Çok daha az sıklıkla ve 2024 civarında güvenilir bir test olmaktan çıktı. Mevcut modeller elleri çoğu zaman doğru şekilde işler, bu nedenle doğru bir el size neredeyse hiçbir şey söylemez ve garip görünümlü bir elin gerçek bir fotoğrafta hareket bulanıklığı olma olasılığı en az o kadar yüksektir.
Eller başlangıçta neden bu kadar zordu?
Oldukça eklemlidirler, sürekli olarak kendi üzerlerini örterler ve eğitim fotoğraflarında çoğunlukla karenin kenarında, bulanık veya kısmen gizlenmiş olarak görünürler. Örnekler bol ve yararsızdı, bu da kalıcı bir sınırlamadan ziyade bir veri sorunudur.
Parmakların yerine bakılacak şey ne geçti?
Dürüst cevap olan hızlı hiçbir şey geçmedi. Aydınlatma tutarlılığı ve fiziksel süreklilik geçerliliğini korumaya devam ediyor çünkü görünümlerin yerine dünyanın bir modeline ihtiyaç duyuyorlar, ancak her ikisi de bir kusur için taramak yerine resme bir yer olarak bakmayı gerektiriyor.
İnsanlar bu tavsiyeyi neden hâlâ tekrarlıyor?
Çünkü düzeltmeler ipuçlarından daha yavaş seyahat eder. Parmak sayma tavsiyesi yaklaşık on sekiz ay boyunca gerçekten yararlıydı, çok geniş bir şekilde yayıldı ve kusurdan yıllarca daha uzun süre yaşadı. Bunu şu anda uygulayan insanlar, görüntüleri her iki yönde de aktif olarak yanlış okuyor.
Eski üreteçler ellerde hâlâ kötü mü?
Bazıları öyledir ve düzeltmeler düzensiz olmuştur. Büyük bir sağlayıcının amiral gemisi modeli elleri iyi işleyebilirken eski bir açık kontrol noktası bunu yapamayabilir, bu nedenle ayırt edici özellik dar bir çıktı bandında hayatta kalır ve başka her yerde başarısız olur.
Bunun yerine dişlere, kulaklara veya gözlere mi bakmalıyım?
Aynı yörüngeyi takip ettiler ve emekli ayırt edici özellikler listesindeler. Viral bir gönderide tanımlanabilen her şey kıyaslanır ve kıyaslanan her şey düzeltilir. Geriye kalan farklılıklar istatistikseldir; bu da bir dedektörün okuduğu ve bir gözün okuyamadığı şeydir.