Otomatik yaptırım burada neden başarısız oluyor?
Laboratuvar koşullarında yüzde 91 dengeli doğruluk oranında, yaklaşık on bir çağrıdan biri yanlıştır. Ekran görüntüsü alınmış, yeniden sıkıştırılmış ve kırpılmış olarak gelen kullanıcı tarafından oluşturulan içeriklerde gerçek oran daha kötüdür.
Günde yüz bin öğeye uygulandığında, bu binlerce yanlış işlem demektir. Her biri bir itirazdır ve itirazlar, otomasyonun yerini aldığı incelemeden vaka başına daha maliyetlidir. Matematik, gerçek gönderileri kaldırmanın itibar maliyetini hesaba katmadan bile çalışmaz.
Denetlemeye özgü ikinci bir sorun daha var. Yaptırım kararları denetlenir. Bir düzenleyici veya mahkeme, bir hesabın neden kaldırıldığını sorduğunda, yayınlanmamış bir eşiğe sahip bir model çıktısını neden olarak kabul etmeyecektir.
Puanla sırala, işlem yapma
Yararlı çerçeveleme, sıra düzenlemedir. İncelemecilerden daha fazla öğeniz var. Bir puan, bir kişinin hangilerini önce göreceğine karar verir ve yüzde 85 doğrulukta bile iyi yapabileceği bir iştir, çünkü yanlış olmak sadece birinin gereksiz yere bir şeye bakması anlamına gelir.
- 1 90 üzerinde İnceleme sırasının önü
- 2 65 ile 90 arası Normal pencere içinde incelenir
- 3 45 ile 65 arası Sadece bir kullanıcı tarafından bildirilirse
- 4 45 altında İşlem yok, kalite kontrolleri için örneklenir
Alt bandı örneklemek göründüğünden daha önemlidir. Yanlış negatif oranınızı ölçmenin tek yolu budur ve bu sayı olmadan sistemin çalışıp çalışmadığını veya sessizce hiçbir şeyi yakalamayı bırakıp bırakmadığını anlayamazsınız.
Politikanızın ne söylemesi gerekiyor?
Çoğu platformun artık sentetik medya kuralı var ve çoğu kötü yazılmış. Yaygın başarısızlık, genel olarak yapay zeka içeriğini yasaklamaktır; bu uygulanamaz bir durumdur ve kimsenin yakalamak istemediği şeyleri yakalar.
| Uygulanabilir | Uygulanamaz | Neden |
|---|---|---|
| Gerçek bir kişinin açıklanmamış sentetik medyası | Tüm yapay zeka tarafından üretilen görseller | İkincisi, illüstrasyon ve tasarım çalışmalarını yasaklar |
| Belgesel kanıt olarak sunulan üretilmiş görseller | 65 üzerinde puan alan her şey | Bir eşik, politika değildir |
| Para için aldatmak amacıyla kullanılan sentetik medya | Yapay zeka tarafından üretilmiş gibi görünen görseller | Bakmak, bir standart değildir |
| İstendiğinde etiketlememek | Herhangi bir biçimde açıklanmamış yapay zeka | Kanıtlanamaz ve kullanıcılar uyum sağlayamaz |
Kuralı teknik etrafında değil, zarar ve açıklama etrafında yazın. Bir kurgu gönderisindeki üretilmiş bir illüstrasyon kimseye zarar vermez. Gerçek olarak sunulan bir ürünün, kişinin veya olayın üretilmiş bir fotoğrafı, aslında durdurmak istediğiniz şeydir.
Bir bölge haritasının ayırdığı üç durum
Tüm çerçeve puanları, farklı işlemler gerektiren üç durumu birleştirir. Döşeme görünümü bunları birbirinden ayırır ve ayrım genellikle sonucu belirler.
- Her döşeme yüksek. Tamamen üretilmiş bir görsel. Gerçek bir şeyin fotoğrafı olarak sunuluyorsa, bu en net durumunuzdur.
- Bir döşeme yüksek. Bir şeyler eklenmiş veya çıkarılmış gerçek bir fotoğraf. Bir pazar yeri veya haber bağlamında bu, genellikle tam bir üretimden daha ciddidir çünkü inanılması için tasarlanmıştır.
- Eşit derecede sıcak, hiçbiri yüksek değil. Yoğun işleme. Genellikle bir filtre veya ölçek büyütücüden geçmiş gerçek bir fotoğraf. Neredeyse hiçbir zaman işlem yapmaya değmez.
Eklenmiş bir öğeye sahip gerçek bir fotoğraf. Sadece başlık puanı üzerinden sıra düzenleme, bunu asla yüzeye çıkarmazdı.
Çalışıp çalışmadığını ölçme
-
Üst banttaki hassasiyeti takip edin
Bir denetleyicinin açtığı 90 üzerinde puanlanan öğelerin kaç tanesine işlem yapıldı? Bu sayı düşükse, araç işi kurtarmak yerine iş yaratıyor demektir.
-
Alt bandı haftalık olarak örnekleyin
45'in altından rastgele yüz tane çekin ve inceleyin. Bu, neyi kaçırdığınızın tek ölçümüdür ve ekiplerin atladığı şey budur.
-
İtiraz oranını izleyin
Sentetik medya kararlarındaki başarılı itirazlardaki bir artış, eşiğin kaydığı veya düşük puan alan yeni bir üretecin geldiği anlamına gelir.
-
Her model değişikliğinden sonra yeniden temel alın
Dedektör güncellemeleri puanları değiştirir. Altı ay önce farklı bir model sürümüne karşı ayarlanmış bir eşik, artık düşündüğünüz eşik değildir.
Aracın oluşturduğu sırayı personel ile doldurma
Bir denetleme hattına dedektör eklemek personel sayısını azaltmaz ve bunu planlayan ekipler daha kötü durumda kalır. Değiştirdiği şey, işin gelme sırasıdır; bu da kaç kişiye ihtiyacınız olduğunu azaltmadan her incelemeci saatinin değerini artırır.
İşaretli sıra için, genel sıradan vaka başına daha yavaş bir bütçe ayırın. İşaretli bir gönderiye bakan bir incelemeci, daha belirsiz materyaller üzerinde daha zor bir karar veriyordur ve bunu aceleye getirmek, yanlış yaptırıma neden olur. Vaka başına iki dakika gerçekçidir; otuz saniye değildir.
İncelemecilere puan yerine bölge haritasını verin. Bir görselin bir köşesinin sıcak olduğunu görebilen bir moderatör, eline sayı verilen birinden daha iyi karar verir ve bu kararı daha sonra bir itiraz ekibine veya düzenleyiciye açıklayabilir.
İnsanları sentetik medya incelemesinden rotasyonla çıkarın. Yüksek oranda belirsiz vaka içeren tekrarlayan bir iştir ve uzun bir vardiya boyunca doğruluk ölçülebilir şekilde düşer. Bu, her denetleme işlevinin diğer kategoriler hakkında öğrendiği aynı derstir.