Mengapa penguatkuasaan automatik gagal di sini
Pada 91 peratus ketepatan seimbang di bawah keadaan makmal, kira-kira satu daripada sebelas keputusan adalah salah. Pada kandungan janaan pengguna, yang tiba melalui tangkapan layar, pemampatan semula dan pemotongan (crop), kadar sebenar adalah lebih buruk.
Apabila diaplikasikan kepada seratus ribu item sehari, itu bermakna ribuan tindakan yang salah. Setiap satu daripadanya menjadi rayuan, dan rayuan menelan kos lebih tinggi bagi setiap kes berbanding semakan yang digantikan oleh automasi. Pengiraannya tidak masuk akal sebelum mengambil kira kerugian reputasi akibat memadamkan hantaran tulen.
Terdapat masalah kedua khusus untuk pemoderasian. Keputusan penguatkuasaan tertakluk kepada audit. Pengawal selia atau mahkamah yang bertanya mengapa sesebuah akaun dipadamkan tidak akan menerima output model dengan ambang yang tidak diterbitkan sebagai alasan.
Gunakan skor untuk mengisih, bukan bertindak
Pendekatan yang berguna ialah penyusunan baris gilir. Anda mempunyai lebih banyak item berbanding penyemak. Skor menentukan item mana yang dilihat oleh seseorang terlebih dahulu, dan itu adalah tugas yang boleh dilakukannya dengan baik walaupun pada ketepatan 85 peratus, kerana kesilapan hanya bermakna seseorang melihat sesuatu tanpa keperluan mendesak.
- 1 Melebihi 90 Bahagian hadapan baris gilir semakan
- 2 65 hingga 90 Disemak dalam tempoh biasa
- 3 45 hingga 65 Hanya jika dilaporkan oleh pengguna
- 4 Bawah 45 Tiada tindakan, diambil sampel untuk semakan kualiti
Pensampelan kategori paling bawah lebih penting daripada yang disangka. Ini adalah satu-satunya cara untuk mengukur kadar negatif palsu anda, dan tanpa angka itu anda tidak dapat mengetahui sama ada sistem berfungsi atau telah berhenti mengesan sebarang perkara secara senyap.
Perkara yang perlu dinyatakan oleh dasar anda
Kebanyakan platform kini mempunyai peraturan media sintetik, dan kebanyakannya digubal dengan lemah. Kesilapan biasa ialah mengharamkan kandungan AI secara menyeluruh, yang tidak boleh dikuatkuasakan dan menjejaskan perkara yang tidak sepatutnya disasarkan.
| Boleh dikuatkuasakan | Tidak boleh dikuatkuasakan | Sebab |
|---|---|---|
| Media sintetik tanpa pendedahan yang memaparkan individu sebenar | Semua imej janaan AI | Peraturan kedua mengharamkan karya ilustrasi dan reka bentuk |
| Imej janaan yang dikemukakan sebagai bukti dokumentari | Apa-apa yang mendapat skor melebihi 65 | Ambang skor bukanlah satu dasar |
| Media sintetik yang digunakan untuk memperdaya demi wang | Imej yang kelihatan dijana oleh AI | Rupa semata-mata bukanlah satu piawaian |
| Kegagalan melabel apabila diminta | AI yang tidak didedahkan dalam sebarang bentuk | Tidak dapat dibuktikan, dan pengguna tidak dapat mematuhinya |
Gubal peraturan berdasarkan kemudaratan dan ketelusan pendedahan, bukan berdasarkan teknik. Ilustrasi janaan pada hantaran fiksyen tidak membahayakan sesiapa. Foto janaan tentang produk, individu atau peristiwa yang dipaparkan sebagai nyata adalah perkara yang sebenarnya ingin anda hentikan.
Tiga keadaan yang dibezakan oleh peta rantau
Skor keseluruhan bingkai menyatukan tiga situasi yang memerlukan pengendalian berbeza. Paparan jubin membezakannya, dan perbezaan ini biasanya menentukan hasil keputusan.
- Setiap jubin tinggi. Imej dijana sepenuhnya. Jika ia dipaparkan sebagai foto sesuatu yang sebenar, itu adalah kes anda yang paling jelas.
- Satu jubin tinggi. Foto sebenar dengan sesuatu ditambah atau dipadamkan. Dalam konteks pasaran atau berita, ini selalunya lebih serius daripada penjanaan penuh, kerana ia direka untuk dipercayai.
- Sederhana sekata, tiada yang tinggi. Pemprosesan berat. Biasanya foto tulen melalui penapis atau peningkatan skala (upscaler). Hampir tidak pernah bernilai untuk diambil tindakan.
Foto sebenar dengan elemen yang disisipkan. Penyusunan baris gilir berdasarkan skor utama sahaja tidak akan pernah menunjukkannya.
Mengukur sama ada ia berfungsi
-
Jejak kepersisan pada kategori teratas
Daripada item yang mendapat skor melebihi 90 yang dibuka oleh moderator, berapa banyak yang diambil tindakan? Jika angka itu rendah, alat ini menambahkan beban kerja dan bukannya menjimatkannya.
-
Ambil sampel kategori paling bawah setiap minggu
Ambil seratus sampel rawak dari bawah 45 dan semak semuanya. Ini adalah satu-satunya ukuran bagi perkara yang anda terlepas, dan ini adalah langkah yang sering diabaikan pasukan.
-
Pantau kadar rayuan
Peningkatan dalam rayuan yang berjaya bagi keputusan media sintetik bermakna ambang telah beralih atau penjana baharu yang menghasilkan skor rendah telah muncul.
-
Tetapkan semula garis dasar selepas setiap perubahan model
Kemas kini pengesan mengubah skor. Ambang yang dilaraskan enam bulan lalu bagi versi model yang berbeza bukan lagi ambang yang anda sangkakan.
Menguruskan kakitangan untuk baris gilir yang diwujudkan alat ini
Menambah pengesan pada saluran pemoderasian tidak mengurangkan bilangan pekerja, dan pasukan yang merancang sedemikian akhirnya menanggung kerugian. Apa yang diubahnya ialah susunan penerimaan kerja, yang meningkatkan nilai setiap jam penyemak tanpa mengurangkan bilangan pekerja yang anda perlukan.
Peruntukkan masa yang lebih panjang bagi setiap item untuk baris gilir yang ditandakan berbanding baris gilir umum. Penyemak yang melihat hantaran yang ditandakan membuat keputusan yang lebih sukar terhadap bahan yang lebih samar-samar, dan tergesa-gesa dalam hal itu mengakibatkan penguatkuasaan yang salah. Dua minit bagi setiap item adalah realistik; tiga puluh saat adalah tidak.
Berikan peta rantau kepada penyemak dan bukannya skor semata-mata. Moderator yang dapat melihat bahawa satu sudut imej aktif membuat keputusan yang lebih baik berbanding mereka yang hanya diberikan angka, dan mereka boleh menjelaskan keputusan itu kemudian kepada pasukan rayuan atau pengawal selia.
Gilirkan petugas daripada semakan media sintetik. Ia adalah kerja berulang dengan bahagian kes samar-samar yang tinggi, dan ketepatan menurun secara ketara sepanjang syif yang panjang. Ini adalah pengajaran sama yang telah dipelajari oleh setiap fungsi pemoderasian mengenai kategori lain.