← Semua panduan Ketepatan

Semua cara pengesan imej AI boleh tersilap

Taksonomi kegagalan yang lengkap: apa yang gagal, mengapa, dan bagaimana rupa setiap kegagalan apabila berada di hadapan anda. Ditulis untuk dibaca sebelum anda mempercayai sesuatu skor.

· 8 min bacaan · Best AI Image Detector

Empat kategori kegagalan: imej telah terdegradasi, penjana belum pernah dilihat, kandungan menyerupai tekstur sintetik, atau seseorang telah mengubahnya dengan sengaja. Setiap satu menghasilkan jawapan salah yang berbeza.

Kategori satu: imej telah terdegradasi

Kategori terbesar dengan jurang yang luas. Isyarat yang dibaca oleh pengesan berada dalam tekstur halus, dan tekstur itulah perkara pertama yang disingkirkan oleh setiap mampatan, perubahan saiz dan tangkapan skrin.

  • Penyimpanan JPEG berulang. Ketepatan menurun daripada 91.3 peratus pada imej asal yang bersih kepada 84.6 peratus pada kualiti 40 dalam penanda aras yang diterbitkan, dan lebih rendah lagi dalam penggunaan sebenar.
  • Tangkapan skrin. Paparan semula pada resolusi skrin dengan fail asal disingkirkan sepenuhnya.
  • Pensampelan bawah (downscaling). Piksel yang lebih sedikit, tekstur yang berkurangan, dan di bawah sekitar 576 piksel pada sisi yang lebih pendek, tiada peta kawasan langsung.
  • Pengekodan semula platform. Setiap muat naik sekurang-kurangnya melibatkan satu pengekodan semula, dan kebanyakan imej telah melalui beberapa kali proses tersebut.
  • Pemangkasan agresif. Bahagian kecil yang dipangkas daripada imej besar kehilangan konteks penentukuran model.

Degradasi menolak skor ke arah tengah dalam kedua-dua arah: gambar foto tulen ke atas, imej yang dijana ke bawah. Skor sederhana pada fail yang jelas telah melalui banyak pemprosesan biasanya disebabkan oleh fail itu sendiri, bukan gambarnya.

Kategori dua: penjana belum pernah dilihat

Pengesan mengecam apa yang telah dilatih padanya. Model yang dikeluarkan selepas latihan selesai ialah ruang yang tidak dikenali, dan output yang tidak dikenali cenderung mendapat skor rendah dan bukannya skor tidak pasti.

  1. 1 Penjana dikeluarkan Tiada apa yang pernah melihat outputnya
  2. 2 Sela masa buta Output baharu dinilai sebagai tulen
  3. 3 Sampel dikumpulkan Berminggu-minggu pengumpulan dan pelabelan
  4. 4 Pengesan dikemas kini Sehingga keluaran seterusnya
Tempoh jurang buta ini bersifat struktur. Latihan semula sentiasa menyusul selepas sesuatu keluaran dan bukannya mendahuluinya.

Ini menghasilkan negatif palsu yang yakin, iaitu jenis yang paling berbahaya. Alat ini tidak memberi isyarat ketidakpastian; ia melaporkan bahawa imej kelihatan elok kerana ia tidak menyerupai apa-apa yang diajar untuk ditandakan.

Kategori tiga: kandungan menyerupai tekstur sintetik

Sesetengah imej tulen memang sukar dinilai. Bukan kerana ada cubaan menipu, tetapi kerana tekstur yang terkandung di dalamnya kelihatan seperti tekstur yang dihasilkan oleh penjanaan AI.

  • Mod malam telefon dan fotografi pengiraan. Beberapa bingkai digabungkan dan dinyahhingar oleh perisian, yang menulis semula butiran halus pada keseluruhan imej.
  • Pengubahsuaian berat. Pelicinan kulit dan pemisahan frekuensi membina semula tekstur pada wajah.
  • Imej yang disampel atas. Pembesaran mereka piksel baharu, dan piksel rekaan adalah piksel yang dijana.
  • Ilustrasi, paparan 3D dan CGI. Tidak pernah dirakam dengan kamera, jadi tiada apa-apa mengenainya yang menyerupai tangkapan kamera.
  • Fotografi stok dengan pengurangan hingar yang berat. Diproses secara komersial untuk kelihatan bersih, yang terbaca sebagai sintetik.
  • Imej yang sangat mendatar. Dinding kosong, langit cerah dan latar belakang kosong membawa sedikit isyarat dalam kedua-dua arah.
57 62 55 60 58 63 54 61 59

Bandingkan dengan bingkai yang dijana pada skor sembilan puluhan dan suntingan setempat dengan satu jubin panas. Corak ini bukan kedua-duanya.

Gambar foto mod malam yang tulen. Tiada apa-apa yang ketara, tetapi setiap jubin kelihatan hangat, yang merupakan tanda pemprosesan global.

Keluarga empat: pengelakan yang disengajakan

Kategori terkecil dan yang paling dibimbangkan orang ramai. Sebarang teknik yang menulis semula hubungan piksel akan menurunkan skor, dan kebanyakannya merosakkan imej secara ketara semasa berbuat demikian.

Pengecualiannya ialah penggabungan (compositing). Objek dijana yang diletakkan ke dalam foto tulen mengekalkan tekstur sebenar pada sebahagian besar bingkai, sebab itulah peta kawasan wujud dan mengapa skor keseluruhan bingkai sahaja tidak mencukupi untuk sebarang percubaan manipulasi.

Rupa setiap kegagalan apabila ia berlaku

Menganalisis hasil yang mencurigakan secara terbalik
Perkara yang anda lihatPunca paling berkemungkinanTindakan yang perlu diambil
Foto tulen mendapat skor tinggi, peta hangat secara sekataPemprosesan atau pemampatanSemak semula fail asal
Foto tulen mendapat skor tinggi, satu jubin panasSuntingan yang sah, atau kawasan rataLihat apa yang ada di dalam jubin tersebut
Imej dijana mendapat skor rendah, fail terdegradasiPemampatan atau tangkap layarKira sebagai tiada jawapan, bukan hasil yang bersih
Imej dijana mendapat skor rendah, fail bersihPenjana yang belum pernah dilihatBergantung kembali pada asal-usul dan sumber
Skor berada di jalur pertengahanIsyarat tidak mencukupi untuk mana-mana pihakCari salinan yang lebih baik
Tiada peta kawasan dihasilkanImej terlalu kecil untuk dijubinkanCari salinan yang lebih besar

Perkara yang tidak tergolong dalam semua ini

Adalah wajar untuk membezakan had keupayaan daripada perkara yang sememangnya tidak pernah cuba dilakukan oleh pengesan. Sesuatu alat tidak dianggap salah kerana gagal melakukan perkara di luar skopnya.

  • Ia tidak boleh menyatakan siapa yang membuat imej. Tiada apa-apa dalam piksel yang mengaitkan fail dengan seseorang.
  • Ia tidak boleh menyatakan sama ada kandungannya benar. Foto tulen boleh membawa kapsyen palsu, dan itu adalah penipuan yang lebih lazim.
  • Ia tidak boleh menamakan penjana. Hanya kelayakan atau penanda dalam fail yang boleh berbuat demikian.
  • Ia tidak boleh menggariskan suntingan. Peta kawasan menunjukkan tempat isyarat bertumpu, bukan sempadan manipulasi.

Cara membina proses yang bertoleransi terhadap perkara ini

Kegagalan di atas adalah ciri kekal dan bukannya pepijat yang menunggu pembetulan, jadi soalan yang berguna ialah cara mereka bentuk proses untuk menanganinya dan bukannya cara mengelakkannya.

Gunakan lebih daripada satu jenis isyarat. Piksel, asal-usul dan sejarah penerbitan gagal pada aspek yang berbeza, dan imej yang kelihatan salah pada ketiga-tiganya adalah penemuan yang jauh lebih kukuh berbanding imej yang kelihatan salah pada mana-mana satu daripadanya sahaja.

Hala tanda amaran kepada manusia dan bukannya kepada tindakan automatik. Setiap kegagalan serius di atas menjadi boleh diterima jika akibat daripada kesilapan ialah seseorang meneliti lebih mendalam, dan menjadi tidak boleh diterima jika akibatnya ialah penolakan automatik.

Minta fail asal sebelum membuat sebarang kesimpulan. Sebahagian besar hasil yang salah dapat diselesaikan pada langkah tunggal ini, kerana fail yang diberikan kepada anda hampir tidak pernah menjadi salinan terbaik yang wujud.

Soalan yang sering ditanya

Apakah cara paling lazim pengesan tersilap?
Foto tulen yang ditandakan kerana fail telah terdegradasi. Tangkap layar, pemampatan berulang kali dan mod malam telefon semuanya menulis semula tekstur yang dibaca oleh pengesan, dan ketiga-tiganya adalah perkara biasa yang berlaku pada imej tanpa sebarang niat untuk menipu.
Kegagalan manakah yang paling berbahaya?
Negatif palsu yang berkeyakinan tinggi terhadap output daripada penjana baharu. Alat ini melaporkan imej sebagai bersih dan bukannya tidak pasti, jadi tiada apa yang memberi isyarat bahawa jawapan tersebut tidak boleh dipercayai. Itulah sebabnya asal-usul dan sumber penting walaupun semakan piksel menghasilkan skor rendah.
Bolehkah saya tahu lebih awal sama ada sesuatu hasil boleh dipercayai?
Selalunya, ya. Fail asal yang besar terus dari kamera dengan banyak tekstur memberikan bacaan yang boleh anda sandarkan. Tangkap layar kecil bagi pemandangan rata yang dimajukan melalui dua aplikasi tidak memberikan bacaan sedemikian, dan mengetahui perkara itu sebelum anda melihat angka adalah kemahiran yang paling utama.
Adakah had keupayaan ini terpakai kepada semua pengesan?
Tiga keluarga pertama terpakai kepada mana-mana alat yang membaca piksel, kerana ia adalah sifat kaedah tersebut dan bukannya satu produk tertentu. Perkara yang berbeza antara alat ialah penjana mana yang telah dilihatnya dan di mana ia menetapkan garisan keputusan.
Adakah masalah ini akan diselesaikan?
Masalah degradasi adalah semula jadi: maklumat yang telah musnah tidak boleh dipulihkan. Masalah penjana yang belum pernah dilihat adalah bersifat struktur, kerana latihan semula berlaku selepas pengeluaran. Ketepatan pada imej bersih akan terus bertambah baik, dan kedua-dua masalah ini tidak akan hilang.
Jadi bilakah pengesan benar-benar berguna?
Pada fail yang agak utuh, sebagai salah satu isyarat daripada beberapa isyarat, untuk memutuskan bahagian mana yang perlu diteliti lebih mendalam. Itu adalah tugas yang benar-benar bernilai. Ia berhenti menjadi berguna sebaik sahaja seseorang menganggap angka itu sebagai jawapan muktamad dan bukannya sebagai sebab untuk meneruskan siasatan.