Dua jalur
Detektor menjalankan dua pemeriksaan independen dan keduanya menjawab hal yang berbeda. Menjaga keduanya tetap terpisah adalah gagasan paling berguna di halaman ini.
Analisis piksel
- Berjalan setelah tangkapan layar dan kompresi
- Menghasilkan kemungkinan, bukan identitas
- Agnostik generator berdasarkan desain
- Tidak dapat menyebutkan alat
- Mengalami degradasi terhadap arsitektur yang tidak terlihat
Bukti file
- Dapat menyebutkan alat secara pasti
- Kriptografis saat ditandatangani
- Dihapus oleh hampir setiap platform
- Tidak ada di sebagian besar gambar
- Dihilangkan dengan sengaja secara mudah
Apa yang dapat dideklarasikan oleh sebuah file
Ketika sebuah gambar masih membawa struktur aslinya, beberapa jenis penanda mungkin ada. Masing-masing merupakan klaim yang dibuat oleh perangkat lunak yang menulisnya, alih-alih sesuatu yang berasal dari piksel.
- Kredensial Konten. Manifes yang ditandatangani yang menyebutkan alat dan apa yang dilakukannya. Beberapa generator utama sekarang menandatangani keluaran mereka, yang merupakan bentuk terkuat dari hal ini.
- Parameter pembuatan. Beberapa alat terbuka menyematkan prompt, benih,sampler, dan nama model secara langsung di dalam file, yang merupakan informasi lebih banyak daripada yang diharapkan kebanyakan orang.
- Pengenal perangkat lunak. Bidang metadata biasa yang menyebutkan aplikasi yang terakhir kali menyimpan gambar.
- Tanda air AI yang dideklarasikan. Tanda yang menyatakan bahwa tanda air tak terlihat diterapkan, yang merupakan deklarasi alih-alih tanda air itu sendiri.
- Pernyataan penangkapan kamera. Klaim sebaliknya, yang dibuat oleh kamera penandatangan, bahwa file tersebut berasal dari sensor.
Semua ini hilang saat gambar diunggah ke hampir semua platform. Itulah sebabnya pemindaian file layak dijalankan dan tidak pernah layak diandalkan: ketika file tersebut menemukan sesuatu, temuannya kuat, dan sebagian besar waktu file tersebut tidak menemukan apa pun.
Mengapa menyebutkan nama generator itu sulit
Tampaknya hal itu seharusnya mungkin dilakukan. Alat yang berbeda menghasilkan estetika yang berbeda, dan seseorang yang menghabiskan waktu dengan alat tersebut sering kali dapat menebaknya dengan benar. Intuisi tersebut tidak berpindah ke detektor karena tiga alasan.
Model berbagi arsitektur dan data pelatihan, sehingga sidik jari statistik mereka sangat tumpang tindih. Banyak alat merupakan penyesuaian halus dari basis yang sama, yang membuatnya hampir tidak dapat dibedakan pada tingkat tekstur bahkan ketika keluaran mereka terlihat berbeda bagi seseorang.
Keluaran juga diproses pasca-produksi. Peningkatan skala, pemulihan wajah, dan penyuntingan semuanya terjadi setelah pembuatan dan menulis ulang tekstur yang menjadi sandaran identifikasi. Pada saat sebuah gambar diterbitkan, gambar tersebut mungkin membawa lebih banyak komponen penambah skala daripada generatornya.
Dan targetnya terus bergerak. Model identifikasi apa pun adalah tabel pencarian dari hal-hal yang sudah ada, yang membuatnya salah tentang apa pun yang dirilis sejak model tersebut dilatih, dengan cara yang diam-diam alih-alih jelas.
Apa arti cakupan yang baik sebenarnya
Pertanyaan yang berguna tentang detektor bukanlah generator mana yang dikenalinya berdasarkan nama. Pertanyaan tersebut adalah seberapa luas pelatihannya, karena keluasan adalah hal yang memprediksi kinerja pada model yang belum dirilis.
| Pendekatan | Kekuatan | Kelemahan |
|---|---|---|
| Latih pada beberapa alat komersial utama | Akurasi tinggi pada alat tersebut | Generalisasi yang buruk ke hal lainnya |
| Latih di ribuan generator | Melakukan generalisasi ke model yang tidak terlihat | Akurasi puncak yang lebih rendah pada setiap alat tunggal |
| Cari artifak satu arsitektur | Sangat tinggi selama masih bertahan | Gagal total ketika metode berubah |
| Baca penanda file saja | Tepat saat ada | Buta pada sebagian besar gambar |
Baris kedua adalah pendekatan yang digunakan di sini, dan pertukaran tersebut disengaja. Detektor yang sangat baik pada empat produk dan tidak berguna pada produk kelima tidak begitu berguna untuk memeriksa gambar yang dikirim seseorang kepada Anda.
Tentang nama produk
Daftar generator yang didukung adalah artifak pemasaran alih-alih artifak teknis. Model piksel tidak memiliki daftar; model tersebut memiliki distribusi pelatihan. Menyebutkan produk menyiratkan kemampuan per-alat yang tidak dimiliki oleh deteksi luas dan tidak membutuhkannya.
Di mana nama benar-benar muncul dalam hasil di sini, nama tersebut berasal dari file alih-alih dari piksel, dan hasilnya menyatakan demikian. Perbedaan tersebut layak untuk ditekankan dari alat apa pun yang Anda gunakan.
Cara membaca klaim cakupan
Vendor mendeskripsikan cakupan dengan cara yang terdengar dapat dibandingkan padahal tidak. Tiga rumusan muncul berulang kali dan masing-masing memiliki arti yang berbeda.
Mendeteksi gambar dari X, Y, dan Z biasanya berarti tolok ukur berisi ketiga hal tersebut. Ini adalah pernyataan tentang pengujian alih-alih tentang kemampuan, dan tidak mengatakan apa pun tentang generator keempat.
Mendukung lebih dari empat puluh generator biasanya berarti kumpulan pelatihan berasal dari sebanyak itu sumber. Hal tersebut lebih bermakna, karena keluasan pelatihan adalah hal yang memprediksi generalisasi, dan hal tersebut tetap bukan jaminan tentang alat tertentu.
Mengidentifikasi model sumber adalah klaim yang paling sulit dibuktikan. Tanyakan apakah identifikasi tersebut berasal dari file atau dari pikselnya. Jika berasal dari piksel, tanyakan tingkat keakuratan identifikasi secara terpisah dari keakuratan deteksi, karena keduanya merupakan angka yang sangat berbeda.