Lahat ng paraan kung paano magiging mali ang isang AI image detector

Apat na pamilya ng pagkabigo: ang imahe ay nasira, ang generator ay hindi nakita, ang nilalaman ay kahawig ng synthetic texture, o sinasadya itong nilabhan ng iba. Ang bawat isa ay gumagawa ng ibang maling sagot.

Unang pamilya: ang imahe ay nasira

Ang pinakamalaking kategorya sa malaking agwat. Ang signal na binabasa ng detector ay nabubuhay sa pinong texture, at ang texture na iyon ang unang bagay na itinatapon ng bawat compression, resize at screenshot.

Mga paulit-ulit na pag-save ng JPEG. Ang kawastuhan ay bumagsak mula 91.3 porsyento sa mga malinis na orihinal hanggang 84.6 porsyento sa kalidad 40 sa nai-publish na benchmark, at mas mababa pa sa labas.
Mga screenshot. Isang muling pag-render sa resolusyon ng screen na ang orihinal na file ay ganap na itinapon.
Downscaling. Mas kaunting mga pixel, mas kaunting texture, at sa ibaba ng humigit-kumulang 576 pixel sa mas maikling gilid ay walang region map.
Platform re-encoding. Ang bawat pag-upload ay hindi bababa sa isang muling pag-encode, at karamihan sa mga imahe ay dumaan sa ilan.
Mabigat na pag-crop. Ang maliit na pag-crop ng isang malaking imahe ay nawawalan ng konteksto kung saan na-calibrate ang modelo.

Ang pagkasira ay nagtutulak sa mga iskor patungo sa gitna sa parehong direksyon: mga tunay na litrato pataas, mga nabuong imahe pababa. Ang katamtamang resulta sa isang malinaw na naglakbay na file ay kadalasang nangangahulugang ang file, hindi ang larawan.

Pangalawang pamilya: ang generator ay hindi nakita

Kinikilala ng isang detector kung ano ang sinanay dito. Ang isang modelong inilabas pagkatapos makumpleto ang pagsasanay ay pamilyar na teritoryo, at ang hindi pamilyar na output ay may posibilidad na magmarka ng mababa kaysa sa hindi tiyak.

1 Inilabas ang generator Wala pang nakakakita sa output nito
2 Blind window Ang bagong output ay nakakakuha ng iskor bilang totoo
3 Nakolekta ang mga sample Mga linggo ng pagkolekta at pag-label
4 Na-update ang detector Hanggang sa susunod na paglabas

Ang blangkong window ay istruktural. Ang muling pagsasanay ay laging sumusunod sa isang paglabas sa halip na mauna ito.

Nagagawa nito ang mga tiyak na maling negatibo, na siyang pinakamapanganib na uri. Ang tool ay hindi nag-audyok ng kawalan ng katiyakan; iniuulat nito na ang isang imahe ay mukhang maayos dahil hindi ito kahawig ng anumang itinuro dito na i-flag.

Pangatlong pamilya: ang nilalaman ay kahawig ng synthetic texture

Ang ilang mga tunay na imahe ay mahirap lamang. Hindi dahil may ginawang panlilinlang, kundi dahil ang texture na naglalaman ng mga ito ay mukhang ang texture na ginagawa ng henerasyon.

Phone night mode at computational photography. Maraming frame ang pinagsama at inalis ang ingay ng software, na muling nagsusulat ng pinong detalye sa buong imahe.
Mabigat na retouching. Ang pagpapakinis ng balat at frequency separation ay muling nagtatayo ng texture sa mga mukha.
Mga na-upscale na imahe. Ang pagpapalaki ay nag-imbento ng mga pixel, at ang mga inimbentong pixel ay mga nabuong pixel.
Illustration, 3D renders at CGI. Hindi kailanman nakuhanan ng litrato, kaya walang anuman sa kanila ang kahawig ng kuha ng camera.
Stock photography na may mabigat na pagbabawas ng ingay. Komersyal na pinroseso upang maging malinis, na nagbabasa bilang synthetic.
Napakapatag na mga imahe. Ang mga blangkong pader, malinaw na kalangitan at simpleng background ay nagdadala ng kaunting signal sa alinmang direksyon.

57 62 55 60 58 63 54 61 59

Ihambing sa isang nabuong frame noong dekada nobenta at isang lokal na pag-edit na may isang hot tile. Ang pattern na ito ay hindi alinman sa dalawa.

Isang tunay na night-mode na litrato. Walang dramatikong anuman, ngunit ang bawat tile ay mainit, na siyang lagda ng global processing.

Pamilya apat: sadyang pag-iwas

Ang pinakamaliit na kategorya at ang pinagkakaabalahan nang husto ng mga tao. Ang anumang teknik na nag-aayos muli sa relasyon ng mga pixel ay nagpapababa ng marka, at karamihan sa mga ito ay kitang-kitang sinisira ang larawan habang ginagawa ito.

Ang eksepsiyon ay ang compositing. Ang isang binuong bagay na inilagay sa loob ng isang tunay na litrato ay nagpapanatili ng totoong texture sa karamihan ng frame, kaya naman umiiral ang region map at kung bakit ang numero ng buong-frame lamang ay hindi sapat para sa anumang bagay na mapanlinlang.

Ano ang hitsura ng bawat pagpalya kapag nangyari ito

Pagbasa sa kahina-hinalang resulta nang paatras
Ang iyong nakikita	Pinakamalamang na dahilan	Ano ang gagawin
Mataas ang marka ng tunay na litrato, pantay na mainit na map	Pagproseso o compression	Suriing muli ang orihinal na file
Mataas ang marka ng tunay na litrato, isang mainit na tile	Isang lehitimong pag-edit, o isang patag na rehiyon	Tingnan kung ano ang nasa tile na iyon
Mababang marka ng binuong larawan, nasirang file	Compression o isang screenshot	Ituring na walang sagot, hindi malinis na resulta
Mababang marka ng binuong larawan, malinis na file	Isang hindi nakikitang generator	Umasa sa provenance at pinagmulan
Nasa gitnang banda ang marka	Kulang sa signal sa magkabilang panig	Maghanap ng mas magandang kopya
Walang nagawang region map	Masyadong maliit ang larawan para i-tile	Maghanap ng mas malaking kopya

Kung ano ang hindi ang mga ito

Sulit na ihiwalay ang mga limitasyon mula sa mga bagay na hindi kailanman sinubukan ng detector. Ang isang tool ay hindi mali dahil sa pagkabigong gumawa ng isang bagay na nasa labas ng saklaw nito.

Hindi nito masabi kung sino ang gumawa ng larawan. Walang anuman sa mga pixel ang nag-uugnay sa isang file sa isang tao.
Hindi nito masabi kung totoo ang nilalaman. Ang isang tunay na litrato ay maaaring magdala ng maling caption, at iyon ang mas karaniwang panlilinlang.
Hindi nito mapangalanan ang generator. Tanging ang credential o isang marker lamang sa file ang makakagawa nito.
Hindi nito mai-outline ang isang pag-edit. Ipinapakita ng region map kung saan nakatutok ang signal, hindi ang hangganan ng manipulasyon.

Paano bumuo ng proseso na nagpaparaya dito

Ang mga pagpalya sa itaas ay mga permanenteng katangian kaysa sa mga bug na naghihintay ng pag-aayos, kaya ang kapaki-pakinabang na tanong ay kung paano magdisenyo sa paligid ng mga ito sa halip na kung paano iwasan ang mga ito.

Gumamit ng higit sa isang uri ng signal. Ang mga pixel, provenance, at kasaysayan ng paglalathala ay pumapalya sa iba't ibang lugar, at ang isang larawan na mukhang mali sa tatlong ito ay mas malakas na natuklasan kaysa sa isa na mukhang mali sa alinman sa kanila nang mag-isa.

I-ruta ang mga flag sa isang tao sa halip na sa isang aksyon. Ang bawat seryosong pagpalya sa itaas ay nagiging katanggap-tanggap kung ang kahihinatnan ng pagkakamali ay ang masusing pagtingin ng isang tao, at hindi katanggap-tanggap kung ang kahihinatnan ay isang awtomatikong pagtanggi.

Humingi ng orihinal bago magdesisyon sa anuman. Ang isang kapansin-pansing proporsyon ng mga maling resulta ay nalulutas sa iisang hakbang na ito, dahil ang file na ibinigay sa iyo ay halos hindi kailanman ang pinakamahusay na kopya na umiiral.

Mga tanong ng mga tao

Ano ang pinakakaraniwang paraan ng pagkakamali ng detector?

Ang isang tunay na litrato ay binigyan ng flag dahil nasira ang file. Ang mga screenshot, paulit-ulit na compression, at night mode ng telepono ay muling isinusulat ang texture na binabasa ng detector, at ang tatlong ito ay mga karaniwang bagay na nangyayari sa mga larawan nang walang sinumang may balat-sibuyas na layuning manlinlang.

Aling pagpalya ang pinakamapanganib?

Isang tiyak na maling negatibo sa output mula sa bagong generator. Iniulat ng tool na malinis ang larawan sa halip na hindi sigurado, kaya walang nagpapakita na hindi maaasahan ang sagot. Iyon ang dahilan kung bakit mahalaga ang provenance at pinagmulan kahit na bumaba ang pagsusuri sa pixel.

Maaari ko bang malaman nang maaga kung magiging maaasahan ang isang resulta?

Kadalasan, oo. Ang isang malaking orihinal na file nang direkta mula sa camera na may maraming texture ay nagbibigay ng pagbabasa na maaari mong sandigan. Ang isang maliit na screenshot ng isang patag na tanawin na ipinadala sa pamamagitan ng dalawang app ay hindi, at ang pag-alam niyon bago ka tumingin sa numero ang pinakamalaking kasanayan.

Nalalapat ba ang mga limitasyong ito sa lahat ng detector?

Ang unang tatlong pamilya ay nalalapat sa anumang tool na nagbabasa ng pixel, dahil ang mga ito ay mga katangian ng paraan kaysa sa isang produkto. Ang ipinagkaiba sa pagitan ng mga tool ay kung aling mga generator ang nakita nila at kung saan nila itinakda ang linya ng desisyon.

Malulutas ba ang mga problemang ito?

Ang problema sa pagkasira ay likas: ang nawasak na impormasyon ay hindi na maibabalik. Ang problema sa hindi nakikitang generator ay istruktural, dahil ang muling pagsasanay ay sumusunod sa pagpapalabas. Patuloy na mapapabuti ang kawastuhan sa mga malinis na larawan, at walang mawawala sa dalawang iyon.

Kaya kailan nagiging kapaki-pakinabang ang isang detector?

Sa isang medyo buumbuong file, bilang isang signal sa gitna ng ilan, upang magpasya kung saan titingnang mabuti. Iyon ay isang tunay na mahalagang trabaho. Nawawalan ito ng silbi sa sandaling ituring ng isang tao ang numero bilang sagot sa halip na bilang dahilan upang magpatuloy sa pag-iimbestiga.