Isang mapagkakatiwalaang sagot sa isang mahirap na tanong.

Bakit namin ito ginawa

Ang mga AI image generator ay naging pangkaraniwan na sa loob lamang ng ilang taon. Ito ay talagang kapaki-pakinabang, at tahimik nitong sinira ang isang asumpsyon na dala nating lahat: na ang litrato ay ebidensya ng isang bagay na nangyari. Ang isang kapani-paniwalang peke ay kaya nang gawin sa loob ng ilang segundo at walang gastos.

Ang mga tool na dapat sana ay makakatulong ay karamihan ay kabaligtaran ng nakakapanatag. Marami ang nangangailangan ng account, nag-a-upload ng iyong mga pribadong larawan sa isang server na wala kang alam, at pagkatapos ay nagbibigay ng isang porsyento na walang paliwanag. Hinihilingan kang magtiwala sa isang black box tungkol sa kung maaari mong pagkatiwalaan ang isang larawan. Ang gusto namin ay ang kabaligtaran: isang resultang maaari mong pangatwiranan, na ginawa nang hindi kinukuha ang pag-iingat sa iyong mga file.

Paano gumagana ang detector

Sa core nito ay isang vision transformer, __x Pixel Forensics · FT1, na sinanay upang makilala ang mga statistical fingerprint na iniiwan ng paggawa at pag-edit sa mga pixel. Ang larawan ay sinusuri bilang kabuuan, pagkatapos ay muli bilang isang grid ng mga overlapping na rehiyon, kaya ang isang maliit na pag-edit ng AI na nakatago sa loob ng isang tunay na larawan ay makikita pa rin. Ang mga iskor ng rehiyon na iyon ang nagpapatakbo sa heatmap na nakikita mo sa ulat.

Ang output ay isang calibrated na iskor mula 0 hanggang 100, na naka-map sa limang fixed band na may linya ng desisyon sa 65. Dahil ang mapping ay fixed at inilathala, ang 72 ngayon ay nangangahulugan ng eksaktong katulad ng 72 noong nakaraang linggo, at makikita mo ang pangangatwiran, ang ebidensya ng rehiyon, at ang mga file signal sa likod ng bawat hatol.

Pribado ayon sa disenyo

Ang model, ang runtime, at ang lahat ng pagsusuri ay dina-download sa iyong browser at doon tumatakbo. Ang mga larawang pinipili mo mula sa iyong device ay hindi kailanman na-a-upload, na-i-imbak, na-i-queue, o na-lo-log. Ang tanging exception ay malinaw: kung mag-paste ka ng link sa isang larawan na tumatanggi ang site na ibahagi nang direkta, kinukuha namin ito sa pamamagitan ng isang pampublikong proxy para tumakbo ang pagsusuri. Kasama nito ang URL, hindi kailanman ang file mula sa iyong computer, at ito ay nakasaad sa aming patakaran sa privacy.

Paano namin sinusuri na gumagana pa rin ito

Bawat release ay sinusuri laban sa isang fixed evaluation set bago ito ilabas: mga totoong litrato mula sa ilang henerasyon ng camera, output mula sa mga diffusion at transformer model na available sa oras na iyon, at ang bahaging talagang mahalaga, ang awkward middle. Mga screenshot ng mga totoong larawan. Mga kuha ng telepono na pinroseso ng night mode. Mga studio product image na may smoothed out na noise. Mga totoong larawan na may tinanggal na isang bagay.

Dalawang numero ang binabantayan sa halip na isa. Ang kabuuang katumpakan ay madaling baguhin sa pamamagitan ng paglipat ng linya ng desisyon, kaya ang false positive rate sa mga totoong litrato ay sinusubaybayan nang hiwalay at itinuturing na mas mahirap na constraint. Ang isang build na nakakakuha ng dagdag na punto sa katumpakan sa pamamagitan ng pag-flag sa mas maraming totoong larawan ay hindi isang pagpapabuti, dahil ang gastos ng maling pagtawag sa isang tunay na larawan bilang peke ay pasanin ng isang tao.

Tapat tungkol sa mga limitasyon

Walang detector ang tama sa bawat larawan, at ang sinumang nagsasabi ng kabaligtaran ay nagbebenta lamang. Ang matinding compression, mga screenshot, upscaling, at agresibong mga filter ay maaaring magtulak sa isang totoong larawan patungo sa gitna ng scale, at ang isang determinadong manloloko ay maaaring magsikap na talunin ang anumang iisang model. Iyan ang dahilan kung bakit ang iskor ay ipinapakita bilang isang probabilidad kasama ang ebidensya nito: isang malakas na input sa desisyon ng tao, hindi kailanman isang hatol na dapat sipiin nang mag-isa.

Ang mga tiyak na failure mode ay nakasulat sa halip na itago, at ang isang resulta ay hindi kailanman dapat gamitin nang mag-isa sa isang legal, trabaho, o pandisiplinang desisyon. Basahin ang katumpakan at mga limitasyon bago ka kumilos base sa isang iskor na makakaapekto sa ibang tao.

Tatlong bagay na hindi namin gagawin

Hindi namin sisimulang i-upload ang iyong mga larawan. Ang lokal na pagsusuri ang arkitektura, hindi isang feature flag. Kung ang isang kakayahan sa hinaharap ay gagana lang sa server-side, hindi ito ilalabas.

Hindi namin ilalagay ang detection sa likod ng paywall. Ang iskor, ang region map, at ang mga export ay mananatiling libre. Ang lahat ng ginagawa ng tool ay nasa pahina ng pagpepresyo, at wala itong gastos.

Hindi kami magsisipi ng figure ng katumpakan na hindi namin kayang suportahan. Ang benchmark number sa site na ito ay mula sa isang held-out research set sa ilalim ng kontroladong kondisyon, at ito ay may label na ganoon saanman ito lumitaw, dahil mas mababa ang performance sa totoong mundo.