Надежден отговор на един труден въпрос.

Защо го създадохме

Генераторите на изображения с изкуствен интелект преминаха от новост до повсеместно присъствие в рамките на няколко години. Това е наистина полезно и тихо разби едно допускане, което повечето от нас все още носят: че фотографията е доказателство за нещо, което се е случило. Убедителен фалшификат сега се прави за секунди и не струва нищо.

Инструментите, предназначени да помогнат, в по-голямата си част имаха противоположен на успокояващия ефект. Много от тях изискват акаунт, качват личните ви изображения на сървър, за който не знаете нищо, след което връщат един-единствен процент без обяснение. От вас се иска да се доверите на черна кутия относно това дали можете да се доверите на дадено изображение. Ние искахме обратното: резултат, за който действително можете да разсъждавате, получен без изобщо да се поема попечителство над вашите файлове.

Как работи детекторът

В основата стои vision transformer, __x Pixel Forensics · FT1, обучен да разпознава статистическите отпечатъци, които генерирането и редактирането оставят в пикселите. Изображението се анализира като цяло, след това отново като решетка от припокриващи се региони, така че малка редакция с изкуствен интелект, скрита в иначе истинска снимка, пак да си проличи. Тези оценки на региони управляват топлинната карта, която виждате в доклада.

Изходът е един-единствен калибриран резултат от 0 до 100, картографиран към пет фиксирани диапазона с линия на решение при 65. Тъй като картографирането е фиксирано и публикувано, 72 днес означава точно това, което 72 е означавало миналата седмица, и можете да видите аргументите, доказателствата за регионите и файловите сигнали зад всяка присъда.

Поверителност по дизайн

Моделът, средата за изпълнение и целият анализ се изтеглят във вашия браузър и се изпълняват там. Изображенията, които избирате от устройството си, никога не се качват, съхраняват, поставят на опашка или записват. Единственото изключение е прозрачно: ако поставите връзка към изображение, което сайт отказва да сподели директно, ние го извличаме чрез публичен прокси, за да може проверката да се изпълни. Това включва URL адреса, никога файл от вашия компютър, и е обяснено в нашата политика за поверителност.

Как проверяваме дали все още работи

Всяка версия се тества срещу фиксиран набор за оценка, преди да бъде пусната: автентични фотографии от няколко поколения камери, резултати от моделите diffusion и transformer, налични към момента, и частта, която всъщност има значение – неудобната среда. Екранни снимки на истински снимки. Снимки от телефон, обработени в нощен режим. Студийни снимки на продукти с изгладен шум. Истински снимки с един премахнат обект.

Следят се две числа, а не едно. Общата точност лесно се променя чрез изместване на линията на решение, така че процентът на фалшиви положителни резултати при автентични фотографии се проследява отделно и се третира като по-строгото ограничение. Версия, която печели пункт точност, като маркира повече истински снимки, не е подобрение, защото цената на погрешното обявяване на автентична снимка за фалшива се плаща от човек.

Честни относно ограниченията

Никой детектор не е прав за всяко изображение и всеки, който твърди обратното, продава нещо. Силната компресия, екранните снимки, мащабирането и агресивните филтри могат да тласнат истинска снимка към средата на скалата, а решителен фалшификатор може да работи, за да победи всеки отделен модел. Ето защо резултатът се представя като вероятност заедно с нейните доказателства: силен аргумент за човешко решение, никога присъда, която да се цитира самостоятелно.

Специфичните режими на отказ са записани, а не прикрити, и резултатът никога не трябва да се използва самостоятелно при вземане на правни, трудови или дисциплинарни решения. Прочетете точност и ограничения, преди да предприемете действия въз основа на резултат, който засяга някого.

Три неща, които няма да направим

Няма да започнем да качваме вашите изображения. Локалният анализ е архитектурата, а не функционален флаг. Ако дадена бъдеща възможност би могла да работи само на сървъра, тя няма да бъде пусната.

Няма да поставим откриването зад платена стена. Резултатът, картата на регионите и експортирането остават безплатни. Всичко, което инструментът прави, е на страницата с цени и не струва нищо.

Няма да цитираме цифра за точност, която не можем да подкрепим. Бенчмарк стойността на този сайт е от задържан изследователски набор при контролирани условия и е обозначена по този начин навсякъде, където се появява, защото ефективността в реалния свят е по-ниска.