كل الطرق التي يمكن أن يخطئ بها كاشف الصور بالذكاء الاصطناعي

العائلة الأولى: الصورة كانت متدهورة

الفئة الأكبر بفارق كبير. الإشارة التي يقرؤها الكاشف تعيش في النسيج الدقيق، وهذا النسيج هو أول ما يتخلص منه كل ضغط، تغيير حجم، ولقطة شاشة.

• حفظ JPEG المتكرر. تنخفض الدقة من 91.3 في المئة على النسخ الأصلية النظيفة إلى 84.6 في المئة عند جودة 40 على المعيار المنشور، وتتدهور أكثر في الواقع.
• لقطات الشاشة. إعادة عرض بدقة الشاشة مع التخلص تماماً من الملف الأصلي.
• تصغير الحجم. بكسلات أقل، نسيج أقل، وتحت حوالي 576 بكسل على الجانب الأقصر لا توجد خريطة منطقة على الإطلاق.
• إعادة ترميز المنصة. كل عملية رفع هي عملية إعادة ترميز واحدة على الأقل، ومعظم الصور مرت عبر عدة عمليات.
• القص المكثف. قص صغير لصورة كبيرة يفقد السياق الذي تمت معايرة النموذج عليه.

التدهور يدفع النتائج نحو الوسط في كلا الاتجاهين: الصور الفوتوغرافية الحقيقية للأعلى، والصور المولدة للأسفل. النتيجة المتوسطة على ملف تم تداوله بوضوح تعني عادة الملف، وليس الصورة.

العائلة الثانية: المولد غير معروف

الكاشف يتعرف على ما تدرب عليه. النموذج الذي صدر بعد انتهاء التدريب هو أرض غير مألوفة، والمخرجات غير المألوفة تميل للحصول على نتيجة منخفضة بدلاً من غير مؤكدة.

هذا ينتج سلبيات كاذبة واثقة، وهي أخطر الأنواع. الأداة لا تشير إلى عدم اليقين؛ بل تبلغ أن الصورة تبدو جيدة لأنها لا تشبه أي شيء تم تعليمه لتمييزه.

العائلة الثالثة: المحتوى يشبه النسيج الاصطناعي

بعض الصور الحقيقية صعبة ببساطة. ليس لأن هناك شيئاً تم القيام به للخداع، ولكن لأن النسيج الذي تحتويه يشبه النسيج الذي ينتجه التوليد.

• الوضع الليلي للهاتف والتصوير الحاسوبي. دمج عدة إطارات وإزالة الضوضاء برمجياً، مما يعيد كتابة التفاصيل الدقيقة عبر الصورة بأكملها.
• التنقيح المكثف. تنعيم البشرة وفصل التردد يعيدان بناء النسيج على الوجوه.
• الصور المكبرة (Upscaled). التكبير يخترع بكسلات، والبكسلات المخترعة هي بكسلات مولدة.
• الرسوم التوضيحية، تصاميم 3D، وCGI. لم يتم تصويرها قط، لذا لا شيء فيها يشبه لقطة الكاميرا.
• صور الأسهم (Stock photography) مع تقليل ضوضاء كثيف. تمت معالجتها تجارياً لتبدو نظيفة، وهو ما يُقرأ على أنه اصطناعي.
• الصور المسطحة جداً. الجدران الفارغة، السماء الصافية، والخلفيات البسيطة تحمل إشارة قليلة في كلا الاتجاهين.

المجموعة الرابعة: التهرب المتعمد

هي الفئة الأصغر والأكثر إثارة للقلق. أي تقنية تعيد كتابة علاقات البكسل تخفض النتيجة، ومعظم هذه التقنيات تتلف الصورة بشكل مرئي أثناء القيام بذلك.

الاستثناء هو التركيب. الجسم المولد الذي يوضع في صورة حقيقية يحتفظ بنسيج حقيقي عبر معظم الإطار، وهذا هو سبب وجود خريطة المناطق وسبب عدم كفاية رقم الإطار الكامل وحده لأي شيء عدائي.

كيف يبدو كل فشل عند حدوثه

ما ليس أي من هذا

من الجدير فصل القيود عن الأشياء التي لم يحاول الكاشف القيام بها مطلقاً. لا تُعتبر الأداة مخطئة لفشلها في القيام بشيء خارج نطاق عملها.

• لا يمكنها تحديد من صنع الصورة. لا يوجد شيء في البكسلات يربط الملف بشخص ما.
• لا يمكنها تحديد ما إذا كان المحتوى صحيحاً. يمكن أن تحمل الصورة الحقيقية تعليقاً كاذباً، وهذا هو الخداع الأكثر شيوعاً.
• لا يمكنها تسمية المولد. فقط بيانات الاعتماد أو علامة داخل الملف يمكنها القيام بذلك.
• لا يمكنها تحديد حدود التعديل. تُظهر خريطة المناطق المكان الذي تتركز فيه الإشارة، وليس حدود التلاعب.

كيفية بناء عملية تتحمل هذا

الإخفاقات المذكورة أعلاه هي سمات دائمة وليست أخطاء بانتظار إصلاح، لذا فإن السؤال المفيد هو كيفية التصميم حولها بدلاً من كيفية تجنبها.

استخدم أكثر من نوع واحد من الإشارات. تفشل البكسلات والمصادر وتاريخ النشر في أماكن مختلفة، والصورة التي تبدو خاطئة لجميع الثلاثة هي نتيجة أقوى بكثير من تلك التي تبدو خاطئة لأي منها بمفردها.

وجّه الأعلام إلى شخص بدلاً من اتخاذ إجراء تلقائي. يصبح كل فشل خطير أعلاه محتملاً إذا كانت نتيجة الخطأ هي أن يبحث شخص ما بجدية أكبر، وغير محتمل إذا كانت النتيجة رفضاً تلقائياً.

اطلب الأصل قبل استنتاج أي شيء. نسبة ملحوظة من النتائج الخاطئة تُحل في هذه الخطوة الواحدة، لأن الملف الذي أعطيته لك يكاد لا يكون أبداً أفضل نسخة موجودة.