إدارة الصور المولدة بالذكاء الاصطناعي على نطاق واسع

لماذا يفشل التنفيذ التلقائي في هذا المجال

مع دقة متوازنة بنسبة 91 في المائة في الظروف المختبرية، تكون نتيجة واحدة تقريباً من كل أحد عشر خاطئة. وفي المحتوى الذي ينشئه المستخدم، والذي يصل عبر لقطات الشاشة وإعادة الضغط والقص، يكون المعدل الحقيقي أسوأ.

عند تطبيق ذلك على مائة ألف عنصر في اليوم، فهذا يعني آلاف الإجراءات الخاطئة. كل إجراء منها يتطلب استئنافاً، وتكلف الاستئنافات لكل حالة أكثر من المراجعة التي استبدلتها الأتمتة. الحسابات لا تجدي نفعاً حتى قبل النظر في التكلفة المتعلقة بالسمعة الناتجة عن إزالة منشورات حقيقية.

هناك مشكلة ثانية خاصة بالإشراف. تخضع قرارات التنفيذ للتدقيق. الجهة التنظيمية أو المحكمة التي تسأل عن سبب إزالة حساب لن تقبل مخرجات نموذج بعتبة غير منشورة كسبب.

النتيجة للفرز، لا لاتخاذ إجراء

الإطار المفيد هو ترتيب قائمة الانتظار. لديك عناصر أكثر مما لدى المراجعين من وقت. النتيجة تقرر ما يراه الشخص أولاً، وهذه وظيفة يمكن للأداة القيام بها جيداً حتى بدقة 85 في المائة، لأن كون النتيجة خاطئة يعني فقط أن شخصاً ما نظر إلى شيء دون داعٍ.

أخذ عينات من النطاق السفلي أهم مما يبدو. إنها الطريقة الوحيدة لقياس معدل السلبيات الكاذبة، وبدون هذا الرقم لا يمكنك معرفة ما إذا كان النظام يعمل أو توقف بهدوء عن اكتشاف أي شيء.

ما تحتاج سياستك إلى قوله

لدى معظم المنصات الآن قاعدة للوسائط الاصطناعية، ومعظمها مكتوب بشكل سيئ. الفشل الشائع هو حظر محتوى الذكاء الاصطناعي بشكل عام، وهو أمر غير قابل للتنفيذ ويطال أشياء لم يقصد أحد حظرها.

اكتب القاعدة حول الضرر والإفصاح بدلاً من التقنية. الرسم التوضيحي المولد في منشور خيالي لا يضر أحداً. أما الصورة الفوتوغرافية المولدة لمنتج أو شخص أو حدث، والتي تُقدم كأنها حقيقية، فهي الشيء الذي تريد إيقافه فعلياً.

الحالات الثلاث التي تفصلها خريطة المناطق

نتائج الإطار الكامل تدمج ثلاث حالات تحتاج إلى تعامل مختلف. طريقة عرض المربعات تفرق بينها، والتمييز يقرر النتيجة عادةً.

• كل مربع عالٍ. صورة مولدة بالكامل. إذا تم تقديمها كصورة فوتوغرافية لشيء حقيقي، فهذه هي أوضح حالاتك.
• مربع واحد عالٍ. صورة فوتوغرافية حقيقية مع إضافة أو إزالة شيء منها. في سياق السوق أو الأخبار، غالباً ما يكون هذا أكثر خطورة من صورة مولدة بالكامل، لأنها صُممت لتُصدق.
• دافئة بالتساوي، لا شيء عالٍ. معالجة ثقيلة. عادة ما تكون صورة حقيقية عبر مرشح أو أداة تحسين دقة. لا تستحق تقريباً اتخاذ إجراء.

قياس مدى فعالية الأداة

1. تتبع الدقة في النطاق الأعلى

   من العناصر التي سجلت أكثر من 90 وفتحها مشرف، كم منها تم اتخاذ إجراء بشأنها؟ إذا كان هذا الرقم منخفضاً، فإن الأداة تخلق عملاً بدلاً من توفيره.

2. خذ عينات من النطاق السفلي أسبوعياً

   اسحب مائة عينة عشوائية من أقل من 45 وراجعها. هذا هو القياس الوحيد لما تفتقده، وهو ما تتجاهله الفرق.

3. راقب معدل الاستئناف

   الارتفاع في الاستئنافات الناجحة بشأن قرارات الوسائط الاصطناعية يعني أن العتبة قد انحرفت أو أن مولداً جديداً قد وصل ونتائجه منخفضة.

4. أعد وضع خط الأساس بعد كل تغيير في النموذج

   تحديثات الكاشف تغير النتائج. العتبة التي تم ضبطها قبل ستة أشهر مقابل إصدار نموذج مختلف لم تعد العتبة التي تعتقد أنها هي.

توفير الموظفين لقائمة الانتظار التي تنشئها الأداة

إضافة كاشف إلى خط أنابيب الإشراف لا يقلل من عدد الموظفين، والفرق التي تخطط لذلك تنتهي بوضع أسوأ. ما يغيره هو ترتيب وصول العمل، مما يرفع قيمة ساعة كل مراجع دون تقليل العدد الذي تحتاجه.

ضع ميزانية للقائمة التي تم وضع علامة عليها لتكون أبطأ لكل عنصر من القائمة العامة. المراجع الذي ينظر إلى منشور محدد يتخذ قراراً أصعب بشأن مادة أكثر غموضاً، والاستعجال في ذلك هو سبب حدوث التنفيذ الخاطئ. دقيقتان لكل عنصر واقعي؛ ثلاثون ثانية ليست كذلك.

امنح المراجعين خريطة المناطق بدلاً من النتيجة. المشرف الذي يمكنه رؤية أن زاوية واحدة من الصورة ساخنة يتخذ قراراً أفضل من الذي يُعطى رقماً، ويمكنهم شرح ذلك القرار لاحقاً لفريق الاستئناف أو جهة تنظيمية.

قم بتدوير الأشخاص بعيداً عن مراجعة الوسائط الاصطناعية. إنه عمل متكرر مع نسبة عالية من الحالات الغامضة، وتنخفض الدقة بشكل ملموس خلال الوردية الطويلة. هذا هو نفس الدرس الذي تعلمته كل وظيفة إشراف بالفعل حول فئات أخرى.