بڑے پیمانے پر AI سے بنی تصاویر کی اعتدال پسندی (Moderation)

یہاں خودکار نفاذ کیوں ناکام ہوتا ہے

لیبارٹری کے حالات میں 91 فیصد متوازن درستگی کے ساتھ، تقریباً ہر گیارہ میں سے ایک فیصلہ غلط ہوتا ہے۔ صارف کے تیار کردہ مواد پر، جو اسکرین شاٹ، ری کمپریس اور کراپ شدہ ہوتا ہے، اصل شرح اس سے بھی خراب ہے۔

اگر اسے روزانہ ایک لاکھ آئٹمز پر لاگو کیا جائے تو یہ ہزاروں غلط اقدامات بنتے ہیں۔ ہر اقدام ایک اپیل ہے، اور اپیل کی قیمت اس ریویو سے زیادہ ہے جس کی جگہ آٹومیشن نے لی تھی۔ جب آپ غلطی سے اصلی پوسٹس ہٹانے کے بعد ساکھ کو پہنچنے والے نقصان پر غور کریں تو یہ حساب کتاب بالکل کام نہیں کرتا۔

ماڈریشن کے لیے ایک دوسرا مخصوص مسئلہ ہے۔ نفاذ کے فیصلوں کا آڈٹ کیا جاتا ہے۔ کوئی ریگولیٹر یا عدالت جو یہ پوچھے کہ اکاؤنٹ کیوں ہٹایا گیا، وہ غیر مطبوعہ تھریش ہولڈ والے ماڈل کے آؤٹ پٹ کو دلیل کے طور پر قبول نہیں کرے گی۔

ترتیب کے لیے اسکور کا استعمال کریں، کارروائی کے لیے نہیں

مفید طریقہ قطار کو ترتیب دینا ہے۔ آپ کے پاس ریویورز سے زیادہ آئٹمز ہیں۔ ایک اسکور فیصلہ کرتا ہے کہ کون سا آئٹم پہلے دیکھا جائے گا، اور یہ وہ کام ہے جو 85 فیصد درستگی پر بھی اچھی طرح کیا جا سکتا ہے، کیونکہ غلط ہونے کا مطلب صرف یہ ہے کہ کسی نے بلاوجہ کوئی چیز دیکھ لی۔

نچلے بینڈ کی سیمپلنگ اس سے کہیں زیادہ ضروری ہے جتنا دکھائی دیتا ہے۔ یہ آپ کی غلط منفی (false negative) شرح کو ماپنے کا واحد طریقہ ہے، اور اس نمبر کے بغیر آپ یہ نہیں بتا سکتے کہ سسٹم کام کر رہا ہے یا خاموشی سے کچھ بھی پکڑنا بند کر چکا ہے۔

آپ کی پالیسی میں کیا کہنا ضروری ہے

زیادہ تر پلیٹ فارمز کے پاس اب مصنوعی میڈیا کا اصول موجود ہے، اور ان میں سے زیادہ تر بری طرح لکھے گئے ہیں۔ عام ناکامی AI مواد پر مکمل پابندی ہے، جو ناقابل نفاذ ہے اور ایسی چیزوں کو بھی پکڑ لیتی ہے جنہیں پکڑنے کا کوئی ارادہ نہیں تھا۔

اصول کو تکنیک کے گرد نہیں بلکہ نقصان اور انکشاف کے گرد لکھیں۔ فکشن پوسٹ پر بنی ہوئی السٹریشن سے کسی کو نقصان نہیں پہنچتا۔ کسی پروڈکٹ، شخص یا ایونٹ کی بنی ہوئی تصویر، جسے اصلی کے طور پر پیش کیا جائے، وہی چیز ہے جسے آپ درحقیقت روکنا چاہتے ہیں۔

تین کیسز جنہیں ریجن میپ الگ کرتا ہے

پوری فریم کے اسکور تین ایسے حالات کو ملا دیتے ہیں جنہیں مختلف طریقے سے ہینڈل کرنے کی ضرورت ہے۔ ٹائل ویو ان میں فرق کرتا ہے، اور یہی فرق عام طور پر نتیجے کا فیصلہ کرتا ہے۔

• ہر ٹائل ہائی۔ مکمل طور پر جنریٹ کی گئی تصویر۔ اگر اسے کسی حقیقی چیز کی تصویر کے طور پر پیش کیا جائے تو یہ آپ کا واضح ترین کیس ہے۔
• ایک ٹائل ہائی۔ ایک اصلی تصویر جس میں کچھ شامل یا ہٹایا گیا ہو۔ مارکیٹ پلیس یا نیوز کے سیاق و سباق میں یہ اکثر مکمل جنریشن سے زیادہ سنگین ہوتا ہے، کیونکہ اسے یقین دلانے کے لیے ڈیزائن کیا گیا ہے۔
• متوازن، کوئی بھی ہائی نہیں۔ بھاری پروسیسنگ۔ عام طور پر فلٹر یا اپ اسکیلر سے گزری ہوئی اصلی تصویر۔ اس پر کارروائی کرنے کی ضرورت تقریباً کبھی نہیں ہوتی۔

یہ پیمائش کرنا کہ آیا یہ کام کر رہا ہے

1. اوپری بینڈ پر پریسیژن (precision) کو ٹریک کریں

   90 سے اوپر اسکور کیے گئے جن آئٹمز کو کسی ماڈریٹر نے کھولا، ان میں سے کتنے پر کارروائی کی گئی؟ اگر وہ تعداد کم ہے تو ٹول کام بچانے کے بجائے کام پیدا کر رہا ہے۔

2. نچلے بینڈ کو ہفتہ وار سیمپل کریں

   45 سے نیچے والے آئٹمز میں سے بے ترتیب سو (100) نکالیں اور ان کا جائزہ لیں۔ یہ آپ کی چھوٹی ہوئی چیزوں کی واحد پیمائش ہے، اور یہی وہ کام ہے جسے ٹیمیں چھوڑ دیتی ہیں۔

3. اپیل کی شرح پر نظر رکھیں

   مصنوعی میڈیا کے فیصلوں پر کامیاب اپیلوں میں اضافہ اس بات کا مطلب ہے کہ تھریش ہولڈ ہٹ گیا ہے یا کوئی نیا جنریٹر آ گیا ہے جو کم اسکور کرتا ہے۔

4. ہر ماڈل تبدیلی کے بعد ری-بیس لائن کریں

   ڈیٹیکٹر کی اپ ڈیٹس اسکور کو تبدیل کرتی ہیں۔ چھ ماہ پہلے کسی مختلف ماڈل ورژن کے خلاف ٹیون کیا گیا تھریش ہولڈ اب وہ تھریش ہولڈ نہیں رہا جو آپ سمجھتے ہیں۔

ٹول کے ذریعے بنائی گئی قطار کے لیے عملہ متعین کریں

ماڈریشن پائپ لائن میں ڈیٹیکٹر شامل کرنے سے عملے کی تعداد کم نہیں ہوتی، اور جو ٹیمیں اس کی منصوبہ بندی کرتی ہیں ان کا نقصان ہی ہوتا ہے۔ یہ کام جس چیز کو تبدیل کرتا ہے وہ ہے کام کی ترتیب، جو عملے کے گھنٹوں کی قدر کو بڑھاتی ہے لیکن تعداد کو کم نہیں کرتی۔

بجٹ میں یہ رکھیں کہ فلیگ شدہ قطار عام قطار کی نسبت فی آئٹم سست ہوگی۔ فلیگ شدہ پوسٹ کو دیکھنے والا ریویور زیادہ مبہم مواد پر مشکل فیصلہ کر رہا ہوتا ہے، اور جلدی کرنے سے ہی غلط نفاذ ہوتا ہے۔ فی آئٹم دو منٹ ایک حقیقت پسندانہ وقت ہے؛ تیس سیکنڈ نہیں۔

ریویورز کو اسکور کے بجائے ریجن میپ دیں۔ ایک ماڈریٹر جو دیکھ سکتا ہے کہ تصویر کا ایک کونا گرم ہے، وہ نمبر دینے والے شخص سے بہتر فیصلہ کرتا ہے، اور وہ بعد میں اپیل ٹیم یا ریگولیٹر کو اس فیصلے کی وضاحت بھی کر سکتا ہے۔

مصنوعی میڈیا ریویو سے لوگوں کو تبدیل کرتے رہیں۔ یہ ایک ایسا تکراری کام ہے جس میں مبہم کیسز کی بڑی تعداد ہوتی ہے، اور طویل شفٹ کے دوران درستگی نمایاں طور پر کم ہو جاتی ہے۔ یہ وہی سبق ہے جو ہر ماڈریشن فنکشن نے دوسرے زمروں کے بارے میں پہلے ہی سیکھ لیا ہے۔