دو مختلف چیزیں جنہیں لوگ ایک ہی چیز کہتے ہیں
ایک مکمل طور پر جنریٹ شدہ تصویر کسی بھی چیز سے شروع نہیں ہوتی۔ اس کے نیچے کوئی تصویر نہیں ہوتی، کوئی سینسر ریڈنگ نہیں ہوتی، کوئی ایسا لمحہ نہیں ہوتا جو پیش آیا ہو۔ ہر پکسل ایک ماڈل کے ذریعہ تیار کیا گیا تھا، اور اس میں موجود شخص کی توہین کرنے کی کوئی شناخت نہیں ہے کیونکہ وہاں کوئی شخص موجود نہیں ہے۔
ایک ڈیپ فیک کسی اصلی چیز سے شروع ہوتا ہے۔ اس کے نیچے ایک تصویر یا ویڈیو ہوتی ہے، جو ایک حقیقی لمحے کی اصلی کیپچر ہوتی ہے، اور ایک ماڈل نے اس کے ایک مخصوص حصے کو، عام طور پر کسی چہرے کو، کسی اور کی رینڈرنگ سے بدل دیا ہوتا ہے۔
یہ فرق قانونی، ادارتی اور تکنیکی طور پر اہم ہے۔ کسی غیر موجود ڈاکٹر کی جنریٹ شدہ اسٹاک فوٹو لائسنسنگ کا سوال ہے۔ کسی اصلی ڈاکٹر کی تصویر جس کا چہرہ کسی ایسے جسم پر چسپاں کیا گیا ہے جس کے ساتھ وہ کبھی منسلک نہیں تھے، توہینِ عزت کا سوال ہے، اور ممکنہ طور پر ایک مجرمانہ معاملہ بھی۔
ڈیپ فیک کو پکڑنا کیوں زیادہ مشکل ہے
ایک ڈیٹیکٹر تصویر کے شماریاتی ٹیکسچر کو پڑھتا ہے اور یہ بتاتا ہے کہ اس کا کتنا حصہ کسی ماڈل کی پیداوار جیسا لگتا ہے۔ جب پورا فریم مصنوعی ہو، تو وہ سگنل ہر جگہ موجود ہوتا ہے، اور سکور واضح ہوتا ہے۔
چہرہ بدلنا اس مسئلے کو الٹ دیتا ہے۔ تصویر کا نوے فیصد حصہ اصلی تصویر ہوتا ہے، جس میں اصلی سینسر شور اور اصلی کمپریشن ہسٹری ہوتی ہے، اور پورے فریم کی اوسط اس کی عکاسی کرتی ہے۔ ایک قائل کرنے والی تبدیلی ایسی تصویر پر تیس کی دہائی میں سکور پیدا کر سکتی ہے جو حقیقی طور پر فریب دینے والی ہو۔
یہ ماڈل کی ناکامی سے زیادہ سوال کی ناکامی ہے۔ یہ پوچھنا کہ کیا تصویر تیار کی گئی ہے، غلط شکل اختیار کرتا ہے جب اس کا دیانتدارانہ جواب یہ ہو کہ اس کا زیادہ تر حصہ ایسا نہیں ہے، اور اس کا ایک اہم حصہ ایسا ہے۔
جس اوسط نے 33 پیدا کیا وہی بالکل اس ایک ٹائل کو چھپاتی ہے جو اہم ہے۔
ریجن میپ اس شکل کے مسئلے کا جواب ہے۔ اوورلیپنگ ٹائلز کو الگ الگ سکور کرنے کا مطلب ہے کہ ایک مقامی تبدیلی کا موازنہ اس کے اپنے اردگرد سے کیا جاتا ہے بجائے اس کے کہ اسے ایسے فریم میں پھیلا دیا جائے جس سے اس کا تعلق ہی نہ ہو۔
الفاظ، اس ترتیب میں جیسے وہ ظاہر ہوئے
| اصطلاح | اس کا کیا مطلب ہے | کیا موضوع اصلی ہے؟ |
|---|---|---|
| ڈیپ فیک | کسی اصلی شخص کی شکل کو دوسری فوٹیج پر منتقل کیا گیا | ہاں |
| چہرہ بدلی (فیس سوائپ) | کسی اسٹیل یا ویڈیو پر ڈیپ فیک کی عام شکل | ہاں |
| AI سے تیار کردہ | کسی سورس فوٹو کے بغیر پرامپٹ سے تیار کیا گیا | نہیں |
| AI سے تبدیل شدہ | ایک حقیقی تصویر جس میں کچھ شامل یا حذف کیا گیا ہو | عام طور پر |
| مصنوعی میڈیا | مجموعی اصطلاح جس میں اوپر دیے گئے تمام شامل ہیں | منحصر ہے |
| سستا فیک (چیپ فیک) | کیپشن، تراش خراش یا پرانی تاریخ کی وجہ سے گمراہ کن اصلی میڈیا | ہاں |
آخری قطعه غور کے قابل ہے، کیونکہ یہ بصری غلط معلومات کی سب سے عام شکل ہے اور وہ ہے جس کا کوئی ڈیٹیکٹر ازالہ نہیں کرتا۔ تین سال پہلے کسی دوسرے ملک کی ایک اصلی، بغیر ترمیم شدہ تصویر، جسے آج کی خبر کے طور پر کیپشن کیا گیا ہو، اس اصلی تصویر کے طور پر سکور کرے گی جو وہ ہے۔
حالات کے لحاظ سے اصل میں کیا کرنا ہے
- آپ کو شبہ ہے کہ پوری تصویر ایجاد کی گئی ہے۔ پورے فریم کا چیک چلائیں۔ فلیٹ نقشے کے ساتھ زیادہ سکور اتنا ہی واضح ہے جتنا یہ ہو سکتا ہے۔
- آپ کو شبہ ہے کہ کسی شخص کو داخل کیا گیا ہے یا بدلا گیا ہے۔ پہلے ریجن میپ کو پڑھیں۔ یہ نمبر کم بتائے گا۔
- آپ کو شبہ ہے کہ کسی دستاویز میں تبدیلی کی گئی ہے۔ اوپر کی طرح، اور تبدیل شدہ فیلڈ پر بالکل ایک ہاٹ ٹائل کی توقع کریں۔
- آپ کو شبہ ہے کہ کیپشن جھوٹ بول رہا ہے۔ ایک ڈیٹیکٹر مدد نہیں کر سکتا۔ ریورس امیج سرچ کریں، پھر تاریخ اور جگہ چیک کریں۔
- یہ ویڈیو ہے۔ بالکل مختلف ٹولز۔ فریم بہ فریم اسٹیل کا تجزیہ ان وقتی آرٹفیکٹس سے محروم رہتا ہے جو ریئل ٹائم سوائپس کو ظاہر کر دیتے ہیں۔
یہ فرق لوگوں کی حفاظت کیوں کرتا ہے
ہر مصنوعی تصویر کو یکساں طور پر سنجیدہ سمجھنا ایک ساتھ دو ناکامیاں پیدا کرتا ہے۔ یہ بے ضرر چیزوں پر توجہ ضائع کرتا ہے، جیسے کہ کوئی جنریٹ شدہ پورٹریٹ استعمال کرتا ہے کیونکہ وہ فوٹوگرافر کا خرچہ نہیں اٹھا سکتا تھا، اور یہ اس معاملے کو کم وزن دیتا ہے جو اصل میں کسی شخص کو نقصان پہنچاتا ہے۔
نقصان پکسلز کے مصنوعی ہونے میں نہیں ہے۔ یہ ایک اصلی، نامزد فرد کو ایسا کچھ کرتے ہوئے دکھانے میں ہے جو اس نے نہیں کیا۔ یہ وہ چیز ہے جو آگے بڑھانے کے قابل ہے، اور یہ وہ کیس ہے جہاں درمیانی سکور خلاصہ کے طور پر سب سے کم قابل اعتماد ہے۔
ٹیکنالوجی کے بجائے شناخت کے گرد اندرونی پالیسی بنانا اس کی عمر کو بھی بہتر بناتا ہے۔ طریقے بدلتے رہیں گے؛ کیا کسی خاص شخص کی غلط تشریح کی جا رہی ہے یا نہیں، یہ سوال نہیں بدلے گا۔
چہرہ بدلی (فیس سوائپ) اصل میں کیسے بنائی جاتی ہے
پیداوار کو سمجھنا کاش دریافت کرنے میں مدد کرتا ہے۔ ایک تبادلہ ایک ہدف کی تصویر اور اس شخص کی تصاویر کے ایک سیٹ سے شروع ہوتا ہے جس کا چہرہ استعمال کیا جائے گا۔ ایک ماڈل اس چہرے کو ہدف میں پہلے سے موجود لائٹنگ، زاویہ اور تاثر کے تحت رینڈر کرنا سیکھتا ہے۔
اس کے بعد رینڈر کیے گئے چہرے کو اصلی فریم میں واپس کمپوز کیا جاتا ہے، اور جوڑ (سیم) سب سے مشکل حصہ ہوتا ہے۔ دونوں حصوں میں مختلف شور، مختلف کمپریشن ہسٹری اور اکثر تھوڑا سا مختلف رنگ کا رسپانس ہوتا ہے، لہٰذا بلینڈنگ کا مرحلہ باؤنڈری کو اس وقت تک ہموار کرتا ہے جب تک کہ آنکھ جوڑ کو نوٹس کرنا بند نہ کر دے۔
وہ ہمواری وہی ہے جو ریجن میپ پڑھتا ہے۔ بلینڈنگ اس اعلیٰ تعدد والے ٹیکسچر کو ہٹا دیتی ہے جو ایک سینسر تیار کرتا ہے، اور اس کے نتیجے میں بننے والا پیچ اپنے اردگرد کی ہر چیز سے شماریاتی طور پر مختلف ہوتا ہے یہاں تک کہ جب جوڑ پوشیدہ ہو۔ جوڑ پوشیدہ بھی ہوتا ہے اور ایک ہی وقت میں پیمائش کے قابل بھی۔
یہ یہ بھی بتاتا ہے کہ کیوں سوائپ پورے فریم کے چیک سے اتनी آسانی سے بچ جاتا ہے۔ ہیرا پھیری کا علاقہ چھوٹا ہوتا ہے، جان بوجھ کر اس کے اردگرد میں گھل مل جاتا ہے، اور ایک مستند تصویر سے گھرا ہوتا ہے جو فریم میں لی گئی کسی بھی اوسط پر غلبہ حاصل کرتی ہے۔
وہ غلطی جو بار بار دہرائی جاتی ہے
لوگ کسی مشکوک ڈیپ فیک کو ڈیٹیکٹر کے ذریعے چلاتے ہیں، تیس کی دہائی میں سکور دیکھتے ہیں، اور یہ نتیجہ اخذ کرتے ہیں کہ تصویر اصلی ہے۔ یہ درست نمبر سے غلط نتیجہ اخذ کرنا ہے: سکور درست ہے اور جس سوال کا یہ جواب دیتا ہے وہ کبھی وہ نہیں تھا جو پوچھا جا رہا تھا۔
وہ عادت جو اسے ٹھیک کرتی ہے وہ چھوٹی ہے۔ کسی بھی ایسی تصویر پر جہاں تشویش کسی خاص شخص کے بارے میں ہو، سرخی کے اعداد و شمار کو پڑھنے سے پہلے ریجن میپ کھولیں، اور اوسط کے بجائے سب سے اونچی ٹائل کو اس تلاش کے طور پر سمجھیں جس پر عمل کرنے کے قابل ہو۔