کیا ChatGPT بتا سکتا ہے کہ تصویر AI سے جنریٹڈ ہے؟

نہیں۔ ایک لینگوئج ماڈل بیان کرتا ہے کہ تصویر کیسی دکھتی ہے اور الفاظ میں اس پر بحث کرتا ہے۔ اس کی کوئی کیلیبریٹڈ حد (threshold)، کوئی بینچ مارک اور پکسل کے اعدادوشمار تک رسائی نہیں ہے جس پر ڈیٹیکشن انحصار کرتی ہے۔

ایک چیٹ بوٹ اصل میں کیا کر رہا ہے

ایک ملٹی ماڈل لینگوئج ماڈل تصویر کو ایک معنوی (semantic) تفصیل میں تبدیل کرتا ہے اور پھر اس تفصیل کے بارے میں متن میں دلیل دیتا ہے۔ وہ اس سوال کا جواب دے رہا ہے کہ کیا یہ تصویر ان AI تصاویر جیسی لگتی ہے جن کے بارے میں میں نے ٹریننگ کے دوران پڑھا تھا۔

یہ مواد اور ساخت کے بارے میں ایک سوال ہے۔ ڈیٹیکشن بناوٹ (texture) کے بارے میں ایک سوال ہے: پڑوسی پکسل اقدار کا آپس میں کیا تعلق ہے، ایک ایسے پیمانے پر جو معنوی تفصیل سے کہیں نیچے ہے۔

جو معلومات ایک ڈیٹیکٹر پڑھتا ہے، وہ لینگوئج ماڈل کے سوچنا شروع کرنے سے پہلے ہی ضائع ہو جاتی ہیں۔ ایسا نہیں ہے کہ چیٹ بوٹس اس کام میں برے ہیں۔ وہ ایک ایسی نمائندگی سے کام کر رہے ہیں جس میں ثبوت موجود ہی نہیں ہے۔

عملی طور پر اس سے کیا پیدا ہوتا ہے

بغیر کسی حد (threshold) کے پراعتماد جوابات۔ ایک چیٹ بوٹ بغیر کسی پیمانے کے کہے گا کہ غالباً AI سے جنریٹڈ ہے۔ کوئی نمبر نہیں، کوئی بینڈ نہیں اور کسی دوسری تصویر سے موازنہ کرنے کے لیے کچھ نہیں ہے۔
پرانے اشاروں سے استدلال۔ ماڈلز انگلیاں، دانت، موم جیسی جلد اور مڑی ہوئی تحریر کا حوالہ دیتے ہیں، کیونکہ ٹریننگ کے متن میں یہی لکھا ہے کہ کیا دیکھنا ہے۔ وہ تو برسوں پہلے ٹھیک کر دیے گئے تھے۔
آپ کی فریمنگ سے اتفاق۔ پوچھیں کہ کیا تصویر جعلی ہے تو آپ کو ہاں سننے کا امکان زیادہ ہوگا بنسبت اس کے کہ آپ غیر جانبدارانہ طور پر پوچھتے۔ یہ انٹرفیس کی خصوصیت ہے، تصویر کی نہیں۔
کوئی اعادہ نہیں (No reproducibility)۔ دو بار پوچھیں اور آپ کو ایک ہی فائل کے بارے میں دو مختلف جواب مل سکتے ہیں، جن میں سے ہر ایک کے لیے یکساں پراعتماد وضاحتیں ہوں گی۔
علاقے کی کوئی معلومات نہیں۔ یہ آپ کو یہ نہیں بتا سکتا کہ تصویر کا ایک کونا باقی حصوں سے مختلف برتاؤ کرتا ہے، جو کہ وہ نتیجہ ہے جو عام طور پر اہمیت رکھتا ہے۔

صلاحیت	چیٹ بوٹ	پکسل ڈیٹیکٹر
پکسل کی سطح کی بناوٹ کو پڑھتا ہے	No	Yes
شائع شدہ بینڈز کے ساتھ کیلیبریٹڈ اسکور	No	Yes
ہر بار ایک ہی جواب	No	Yes
ریجن کی سطح کی تفصیل	No	Yes
بینچ مارک کے خلاف ماپا گیا	No	Yes
اپنے استدلال کو نثر میں بیان کرتا ہے	Yes روانی سے	Partly سگنلز کے طور پر
تصویر میں کیا ہے اس کی وضاحت کرتا ہے	Yes	No

ہر نقطہ نظر اصل میں کیا پیدا کر سکتا ہے۔ درمیانی کالم وہ ہے جسے لوگ دائیں کالم سمجھ لیتے ہیں۔

آخری دو قطاریں ایسی ہیں جنہیں یاد رکھنا مفید ہے۔ ایک لینگویج ماڈل کسی تصویر کی وضاحت کرنے اور یہ استدلال کرنے میں واقعی اچھا ہے کہ آیا کوئی منظر سمجھ میں آتا ہے۔ یہ مفید ہیں اور یہ ڈیٹیکشن نہیں ہے۔

جہاں چیٹ بوٹ واقعی مفید ہے

ٹول کو مکمل طور پر مسترد کرنا غلط سبق ہوگا۔ جو کام یہ کر سکتا ہے اس کے لیے استعمال ہونے پر، یہ ڈیٹیکٹر کو تبدیل کرنے کے بجائے اس کی تکمیل کرتا ہے۔

اس سے منظر کی تفصیل سے وضاحت کرنے کو کہیں
ایک محتاط تفصیل اکثر ایسی چیزوں کو سامنے لاتی ہے جنہیں آپ نے شعوری طور پر محسوس نہیں کیا ہوتا، بشمول ایسی اشیاء جو ایک ساتھ نہیں ہونی چاہئیں یا ایسی تحریر جو آپ نے نہیں پڑھی تھی۔
پوچھیں کہ کیا منظر جسمانی طور پر مستقل ہے
سائے، عکاسی، پیمانہ اور تناظر استدلال کے مسائل ہیں، اور ماڈل اسی استدلال کے لیے ہے۔ یہ ان کمپوزٹ تصاویر کو پکڑ لیتا ہے جنہیں پکسل تجزیہ نظر انداز کر سکتا ہے۔
پوچھیں کہ کیا چیز اس کی تصدیق یا تردید کرے گی
شک کو جانچ کی فہرست میں بدلنا لینگویج ماڈل کا ایک اچھا استعمال ہے، اور یہ فہرست اکثر اس سے بہتر ہوتی ہے جو آپ نے خود لکھی ہوتی۔
پھر ایک اصل ڈیٹیکٹر چلائیں
پکسل کے سوال کے لیے، اس مقصد کے لیے بنائے گئے ٹول کا استعمال کریں، اور شائع شدہ اسکیل کے مطابق اسکور پڑھیں۔

روانی خطرہ کیوں ہے

ایک غیر یقینی ڈیٹیکٹر درمیانہ نمبر دیتا ہے، اور وہ نمبر خود غیر یقینی صورتحال کو ظاہر کرتا ہے۔ ایک غیر یقینی لینگویج ماڈل ایک پیراگراف دیتا ہے، اور پیراگراف میں ایرر بارز نہیں ہوتے۔

وہی اچھی طرح سے ترتیب دی گئی وضاحت تب بھی ظاہر ہوتی ہے جب ماڈل نے کچھ حقیقی شناخت کیا ہو یا کسی ایسی چیز کا معقول لگنے والا بیان دیا ہو جس کا کوئی وجود نہ ہو۔ قارئین اپنے اعتماد کو تحریر کے معیار پر جانچتے ہیں، جو کہ عین وہی سگنل ہے جو یہاں کوئی معلومات نہیں دیتا۔

یہی وجہ ہے کہ چیٹ بوٹ سے پوچھنا تصویر کو خود دیکھنے سے زیادہ خراب نقطہ آغاز ہے۔ آپ کی اپنی غیر یقینی صورتحال کم از کم آپ کو نظر آتی ہے۔

دیگر ٹولز میں بھی یہی مسئلہ

یہ دراصل ایک پروڈکٹ کے بارے میں نہیں ہے۔ کوئی بھی سسٹم جو تصویر کے بارے میں معنوی (semantically) طور پر استدلال کرتا ہے، اس میں یہی خلا ہے، اور کئی ٹولز جو اب ڈیٹیکٹر کے طور پر پیش کیے جا رہے ہیں، وہ پس پردہ یہی کر رہے ہیں۔

ایک مفید ٹیسٹ: پوچھیں کہ ٹول تصویر کی تصویر پر کیا رپورٹ کرے گا، یا ایسی تصویر پر جس کا کوئی قابل شناخت موضوع ہی نہ ہو۔ ایک پکسل ڈیٹیکٹر دونوں صورتوں میں اسکور دیتا ہے، کیونکہ مواد سے قطع نظر ساخت (texture) موجود ہوتی ہے۔ ایک معنوی سسٹم کے پاس استدلال کے لیے کچھ نہیں ہوتا اور وہ یا تو انکار کر دے گا یا کچھ ایجاد کر لے گا۔

دوسرا ٹیسٹ: ایک ہی فائل کو دو بار چلائیں۔ ایک پکسل ماڈل غیر متغیر (deterministic) ہوتا ہے اور ایک ہی نمبر دیتا ہے۔ ایک لینگویج ماڈل نمونے لیتا ہے، اور دو ٹیسٹ مختلف نتائج دے سکتے ہیں۔ اگر کوئی ٹول آپ کو ایک ہی بائٹس کے لیے مختلف جوابات دیتا ہے، تو وہ کچھ بھی نہیں ماپ رہا ہے۔

کسی بھی ٹیسٹ کے لیے یہ سمجھنے کی ضرورت نہیں کہ ٹول کیسے کام کرتا ہے۔ دونوں ایک منٹ لیتے ہیں، اور ان کے درمیان، وہ مارکیٹنگ کا صفحہ پڑھنے سے زیادہ قابل اعتماد طریقے سے پیمائش کو تفصیل سے الگ کرتے ہیں۔

لوگوں کے پوچھے گئے سوالات

کیا ChatGPT AI سے تیار کردہ تصاویر کا پتہ لگا سکتا ہے؟

نہیں، کسی بھی قابل پیمائش معنی میں نہیں۔ یہ اس بنیاد پر ایک پر اعتماد تشخیص پیش کرتا ہے کہ تصویر کیا دکھاتی ہے نہ کہ اس بنیاد پر کہ پکسلز کیسے بنائے گئے تھے۔ جواب کے پیچھے کوئی کیلیبریٹڈ تھریش ہولڈ نہیں ہے، کوئی بینچ مارک نہیں ہے، اور دو بار پوچھنے سے دو مختلف فیصلے حاصل ہو سکتے ہیں۔

لیکن جس تصویر کا میں نے ٹیسٹ کیا اس کے بارے میں یہ درست تھا۔

یہ اکثر درست ہوگا، خاص طور پر واضح کیسز میں جہاں آپ بھی درست ہوتے۔ مسئلہ یہ ہے کہ جب یہ غلط ہوتا ہے تو بھی یہ بالکل ویسا ہی لگتا ہے، لہذا ایک درست جواب سے آپ کو یہ جاننے کا کوئی طریقہ نہیں ملتا کہ اگلی تصویر پر آپ کو کس قسم کا جواب موصول ہوا ہے۔

اگر میں اس سے پکسلز کا تجزیہ کرنے کو کہوں تو کیا ہوگا؟

یہ نہیں کر سکتا۔ ماڈل کے استدلال کرنے سے پہلے تصویر کو ایک معنوی (semantic) نمائندگی میں تبدیل کر دیا جاتا ہے، اور وہ باریک ساخت (texture) جس پر ڈیٹیکشن انحصار کرتی ہے، اس تبدیلی میں ضائع ہو جاتی ہے۔ پکسل تجزیہ مانگنے سے وہی تفصیل ملتی ہے جو پکسل تجزیہ کی دکھائی دیتی۔

کیا ڈیٹیکشن کے لیے بنائے گئے ملٹی موڈل ماڈل موجود ہیں؟

اس شعبے میں تحقیق جاری ہے اور یہ وہ کام نہیں جو ایک عام اسسٹنٹ کرتا ہے۔ ایک مقصد کے لیے بنایا گیا ڈیٹیکٹر حقیقی اور تیار کردہ تصاویر کے جوڑوں پر کیلیبریٹڈ آؤٹ پٹ کے ساتھ تربیت یافتہ ہوتا ہے؛ ایک عام ماڈل کو ہر چیز میں مددگار بننے کے لیے تربیت دی جاتی ہے۔ دونوں کا متبادل ایک دوسرے سے بالکل مختلف ہے۔

کیا مجھے تصویر کی جانچ کرتے وقت چیٹ بوٹ کا استعمال بالکل کرنا چاہیے؟

جی ہاں، وضاحت اور استدلال کے لیے۔ اس سے پوچھیں کہ فریم میں کیا ہے، کیا روشنی مستقل ہے، اور کیا چیز آپ کے شک کی تصدیق یا تردید کرے گی۔ پھر پکسل کے سوال کے لیے ایک ڈیٹیکٹر استعمال کریں، اور دونوں جوابات کو اپنے ذہن میں الگ رکھیں۔

اتنے لوگ پہلے چیٹ بوٹ سے کیوں پوچھتے ہیں؟

کیونکہ یہ دوسرے ٹیب میں کھلا ہوتا ہے اور یہ ہمیشہ جواب دیتا ہے۔ جب غلط ہونے کی قیمت دکھائی نہ دے تو سہولت درستگی پر بھاری پڑتی ہے، اور تصویر کی تصدیق کے معاملے میں قیمت عام طور پر تب تک دکھائی نہیں دیتی جب تک کوئی جواب پر عمل نہ کر چکا ہو۔