दो अलग-अलग चीजें जिन्हें लोग एक ही चीज़ कहते हैं
पूरी तरह से जनरेट की गई इमेज कुछ नहीं से शुरू होती है। इसके नीचे कोई फोटोग्राफ नहीं है, कोई सेंसर रीडिंग नहीं है, कोई ऐसा पल नहीं है जो हुआ। हर पिक्सेल एक मॉडल द्वारा निर्मित किया गया था, और इसमें मौजूद व्यक्ति की कोई पहचान नहीं है जिसे बदनाम किया जा सके क्योंकि कोई व्यक्ति नहीं है।
एक डीपफ़ेक किसी वास्तविक चीज़ से शुरू होता है। नीचे एक फोटोग्राफ या वीडियो है, एक वास्तविक क्षण का एक वास्तविक कब्जा, और एक मॉडल ने इसके एक विशिष्ट क्षेत्र को बदल दिया है, आमतौर पर एक चेहरा, किसी और के रेंडरिंग के साथ।
कानूनी, संपादकीय और तकनीकी रूप से अंतर मायने रखता है। एक गैर-मौजूद डॉक्टर की जनरेट की गई स्टॉक फोटो एक लाइसेंसिंग प्रश्न है। एक वास्तविक डॉक्टर की तस्वीर जिसमें उनका चेहरा उस शरीर पर चिपका हुआ है जिससे वे कभी जुड़े नहीं थे, एक मानहानि का सवाल है, और संभवतः एक आपराधिक भी है।
डीपफेक को पकड़ना क्यों कठिन है
एक डिटेक्टर किसी छवि की सांख्यिकीय बनावट को पढ़ता है और यह रिपोर्ट करता है कि इसका कितना हिस्सा किसी मॉडल द्वारा उत्पादित जैसा दिखता है। जब पूरा फ्रेम सिंथेटिक होता है, तो वह सिग्नल हर जगह होता है, और स्कोर स्पष्ट होता है।
फेस-स्वेप इस समस्या को उल्टा कर देता है। तस्वीर का नब्बे प्रतिशत हिस्सा एक वास्तविक फोटोग्राफ है, जिसमें वास्तविक सेंसर शोर और वास्तविक कम्प्रेशन इतिहास है, और पूरे फ्रेम का औसत उसी को दर्शाता है। एक आश्वस्त करने वाला स्वैप वास्तव में भ्रामक छवि पर भी तीस के दशक में स्कोर दे सकता है.
यह मॉडल की विफलता से अधिक प्रश्न की विफलता है। यह पूछना कि क्या छवि जनरेट की गई है, गलत आकार का है जब इसका ईमानदार जवाब यह है कि इसका अधिकांश हिस्सा नहीं है, और इसका एक महत्वपूर्ण हिस्सा है।
वह औसत जिसने 33 का उत्पादन किया, ठीक वही है जो मायने रखने वाली एक टाइल को छिपाता है।
क्षेत्र मानचित्र (रीजन मैप) उस आकार की समस्या का उत्तर है। ओवरलैपिंग टाइल्स को अलग-अलग स्कोर करने का मतलब है कि एक स्थानीयकृत प्रतिस्थापन को उसके अपने पड़ोस के खिलाफ मापा जाता है, न कि उस फ्रेम में पतला किया जाता है जिससे वह संबंधित नहीं है।
शब्दावली, जिस क्रम में यह दिखाई दी
| शब्द | इसका क्या मतलब है | क्या विषय वास्तविक है? |
|---|---|---|
| डीपफेक | किसी वास्तविक व्यक्ति की शक्ल को अन्य फुटेज पर ले जाया गया | हाँ |
| फेस स्वैप | एक स्टिल या वीडियो पर, डीपफेक का सामान्य रूप | हाँ |
| AI-जनरेटेड | बिना किसी स्रोत फोटोग्राफ के प्रॉम्प्ट से उत्पादित | नहीं |
| AI-एडिटेड | एक वास्तविक तस्वीर जिसमें कुछ जोड़ा या हटाया गया है | आमतौर पर |
| सिंथेटिक मीडिया | उपर्युक्त सभी को कवर करने वाला छत्र शब्द (अम्ब्रेला टर्म) | निर्भर करता है |
| चीपफेक | कैप्शन, क्रॉप या पुरानी तारीख से गुमराह किया गया वास्तविक मीडिया | हाँ |
अंतिम पंक्ति पर विचार करना सार्थक है, क्योंकि यह दृश्य गलत सूचना का सबसे आम रूप है और वह है जिसे कोई डिटेक्टर संबोधित नहीं करता है। तीन साल पहले किसी दूसरे देश का एक वास्तविक, संपादित फोटोग्राफ, जिसे आज के समाचार के रूप में कैप्शन दिया गया है, वह वास्तविक फोटोग्राफ होने के कारण स्कोर करेगा जैसा वह है।
मामले के अनुसार, वास्तव में क्या करना है
- आपको संदेह है कि पूरी तस्वीर गढ़ी गई है। पूरे फ्रेम की जाँच चलाएँ। एक सपाट नक्शे के साथ एक उच्च स्कोर उतना ही स्पष्ट है जितना यह मिलता है।
- आपको संदेह है कि किसी व्यक्ति को डाला गया था या बदला गया था। पहले क्षेत्र का नक्शा पढ़ें। संख्या इसे कम करके आंकेगी।
- आपको संदेह है कि कोई दस्तावेज़ बदला गया था। ऊपर दिए गए के समान, और बदले गए फ़ील्ड पर ठीक एक हॉट टाइल की अपेक्षा करें।
- आपको संदेह है कि कैप्शन झूठ बोल रहा है। एक डिटेक्टर मदद नहीं कर सकता है। रिवर्स इमेज सर्च, फिर तारीख और जगह की जाँच करें।
- यह वीडियो है। पूरी तरह से अलग टूलिंग। फ्रेम-दर-फ्रेम स्टिल विश्लेषण उन लौकिक कलाकृतियों (टेम्पोरल आर्टिफ़ैक्ट्स) को छोड़ देता है जो वास्तविक समय के स्वैप को दूर करते हैं।
यह अंतर लोगों की रक्षा क्यों करता है
हर सिंथेटिक छवि को समान रूप से गंभीर मानने से एक साथ दो विफलताएं पैदा होती हैं। यह हानिरहित चीज़ों पर ध्यान बर्बाद करता है, जैसे कि कोई ऐसा व्यक्ति जो जेनरेट किए गए पोर्ट्रेट का उपयोग कर रहा है क्योंकि वे फोटोग्राफर का खर्च नहीं उठा सकते थे, और यह उस मामले को कम-भार देता है जो वास्तव में किसी व्यक्ति को नुकसान पहुँचाता है।
नुकसान पिक्सेल के कृत्रिम होने में नहीं है। यह एक वास्तविक, नामी व्यक्ति को ऐसा कुछ करते हुए दिखाए जाने में है जो उन्होंने नहीं किया था। वह चीज़ है जिसे बढ़ाना उचित है, और यह वह मामला है जहाँ एक मध्यम स्कोर सारांश के रूप में कम से कम भरोसेमंद है।
प्रौद्योगिकी के बजाय पहचान के आसपास एक आंतरिक नीति तैयार करना इसे बेहतर उम्र भी देता है। तरीके बदलते रहेंगे; क्या किसी विशिष्ट व्यक्ति को गलत तरीके से प्रस्तुत किया जा रहा है, इसका सवाल नहीं बदलेगा।
फेस स्वैप वास्तव में कैसे बनाया जाता है
उत्पादन को समझना पहचान को समझाने में मदद करता है। एक स्वैप एक लक्ष्य फोटोग्राफ और उस व्यक्ति की छवियों के एक सेट के साथ शुरू होता है जिसका चेहरा उपयोग किया जाएगा। एक मॉडल उस चेहरे को उस रोशनी, कोण और अभिव्यक्ति के तहत प्रस्तुत करना सीखता है जो पहले से ही लक्ष्य में मौजूद है।
प्रतिपादित (रेंडर्ड) चेहरे को फिर मूल फ्रेम में वापस कंपोजिट किया जाता है, और सीम कठिन हिस्सा होता है। दोनों हिस्सों में अलग-अलग शोर, अलग-अलग कम्प्रेशन इतिहास और अक्सर थोड़ा अलग रंग प्रतिक्रिया होती है, इसलिए सम्मिश्रण कदम सीमा को तब तक चिकना करता है जब तक कि आंख जुड़ने को देखना बंद न कर दे।
वह चिकनाई वही है जिसे एक क्षेत्र का नक्शा पढ़ता है। सम्मिश्रण उच्च आवृत्ति बनावट को हटा देता है जो एक सेंसर पैदा करता है, और परिणामी पैच अपने आस-पास की हर चीज से सांख्यिकीय रूप से अलग होता है, तब भी जब जुड़ना अदृश्य होता है। सीम अदृश्य और मापने योग्य एक ही समय में है।
यह यह भी बताता है कि स्वैप पूरे फ्रेम की जांच से इतनी आसानी से क्यों बच जाता है। हेरफेर किया गया क्षेत्र छोटा है, जानबूझकर अपने परिवेश में मिश्रित है, और एक प्रामाणिक फोटोग्राफ से घिरा हुआ है जो फ्रेम में लिए गए किसी भी औसत पर हावी है।
वह गलती जो बार-बार होती है
लोग डिटेक्टर के माध्यम से एक संदिग्ध डीपफेक चलाते हैं, तीस के दशक में स्कोर देखते हैं, और यह निष्कर्ष निकालते हैं कि छवि वास्तविक है। यह सही संख्या से गलत अनुमान है: स्कोर सही है और यह जिस प्रश्न का उत्तर देता है वह कभी भी वह नहीं था जो पूछा जा रहा था।
इसे ठीक करने वाली आदत छोटी है। किसी भी ऐसी छवि पर जहाँ चिंता किसी विशिष्ट व्यक्ति के बारे में है, मुख्य आंकड़े को पढ़ने से पहले क्षेत्र के नक्शे को खोलें, और औसत के बजाय उच्चतम टाइल को उस निष्कर्ष के रूप में मानें जिस पर कार्रवाई करना उचित है।