ETV Bharat / opinion

डीपफेक के दुरुपयोग पर काबू पाना जरूरी, जानिए लोकतंत्र और सुरक्षा पर कैसे पड़ता है प्रभाव - Misuse of DEEPFAKE - MISUSE OF DEEPFAKE

जैसे-जैसे तकनीक आगे बढ़ रही है, वैसे-वैसे इसका दुरुपयोग भी बढ़ता जा रहा है. इन दिनों डीपफेक वीडियो और डीपफेक ऑडियो के कई मामले सामने आ चुके हैं, जिनकी शिकार बड़ी-बड़ी हस्तियां भी हुई हैं. इस प्रभाव तेजी से बढ़ रहा है और यह भारत के लोकतंत्र पर भी प्रभाव डालने की क्षमता रखती है. जानिए प्रख्यात प्रौद्योगिकी विश्लेषक, गौरी शंकर ममीदी क्या कहते हैं...

Etv Bharat
Etv Bharat
author img

By ETV Bharat Hindi Team

Published : Mar 26, 2024, 6:01 AM IST

हैदराबाद: उन्नत मशीन लर्निंग और चेहरे की पहचान एल्गोरिदम का लाभ उठाने वाली डीपफेक तकनीक, 2017 में Reddit उपयोगकर्ता द्वारा लोकप्रिय होने के बाद से काफी विकसित हुई है. यह इनोवेशन अत्यधिक विश्वसनीय नकली वीडियो और ऑडियो रिकॉर्डिंग के निर्माण को सक्षम बनाता है, जो वैश्विक स्तर पर सूचना अखंडता, व्यक्तिगत गोपनीयता और लोकतांत्रिक प्रक्रियाओं के लिए अभूतपूर्व चुनौतियां पेश करता है.

डीपफेक दुरुपयोग की घटनाएं और इसके लोकतांत्रिक निहितार्थ

इसके मूल में, डीपफेक तकनीक का उपयोग दो प्राथमिक तरीकों से किया जाता है: 'डीपफेस' और 'डीपवॉइस'. डीपफेस में वीडियो में आभासी चेहरों का प्रतिस्थापन या निर्माण शामिल होता है, जबकि डीपवॉइस में आवाजों को बदला या नकल किया जाता है. इन प्रगतियों ने मीडिया निर्माण में नई संभावनाओं को खोल दिया है.

ऐसी सामग्री तैयार करने के लिए उपकरण पेश किए हैं, जिन्हें वास्तविक विषयों की उपस्थिति के बिना असंभव माना जाता था. प्रौद्योगिकी को विशेष रूप से विपणन क्षेत्र में लागू किया गया है, जहां यह टेलर स्विफ्ट, सेलेना गोमेज़, एलोन मस्क और जो रोगन जैसी मशहूर हस्तियों को शामिल करते हुए वैयक्तिकृत और आकर्षक सामग्री बनाता है, भले ही उनकी प्रत्यक्ष भागीदारी न हो.

ऐतिहासिक रूप से, फिल्म और टेलीविजन उद्योग ने वर्षों से इसी तरह की तकनीकों का उपयोग किया है, विशेष रूप से 'फास्ट एंड फ्यूरियस 7' में ब्रायन और 'रॉग वन' में लीया जैसी फिल्मों में भूमिकाओं के लिए मृत अभिनेताओं को पुनर्जीवित करने में. हालांकि, डीपफेक तकनीक न केवल मौजूदा चेहरों की नकल करने के लिए विकसित हुई है, बल्कि पूरी तरह से काल्पनिक लेकिन विश्वसनीय चेहरे बनाने के लिए भी विकसित हुई है.

यह विकास एआई की गहन सीखने की क्षमताओं में तेजी से प्रगति का प्रतीक है, जो मानव विशेषताओं के विस्तृत अध्ययन और मनोरंजन की अनुमति देता है, जिससे कल्पना और वास्तविकता के बीच की रेखाएं धुंधली हो जाती हैं. विपणन में इनोवेशन और रचनात्मकता की अपनी क्षमता के बावजूद, डीपफेक तकनीक का अनुप्रयोग पर्याप्त नैतिक दुविधाएं पैदा करता है.

प्राथमिक चिंता दर्शकों को धोखा देने, गलत सूचना फैलाने और मीडिया में विश्वास को कम करने की प्रौद्योगिकी की क्षमता के इर्द-गिर्द घूमती है. नैतिक विचार सार्वजनिक धारणा में हेरफेर करने या सहमति के बिना व्यक्तियों की समानता का फायदा उठाने के लिए इन उपकरणों के दुरुपयोग के अंतर्निहित जोखिम से उत्पन्न होते हैं.

डीपफेक के माध्यम से विपणन अभियानों में टेलर स्विफ्ट, सेलेना गोमेज़, एलोन मस्क और जो रोगन जैसी मशहूर हस्तियों की भागीदारी रचनात्मकता के लिए प्रौद्योगिकी के दोहन और इसके जिम्मेदार उपयोग को सुनिश्चित करने के बीच संतुलन की तत्काल आवश्यकता पर प्रकाश डालती है.

डीपफेक दुरुपयोग की उल्लेखनीय घटनाओं में 27 मार्च को रूस समर्थक सोशल मीडिया खातों द्वारा हेरफेर किए गए वीडियो का प्रसार शामिल है, जिसमें यूक्रेनी सैनिकों द्वारा मनगढ़ंत कदाचार का प्रदर्शन किया गया था. इसी तरह, रश्मिका मंदाना, कैटरीना कैफ, काजोल और आलिया भट्ट जैसी भारतीय अभिनेत्रियों के वायरल डीपफेक वीडियो ने कृत्रिम बुद्धिमत्ता से नुकसान की संभावना पर चिंता जताई है.

राजनीतिक क्षेत्र में, मार्च 2022 में यूक्रेनी राष्ट्रपति वलोडिमिर ज़ेलेंस्की के एक डीपफेक वीडियो ने भ्रामक रूप से आत्मसमर्पण के लिए एक कॉल का सुझाव दिया, जो भूराजनीतिक गलत सूचना में डीपफेक उपयोग के एक हाई-प्रोफाइल उदाहरण को चिह्नित करता है. जबकि डीपफेक तकनीक रचनात्मकता और विपणन में जुड़ाव के लिए अद्वितीय अवसर प्रदान करती है, यह महत्वपूर्ण नैतिक चुनौतियां भी पेश करती है.

इनोवेशन और हेरफेर के बीच की रेखा पतली है, और इस परिदृश्य को नेविगेट करने के लिए समाज पर संभावित प्रभावों, मीडिया में विश्वास और व्यक्तिगत अधिकारों के सम्मान पर सावधानीपूर्वक विचार करने की आवश्यकता है. मार्केटिंग में डीपफेक तकनीक का उद्भव उन दिशानिर्देशों और विनियमों को विकसित करने के महत्व को रेखांकित करता है, जो जिम्मेदार उपयोग को बढ़ावा देते हैं, यह सुनिश्चित करते हुए कि एआई में प्रगति डिजिटल सामग्री की प्रामाणिकता और अखंडता को कमजोर करने के बजाय बढ़ाने में मदद करती है.

मोंडेलेज़, आईटीसी और ज़ोमैटो जैसे उपभोक्ता ब्रांडों द्वारा डीपफेक तकनीक का अभिनव उपयोग विज्ञापन रणनीतियों में एक महत्वपूर्ण बदलाव का प्रतीक है, जिससे दर्शकों को शाहरुख खान, ऋतिक रोशन और सचिन तेंदुलकर जैसी प्रमुख हस्तियों के साथ बातचीत करने और सह-कलाकार होने की अनुमति मिलती है. यह विकास रचनात्मकता और प्रौद्योगिकी के मिश्रण को प्रदर्शित करता है, जो वैयक्तिकृत और आकर्षक विज्ञापनों के लिए नए रास्ते खोलता है.

मॉन्डेलेज़ ने, विशेष रूप से, कान्स लायंस फेस्टिवल ऑफ़ क्रिएटिविटी में उल्लेखनीय पहचान हासिल की, और भारत के पहले टाइटेनियम लायन सहित कई पुरस्कार हासिल किए. यह प्रशंसा इसके एआई-जनरेटेड कैडबरी विज्ञापन के लिए थी, जिसने स्थानीय दुकान मालिकों को शाहरुख खान के डीपफेक के साथ प्रदर्शित होने में सक्षम बनाया. अपने व्यवसाय के बारे में बुनियादी विवरण जमा करके, ये मालिक निःशुल्क वैयक्तिकृत विज्ञापन प्राप्त कर सकते हैं.

इस अभियान में उपयोग किए गए एआई ने विशेष रूप से स्थानीय स्टोर को बढ़ावा देने के लिए शाहरुख खान के चेहरे और आवाज का एक डीपफेक तैयार किया, जो अनुरूप और सार्थक विज्ञापन सामग्री बनाने में एआई की क्षमता को उजागर करता है. इसी तरह, ज़ोमैटो ने ऋतिक रोशन की विशेषता वाला एक विज्ञापन बनाने के लिए डीपफेक तकनीक का लाभ उठाया.

विज्ञापन में रोशन विभिन्न शहरों के जाने-माने रेस्तरां के विशिष्ट व्यंजनों की लालसा व्यक्त करते नजर आ रहे हैं. इस अभियान ने दर्शकों के फोन जीपीएस को उनके आसपास के शीर्ष व्यंजनों और रेस्तरां की पहचान करने के लिए चतुराई से एकीकृत किया, जिससे एक अनुकूलित नजरिये का अनुभव प्रदान किया गया, जो दर्शकों के स्थान को सीधे विज्ञापन की सामग्री से जोड़ता है.

आईटीसी ने #HarDilKiFantasy अभियान के लिए एआई क्रिएटिव कंपनी अकूल के साथ सहयोग के माध्यम से डीपफेक विज्ञापन क्षेत्र में भी प्रवेश किया. यह अभियान आईटीसी के सनफीस्ट डार्क फैंटेसी बिस्किट ब्रांड के लिए डिज़ाइन किया गया था और प्रतिभागियों को शाहरुख खान के साथ स्क्रीन साझा करने की अनुमति दी गई थी, जो मार्केटिंग में डीपफेक तकनीक के व्यापक अनुप्रयोगों का उदाहरण है.

जैसे-जैसे ब्रांड डीपफेक तकनीक के माध्यम से विज्ञापन की सीमाओं का पता लगाना और उनका विस्तार करना जारी रखते हैं, कानूनी सुरक्षा और नैतिक विचारों से संबंधित प्रश्न उठते हैं. डीपफेक विज्ञापन बनाने में सहमति, कॉपीराइट और गलत सूचना की संभावना से संबंधित जटिल मुद्दों पर ध्यान देना शामिल है.

यह व्यापक कानूनी ढांचे की आवश्यकता को रेखांकित करता है, जो विज्ञापन में नवाचार और रचनात्मकता को बढ़ावा देते हुए व्यक्तियों और ब्रांडों के हितों की रक्षा करता है. यह संतुलन यह सुनिश्चित करने के लिए महत्वपूर्ण है कि डिजिटल मार्केटिंग प्रयासों में विश्वास और प्रामाणिकता बनाए रखते हुए डीपफेक तकनीक का जिम्मेदारी से उपयोग किया जा सके.

सरकारी प्रतिक्रियाएं और सार्वजनिक भावना

भारत में, अपने 760 मिलियन इंटरनेट उपयोगकर्ताओं के साथ, नकली वीडियो के खिलाफ एक महत्वपूर्ण सार्वजनिक आक्रोश ने सरकारी कार्रवाई को प्रेरित किया है. आईटी मंत्री अश्विनी वैष्णव ने डीपफेक खतरे से निपटने के लिए आसन्न नियमों की घोषणा की.

07 नवंबर, 2023 को इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय की सलाह, आईटी नियम 2021 के अनुसार गलत सूचना की पहचान करने और उसे कम करने के लिए सोशल मीडिया मध्यस्थों की आवश्यकता पर जोर देती है.

तकनीकी प्रगति और सामाजिक प्रभाव

जीएएन (जेनरेटिव एडवरसैरियल नेटवर्क्स) और मशीन लर्निंग द्वारा सुगम डीपफेक तकनीक की प्रगति ने डीपफेक के निर्माण को लोकतांत्रिक बना दिया है, जिससे कम या बिना किसी कोडिंग ज्ञान के उनके प्रसार को सक्षम किया जा सके. निर्माण की इस आसानी का गोपनीयता, सुरक्षा और डिजिटल सामग्री की प्रामाणिकता पर गहरा प्रभाव पड़ता है.

इसके अलावा, जैसा कि McAfee द्वारा रिपोर्ट किया गया है, वित्तीय घोटालों में डीपफेक का दुरुपयोग, एआई वॉयस क्लोनिंग से जुड़े वित्तीय धोखाधड़ी के एक महत्वपूर्ण जोखिम को इंगित करता है. रिपोर्ट में कहा गया है कि भारतीय वयस्क आबादी के लगभग 47 प्रतिशत हिस्से ने किसी प्रकार के एआई वॉयस घोटाले का अनुभव किया है या किसी को जानते हैं.

अंतर्राष्ट्रीय सहयोग और नियामक उपाय

एआई द्वारा उत्पन्न बढ़ते खतरों के जवाब में, अमेरिका, कनाडा, ऑस्ट्रेलिया, चीन, जर्मनी, भारत और यूरोपीय संघ के सदस्यों सहित 29 देशों ने डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 के माध्यम से संभावित नुकसान को कम करने के लिए सहयोग का वादा किया है.

यह अधिनियम संवेदनशील व्यक्तिगत डेटा की सुरक्षा और व्यक्तियों की गोपनीयता सुनिश्चित करने में सोशल मीडिया प्लेटफार्मों के बीच जवाबदेही की आवश्यकता पर जोर देता है. दक्षिण कोरिया में सुंगक्यंकवान विश्वविद्यालय के शोधकर्ताओं ने दुनिया में वास्तविक डीपफेक के सबसे बड़े और सबसे विविध डेटासेट का अध्ययन किया.

रिपोर्ट में कहा गया है कि अंग्रेजी, रूसी, मंदारिन और कोरियाई भाषाओं में 21 देशों के 2,000 डीपफेक हैं. डीपफेक को यूट्यूब, टिकटॉक, रेडिट और चीनी वीडियो शेयरिंग प्लेटफॉर्म बिलिबिली से सोर्स किया गया था.

उभरती चुनौतियां और तकनीकी समाधान

डिफ्यूजन मॉडल डीपफेक और जेनरेटिव एआई का तेजी से विकास नई चुनौतियां पेश करता है, जिससे डीपफेक अधिक यथार्थवादी और सुलभ हो जाता है. स्टैनफोर्ड यूनिवर्सिटी जैसे संस्थानों और माइक्रोसॉफ्ट जैसी कंपनियों ने गलत सूचनाओं से निपटने में प्रौद्योगिकी की महत्वपूर्ण भूमिका पर जोर देते हुए, डीपफेक का पता लगाने और समझने में मदद करने के लिए उपकरण और शैक्षिक संसाधन विकसित किए हैं.

निष्कर्ष: एक लचीले भविष्य की ओर

जैसे-जैसे डिजिटल परिदृश्य विकसित हो रहा है, डीपफेक के प्रसार के लिए लोकतांत्रिक अखंडता और व्यक्तिगत गोपनीयता की रक्षा के लिए कानूनी, तकनीकी और शैक्षिक प्रयासों के संयोजन के लिए बहुआयामी दृष्टिकोण की आवश्यकता बढ़ रही है. दक्षिण कोरिया में सुंगक्यंकवान विश्वविद्यालय जैसे संस्थानों के विशेषज्ञों द्वारा किया गया सहयोगात्मक शोध डीपफेक घटना को समझने और उसका मुकाबला करने में वैश्विक प्रयासों के महत्व पर प्रकाश डालता है. डीपफेक के बढ़ते परिष्कार के साथ, डिजिटल सामग्री की प्रामाणिकता बनाए रखने और लोकतंत्र और सुरक्षा के मूलभूत सिद्धांतों की रक्षा करने की अनिवार्यता पहले कभी इतनी महत्वपूर्ण नहीं रही.

हैदराबाद: उन्नत मशीन लर्निंग और चेहरे की पहचान एल्गोरिदम का लाभ उठाने वाली डीपफेक तकनीक, 2017 में Reddit उपयोगकर्ता द्वारा लोकप्रिय होने के बाद से काफी विकसित हुई है. यह इनोवेशन अत्यधिक विश्वसनीय नकली वीडियो और ऑडियो रिकॉर्डिंग के निर्माण को सक्षम बनाता है, जो वैश्विक स्तर पर सूचना अखंडता, व्यक्तिगत गोपनीयता और लोकतांत्रिक प्रक्रियाओं के लिए अभूतपूर्व चुनौतियां पेश करता है.

डीपफेक दुरुपयोग की घटनाएं और इसके लोकतांत्रिक निहितार्थ

इसके मूल में, डीपफेक तकनीक का उपयोग दो प्राथमिक तरीकों से किया जाता है: 'डीपफेस' और 'डीपवॉइस'. डीपफेस में वीडियो में आभासी चेहरों का प्रतिस्थापन या निर्माण शामिल होता है, जबकि डीपवॉइस में आवाजों को बदला या नकल किया जाता है. इन प्रगतियों ने मीडिया निर्माण में नई संभावनाओं को खोल दिया है.

ऐसी सामग्री तैयार करने के लिए उपकरण पेश किए हैं, जिन्हें वास्तविक विषयों की उपस्थिति के बिना असंभव माना जाता था. प्रौद्योगिकी को विशेष रूप से विपणन क्षेत्र में लागू किया गया है, जहां यह टेलर स्विफ्ट, सेलेना गोमेज़, एलोन मस्क और जो रोगन जैसी मशहूर हस्तियों को शामिल करते हुए वैयक्तिकृत और आकर्षक सामग्री बनाता है, भले ही उनकी प्रत्यक्ष भागीदारी न हो.

ऐतिहासिक रूप से, फिल्म और टेलीविजन उद्योग ने वर्षों से इसी तरह की तकनीकों का उपयोग किया है, विशेष रूप से 'फास्ट एंड फ्यूरियस 7' में ब्रायन और 'रॉग वन' में लीया जैसी फिल्मों में भूमिकाओं के लिए मृत अभिनेताओं को पुनर्जीवित करने में. हालांकि, डीपफेक तकनीक न केवल मौजूदा चेहरों की नकल करने के लिए विकसित हुई है, बल्कि पूरी तरह से काल्पनिक लेकिन विश्वसनीय चेहरे बनाने के लिए भी विकसित हुई है.

यह विकास एआई की गहन सीखने की क्षमताओं में तेजी से प्रगति का प्रतीक है, जो मानव विशेषताओं के विस्तृत अध्ययन और मनोरंजन की अनुमति देता है, जिससे कल्पना और वास्तविकता के बीच की रेखाएं धुंधली हो जाती हैं. विपणन में इनोवेशन और रचनात्मकता की अपनी क्षमता के बावजूद, डीपफेक तकनीक का अनुप्रयोग पर्याप्त नैतिक दुविधाएं पैदा करता है.

प्राथमिक चिंता दर्शकों को धोखा देने, गलत सूचना फैलाने और मीडिया में विश्वास को कम करने की प्रौद्योगिकी की क्षमता के इर्द-गिर्द घूमती है. नैतिक विचार सार्वजनिक धारणा में हेरफेर करने या सहमति के बिना व्यक्तियों की समानता का फायदा उठाने के लिए इन उपकरणों के दुरुपयोग के अंतर्निहित जोखिम से उत्पन्न होते हैं.

डीपफेक के माध्यम से विपणन अभियानों में टेलर स्विफ्ट, सेलेना गोमेज़, एलोन मस्क और जो रोगन जैसी मशहूर हस्तियों की भागीदारी रचनात्मकता के लिए प्रौद्योगिकी के दोहन और इसके जिम्मेदार उपयोग को सुनिश्चित करने के बीच संतुलन की तत्काल आवश्यकता पर प्रकाश डालती है.

डीपफेक दुरुपयोग की उल्लेखनीय घटनाओं में 27 मार्च को रूस समर्थक सोशल मीडिया खातों द्वारा हेरफेर किए गए वीडियो का प्रसार शामिल है, जिसमें यूक्रेनी सैनिकों द्वारा मनगढ़ंत कदाचार का प्रदर्शन किया गया था. इसी तरह, रश्मिका मंदाना, कैटरीना कैफ, काजोल और आलिया भट्ट जैसी भारतीय अभिनेत्रियों के वायरल डीपफेक वीडियो ने कृत्रिम बुद्धिमत्ता से नुकसान की संभावना पर चिंता जताई है.

राजनीतिक क्षेत्र में, मार्च 2022 में यूक्रेनी राष्ट्रपति वलोडिमिर ज़ेलेंस्की के एक डीपफेक वीडियो ने भ्रामक रूप से आत्मसमर्पण के लिए एक कॉल का सुझाव दिया, जो भूराजनीतिक गलत सूचना में डीपफेक उपयोग के एक हाई-प्रोफाइल उदाहरण को चिह्नित करता है. जबकि डीपफेक तकनीक रचनात्मकता और विपणन में जुड़ाव के लिए अद्वितीय अवसर प्रदान करती है, यह महत्वपूर्ण नैतिक चुनौतियां भी पेश करती है.

इनोवेशन और हेरफेर के बीच की रेखा पतली है, और इस परिदृश्य को नेविगेट करने के लिए समाज पर संभावित प्रभावों, मीडिया में विश्वास और व्यक्तिगत अधिकारों के सम्मान पर सावधानीपूर्वक विचार करने की आवश्यकता है. मार्केटिंग में डीपफेक तकनीक का उद्भव उन दिशानिर्देशों और विनियमों को विकसित करने के महत्व को रेखांकित करता है, जो जिम्मेदार उपयोग को बढ़ावा देते हैं, यह सुनिश्चित करते हुए कि एआई में प्रगति डिजिटल सामग्री की प्रामाणिकता और अखंडता को कमजोर करने के बजाय बढ़ाने में मदद करती है.

मोंडेलेज़, आईटीसी और ज़ोमैटो जैसे उपभोक्ता ब्रांडों द्वारा डीपफेक तकनीक का अभिनव उपयोग विज्ञापन रणनीतियों में एक महत्वपूर्ण बदलाव का प्रतीक है, जिससे दर्शकों को शाहरुख खान, ऋतिक रोशन और सचिन तेंदुलकर जैसी प्रमुख हस्तियों के साथ बातचीत करने और सह-कलाकार होने की अनुमति मिलती है. यह विकास रचनात्मकता और प्रौद्योगिकी के मिश्रण को प्रदर्शित करता है, जो वैयक्तिकृत और आकर्षक विज्ञापनों के लिए नए रास्ते खोलता है.

मॉन्डेलेज़ ने, विशेष रूप से, कान्स लायंस फेस्टिवल ऑफ़ क्रिएटिविटी में उल्लेखनीय पहचान हासिल की, और भारत के पहले टाइटेनियम लायन सहित कई पुरस्कार हासिल किए. यह प्रशंसा इसके एआई-जनरेटेड कैडबरी विज्ञापन के लिए थी, जिसने स्थानीय दुकान मालिकों को शाहरुख खान के डीपफेक के साथ प्रदर्शित होने में सक्षम बनाया. अपने व्यवसाय के बारे में बुनियादी विवरण जमा करके, ये मालिक निःशुल्क वैयक्तिकृत विज्ञापन प्राप्त कर सकते हैं.

इस अभियान में उपयोग किए गए एआई ने विशेष रूप से स्थानीय स्टोर को बढ़ावा देने के लिए शाहरुख खान के चेहरे और आवाज का एक डीपफेक तैयार किया, जो अनुरूप और सार्थक विज्ञापन सामग्री बनाने में एआई की क्षमता को उजागर करता है. इसी तरह, ज़ोमैटो ने ऋतिक रोशन की विशेषता वाला एक विज्ञापन बनाने के लिए डीपफेक तकनीक का लाभ उठाया.

विज्ञापन में रोशन विभिन्न शहरों के जाने-माने रेस्तरां के विशिष्ट व्यंजनों की लालसा व्यक्त करते नजर आ रहे हैं. इस अभियान ने दर्शकों के फोन जीपीएस को उनके आसपास के शीर्ष व्यंजनों और रेस्तरां की पहचान करने के लिए चतुराई से एकीकृत किया, जिससे एक अनुकूलित नजरिये का अनुभव प्रदान किया गया, जो दर्शकों के स्थान को सीधे विज्ञापन की सामग्री से जोड़ता है.

आईटीसी ने #HarDilKiFantasy अभियान के लिए एआई क्रिएटिव कंपनी अकूल के साथ सहयोग के माध्यम से डीपफेक विज्ञापन क्षेत्र में भी प्रवेश किया. यह अभियान आईटीसी के सनफीस्ट डार्क फैंटेसी बिस्किट ब्रांड के लिए डिज़ाइन किया गया था और प्रतिभागियों को शाहरुख खान के साथ स्क्रीन साझा करने की अनुमति दी गई थी, जो मार्केटिंग में डीपफेक तकनीक के व्यापक अनुप्रयोगों का उदाहरण है.

जैसे-जैसे ब्रांड डीपफेक तकनीक के माध्यम से विज्ञापन की सीमाओं का पता लगाना और उनका विस्तार करना जारी रखते हैं, कानूनी सुरक्षा और नैतिक विचारों से संबंधित प्रश्न उठते हैं. डीपफेक विज्ञापन बनाने में सहमति, कॉपीराइट और गलत सूचना की संभावना से संबंधित जटिल मुद्दों पर ध्यान देना शामिल है.

यह व्यापक कानूनी ढांचे की आवश्यकता को रेखांकित करता है, जो विज्ञापन में नवाचार और रचनात्मकता को बढ़ावा देते हुए व्यक्तियों और ब्रांडों के हितों की रक्षा करता है. यह संतुलन यह सुनिश्चित करने के लिए महत्वपूर्ण है कि डिजिटल मार्केटिंग प्रयासों में विश्वास और प्रामाणिकता बनाए रखते हुए डीपफेक तकनीक का जिम्मेदारी से उपयोग किया जा सके.

सरकारी प्रतिक्रियाएं और सार्वजनिक भावना

भारत में, अपने 760 मिलियन इंटरनेट उपयोगकर्ताओं के साथ, नकली वीडियो के खिलाफ एक महत्वपूर्ण सार्वजनिक आक्रोश ने सरकारी कार्रवाई को प्रेरित किया है. आईटी मंत्री अश्विनी वैष्णव ने डीपफेक खतरे से निपटने के लिए आसन्न नियमों की घोषणा की.

07 नवंबर, 2023 को इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय की सलाह, आईटी नियम 2021 के अनुसार गलत सूचना की पहचान करने और उसे कम करने के लिए सोशल मीडिया मध्यस्थों की आवश्यकता पर जोर देती है.

तकनीकी प्रगति और सामाजिक प्रभाव

जीएएन (जेनरेटिव एडवरसैरियल नेटवर्क्स) और मशीन लर्निंग द्वारा सुगम डीपफेक तकनीक की प्रगति ने डीपफेक के निर्माण को लोकतांत्रिक बना दिया है, जिससे कम या बिना किसी कोडिंग ज्ञान के उनके प्रसार को सक्षम किया जा सके. निर्माण की इस आसानी का गोपनीयता, सुरक्षा और डिजिटल सामग्री की प्रामाणिकता पर गहरा प्रभाव पड़ता है.

इसके अलावा, जैसा कि McAfee द्वारा रिपोर्ट किया गया है, वित्तीय घोटालों में डीपफेक का दुरुपयोग, एआई वॉयस क्लोनिंग से जुड़े वित्तीय धोखाधड़ी के एक महत्वपूर्ण जोखिम को इंगित करता है. रिपोर्ट में कहा गया है कि भारतीय वयस्क आबादी के लगभग 47 प्रतिशत हिस्से ने किसी प्रकार के एआई वॉयस घोटाले का अनुभव किया है या किसी को जानते हैं.

अंतर्राष्ट्रीय सहयोग और नियामक उपाय

एआई द्वारा उत्पन्न बढ़ते खतरों के जवाब में, अमेरिका, कनाडा, ऑस्ट्रेलिया, चीन, जर्मनी, भारत और यूरोपीय संघ के सदस्यों सहित 29 देशों ने डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 के माध्यम से संभावित नुकसान को कम करने के लिए सहयोग का वादा किया है.

यह अधिनियम संवेदनशील व्यक्तिगत डेटा की सुरक्षा और व्यक्तियों की गोपनीयता सुनिश्चित करने में सोशल मीडिया प्लेटफार्मों के बीच जवाबदेही की आवश्यकता पर जोर देता है. दक्षिण कोरिया में सुंगक्यंकवान विश्वविद्यालय के शोधकर्ताओं ने दुनिया में वास्तविक डीपफेक के सबसे बड़े और सबसे विविध डेटासेट का अध्ययन किया.

रिपोर्ट में कहा गया है कि अंग्रेजी, रूसी, मंदारिन और कोरियाई भाषाओं में 21 देशों के 2,000 डीपफेक हैं. डीपफेक को यूट्यूब, टिकटॉक, रेडिट और चीनी वीडियो शेयरिंग प्लेटफॉर्म बिलिबिली से सोर्स किया गया था.

उभरती चुनौतियां और तकनीकी समाधान

डिफ्यूजन मॉडल डीपफेक और जेनरेटिव एआई का तेजी से विकास नई चुनौतियां पेश करता है, जिससे डीपफेक अधिक यथार्थवादी और सुलभ हो जाता है. स्टैनफोर्ड यूनिवर्सिटी जैसे संस्थानों और माइक्रोसॉफ्ट जैसी कंपनियों ने गलत सूचनाओं से निपटने में प्रौद्योगिकी की महत्वपूर्ण भूमिका पर जोर देते हुए, डीपफेक का पता लगाने और समझने में मदद करने के लिए उपकरण और शैक्षिक संसाधन विकसित किए हैं.

निष्कर्ष: एक लचीले भविष्य की ओर

जैसे-जैसे डिजिटल परिदृश्य विकसित हो रहा है, डीपफेक के प्रसार के लिए लोकतांत्रिक अखंडता और व्यक्तिगत गोपनीयता की रक्षा के लिए कानूनी, तकनीकी और शैक्षिक प्रयासों के संयोजन के लिए बहुआयामी दृष्टिकोण की आवश्यकता बढ़ रही है. दक्षिण कोरिया में सुंगक्यंकवान विश्वविद्यालय जैसे संस्थानों के विशेषज्ञों द्वारा किया गया सहयोगात्मक शोध डीपफेक घटना को समझने और उसका मुकाबला करने में वैश्विक प्रयासों के महत्व पर प्रकाश डालता है. डीपफेक के बढ़ते परिष्कार के साथ, डिजिटल सामग्री की प्रामाणिकता बनाए रखने और लोकतंत्र और सुरक्षा के मूलभूत सिद्धांतों की रक्षा करने की अनिवार्यता पहले कभी इतनी महत्वपूर्ण नहीं रही.

ETV Bharat Logo

Copyright © 2025 Ushodaya Enterprises Pvt. Ltd., All Rights Reserved.