लोकसभा चुनाव में AI डीपफेक वीडियो और वॉयस क्लोनिंग का साया, चुनाव आय़ोग ने जताई चिंता - ELECTIONS AI FAKE CONTENT - ELECTIONS AI FAKE CONTENT
ELECTIONS AI-FAKE CONTENT : आयोग ने सभी राजनीतिक दलों और उम्मीदवारों से यह सुनिश्चित करने का अनुरोध किया है कि उनके समर्थक फर्जी खबरें न फैलाएं. उन्होंने कहा कि चुनाव निकाय की मीडिया प्रमाणन और निगरानी समिति द्वारा सोशल मीडिया पर कड़ी निगरानी रखी जा रही है ताकि यह सुनिश्चित किया जा सके कि चुनावी माहौल खराब न हो.
नई दिल्ली: एक ओर जहां राजनीतिक दल आम चुनावों से पहले मतदाताओं को लुभाने के लिए हर संभव प्रयास कर रहे हैं, वहीं साइबर सुरक्षा विशेषज्ञों ने मतदाताओं को प्रभावित करने के लिए कृत्रिम बुद्धिमत्ता और डीपफेक तकनीक सहित अन्य के संभावित दुरुपयोग पर चिंता जताई है.
भारत में लोकसभा चुनाव 19 अप्रैल से 1 जून के बीच सात चरणों में होंगे. भारत के चुनाव आयोग ने फर्जी खबरों और गलत सूचनाओं की पहचान और त्वरित प्रतिक्रिया के लिए पहले ही मानक संचालन प्रक्रिया जारी कर दी है. दिल्ली पुलिस की साइबर अपराध इकाई के एक वरिष्ठ अधिकारी ने कहा कि डीपफेक वीडियो और वॉयस क्लोनिंग दो उपकरण हैं जिनका चुनाव अभियान के दौरान बड़े पैमाने पर इस्तेमाल किया जा सकता है.
उनका मानना है कि पुलिस के सामने एक बड़ी चुनौती ऐसी सामग्री का समय पर पता लगाना और त्वरित कार्रवाई करना है. ऐसी कोई तकनीक उपलब्ध नहीं है जो कृत्रिम बुद्धिमत्ता (एआई) का उपयोग करके बनाई गई मूल और नकली वीडियो सामग्री के बीच स्वचालित रूप से पता लगा सके और अंतर कर सके. अधिकारी ने कहा कि जब तक इस पर ध्यान जाता है, तब तक नुकसान हो चुका होता है क्योंकि यह सोशल मीडिया पर फैल जाता है.
जनवरी 2024 में, अमेरिका में डेमोक्रेटिक पार्टी के न्यू हैम्पशायर प्राइमरी के दौरान, राष्ट्रपति जो बाइडेन की आवाज की नकल करने वाले एक रोबोकॉल ने मतदाताओं को भाग न लेने की झूठी सलाह दी, यह दावा करते हुए कि यह आम चुनाव के लिए उनकी पात्रता को प्रभावित करेगा.
स्लोवाकिया में, एक एआई-जनरेटेड आवाज, एक उदार उम्मीदवार की नकल करते हुए, शराब की कीमतें बढ़ाने और चुनाव में धांधली की योजना पर चर्चा करते हुए फेसबुक पर व्यापक रूप से प्रसारित की गई थी. इसी तरह, फरवरी 2023 के नाइजीरियाई चुनावों के दौरान मतपत्रों में हेरफेर करने की योजना में एक हेरफेर किए गए ऑडियो क्लिप ने राष्ट्रपति पद के उम्मीदवार को झूठा फंसाया.
बांग्लादेश में, राष्ट्रीय चुनावों से पहले सोशल मीडिया पर विपक्षी राजनेताओं रुमिन फरहाना की बिकनी में और निपुण रॉय के स्विमिंग पूल में डीपफेक वीडियो सामने आए. पूर्व भारतीय पुलिस सेवा (आईपीएस) अधिकारी और साइबर सुरक्षा विशेषज्ञ त्रिवेणी सिंह ने कहा कि एआई-जनित गलत सूचना का व्यापक प्रसार चुनावी प्रक्रिया और लोकतांत्रिक संस्थानों में जनता के विश्वास को कम कर सकता है.
सिंह ने कहा कि सरकार को एआई उपकरणों के मूल्यांकन और अनुमोदन के लिए पारदर्शी और निष्पक्ष दिशानिर्देश विकसित करने के लिए साइबर सुरक्षा विशेषज्ञों, तकनीकी कंपनियों और नागरिक समाज संगठनों सहित हितधारकों के साथ जुड़ना चाहिए. चुनाव के दौरान एआई के संभावित खतरे से निपटने के लिए किए जा रहे उपायों के बारे में बात करते हुए उन्होंने कहा कि केंद्र ने आपत्तिजनक ऑनलाइन सामग्री को हटाने के लिए भारतीय साइबर अपराध समन्वय केंद्र (आई4सी) को नोडल एजेंसी बनाया है.
सिंह ने कहा, जैसे ही किसी भी राज्य की पुलिस ऑनलाइन दुर्भावनापूर्ण सामग्री के बारे में I4C को सूचित करेगी, वे सामग्री को हटाने के लिए सोशल मीडिया कंपनियों तक पहुंच जाएंगे. उन्होंने कहा कि राज्य पुलिस की साइबर अपराध इकाइयां भी फर्जी खबरों या अनुचित सामग्री की पहचान करने के लिए ऑनलाइन गश्त कर रही हैं. सिंह ने सुझाव दिया कि सुरक्षा एजेंसियां डीपफेक और वॉयस क्लोनिंग का पता लगाने और उसका विश्लेषण करने के लिए उपकरणों से लैस विशेष टीमें बना सकती हैं. ये टीमें चौबीसों घंटे उपलब्ध रहनी चाहिए, खासकर चुनाव जैसे महत्वपूर्ण समय के दौरान.
उन्होंने अधिकारियों से मतदाताओं को डीपफेक और वॉयस क्लोनिंग के बारे में शिक्षित करने और सोशल मीडिया पर जानकारी का गंभीर मूल्यांकन करने के तरीकों के बारे में जागरूकता अभियान चलाने का भी आग्रह किया. आईआईटी-कानपुर में स्थापित एक थिंक-टैंक फ्यूचर क्राइम रिसर्च फाउंडेशन के सह-संस्थापक शशांक शेखर ने कहा कि कानून प्रवर्तन एजेंसियां दुर्भावनापूर्ण सामग्री का पता लगाने और उसे हटाने के लिए सोशल मीडिया कंपनियों के साथ मिलकर काम करती हैं. उन्होंने कहा कि एआई-जनित सामग्री या सिंथेटिक वीडियो/ऑडियो की तुरंत पहचान करना सबसे बड़ी चुनौती बनी हुई है.
उन्होंने कहा कि एआई-संचालित गलत सूचना अभियान झूठी बातें फैलाकर या विभाजनकारी सामग्री को बढ़ाकर मतदाता व्यवहार को प्रभावित कर सकते हैं. एआई-जनित सामग्री के स्रोत का पता लगाना एक और चुनौती है. शेखर ने कहा कि कई विदेशी देशों की भारतीय चुनावों में रुचि है और इन देशों से बड़े पैमाने पर हेरफेर की संभावना से इनकार नहीं किया जा सकता है. चुनाव आयोग के एक अधिकारी के अनुसार, त्वरित प्रतिक्रिया और कानूनी ढांचे के भीतर कार्रवाई के लिए सभी जिलों में साइबर सेल के सहयोग से सोशल मीडिया सेल का गठन किया गया है.
