ETV Bharat / technology

रोबोट इंसानों की तरह झूठ बोल सकते हैं और धोखा दे सकते हैं : केस स्टडी - Robot tells a lie

क्या रोबोट भी इंसानों की तरह झूठ बोल सकते हैं. एक अध्ययन में इसे सही पाया गया है. इसके अनुसार यह न सिर्फ झूठ बोल सकता है, बल्कि धोखा भी दे सकता है.

Representative Photo
प्रतीकात्मक फोटो (IANS)
author img

By IANS

Published : Sep 6, 2024, 6:32 PM IST

नई दिल्ली : इंसानों की तरह रोबोट भी झूठ बोल सकते हैं और धोखा दे सकते हैं. एक अध्ययन से पता चलता है कि कैसे जेनरेटिव एआई जैसी उभरती तकनीक का इस्तेमाल यूजर्स के साथ हेरफेर करने के लिए किया जा सकता है. अमेरिका में जॉर्ज मेसन यूनिवर्सिटी की टीम के शोध का उद्देश्य उभरती तकनीक और उनके डेवलपर्स के प्रति अविश्वास को समझने के लिए "रोबोट नैतिकता के एक कम अध्ययन किये गये पहलू" का पता लगाना था.

यह निर्धारित करने के लिए कि क्या लोग रोबोट का झूठ बोलना बर्दाश्त कर सकते हैं, टीम ने लगभग 500 प्रतिभागियों से रोबोट के धोखे के विभिन्न रूपों को रैंक करने और समझाने के लिए कहा. विश्वविद्यालय में डॉक्टरेट कैंडिडेट और मुख्य लेखक एंड्रेस रोसेरो ने कहा ,"मुझे लगता है कि हमें किसी भी ऐसी तकनीक के बारे में चिंतित होना चाहिए जो अपनी क्षमताओं की वास्तविक प्रकृति को छिपाने में सक्षम है क्योंकि इससे यूजर्स के विचार को उस तकनीक द्वारा बदला जा सकता है जो यूजर्स (और शायद डेवलपर) का मूल उद्देश्य नहीं था."

उन्होंने कहा, "हमने पहले से ही वेब डिजाइन सिद्धांतों और एआई चैटबॉट्स का उपयोग करने वाली कंपनियों के उदाहरण देखे हैं जो यूजर्स को एक निश्चित काम में लिए हेरफेर करने के लिए डिजाइन किए गए हैं। हमें इन हानिकारक धोखे से खुद को बचाने के लिए विनियमन की आवश्यकता है.

'फ्रंटियर्स इन रोबोटिक्स एंड एआई' नामक पत्रिका में प्रकाशित निष्कर्षों से पता चला है कि रोबोट मनुष्यों को तीन तरीके से धोखा दे सकते हैं - 'एक्सटर्नल स्टेट डिसेप्शन', 'हिडन स्टेट डिसेप्शन' और 'सुपरफिशियल स्टेट डिसेप्शन'.

रोबोटों का उपयोग चिकित्सा, सफाई और अन्य कार्यों में किया गया और कहा गया कि वे रोबोट से परे की दुनिया के बारे में झूठ बोलते हैं - एक गुप्त कैमरे के साथ घर की सफाई करने वाले रोबोट और एक दुकान में काम करने वाले रोबोट.

प्रतिभागियों से रोबोट के व्यवहार, उसके धोखा देने की क्षमता (डिसेप्टिवनेस) और क्या इसे उचित ठहराया जा सकता है - इन तीन प्रश्नों के बारे में राय मांगी गई थी. अधिकांश प्रतिभागियों ने हिडन स्टेट डिसेप्शन को अस्वीकार कर दिया, जिसे उन्होंने सबसे भ्रामक माना.

उन्होंने सुपरफिशियल डिसेप्शन को भी अस्वीकार कर दिया, जिसमें रोबोट ने दर्द महसूस करने का नाटक किया था. शोधकर्ताओं ने इन डिसेप्शनों के लिए, विशेष रूप से हिडन स्टेट डिसेप्शन के लिए रोबोट डेवलपर या मालिकों को जिम्मेदार ठहराया है. उन्होंने चेतावनी दी कि अध्ययन को वास्तविक जीवन की प्रतिक्रियाओं के स्तर पर दोहराने की जरूरत है क्योंकि इस शोध में काफी कम प्रतिभागियों को शामिल किया गया था जो ठोस प्रमाण देने में सक्षम नहीं है.

ये भी पढ़ें : देश में एक लाख रुपये से महंगे स्मार्टफोनों की बिक्री बढ़ी

नई दिल्ली : इंसानों की तरह रोबोट भी झूठ बोल सकते हैं और धोखा दे सकते हैं. एक अध्ययन से पता चलता है कि कैसे जेनरेटिव एआई जैसी उभरती तकनीक का इस्तेमाल यूजर्स के साथ हेरफेर करने के लिए किया जा सकता है. अमेरिका में जॉर्ज मेसन यूनिवर्सिटी की टीम के शोध का उद्देश्य उभरती तकनीक और उनके डेवलपर्स के प्रति अविश्वास को समझने के लिए "रोबोट नैतिकता के एक कम अध्ययन किये गये पहलू" का पता लगाना था.

यह निर्धारित करने के लिए कि क्या लोग रोबोट का झूठ बोलना बर्दाश्त कर सकते हैं, टीम ने लगभग 500 प्रतिभागियों से रोबोट के धोखे के विभिन्न रूपों को रैंक करने और समझाने के लिए कहा. विश्वविद्यालय में डॉक्टरेट कैंडिडेट और मुख्य लेखक एंड्रेस रोसेरो ने कहा ,"मुझे लगता है कि हमें किसी भी ऐसी तकनीक के बारे में चिंतित होना चाहिए जो अपनी क्षमताओं की वास्तविक प्रकृति को छिपाने में सक्षम है क्योंकि इससे यूजर्स के विचार को उस तकनीक द्वारा बदला जा सकता है जो यूजर्स (और शायद डेवलपर) का मूल उद्देश्य नहीं था."

उन्होंने कहा, "हमने पहले से ही वेब डिजाइन सिद्धांतों और एआई चैटबॉट्स का उपयोग करने वाली कंपनियों के उदाहरण देखे हैं जो यूजर्स को एक निश्चित काम में लिए हेरफेर करने के लिए डिजाइन किए गए हैं। हमें इन हानिकारक धोखे से खुद को बचाने के लिए विनियमन की आवश्यकता है.

'फ्रंटियर्स इन रोबोटिक्स एंड एआई' नामक पत्रिका में प्रकाशित निष्कर्षों से पता चला है कि रोबोट मनुष्यों को तीन तरीके से धोखा दे सकते हैं - 'एक्सटर्नल स्टेट डिसेप्शन', 'हिडन स्टेट डिसेप्शन' और 'सुपरफिशियल स्टेट डिसेप्शन'.

रोबोटों का उपयोग चिकित्सा, सफाई और अन्य कार्यों में किया गया और कहा गया कि वे रोबोट से परे की दुनिया के बारे में झूठ बोलते हैं - एक गुप्त कैमरे के साथ घर की सफाई करने वाले रोबोट और एक दुकान में काम करने वाले रोबोट.

प्रतिभागियों से रोबोट के व्यवहार, उसके धोखा देने की क्षमता (डिसेप्टिवनेस) और क्या इसे उचित ठहराया जा सकता है - इन तीन प्रश्नों के बारे में राय मांगी गई थी. अधिकांश प्रतिभागियों ने हिडन स्टेट डिसेप्शन को अस्वीकार कर दिया, जिसे उन्होंने सबसे भ्रामक माना.

उन्होंने सुपरफिशियल डिसेप्शन को भी अस्वीकार कर दिया, जिसमें रोबोट ने दर्द महसूस करने का नाटक किया था. शोधकर्ताओं ने इन डिसेप्शनों के लिए, विशेष रूप से हिडन स्टेट डिसेप्शन के लिए रोबोट डेवलपर या मालिकों को जिम्मेदार ठहराया है. उन्होंने चेतावनी दी कि अध्ययन को वास्तविक जीवन की प्रतिक्रियाओं के स्तर पर दोहराने की जरूरत है क्योंकि इस शोध में काफी कम प्रतिभागियों को शामिल किया गया था जो ठोस प्रमाण देने में सक्षम नहीं है.

ये भी पढ़ें : देश में एक लाख रुपये से महंगे स्मार्टफोनों की बिक्री बढ़ी

ETV Bharat Logo

Copyright © 2024 Ushodaya Enterprises Pvt. Ltd., All Rights Reserved.