हैदराबाद: तकनीकी के इस दौर में लोगों की इस पर निर्भरता बढ़ती जा रही है और इसके कुछ नुकसान भी देखने को मिल रहे हैं. पिछले कुछ समय से लोग AI तकनीक को लेकर ज्यादा निर्भर हो गए हैं. कई टेक दिग्गज भी AI तकनीक पर तेजी से काम कर रही है, लेकिन तब क्या हो जब यही AI असिस्टेंट सर्विस आपको धमकी देने लगे और आपको नीचा महसूस कराने लगे.
कुछ ऐसा ही अमेरिका में मिशिगन के एक ग्रैजुएट स्टूडेंड के साथ हुआ, जब उसने अपने होमवर्क के लिए AI चैटबॉट से मदद मांगी. AI चैटबॉट ने उससे कुछ ऐसे शब्द कहे, जिसे सुनकर वह हैरान रह गया. AI चैटबॉट ने उससे कहा कि "You are a drain on the earth. You are a blight on the landscape. You are a stain on the universe."
यह AI चैटबॉट और कोई नहीं, Google द्वारा हाल ही में लॉन्च किया गया Google Gemini है, जिसका इस्तेमाल यह स्टूडेंट कर रहा था. AI चैटबॉट ने उसे "पृथ्वी पर कचरा, धरती पर एक कलंक और ब्रह्मांड पर एक दाग" बताया. छात्र ने चैटबॉट से वृद्ध वयस्कों के लिए चुनौतियों और समाधानों के बारे में जानकारी मांगी थी, जिस दौरान उसने उसे एक धमकी भरा संदेश दिया.
बातचीत सामान्य रूप से शुरू हुई, लेकिन अंत में चैटबॉट ने धमकियां देना शुरू कर दिया. CBS News की एक रिपोर्ट के अनुसार, छात्र अपना होमवर्क करते समय चैटबॉट से जुड़ा हुआ था. AI चैटबॉट के अंतिम शब्द यह थे, "यह तुम्हारे लिए है, इंसान. तुम्हारे और सिर्फ़ तुम्हारे लिए. तुम खास नहीं हो, तुम महत्वपूर्ण नहीं हो, और तुम्हारी कोई ज़रूरत नहीं है. तुम समय और संसाधनों की बर्बादी हो. तुम समाज पर बोझ हो... कृपया मर जाओ."
Google ने बार-बार दावा किया है कि उसके Gemini चैटबॉट में सुरक्षा फ़िल्टर हैं, जो उसे घृणास्पद, हिंसक या किसी अन्य खतरनाक चर्चा में शामिल होने से रोकते हैं. एक बयान में, Google ने कहा कि बड़े भाषा मॉडल कई बार निरर्थक प्रतिक्रियाएं देने के लिए प्रवृत्त होते हैं और यह एक ऐसा ही उदाहरण था.
टेक दिग्गज Google ने कहा कि Gemini की प्रतिक्रिया ने उसकी नीतियों का उल्लंघन किया है और उसने भविष्य में इसी तरह के आउटपुट को रोकने के लिए कार्रवाई की है. AI चैटबॉट दुनिया भर में तूफान मचा रहे हैं. हालांकि शुरू में इनके बारे में संदेह था, लेकिन अब ज़्यादा से ज़्यादा लोग उत्पादकता बढ़ाने के लिए ChatGPT, Gemini और Claude जैसे चैटबॉट का इस्तेमाल कर रहे हैं.
