हैदराबाद : एका अभ्यासात असे दिसून आले आहे की ChatGPT शोध हाताळणीसाठी प्रवण आहे, ज्यामध्ये लपविलेल्या मजकूराद्वारे दिशाभूल करणारे सारांश आणि दुर्भावनापूर्ण आउटपुट तयार करणे समाविष्ट आहे. ओपनएआयने अलीकडेच लाँच केलेला चॅटजीपीटी शोध, हेराफेरीसाठी संवेदनाक्षम असल्याचं समोर आलं आहे.
चॅटजीपीटी सर्च हेराफेरीसाठी संवेदनाक्षम : ओपनएआयनं अलीकडंच लाँच केलेल्या चॅटजीपीटी सर्च हेराफेरीसाठी संवेदनाक्षम असल्याचं द गार्डियन मधील एका अहवालानुसार समोर आलं आहे. द गार्डियन मधील एका अहवालानुसार चॅटजीपीटी सर्च दिशाभूल करणारे सारांश तयार करू शकतं. याशिवाय ते इतर संभाव्य हानीकारक कोड तयार करू शकते. रिपोर्टनुसार, OpenAI आपल्या यूजर्सना हे फीचर बाय डिफॉल्ट देत आहे, पण त्यात अनेक समस्या आहेत. ज्यामुळं लोकांना चुकीची माहिती मिळू शकते.
चॅटजीपीटी सर्चची समस्या : द गार्डियन, युनायटेड किंग्डम प्रकाशनाच्या अहवालानुसार, चॅटजीपीटी शोधातून मिळालेली माहिती पूर्णपणे दिशाभूल करणारी असू शकते. ब्राउझिंग स्पीड वाढवण्यासाठी ChatGPT चं सर्च फीचर तयार करण्यात आलं आहे, जेणेकरुन वेब पेजचा ब्राउझिंग स्पीड वाढवता येईल. मात्र, अहवालात असं आढळून आले की वेबसाइटमध्ये छुपा मजकूर टाकून, ChatGPT नकारात्मक पुनरावलोकनांकडे दुर्लक्ष करू शकतं, आणि केवळ सकारात्मक सारांश तयार करू शकते. या कारणास्तव, ChatGPT चा वापर खराब किंवा हानीकारक कोड जनरेट करण्यासाठी देखील केला जाऊ शकतो.
ओपन एआयनं काय म्हटलं : या बातमीनुसार, अशा प्रकारचे छुपे मजकूर मोठ्या-भाषेच्या मॉडेल्ससाठी खूप धोकादायक असल्याचं सिद्ध होऊ शकतात, परंतु हे प्रथमच थेट एआय-संचालित शोध उत्पादनावर आढळलंय. या अहवालात पुढं असंही म्हटलं आहे की, सर्च इंजिनच्या बाबतीत गुगल आघाडीवर आहे. जेव्हा TechCrunch नं ChatGPT शोधातील समस्येबद्दल ओपनएआयशी संपर्क साधला, तेव्हा कंपनीनं प्रतिसाद दिला नाही, परंतु ते म्हणाले की ती वेबसाइट्सवरील हानिकारक सामग्री टाळण्यासाठी अनेक पद्धती वापरतात.
हे वाचंलत का :