ETV Bharat / technology

चॅटजीपीटी 'सर्च' संवेदनाक्षम, वापरकर्त्यांना देऊ शकतं चुकीची माहिती - CHATGPT SEARCH

ओपन एआयनं काही आठवड्यांपूर्वी चॅटजीपीटी सर्च पर्याय लॉंच केला होता. मात्र, एका अहवालात, चॅटजीपीटी सर्चद्वारे यूजर्सला चुकीची माहिती मिळू शकते, असं समोर आलं आहे.

ChatGPT
चॅटजीपीटी (ChatGPT)
author img

By ETV Bharat Tech Team

Published : Dec 27, 2024, 5:48 PM IST

हैदराबाद : एका अभ्यासात असे दिसून आले आहे की ChatGPT शोध हाताळणीसाठी प्रवण आहे, ज्यामध्ये लपविलेल्या मजकूराद्वारे दिशाभूल करणारे सारांश आणि दुर्भावनापूर्ण आउटपुट तयार करणे समाविष्ट आहे. ओपनएआयने अलीकडेच लाँच केलेला चॅटजीपीटी शोध, हेराफेरीसाठी संवेदनाक्षम असल्याचं समोर आलं आहे.

चॅटजीपीटी सर्च हेराफेरीसाठी संवेदनाक्षम : ओपनएआयनं अलीकडंच लाँच केलेल्या चॅटजीपीटी सर्च हेराफेरीसाठी संवेदनाक्षम असल्याचं द गार्डियन मधील एका अहवालानुसार समोर आलं आहे. द गार्डियन मधील एका अहवालानुसार चॅटजीपीटी सर्च दिशाभूल करणारे सारांश तयार करू शकतं. याशिवाय ते इतर संभाव्य हानीकारक कोड तयार करू शकते. रिपोर्टनुसार, OpenAI आपल्या यूजर्सना हे फीचर बाय डिफॉल्ट देत आहे, पण त्यात अनेक समस्या आहेत. ज्यामुळं लोकांना चुकीची माहिती मिळू शकते.

चॅटजीपीटी सर्चची समस्या : द गार्डियन, युनायटेड किंग्डम प्रकाशनाच्या अहवालानुसार, चॅटजीपीटी शोधातून मिळालेली माहिती पूर्णपणे दिशाभूल करणारी असू शकते. ब्राउझिंग स्पीड वाढवण्यासाठी ChatGPT चं सर्च फीचर तयार करण्यात आलं आहे, जेणेकरुन वेब पेजचा ब्राउझिंग स्पीड वाढवता येईल. मात्र, अहवालात असं आढळून आले की वेबसाइटमध्ये छुपा मजकूर टाकून, ChatGPT नकारात्मक पुनरावलोकनांकडे दुर्लक्ष करू शकतं, आणि केवळ सकारात्मक सारांश तयार करू शकते. या कारणास्तव, ChatGPT चा वापर खराब किंवा हानीकारक कोड जनरेट करण्यासाठी देखील केला जाऊ शकतो.

ओपन एआयनं काय म्हटलं : या बातमीनुसार, अशा प्रकारचे छुपे मजकूर मोठ्या-भाषेच्या मॉडेल्ससाठी खूप धोकादायक असल्याचं सिद्ध होऊ शकतात, परंतु हे प्रथमच थेट एआय-संचालित शोध उत्पादनावर आढळलंय. या अहवालात पुढं असंही म्हटलं आहे की, सर्च इंजिनच्या बाबतीत गुगल आघाडीवर आहे. जेव्हा TechCrunch नं ChatGPT शोधातील समस्येबद्दल ओपनएआयशी संपर्क साधला, तेव्हा कंपनीनं प्रतिसाद दिला नाही, परंतु ते म्हणाले की ती वेबसाइट्सवरील हानिकारक सामग्री टाळण्यासाठी अनेक पद्धती वापरतात.

हे वाचंलत का :

  1. अर्धवेळ नोकरीचे आमिष दाखवून व्यावसायिकाची 57 लाखांची फसवणूक, 14 जणाविरोंधात गुन्हा दाखल
  2. रिलायन्स जिओचा धमाका..! फक्त 601 मध्ये अमर्यादित 5G डेटाचा वार्षिक प्लॅन लाँच
  3. Redmi 14C 5G फोन लवकरच लाँच होणार, काय असणार खास?

हैदराबाद : एका अभ्यासात असे दिसून आले आहे की ChatGPT शोध हाताळणीसाठी प्रवण आहे, ज्यामध्ये लपविलेल्या मजकूराद्वारे दिशाभूल करणारे सारांश आणि दुर्भावनापूर्ण आउटपुट तयार करणे समाविष्ट आहे. ओपनएआयने अलीकडेच लाँच केलेला चॅटजीपीटी शोध, हेराफेरीसाठी संवेदनाक्षम असल्याचं समोर आलं आहे.

चॅटजीपीटी सर्च हेराफेरीसाठी संवेदनाक्षम : ओपनएआयनं अलीकडंच लाँच केलेल्या चॅटजीपीटी सर्च हेराफेरीसाठी संवेदनाक्षम असल्याचं द गार्डियन मधील एका अहवालानुसार समोर आलं आहे. द गार्डियन मधील एका अहवालानुसार चॅटजीपीटी सर्च दिशाभूल करणारे सारांश तयार करू शकतं. याशिवाय ते इतर संभाव्य हानीकारक कोड तयार करू शकते. रिपोर्टनुसार, OpenAI आपल्या यूजर्सना हे फीचर बाय डिफॉल्ट देत आहे, पण त्यात अनेक समस्या आहेत. ज्यामुळं लोकांना चुकीची माहिती मिळू शकते.

चॅटजीपीटी सर्चची समस्या : द गार्डियन, युनायटेड किंग्डम प्रकाशनाच्या अहवालानुसार, चॅटजीपीटी शोधातून मिळालेली माहिती पूर्णपणे दिशाभूल करणारी असू शकते. ब्राउझिंग स्पीड वाढवण्यासाठी ChatGPT चं सर्च फीचर तयार करण्यात आलं आहे, जेणेकरुन वेब पेजचा ब्राउझिंग स्पीड वाढवता येईल. मात्र, अहवालात असं आढळून आले की वेबसाइटमध्ये छुपा मजकूर टाकून, ChatGPT नकारात्मक पुनरावलोकनांकडे दुर्लक्ष करू शकतं, आणि केवळ सकारात्मक सारांश तयार करू शकते. या कारणास्तव, ChatGPT चा वापर खराब किंवा हानीकारक कोड जनरेट करण्यासाठी देखील केला जाऊ शकतो.

ओपन एआयनं काय म्हटलं : या बातमीनुसार, अशा प्रकारचे छुपे मजकूर मोठ्या-भाषेच्या मॉडेल्ससाठी खूप धोकादायक असल्याचं सिद्ध होऊ शकतात, परंतु हे प्रथमच थेट एआय-संचालित शोध उत्पादनावर आढळलंय. या अहवालात पुढं असंही म्हटलं आहे की, सर्च इंजिनच्या बाबतीत गुगल आघाडीवर आहे. जेव्हा TechCrunch नं ChatGPT शोधातील समस्येबद्दल ओपनएआयशी संपर्क साधला, तेव्हा कंपनीनं प्रतिसाद दिला नाही, परंतु ते म्हणाले की ती वेबसाइट्सवरील हानिकारक सामग्री टाळण्यासाठी अनेक पद्धती वापरतात.

हे वाचंलत का :

  1. अर्धवेळ नोकरीचे आमिष दाखवून व्यावसायिकाची 57 लाखांची फसवणूक, 14 जणाविरोंधात गुन्हा दाखल
  2. रिलायन्स जिओचा धमाका..! फक्त 601 मध्ये अमर्यादित 5G डेटाचा वार्षिक प्लॅन लाँच
  3. Redmi 14C 5G फोन लवकरच लाँच होणार, काय असणार खास?
ETV Bharat Logo

Copyright © 2025 Ushodaya Enterprises Pvt. Ltd., All Rights Reserved.