दिल्ली

delhi

ETV Bharat / technology

ChatGPT Search को धोखा देकर यूज़र्स तक पहुंचाई जा सकती है गलत जानकारी, नई रिसर्च में हुआ खुलासा - CHATGPT SEARCH

एक रिसर्च के मुताबिक चैटजीपीटी सर्च को गुमराह करके यूज़र्स तक गलत जानकारी पहुंचाई जा सकती है. आइए हम आपको इसके बारे में बताते हैं.

ChatGPT Search can be tricked to provide misleading information.
चैटजीपीटी सर्च यूज़र्स को गलत जानकारी देकर गुमराह भी कर सकता है. (फोटो - OpenAI)

By ETV Bharat Tech Team

Published : Dec 27, 2024, 3:02 PM IST

हैदराबाद: Open AI ने कुछ हफ्ते पहले ChatGPT search टूल पेश किया था, ताकि यूज़र्स कम से कम टाइम में वेब पेज ब्राउज कर पाएं और वो दुनिया के सबसे लोकप्रिय सर्च इंजन गूगल सर्च को टक्कर दे पाएं. हालांकि, हाल ही में हई एक जांच में यह सामने आया है कि चैटजीपीटी सर्च के जरिए यूज़र्स को गलत जानकारियां मिल सकती हैं. रिपोर्ट के मुताबिक ओपनएआई अपने यूज़र्स को यह फीचर डिफ़ॉल्ट रूप से दे रहा है, लेकिन इसमें कई दिक्कतें हैं, जिसके कारण लोगों को गलत या भ्रमित जानकारियां मिल सकती है.

चैटजीपीटी सर्च की समस्या

यूनाइटेड किंगडम के एक पब्लिकेशन द गार्जियन की एक रिपोर्ट के मुताबिक, चैटजीपीटी सर्च से मिलने वाली जानकारी पूरी तरह से भ्रामक यानी मिसलीडिंग हो सकती है. इस रिपोर्ट में बताया गया है कि चैटजीपीटी के सर्च फीचर को ब्राउज़िंग स्पीड बढ़ाने के लिए बनाया गया था ताकि किसी वेब पेज के प्रॉडक्ट रिव्यूज़ की समरी या इस तरह के किसी भी तरह के काम के लिए ब्राउज़िंग स्पीड तेज हो सके. हालांकि, इस पब्लिकेशन ने पाया कि, वेबसाइट में छुपे हुए टेक्स्ट डालकर चैटजीपीटी नेगिटिव रिव्यूज़ को इग्नोर कर सकता है और पूरी तरह से सिर्फ पोजिटिव समरी ही जनरेट कर सकता है. इस कारण चैटजीपीटी को खराब या हानिकारक कोड भी जनरेट करने के लिए इस्तेमाल किया जा सकता है.

ओपन एआई ने क्या कहा

इस ख़बर के अनुसार ऐसे हिडन टेक्स्ट अटैक्स लार्ज-लैंग्वेज मॉडल्स के लिए काफी खतरनाक साबित हो सकते हैं, लेकिन ऐसा पहली बार हुआ है कि इसे एक लाइव एआई-पॉवर्ड सर्च प्रोडक्ट पर पाया गया है. इस रिपोर्ट में आगे कहा गया कि सर्च इंजन के मामले में गूगल एक लीडर और है और उसे इस तरह की समस्याओं से निपटने का अनुभव है.

चैटजीपीटी सर्च में हुई इस समस्या के बारे में टेकक्रंच ने जब ओपनएआई से कॉन्टैक्ट किया तो कंपनी ने कोई रिएक्शन नहीं दिया लेकिन कहा कि वो वेबसाइट्स में मौजूद हानिकारक कंटेंट को रोकने के लिए कई तरीकों का इस्तेमाल करती है और इसे सुधारने के लिए लगातार काम भी कर रही है.

ABOUT THE AUTHOR

...view details