AI Not Safe : आर्टिफिशियल इंटेलिजेंस मॉडल बच्चों के लिए सुरक्षित नहीं

AI models unsafe for kids : यह बात सामने आई है कि AI मॉडल बच्चों के लिए सुरक्षित नहीं है. इससे मनोवैज्ञानिक नुकसान की संभावना बढ़ जाती है. एआई रेटिंग सिस्टम सामान्य ज्ञान एआई सिद्धांतों के एक सेट के आधार पर उत्पादों का मूल्यांकन करती है.

सैन फ्रांसिस्को : एआई रेटिंग सिस्टम से यह बात सामने आई है कि स्नैपचैट के माई एआई डेल और स्टेबल डिफ्यूजन जैसे लोकप्रिय आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल बच्चों के लिए सुरक्षित नहीं है. इससे भावनात्मक, शारीरिक और मनोवैज्ञानिक नुकसान की संभावना बढ़ जाती है. रेटिंग प्रणाली को एआई उत्पादों के नैतिक उपयोग, पारदर्शिता और सुरक्षा और प्रभाव का आकलन करने के लिए बच्चों और परिवारों के लिए अग्रणी वकालत समूह कॉमन सेंस मीडिया द्वारा डिजाइन किया गया है.

एआई विशेषज्ञों की एक श्रृंखला से इनपुट के साथ विकसित एआई रेटिंग प्रणाली सामान्य ज्ञान एआई सिद्धांतों के एक सेट के आधार पर उत्पादों का मूल्यांकन करती है. पांच-बिंदु पैमाने पर 10 लोकप्रिय ऐप्स की समीक्षा करने की प्रक्रिया में कॉमन सेंस ने आज के एआई परिदृश्य के बारे में निम्नलिखित अंतर्दृष्टि निकाली जो नीति निर्माताओं, शिक्षकों, माता-पिता और उपभोक्ताओं के लिए उपयोगी होगी. 5 के पैमाने पर चैटजीपीटी और बार्ड को 3 की रेटिंग मिली, जबकि स्नैपचैट के माई एआई, डेल और स्टेबल डिफ्यूजन को सिर्फ 1-2 रेटिंग मिली.

कॉमन सेंस मीडिया के संस्थापक और सीईओ जेम्स पी. स्टेयर ने कहा "उपभोक्ताओं को एआई उत्पादों के लिए एक स्पष्ट पोषण लेबल तक पहुंच होनी चाहिए जो सभी अमेरिकियों, विशेष रूप से बच्चों और किशोरों की सुरक्षा और गोपनीयता से समझौता कर सकती है.'' रेटिंग बच्चों को ऑनलाइन सुरक्षित रखने और इन नए उत्पादों के रचनाकारों से बढ़ी हुई पारदर्शिता पर जोर देने के लिए नए विधायी और नियामक प्रयासों की जानकारी देगी. कॉमन सेंस मीडिया एआई के वरिष्ठ सलाहकार ट्रेसी पिज्जा फ्रे ने कहा कि एआई हमेशा सही नहीं होता है. उन्‍होंने कहा, ''इस तथ्य के आधार पर कि मॉडलों को भारी मात्रा में इंटरनेट डेटा पर प्रशिक्षित किया जाता है, सभी जेनरेटर एआई विभिन्न प्रकार के सांस्कृतिक, नस्लीय, सामाजिक-आर्थिक, ऐतिहासिक और लैंगिक पूर्वाग्रहों की मेजबानी करते हैं और यह वही है जो हमने अपने मूल्यांकन में पाया है." AI Not Safe