सैन फ्रांसिस्को :माइक्रोसॉफ्ट के स्वामित्व वाला ओपनएआई एक कंटेंट मॉडरेशन सिस्टम बनाने के लिए GPT-4 जैसे अपने बड़े भाषा मॉडल का इस्तेमाल कर रहा है, जो स्केलेबल, कंसिस्टेंट और कस्टमाइज है. कंपनी के अनुसार, जीपीटी-4 न केवल कंटेंट मॉडरेशन निर्णयों में सहायता कर सकता है, बल्कि पॉलिसी डेवलपमेंट और पॉलिसी इटरेशन (पुनरावृत्ति) में भी मददगार हो सकता है. कंपनी का दावा है कि मॉडल कंटेंट पॉलिसी में विभिन्न नियमों और बारीकियों को पार्स कर सकता है और किसी भी अपडेट को तुरंत अनुकूलित कर सकता है, जिसके चलते कंटेंट की अधिक कंसिस्टेंट लेबलिंग हो सकती है.
OpenAI के लिलियन वेंग, विक गोयल और एंड्रिया वलोन ने मंगलवार को एक ब्लॉगपोस्ट में लिखा, ''हमारा मानना है कि यह डिजिटल प्लेटफॉर्म के भविष्य के बारे में ज्यादा पॉजिटिव वर्जन प्रदान करता है, जहां एआई प्लेटफॉर्म-स्पेसिफिक पॉलिसी के अनुसार ऑनलाइन ट्रैफिक को नियंत्रित करने में मदद कर सकता है. ओपनएआई एपीआई एक्सेस वाला कोई भी व्यक्ति अपना खुद का एआई-असिस्टेंट मॉडरेशन सिस्टम बनाने के लिए इस दृष्टिकोण को लागू कर सकता है.''
ओपनएआई का मानना है कि GPT 4 मॉडरेशन टूल कंपनियों को लगभग छह महीने का काम एक दिन में पूरा करने में मदद कर सकते हैं. ओपनएआई ने कहा, "हम सक्रिय रूप से शामिल करके जीपीटी-4 की प्रेडिक्शन क्वालिटी को और बढ़ाने की खोज कर रहे हैं." कंपनी अज्ञात जोखिमों का पता लगाने के तरीकों के साथ भी एक्सपेरिमेंट कर रही है, और, संवैधानिक एआई से प्रेरित होकर, हाई-लेवल डिस्क्रिप्शन दिए जाने पर संभावित हार्मफुल कंटेंट की पहचान करने के लिए मॉडल का लाभ उठाना है.