सार:
ओपनएआई ने हाल ही में घोषणा की है कि वह अगले कुछ हफ्तों में हिंसा-संबंधी सामग्री पर चैटजीपीटी के प्रतिबंधों को मजबूत करेगा, छोटे उपयोगकर्ताओं के लिए हथियारों और सुरक्षा प्रणाली की जानकारी के लिए सुरक्षा जोड़ देगा। नए उपायों के अनुसार, चैटजीपीटी बातचीत को अपने आप समाप्त कर सकता है जब बातचीत से पता चलता है कि उपयोगकर्ता हिंसा या दूसरों को गंभीर रूप से नुकसान पहुंचाने के विचार पर ध्यान केंद्रित कर रहा है। यदि ऐसे मुद्दों के कारण बातचीत कई बार समाप्त हो जाती है, तो खाता प्रतिबंधित भी किया जा सकता है।
चैटजीपीटी की मूल नीति उपयोगकर्ताओं को हिंसक कृत्यों की योजना बनाने या उन्हें अंजाम देने में मदद करने के लिए मार्गदर्शन प्रदान करने पर रोक लगाती है। यह समायोजन "पिछले बड़े पैमाने पर हमलों और अपराधियों" के बारे में सवालों का जवाब देते समय मॉडल द्वारा प्रदान किए गए विवरण को सीमित कर देगा, यानी, मॉडल सामग्री को कम कर देगा या सुरक्षा परिप्रेक्ष्य से जवाब देने से इंकार कर देगा।
प्रतिबंधों के दायरे में हमले में शामिल हथियारों, उपकरणों और अधिग्रहण के तरीकों को फिर से बनाना, साथ ही क्षति के पैमाने की विस्तृत तुलना के लिए उपयोगकर्ता प्रश्नों को सीमित करना शामिल है जो हमलावर की दृश्यता को बढ़ा सकता है। उपरोक्त प्रतिबंध सभी उपयोगकर्ताओं पर लागू होते हैं, चाहे उनका आयु वर्ग कुछ भी हो या प्रश्न पूछने का उद्देश्य कुछ भी हो, इसलिए वयस्क उपयोगकर्ताओं को भी समान प्रतिबंधों का सामना करना पड़ेगा।
18 वर्ष से कम आयु के उपयोगकर्ताओं के लिए, OpenAI उन हथियारों और सुरक्षा प्रणालियों के बारे में उपयोगी जानकारी को भी सीमित कर देगा जिनका उपयोग हिंसा करने के लिए किया जा सकता है। यह सुरक्षा उन समस्याओं पर भी लागू होगी जो सतह पर हिंसक इरादे का संकेत नहीं देती हैं। OpenAI का कहना है कि किशोर अभी भी सहायता पाने, हिंसा को रोकने या कम करने के तरीके सीखने और विश्वसनीय वयस्कों से जुड़ने के लिए ChatGPT का उपयोग कर सकते हैं।
बेहतर आयु पूर्वानुमान तंत्र उपयोगकर्ता के व्यवहार जैसे विभिन्न संकेतों को संयोजित करेगा ताकि यह लगातार मूल्यांकन किया जा सके कि खाता किसी नाबालिग का हो सकता है या नहीं। यदि उपयुक्त हो, तो सिस्टम स्वचालित रूप से 18 वर्ष से कम आयु के उपयोगकर्ताओं के लिए प्रासंगिक सुरक्षा उपाय लागू करेगा। यदि किसी उपयोगकर्ता को गलती से नाबालिग के रूप में पहचाना जाता है, तो वे सत्यापन के लिए सक्रिय रूप से अपनी पहचान की जानकारी भी जमा कर सकते हैं।
टिप्पणियाँ