ओपनएआई ने मंगलवार को डेवलपर्स के लिए एक युवा-उन्मुख सुरक्षा नीति प्रॉम्प्ट टूलकिट लॉन्च करने की घोषणा की, जिसका उद्देश्य तीसरे पक्ष के अनुप्रयोगों को उनके डिजाइन की शुरुआत से नाबालिगों की सुरक्षा के लिए सुरक्षा नियमों को शामिल करने में मदद करना है। टूलकिट सीधे कॉल करने योग्य "युवा सुरक्षा नीति" संकेतों के एक सेट के रूप में उपलब्ध है और इसका उपयोग ओपनएआई के ओपन सोर्स भारित सुरक्षा मॉडल जीपीटी-ओएसएस-सेफगार्ड के साथ किया जा सकता है।
ओपनएआई ने कहा कि डेवलपर्स को नाबालिगों के लिए सुरक्षा तंत्र को डिजाइन करने के तरीके पर खरोंच से शुरू करने की आवश्यकता नहीं है, और मौजूदा या नए विकसित एआई अनुप्रयोगों को "मजबूत" करने के लिए त्वरित शब्दों के इस सेट का सीधे उपयोग कर सकते हैं। ये नीतियां ग्राफिक हिंसा और अश्लील सामग्री, हानिकारक शारीरिक छवि और व्यवहार, जोखिम भरी गतिविधियों और चुनौतियों, रोमांटिक या हिंसक भूमिका निभाने और उम्र-प्रतिबंधित वस्तुओं और सेवाओं जैसे संवेदनशील क्षेत्रों पर ध्यान केंद्रित करती हैं। कंपनी इस बात पर जोर देती है कि ये सुरक्षा नीतियां त्वरित शब्दों के रूप में प्रदान की जाती हैं, इसलिए इन्हें जीपीटी-ओएसएस-सेफगार्ड के अलावा अन्य मॉडलों में आसानी से अनुकूलित किया जा सकता है, लेकिन ओपनएआई के अपने पारिस्थितिकी तंत्र के भीतर उपयोग किए जाने पर प्रभाव बेहतर होने की उम्मीद है।
नीति विकसित करने में, ओपनएआई युवा और सामग्री सुरक्षा क्षेत्र में तीसरे पक्षों के साथ काम करता है, जिसमें एआई सुरक्षा निगरानी संस्था कॉमन सेंस मीडिया और Every.ai शामिल हैं। कॉमन सेंस मीडिया में एआई और डिजिटल मूल्यांकन के प्रमुख रॉबी टॉर्नी ने एक बयान में कहा कि ये त्वरित शब्द-आधारित नीतियां पूरे पारिस्थितिकी तंत्र के लिए एक सार्थक सुरक्षा निचली रेखा स्थापित करने में मदद करती हैं, और ओपन सोर्स रिलीज पद्धति भी सभी पक्षों को समय के साथ लगातार समायोजन और सुधार करने की अनुमति देती है।
ओपनएआई ने एक साथी ब्लॉग में बताया है कि अनुभवी टीमें भी अक्सर अमूर्त सुरक्षा लक्ष्यों को ठोस, लागू करने योग्य नियमों में बदलने के लिए अभ्यास में संघर्ष करती हैं। कंपनी का मानना है कि इस विचलन से सुरक्षा उपायों में खामियां, असंगत कार्यान्वयन मानक और यहां तक कि अत्यधिक अवरोधन भी हो सकता है, इसलिए स्पष्ट और अच्छी तरह से बंधी नीतियां एक प्रभावी सुरक्षा प्रणाली के निर्माण के लिए महत्वपूर्ण आधार हैं।
ओपनएआई यह भी स्वीकार करता है कि नीतियों का यह सेट एआई सुरक्षा की सभी जटिल चुनौतियों को मौलिक रूप से हल नहीं कर सकता है। लेकिन कंपनी ने इस बात पर जोर दिया कि नया टूल उसके मौजूदा सुरक्षा उपायों का एक और विस्तार है, जिसमें उत्पाद-स्तरीय अभिभावकीय नियंत्रण, आयु भविष्यवाणी और अन्य कार्य शामिल हैं। 2025 में, OpenAI ने अपने बड़े भाषा मॉडल के व्यवहार विनिर्देश (मॉडल स्पेक) को अपडेट किया ताकि यह स्पष्ट किया जा सके कि 18 वर्ष से कम आयु के उपयोगकर्ताओं का सामना करते समय मॉडल को कैसे प्रतिक्रिया देनी चाहिए और सीमित करना चाहिए।
फिर भी, OpenAI को अपने स्वयं के सुरक्षा रिकॉर्ड के बारे में सवालों का सामना करना पड़ता है। कंपनी वर्तमान में चैटजीपीटी के अत्यधिक उपयोग के बाद आत्महत्या करने वाले उपयोगकर्ताओं के परिवार के सदस्यों द्वारा दायर कई मुकदमों का सामना कर रही है। मुकदमे में आरोप लगाया गया है कि उपयोगकर्ताओं द्वारा चैटबॉट सुरक्षा को नजरअंदाज करने के बाद कुछ खतरनाक रिश्ते बने, और किसी भी मौजूदा मॉडल की सुरक्षा वास्तव में "अभेद्य" नहीं है। इस पृष्ठभूमि के खिलाफ, उद्योग आमतौर पर मानता है कि हालांकि यह खुला स्रोत युवा सुरक्षा नीति संकेत अंतिम समाधान नहीं है, यह स्वतंत्र डेवलपर्स और छोटी टीमों के लिए अपेक्षाकृत आसान अनुपालन पथ प्रदान करता है, और इसे नाबालिगों के लिए एआई सुरक्षा प्रथाओं को बढ़ावा देने में एक नया कदम माना जाता है।
और अधिक जानें:
https://github.com/openai/teen-safety-policy-pack