सार:
ओपनएआई ने किशोरों द्वारा चैटजीपीटी के उपयोग पर अपनी पहली रिपोर्ट जारी की। डेटा से पता चलता है कि किशोर उपयोगकर्ता प्रतिदिन औसतन 15 मिनट से कम समय के लिए चैटजीपीटी का उपयोग करते हैं, और लगातार 3 घंटे से अधिक समय तक चैटजीपीटी का उपयोग करने वाले उपयोगकर्ताओं का अनुपात 2% से कम है। ओपनएआई यह स्पष्ट करने की उम्मीद करता है कि अधिकांश किशोर लंबे समय तक चैटबॉट में नहीं डूबे रहते हैं, लेकिन साथ ही, नाबालिगों के मानसिक स्वास्थ्य और विकास पर कृत्रिम बुद्धिमत्ता के प्रभाव के बारे में चिंताएं बढ़ती जा रही हैं।
ओपनएआई ने कहा कि किशोर वार्तालापों में जहां ब्रेक रिमाइंडर दिखाई देते हैं, लगभग आधे उपयोगकर्ता 5 मिनट के भीतर चैट को रोक देंगे या समाप्त कर देंगे। कंपनी का मानना है कि यह डेटा दिखाता है कि उसका हाल ही में जोड़ा गया स्वस्थ उपयोग तंत्र काम कर रहा है। इसके विपरीत, 2% से भी कम किशोर उपयोगकर्ताओं ने इसे 3 घंटे से अधिक समय तक लगातार उपयोग किया है, और इन दीर्घकालिक उपयोगकर्ताओं में से, 80% से अधिक ने कम से कम एक अध्ययन-संबंधित प्रश्न पूछा है।
डेटा का यह सेट OpenAI द्वारा किशोरों के लिए ChatGPT लॉन्च करने के बाद जारी किया गया था। यह सुविधा इस साल अगस्त में लॉन्च की गई थी और इसका लक्ष्य 13 से 17 वर्ष की आयु के किशोर हैं। जब सिस्टम यह निर्धारित करता है कि उपयोगकर्ता की आयु 18 वर्ष से कम हो सकती है, या उपयोगकर्ता सक्रिय रूप से प्रासंगिक आयु जानकारी प्रदान करता है, तो सिस्टम स्वचालित रूप से नाबालिगों के लिए सुरक्षा सेटिंग्स सक्षम कर देगा।
किशोरों के लिए चैटजीपीटी का एक डिज़ाइन शिक्षा पर केंद्रित है। ओपनएआई ने कहा कि सक्षम मोड वाले किशोरों ने अधिक अध्ययन-संबंधी संदेश भेजे और सीखने के विज़ुअलाइज़ेशन टूल और स्टडी मोड का अधिक बार उपयोग किया। उत्तरार्द्ध सीधे असाइनमेंट का उत्तर नहीं देता है, बल्कि छात्रों को चरण-दर-चरण संकेतों, प्रश्नों और ज्ञान जांच के माध्यम से सीखने की प्रक्रिया को स्वयं पूरा करने में मदद करता है।
OpenAI ने यह भी कहा कि एक सप्ताह के भीतर, लगभग 1.2 मिलियन किशोरों ने लर्निंग विज़ुअलाइज़ेशन फ़ंक्शन का उपयोग किया, और 180,000 से अधिक लोगों ने चरण-दर-चरण सीखने के लिए स्टडी मोड का उपयोग किया। कंपनी का मानना है कि इन आंकड़ों से पता चलता है कि किशोरों के लिए चैटजीपीटी का उपयोग करना एक महत्वपूर्ण परिदृश्य सिर्फ मनोरंजन के लिए नहीं है, बल्कि सीखने, समस्याओं को हल करने और नए विचारों की खोज करने के लिए भी है।
ओपनएआई ने यह भी घोषणा की कि वह किशोरों के लिए सीखने के कार्यों को और जोड़ेगा। इनमें आगामी कॉलेज प्लानर कॉलेज एप्लिकेशन प्लानिंग टूल शामिल है, जो छात्रों को आवेदन आवश्यकताओं, समय सीमा, कार्यों, वित्तीय सहायता और अन्य जानकारी को व्यवस्थित करने में मदद कर सकता है। इसके अतिरिक्त, कंपनी फ़्लैशकार्ड और अधिक सुविधाजनक क्विज़ निर्माण क्षमताएं जोड़ने की योजना बना रही है।
हालाँकि, जब OpenAI ने उपयोग डेटा का यह अपेक्षाकृत सकारात्मक सेट जारी किया, तो ChatGPT के युवा सुरक्षा तंत्र के बारे में संदेह भी काफी बढ़ गया।
गैर-लाभकारी संगठन कॉमन सेंस मीडिया की सहायक कंपनी, यूथ एआई सेफ्टी इंस्टीट्यूट ने उसी दिन किशोरों के लिए चैटजीपीटी पर एक जोखिम मूल्यांकन रिपोर्ट जारी की और इसे "अस्वीकार्य जोखिम" के रूप में दर्जा दिया। एजेंसी ने युवा उपयोग परिदृश्यों में चैटजीपीटी की सुरक्षा का मूल्यांकन करने के लिए 4,000 से अधिक परीक्षण किए और माना कि ओपनएआई द्वारा प्रचारित कुछ सुरक्षा उपायों ने अपेक्षित परिणाम प्राप्त नहीं किए।
एक मुद्दा जिस पर बहुत अधिक ध्यान दिया गया है, वह है आत्महत्या, खुद को नुकसान पहुंचाने और खान-पान संबंधी विकारों जैसे संवेदनशील विषयों की बात आने पर माता-पिता की अधिसूचना तंत्र। कॉमन सेंस मीडिया ने कहा कि अपने परीक्षण के दौरान, चैटजीपीटी माता-पिता को स्थिर और समयबद्ध तरीके से प्रासंगिक अलर्ट जारी करने में सक्षम नहीं था, और कुछ मामलों में सूचनाएं भी जारी नहीं कीं। एजेंसी ने यह भी कहा कि कुछ संवेदनशील बातचीत में, चैटबॉट ने उपयोगकर्ताओं को संकटकालीन हॉटलाइन या पेशेवर मदद लेने की विश्वसनीय सलाह भी नहीं दी।
OpenAI परीक्षण के निष्कर्षों पर विवाद करता है। कंपनी ने कहा कि कॉमन सेंस मीडिया के परीक्षण परिणाम किशोरों के लिए चैटजीपीटी के सुरक्षा तंत्र को सटीक रूप से प्रतिबिंबित नहीं करते हैं जब यह वास्तव में चल रहा है, और बताया कि माता-पिता और किशोर खातों को संबद्ध होने और संबंधित सुरक्षा सुविधाओं को पूरी तरह से सक्रिय होने में कई घंटे लग सकते हैं।
ओपनएआई का मानना है कि यदि माता-पिता के नियंत्रण फ़ंक्शन के पूरी तरह से सक्षम होने से पहले परीक्षण शुरू और समाप्त हो जाता है, तो परीक्षण के परिणाम अंतिम स्थिति को प्रतिबिंबित नहीं कर सकते हैं। कंपनी ने यह भी कहा कि प्रासंगिक कार्यों की तैनाती में सुरक्षा और सिस्टम पैमाने जैसे कारक शामिल हैं, इसलिए खाता बनने के तुरंत बाद सभी सुरक्षा उपाय प्रभावी नहीं होंगे।
कॉमन सेंस मीडिया इस स्पष्टीकरण से असहमत है। एजेंसी ने कहा कि परीक्षण के लिए उपयोग किए गए कुछ खाते लिंक किए गए थे और काफी समय से चल रहे थे लेकिन अभी भी समय पर अधिसूचित नहीं किया गया था। एजेंसी के अनुसार, कुछ सूचनाएं तब तक सामने नहीं आईं जब तक कि संबंधित खाते हफ्तों तक संवेदनशील विषयों को रिकॉर्ड नहीं कर रहे थे।
विवाद के पीछे कृत्रिम बुद्धिमत्ता चैटबॉट और पारंपरिक सोशल मीडिया के बीच एक स्पष्ट अंतर है। सोशल मीडिया मुख्य रूप से उपयोगकर्ताओं को सूचना धाराओं, लघु वीडियो और सामाजिक इंटरैक्शन के माध्यम से आकर्षित करता है, जबकि चैटबॉट एक-पर-एक बातचीत के माध्यम से उपयोगकर्ताओं को सीधे प्रतिक्रिया देते हैं। किशोरों के लिए, यह अत्यधिक वैयक्तिकृत इंटरैक्शन एआई को एक सीखने का उपकरण बना सकता है और, कुछ मामलों में, भावनात्मक संचार या यहां तक कि दीर्घकालिक साहचर्य की वस्तु भी बना सकता है।
इसलिए ओपनएआई ने किशोरों के लिए चैटजीपीटी में अधिक प्रतिबंध जोड़े हैं, जिसमें आत्म-नुकसान, हिंसा, खाने के विकारों, जोखिम भरी गतिविधियों और अश्लील सामग्री के खिलाफ उम्र-उपयुक्त सुरक्षा शामिल है, और सिस्टम को उन अभिव्यक्तियों से बचने की आवश्यकता है जो भावनात्मक निर्भरता को प्रेरित कर सकती हैं। कंपनी ने ब्रेक रिमाइंडर भी जोड़े हैं और उत्पाद डिजाइन में लगातार इस बात पर जोर दिया है कि चैटजीपीटी कृत्रिम बुद्धिमत्ता है, वास्तविक दोस्त या इंसान नहीं।
इस बार OpenAI द्वारा जारी किया गया उपयोग डेटा ChatGPT को किशोरों के सोशल मीडिया उपयोग से अलग करने का भी प्रयास करता है। कंपनी ने कहा कि किशोर औसतन प्रतिदिन 15 मिनट से भी कम समय के लिए चैटजीपीटी का उपयोग करते हैं, जबकि सार्वजनिक डेटा से पता चलता है कि किशोर दिन में कई घंटों तक सोशल मीडिया का उपयोग कर सकते हैं। हालाँकि, दोनों के उपयोग के कार्यों और उद्देश्यों में स्पष्ट अंतर हैं, इसलिए डेटा का यह सेट सीधे तौर पर यह साबित नहीं कर सकता है कि चैटजीपीटी से किशोरों को प्रभावित करने का जोखिम कम है।
वर्तमान में, किशोरों के लिए ChatGPT की सुरक्षा के मूल्यांकन में OpenAI और बाहरी संगठनों के बीच स्पष्ट अंतर हैं। ओपनएआई का मानना है कि प्रारंभिक उपयोग डेटा और बाकी अनुस्मारक और अन्य फ़ंक्शन दिखाते हैं कि किशोर आमतौर पर बड़ी मात्रा में चैटजीपीटी में डूबे नहीं रहते हैं, और उपयोग व्यवहार का एक बड़ा हिस्सा सीखने से संबंधित है; कॉमन सेंस मीडिया का मानना है कि भले ही समग्र उपयोग का समय लंबा न हो, फिर भी आत्म-नुकसान जैसे उच्च जोखिम वाले परिदृश्यों से निपटने के दौरान चैटबॉट्स में सुरक्षा खामियां गंभीर परिणाम दे सकती हैं।
जैसे-जैसे एआई चैटबॉट तेजी से किशोरों के अध्ययन और दैनिक जीवन में प्रवेश कर रहे हैं, बहस धीरे-धीरे "क्या बच्चों को एआई का उपयोग करना चाहिए" से "नाबालिगों द्वारा एआई का किस तरह से उपयोग किया जाना चाहिए, और माता-पिता क्या देख सकते हैं और नियंत्रित कर सकते हैं" पर स्थानांतरित हो रहा है।
ओपनएआई के लिए, किशोरों के लिए चैटजीपीटी न केवल शिक्षा में एआई के अनुप्रयोग का विस्तार करने का एक महत्वपूर्ण प्रयास है, बल्कि एक ऐसा उत्पाद भी है जिसे अपनी सुरक्षा साबित करना जारी रखना चाहिए। भविष्य में, किशोरों का वास्तविक उपयोग डेटा, माता-पिता के नियंत्रण कार्यों की विश्वसनीयता और उच्च जोखिम वाली बातचीत में सुरक्षा प्रदर्शन यह तय करने के लिए महत्वपूर्ण आधार बन जाएगा कि यह तंत्र वास्तव में प्रभावी है या नहीं।
संबंधित लेख:
ChatGPT के OpenAI युवा संस्करण पर सवाल उठाया गया है: कॉमन सेंस मीडिया ने कहा कि इसमें “अस्वीकार्य जोखिम” हैं
टिप्पणियाँ