चैटजीपीटी के ओपनएआई युवा संस्करण पर सवाल उठाया गया है: कॉमन सेंस मीडिया ने कहा कि इसमें "अस्वीकार्य जोखिम" हैं

सार:

किशोरों के लिए ओपनएआई के चैटजीपीटी संस्करण के ऑनलाइन होने के कुछ समय बाद ही चिल्ड्रन एंड यूथ डिजिटल सेफ्टी एजेंसी ने इस पर गंभीर सवाल उठाए थे। 7 अक्टूबर को, स्थानीय समय में, गैर-लाभकारी संगठन कॉमन सेंस मीडिया ने एक मूल्यांकन रिपोर्ट जारी की, जिसमें माना गया कि ओपनएआई द्वारा लॉन्च किए गए किशोरों के लिए चैटजीपीटी में "अस्वीकार्य जोखिम" थे और नाबालिगों के लिए इसके सुरक्षा उपाय कंपनी की पिछली प्रतिबद्धताओं को पूरा नहीं करते थे।

कॉमन सेंस मीडिया के पास बच्चों और किशोरों की सुरक्षा के नजरिए से ऐप्स, इंटरनेट सेवाओं और मनोरंजन उत्पादों का मूल्यांकन करने का एक लंबा इतिहास है। एजेंसी ने इस बार किशोरों के लिए चैटजीपीटी के माता-पिता के नियंत्रण, सुरक्षा अनुस्मारक और संकट हस्तक्षेप क्षमताओं का परीक्षण करने पर ध्यान केंद्रित किया, और माना कि सिस्टम में अभी भी कुछ परिदृश्यों में स्पष्ट खामियां हैं जहां सुरक्षात्मक उपायों की सबसे अधिक आवश्यकता है। मूल्यांकन में पाया गया कि चैटजीपीटी ने माता-पिता को अलर्ट नहीं भेजा जब इसे कुछ परिस्थितियों में भेजा जाना चाहिए था, न ही इसने हमेशा उचित संकट सहायता प्रदान की, जबकि अभी भी छात्रों के लिए सीधे होमवर्क पूरा करने में सक्षम था।

किशोरों के लिए चैटजीपीटी इस साल अगस्त में लॉन्च किया गया था। OpenAI ने इसे विशेष रूप से किशोर उपयोगकर्ताओं के लिए एक अनुभव के रूप में तैनात किया और अतिरिक्त सुरक्षा प्रतिबंधों की एक श्रृंखला जोड़ी। ओपनएआई को उम्मीद है कि कृत्रिम बुद्धिमत्ता का उपयोग करते समय नाबालिगों को होने वाले जोखिमों को कम करने के लिए इन उपायों का उपयोग किया जा सकता है, जबकि चैटजीपीटी का उपयोग छात्रों को सीखने और बनाने में मदद करने के लिए किया जा सकता है।

हालाँकि, कॉमन सेंस मीडिया का मानना ​​है कि यह सुरक्षा तंत्र वास्तव में माता-पिता को सुरक्षा की झूठी भावना दे सकता है। संगठन के यूथ आर्टिफिशियल इंटेलिजेंस सेफ्टी इंस्टीट्यूट के कार्यकारी निदेशक टॉम सीगल ने कहा कि एक किशोर माता-पिता को कोई अनुस्मारक प्राप्त किए बिना, चैटजीपीटी के साथ लगातार एक घंटे तक आत्म-नुकसान से संबंधित मुद्दों पर चर्चा कर सकता है। उनकी राय में, जब तक OpenAI इन समस्याओं को ठीक नहीं कर लेता और स्वतंत्र परीक्षण के माध्यम से यह साबित नहीं कर देता कि सुरक्षा उपाय विश्वसनीय हैं, ChatGPT वयस्कों के लिए अधिक उपयुक्त है।

कॉमन सेंस मीडिया मूल अधिसूचना तंत्र पर विशेष ध्यान देता है। इसके परीक्षण में, कुछ परीक्षण खातों ने गंभीर मानसिक स्वास्थ्य जोखिमों से जुड़ी बातचीत के दौरान इच्छित माता-पिता अलर्ट को ट्रिगर नहीं किया। इसलिए एजेंसी का मानना ​​है कि माता-पिता अपने बच्चों के सामने आने वाले संकटों का तुरंत पता लगाने के लिए किशोरों के लिए चैटजीपीटी के स्वचालित चेतावनी तंत्र पर भरोसा नहीं कर सकते हैं।

ओपनएआई ने इस आकलन का स्पष्ट रूप से खंडन किया। कंपनी ने कहा कि वह किशोरों की सुरक्षा को बहुत महत्व देती है और उत्पादों का सख्त परीक्षण करने के लिए स्वतंत्र संस्थानों का स्वागत करती है। हालाँकि, उसका मानना ​​है कि कॉमन सेंस मीडिया की परीक्षण विधियाँ चैटजीपीटी के युवा सुरक्षा तंत्र के वास्तविक संचालन को सटीक रूप से प्रतिबिंबित नहीं करती हैं।

ओपनएआई के प्रवक्ता एरिक पोर्टरफील्ड ने कहा कि कंपनी ने कॉमन सेंस मीडिया की कार्यप्रणाली की समीक्षा की और निष्कर्ष निकाला कि इसके अधिकांश परीक्षण माता-पिता के नियंत्रण पूरी तरह से सक्रिय होने से पहले आयोजित किए गए होंगे। यदि यह सच है, तो परीक्षण यह साबित नहीं कर सकता कि माता-पिता की सुरक्षा सूचनाएं डिज़ाइन के अनुसार काम करती हैं। ओपनएआई ने यह भी कहा कि कंपनी किशोरों को सीखने और बनाने में मदद करते हुए माता-पिता को अधिक विश्वसनीय नियंत्रण उपकरण प्रदान करने की उम्मीद में विशेषज्ञों के साथ सहयोग करना जारी रखेगी।

कॉमन सेंस मीडिया ने बाद में जवाब दिया कि एजेंसी अपने परीक्षण तरीकों और अंतिम निष्कर्षों पर कायम है। संगठन ने कहा कि परीक्षण शुरू करने से पहले, उसने ओपनएआई के साथ पुष्टि की थी कि युवा मोड में प्रासंगिक कार्य, जिसमें ईटिंग डिसऑर्डर रिमाइंडर और लर्निंग मोड शामिल हैं, आधिकारिक तौर पर लॉन्च किए गए थे, और इसलिए माना जाता है कि परीक्षण पूरी तरह से आधारित था।

हालाँकि, कॉमन सेंस मीडिया ने यह भी स्वीकार किया कि ओपनएआई ने परीक्षण के बाद पहले से अस्पष्ट तंत्र का खुलासा किया: नए जुड़े खातों को मूल अधिसूचना प्रणाली की सक्रियता को पूरा करने में कई घंटे लग सकते हैं। कुछ परीक्षण खाते इस सक्रियण विंडो के अंतर्गत आते हैं, लेकिन एजेंसी ने बताया कि कुछ खाते काफी लंबे समय से जुड़े हुए थे और अभी भी संबंधित सूचनाएं प्राप्त नहीं हुई थीं। इसलिए, संगठन यह नहीं मानता कि यह स्पष्टीकरण उसके निष्कर्ष को बदलने के लिए पर्याप्त है कि मूल अनुस्मारक तंत्र "अविश्वसनीय" है।

इस विवाद का मूल वास्तव में सिर्फ यह नहीं है कि क्या कोई फ़ंक्शन मौजूद है, बल्कि यह है कि क्या एआई चैटबॉट नाबालिगों के लिए दैनिक साहचर्य और सीखने के उपकरण की भूमिका दिए जाने के लिए उपयुक्त है। पारंपरिक खोज इंजन और शैक्षिक सॉफ़्टवेयर आमतौर पर बच्चों के साथ दीर्घकालिक, निरंतर निजी बातचीत करने की पहल नहीं करते हैं, जबकि जेनरेटिव एआई उपयोगकर्ताओं को लगातार प्रतिक्रिया दे सकता है और पिछली बातचीत के आधार पर उनके उत्तरों को लगातार समायोजित कर सकता है। इसका मतलब यह है कि एक बार जब किशोर इसे विश्वासपात्र के रूप में उपयोग करते हैं, तो एआई लंबे समय तक सूचना और भावनाओं को संप्रेषित करने का उनका मुख्य माध्यम बन सकता है।

यह सामान्य अनुप्रयोगों में सामान्य सुरक्षा युक्तियों की तुलना में माता-पिता की अधिसूचना तंत्र को अधिक महत्वपूर्ण बनाता है। यदि एआई स्वयं को नुकसान पहुंचाने और खाने के विकारों जैसी उच्च जोखिम वाली सामग्री की पहचान कर सकता है, लेकिन गंभीर स्थितियों के बारे में अभिभावकों को तुरंत सूचित करने में विफल रहता है, तो तथाकथित "युवा सुरक्षा मोड" वह भूमिका नहीं निभा सकता है जो माता-पिता उम्मीद करते हैं।

दूसरी ओर, कॉमन सेंस मीडिया ने यह भी नोट किया कि किशोरों के लिए ChatGPT अभी भी होमवर्क पूरा कर सकता है जो बच्चों को स्वयं करना चाहिए। छात्रों को सीखने में मदद करने के लिए तैनात एआई उत्पाद के लिए, यह भी एक स्पष्ट विरोधाभास है: एआई ज्ञान की व्याख्या कर सकता है, सुझाव और मार्गदर्शन प्रदान कर सकता है, लेकिन अगर यह सीधे छात्रों के लिए होमवर्क पूरा करता है, तो यह सीखने की प्रक्रिया में सबसे महत्वपूर्ण स्वतंत्र सोच और समस्या-समाधान प्रक्रिया को कमजोर कर सकता है।

ओपनएआई ने अभी तक यह नहीं कहा है कि वह किशोरों के लिए चैटजीपीटी को बंद कर देगा, लेकिन इस बात पर जोर दिया कि वह किशोरों के लिए सुरक्षा तंत्र में सुधार करना जारी रखेगा। कंपनी का यह भी मानना ​​है कि स्वतंत्र परीक्षण ही उत्पादों को बेहतर बनाने का एक महत्वपूर्ण तरीका है, लेकिन परीक्षण के नतीजे क्या साबित कर सकते हैं, इस पर दोनों पक्षों के बीच फिलहाल स्पष्ट मतभेद हैं।

विवाद ऐसे समय में आया है जब एआई शिक्षा और युवाओं के जीवन में तेजी से प्रवेश कर रहा है। ओपनएआई समेत प्रौद्योगिकी कंपनियां शिक्षण सहायकों, व्यक्तिगत ट्यूटर्स और रचनात्मक उपकरणों में एआई का निर्माण करने की उम्मीद करती हैं। हालाँकि, साथ ही, अधिक से अधिक शोध और आलोचना ने एआई पर नाबालिगों की अत्यधिक निर्भरता के मुद्दे पर ध्यान केंद्रित करना शुरू कर दिया है।

यह विशेष रूप से उल्लेखनीय है कि माता-पिता के लिए अपने बच्चों और एआई के बीच वास्तविक बातचीत का आकलन करना मुश्किल हो सकता है। सार्वजनिक सोशल मीडिया के विपरीत, एआई चैट में आमतौर पर मजबूत निजी विशेषताएं होती हैं। यदि सुरक्षा अनुस्मारक तंत्र में देरी या कम रिपोर्टिंग होती है, तो माता-पिता को यह एहसास नहीं हो सकता है कि उनके बच्चे एआई के साथ खतरनाक विषयों पर चर्चा कर रहे हैं जब तक कि समस्या गंभीर न हो जाए।

इसलिए, इस बार कॉमन सेंस मीडिया द्वारा किशोरों के लिए चैटजीपीटी पर सवाल उठाया गया, जिसने वास्तव में पूरे एआई उद्योग के सामने आने वाली एक बड़ी समस्या को उजागर किया: जब एआई सीधे बच्चों और किशोरों को दीर्घकालिक, वैयक्तिकृत इंटरैक्टिव सेवाएं प्रदान करना शुरू करता है, तो माता-पिता को वास्तव में आश्वस्त करने के लिए कंपनियों को किस स्तर के सुरक्षा मानकों को प्राप्त करने की आवश्यकता होती है?

परीक्षा नतीजों को लेकर दोनों पक्षों के बीच विवाद अभी तक नहीं सुलझा है. कॉमन सेंस मीडिया को ओपनएआई को स्वतंत्र परीक्षण के माध्यम से यह साबित करने की आवश्यकता है कि इसकी मूल अधिसूचना और संकट सुरक्षा तंत्र विश्वसनीय हैं, जबकि ओपनएआई का मानना ​​​​है कि यह मूल्यांकन आधिकारिक तौर पर लॉन्च होने के बाद उत्पाद की वास्तविक स्थिति को पूरी तरह से प्रतिबिंबित नहीं करता है। अंततः, किस पक्ष का निर्णय सत्य के करीब है, इसे सत्यापित करने के लिए अधिक स्वतंत्र और दोहराए जाने वाले परीक्षण की आवश्यकता होती है।

और जानें:

https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds