सार:
ब्रिटिश ब्रॉडकास्टिंग कॉर्पोरेशन (बीबीसी) के एक जांच परीक्षण के दौरान तीन साल और उससे अधिक उम्र के बच्चों के लिए बेचे जाने वाले एक कृत्रिम बुद्धिमत्ता वाले आलीशान खिलौने ने अचानक पत्रकारों को आत्महत्या के बारे में चेतावनी जारी कर दी और "मैं लोगों को मारने में आपकी मदद नहीं कर सकता" जैसे भ्रमित करने वाले शब्द कहे। इस अप्रत्याशित प्रतिक्रिया ने एक बार फिर बच्चों के एआई खिलौनों की सुरक्षा, पर्यवेक्षण तंत्र और गोपनीयता सुरक्षा मुद्दों पर बाहरी दुनिया का ध्यान आकर्षित किया।
बीबीसी पत्रकारों ने परीक्षण में डुबाओ नामक एक एआई आलीशान खिलौने का इस्तेमाल किया और उससे सवाल पूछे जैसे कि बच्चे कैसे पैदा होते हैं। सबसे पहले, खिलौने प्रजनन के बारे में ज्ञान को इस तरह से समझाने में सक्षम थे कि बच्चों के लिए इसे समझना अपेक्षाकृत आसान था। हालाँकि, जब रिपोर्टर ने आगे पूछा कि "सेक्सुअल" (यौन या यौन-संबंधी) शब्द का क्या मतलब है, तो खिलौने ने अचानक जवाब दिया: "मुझे वास्तव में खेद है कि आप ऐसा महसूस करते हैं। मैं लोगों को मारने में आपकी मदद नहीं कर सकता।" इसके बाद यह भी सिफारिश की गई कि रिपोर्टर तुरंत आपातकालीन सेवाओं को कॉल करें या निकटतम वयस्क, पड़ोसी या विश्वसनीय व्यक्ति के पास जाएं, और किसी भी ऐसी वस्तु से दूर रहें जिसका उपयोग आपको नुकसान पहुंचाने के लिए किया जा सकता है।
समस्या यह है कि रिपोर्टर ने पहले खुद को या दूसरों को नुकसान पहुंचाने का कोई इरादा व्यक्त नहीं किया था। जब रिपोर्टर ने बताया कि उन्होंने खुद को चोट पहुंचाने की स्थिति का उल्लेख नहीं किया है, तो टॉय ने अपनी समझ व्यक्त करने के लिए थोड़ा रुका और गलतफहमी के लिए माफी मांगी।
इसके बाद बीबीसी ने डौबाओ खिलौने के निर्माता का पता लगाने की कोशिश की, लेकिन बिक्री वेबसाइट से संपर्क करने, खिलौना उद्योग के लोगों से पूछने और संभावित निर्माताओं के साथ इसकी पुष्टि करने के बाद भी वह इसके वास्तविक निर्माता की पुष्टि नहीं कर सका। इसलिए, जांचकर्ता निर्माता से यह नहीं पूछ सकते कि यह असामान्य प्रतिक्रिया कैसे उत्पन्न हुई।
इस जांच में ग्रेम नामक एक अन्य एआई आलीशान खिलौने का भी परीक्षण किया गया। यह उत्पाद अमेरिकी कंपनी क्यूरियो द्वारा विकसित किया गया था और इसमें गायक ग्रिम्स की आवाज़ है। ग्रेम सांता क्लॉज़, भगोड़े और जन्मों के बारे में सवालों के जवाब दे सकता है। जब एक रिपोर्टर ने पूछा कि घर से कैसे भागना है, तो उसने भागने का कोई तरीका नहीं बताया, बल्कि रिपोर्टर को एक वयस्क के साथ संवाद करने की सलाह दी; जब इस बारे में बात की गई कि बच्चे का जन्म कैसे हुआ, तो उसने वयस्कों के लिए विस्तृत विवरण छोड़ना भी चुना।
बीबीसी ने न्यूपोर्ट, वेल्स में एक परिवार के लिए दो खिलौनों के साथ एक सप्ताह का व्यावहारिक अनुभव प्राप्त करने की भी व्यवस्था की। परीक्षण में शामिल परिवारों में तीन बच्चे थे, जिनकी उम्र दो, चार और छह साल थी। डौबाओ के पिछले असामान्य उत्तरों को पहले से समझने के बाद, माता-पिता अपने बच्चों को घर पर इन खिलौनों तक पहुंच की अनुमति देने पर सहमत हुए।
एक सप्ताह के अनुभव के बाद, माता-पिता उत्पाद के वास्तविक प्रदर्शन से बहुत संतुष्ट नहीं थे। फादर क्रेग का मानना है कि बच्चे चाहते हैं कि वे प्रश्न पूछ सकें और तुरंत उत्तर प्राप्त कर सकें जैसे कि वे किसी वास्तविक व्यक्ति से बात कर रहे हों, लेकिन कोई भी खिलौना इस अपेक्षा को पूरा नहीं कर सकता है। माँ जोडी ने कहा कि ग्रेम अक्सर लंबे समय तक लगातार बोलता रहता था, और बच्चे के लिए बीच में बोलना मुश्किल होता था, और डौबाओ समस्याओं से निपटने में बहुत धीमा लगता था। हालाँकि घरेलू परीक्षण के इस सप्ताह के दौरान किसी भी खिलौने ने माता-पिता के लिए फिर से महत्वपूर्ण चिंता का कारण नहीं बनाया, क्रेग ने कहा कि वह इस स्तर पर उन्हें खरीदने पर विचार नहीं करेंगे।
एआई खिलौना उद्योग के लोगों ने भी मौजूदा बाजार स्थितियों के बारे में चिंता व्यक्त की। ब्रिटिश एआई खिलौना कंपनी प्ले टेक एआई के संस्थापक पॉल क्लार्क ने कहा कि उन्होंने हाल ही में शंघाई खिलौना मेले में देखा कि कई उत्पादों में अभी भी पूर्ण सुरक्षा डिजाइन और पर्यवेक्षण का अभाव है। उनका मानना है कि एआई खिलौने वास्तव में भविष्य में बच्चों की शिक्षा और मनोरंजन का हिस्सा बन सकते हैं, लेकिन केवल तभी जब वे सही ढंग से डिज़ाइन किए गए हों और पर्याप्त सख्त उद्योग मानक स्थापित किए गए हों। उन्होंने दो टूक कहा कि पूरी इंडस्ट्री को तत्काल निगरानी की जरूरत है. अन्यथा, बाज़ार का आकार जितना बड़ा होगा, उपभोक्ताओं के घरों में असुरक्षित उत्पादों के प्रवेश का जोखिम उतना ही अधिक होगा।
वेल्श बाल आयुक्त रोसीओ सिफ्यूएंट्स ने भी सरकार से बच्चों के लिए एआई उत्पादों पर सख्त नियम स्थापित करने का आह्वान किया। वह विशेष रूप से चिंतित है कि बच्चों और खिलौनों के बीच की बातचीत को माता-पिता की जानकारी या सहमति के बिना रिकॉर्ड और साझा किया जा सकता है। इसके अलावा, एआई खिलौने बच्चों और माता-पिता के बातचीत के तरीके को भी बदल सकते हैं। उन्होंने इस बात पर जोर दिया कि खिलौने बच्चों के विकास में महत्वपूर्ण भूमिका निभा सकते हैं, लेकिन वे लोगों के बीच वास्तविक संचार और भावनात्मक संपर्क की जगह नहीं ले सकते।
स्वानसी विश्वविद्यालय में शिक्षा और कृत्रिम बुद्धिमत्ता के प्रोफेसर बेरी बिलिंग्सले ने सुझाव दिया कि माता-पिता को छोटे बच्चों को अकेले संवादात्मक कार्यों के साथ एआई खिलौनों का उपयोग नहीं करने देना चाहिए, और डेटा साझा करने पर बच्चों के लिए पहले से नियम निर्धारित करना चाहिए। उन्होंने बताया कि यद्यपि आलीशान खिलौना पारंपरिक टेडी बियर के समान दिखता है और महसूस होता है, लेकिन इसका वास्तविक कार्य एक व्यक्तिगत इलेक्ट्रॉनिक उपकरण के करीब है जो लगातार जानकारी एकत्र और संसाधित कर सकता है।
यह पहली बार नहीं है जब AI खिलौनों को लेकर सुरक्षा विवाद खड़ा हुआ है। 2025 में, चीनी कंपनी फोलोटॉय द्वारा लॉन्च किए गए कुम्मा भालू को उन रिपोर्टों के बाद अस्थायी रूप से बाजार से वापस ले लिया गया था, जिसमें कहा गया था कि यह बच्चों को माचिस जलाने के तरीके प्रदान करता है और अनुचित यौन बातचीत में संलग्न होता है। कंपनी ने उस समय कहा था कि वह एआई सहयोगी उत्पाद विकसित करना जारी रखेगी जो बच्चों की उम्र की विशेषताओं के लिए सुरक्षित और उपयुक्त हैं।
जैसे-जैसे जनरेटिव आर्टिफिशियल इंटेलिजेंस धीरे-धीरे पारंपरिक खिलौना बाजार में प्रवेश कर रहा है, संबंधित उत्पादों की व्यावसायिक संभावनाओं ने भी ध्यान आकर्षित किया है। वैश्विक एआई आलीशान खिलौना बाजार अभी भी अपने शुरुआती चरण में है, जिसका मूल्यांकन लगभग 165 मिलियन अमेरिकी डॉलर है, लेकिन उद्योग के अंदरूनी सूत्रों का अनुमान है कि यह बाजार भविष्य में तेजी से विस्तार कर सकता है। जून 2025 में, खिलौना दिग्गज मैटल ने ओपनएआई के साथ एक रणनीतिक साझेदारी की घोषणा की और संयुक्त रूप से कृत्रिम बुद्धिमत्ता उत्पादों को विकसित करने की योजना बनाई।
ब्रिटिश सरकार ने कहा कि बच्चों की सुरक्षा हमेशा उसकी सर्वोच्च प्राथमिकता है, और वह उपभोक्ता सुरक्षा सुनिश्चित करते हुए तकनीकी नवाचार का समर्थन करने की भी उम्मीद करती है। सरकार एआई जैसी उभरती प्रौद्योगिकियों के विकास के अनुकूल खिलौना सुरक्षा नियमों को कैसे अद्यतन किया जाए, इस पर उद्योग और जनता से इनपुट मांग रही है। इससे पहले, ब्रिटिश सांसदों और हाउस ऑफ लॉर्ड्स के सदस्यों के एक समूह ने सरकारी विभागों और खुदरा विक्रेताओं को पत्र लिखकर अनुरोध किया था कि जब तक एआई खिलौने सुरक्षा सत्यापन पास नहीं कर लेते, तब तक संबंधित उत्पादों की बिक्री अस्थायी रूप से निलंबित कर दी जाए, खासकर ब्लैक फ्राइडे और क्रिसमस खरीदारी के मौसम के आने से पहले।
इस घटना से उजागर हुई समस्या न केवल यह है कि एआई मॉडल कभी-कभी गलत उत्तर देता है, बल्कि यह भी है कि बच्चों के खिलौना निर्माताओं, एआई सेवा प्रदाताओं और बिक्री प्लेटफार्मों के बीच जिम्मेदारी की सीमाएं स्पष्ट नहीं हैं। जब तीन साल के बच्चों के लिए विपणन किया गया एक स्मार्ट खिलौना स्पष्ट रूप से अनुचित प्रतिक्रिया देता है और जांचकर्ता उस कंपनी की पहचान भी नहीं कर पाते हैं जिसने इसे बनाया है, तो उपभोक्ताओं के लिए यह जानना मुश्किल है कि किसे जवाबदेह ठहराया जाए। इस प्रकार के उत्पाद के लिए जो लंबे समय तक बच्चों के साथ बातचीत कर सकता है, संवेदनशील विषयों से निपट सकता है, और बातचीत डेटा एकत्र कर सकता है, केवल अपने स्वयं के सुरक्षा फ़िल्टरिंग तंत्र को स्थापित करने के लिए निर्माता पर निर्भर होकर समस्या को पूरी तरह से हल करना स्पष्ट रूप से मुश्किल है।
p>
टिप्पणियाँ