सार:
रॉयटर्स के अनुसार, Google की ट्रस्ट और सुरक्षा टीम के संस्थापक टॉम सीगल ने इस सप्ताह AI विकास में मंदी का आह्वान किया और चेतावनी दी कि प्रौद्योगिकी उद्योग सोशल मीडिया युग की गलतियों को दोहरा रहा है और इससे बच्चों को अधिक नुकसान हो सकता है।
सेगल
सोशल मीडिया कंपनियां अब युवा उपयोगकर्ताओं को नुकसान पहुंचाने के आरोप में भारी मुआवजा दे रही हैं और हजारों मुकदमों का सामना कर रही हैं। इस बीच, दुनिया भर की सरकारें नाबालिगों की सोशल मीडिया प्लेटफॉर्म तक पहुंच को प्रतिबंधित करने के लिए काम कर रही हैं।
रॉयटर्स ने पिछले साल मेटा के एक आंतरिक नीति दस्तावेज़ पर विशेष रूप से रिपोर्ट दी थी। दस्तावेज़ में कहा गया है कि इसका चैटबॉट "बच्चों के साथ रोमांटिक या कामुक बातचीत में संलग्न हो सकता है", जिससे कांग्रेस की जांच शुरू हो सकती है। फिर भी, विनियामक उपाय एआई के तीव्र विकास के साथ तालमेल नहीं बिठा पाए हैं।
Google के विश्वास और सुरक्षा के उपाध्यक्ष के रूप में कार्यरत सेगल ने रॉयटर्स को बताया: "एआई के बच्चों पर पड़ने वाले प्रभाव के मामले में हम अभी बहुत खराब स्थिति में हैं। यह विचार कि उद्योग बाहरी मदद के बिना अपने दम पर समस्या का समाधान कर सकता है, अवास्तविक है।"
उनकी चिंताएं प्रौद्योगिकी उद्योग और अकादमिक शोधकर्ताओं में से कुछ के बीच बढ़ते डर को दर्शाती हैं: एआई बच्चों के लिए सोशल मीडिया की तुलना में अधिक गहरा खतरा है। अब, उद्योग चैटबॉट्स में अधिक से अधिक उन्नत सुविधाएँ जोड़ने के लिए दौड़ रहा है, और लाखों युवा पहले से ही दैनिक आधार पर इन बॉट्स का उपयोग कर रहे हैं।
सेगल ने मंगलवार को घोषणा की कि वह बच्चों के ऑनलाइन सुरक्षा वकालत समूह कॉमन सेंस मीडिया में शामिल हो गए हैं। 2003 में स्थापित यह गैर-लाभकारी संस्था बच्चों के लिए विभिन्न मीडिया की उपयुक्तता पर शोध और मूल्यांकन करती है। मई में, संगठन ने यूथ एआई सेफ्टी इंस्टीट्यूट की स्थापना की, जो बच्चों द्वारा एआई के उपयोग का मूल्यांकन करने के लिए डिज़ाइन किया गया एक शोध संगठन है, और सीगल संस्थान के पहले कार्यकारी निदेशक के रूप में काम करेंगे। एंथ्रोपिक और ओपनएआई फाउंडेशन, गैर-लाभकारी संगठन जो ओपनएआई को नियंत्रित करता है, संस्थान के समर्थक हैं।
सेगल ने कहा कि वह एआई कंपनियों को जवाबदेह बनाने के लिए मानक विकसित करने की योजना बना रहे हैं और इस लक्ष्य को हासिल करने के लिए इन कंपनियों और तीसरे पक्ष के संगठनों के साथ काम करने की उम्मीद करते हैं।
उन्होंने पहले 2004 से 2019 तक Google में काम किया, लेकिन बाद में यह मानते हुए Google छोड़ दिया कि प्रौद्योगिकी उद्योग की उपभोक्ताओं के लिए एक सुरक्षित ऑनलाइन स्थान बनाने की क्षमता "अड़चन पर पहुंच गई है।" इसके बाद उन्होंने ट्रस्टलैब की सह-स्थापना की, जो एक स्टार्टअप है जो उद्यमों को सुरक्षा खतरों की पहचान करने में मदद करने के लिए उपकरण विकसित करता है। इस महीने की शुरुआत में, उन्होंने एक नई भूमिका निभाने के लिए सीईओ का पद छोड़ दिया।
सीगल ने कहा कि वर्तमान में, प्रमुख एआई कंपनियां पर्याप्त सुरक्षा सुरक्षा उपाय स्थापित किए बिना बच्चों के लिए विभिन्न कार्य शुरू कर रही हैं।
"मुझे लगता है कि हम नुकसान के बहुत गंभीर जोखिम का सामना कर रहे हैं," उन्होंने कहा। सीगल ने आत्महत्या और पागलपन से लेकर "संज्ञानात्मक ऑफलोडिंग" तक के जोखिमों का हवाला देते हुए कहा कि युवा लोगों की बेहतर सुरक्षा के लिए एआई कंपनियां तुरंत कदम उठा सकती हैं। तथाकथित संज्ञानात्मक ऑफलोडिंग प्रश्नों के उत्तर देने के लिए एआई पर निर्भर होने के कारण महत्वपूर्ण सोच कौशल में गिरावट को संदर्भित करता है।
उन्होंने कहा, एंथ्रोपिक और ओपनएआई नाबालिगों को अपने चैटबॉट का उपयोग करने से रोकने के लिए सख्त आयु सत्यापन उपायों को लागू कर सकते हैं। उन्होंने यह भी कहा कि उनका पूर्व नियोक्ता Google अपने खोज इंजन में AI अवलोकन और AI मोड को बंद करने का विकल्प जोड़ सकता है, जैसे यह वर्तमान में उपयोगकर्ताओं को अश्लील सामग्री को फ़िल्टर करने देने के लिए एक स्विच प्रदान करता है।
सेगल ने कहा कि हालांकि ये उपाय अल्पावधि में उपयोग या मुनाफे को प्रभावित कर सकते हैं, लेकिन कार्रवाई नहीं करने वाली एआई कंपनियों को मुकदमों और विनियमन के जोखिम का सामना करना पड़ेगा, जो उनके व्यवसाय को और अधिक गंभीर रूप से प्रभावित कर सकता है।
सीगल की टिप्पणियों के जवाब में, Google के एक प्रवक्ता ने कहा कि माता-पिता प्रासंगिक नियंत्रण कार्यों के माध्यम से अपने बच्चों की खोज इंजन तक पहुंच को पूरी तरह से बंद कर सकते हैं। प्रवक्ता ने कहा: "हमारी एआई खोज क्षमताएं बच्चों और किशोरों के लिए जानकारी और दुनिया को सीखने, तलाशने और समझने का एक शक्तिशाली तरीका है।"
ओपनएआई के एक प्रवक्ता ने कहा कि उपयोगकर्ताओं की स्वयं-रिपोर्ट की गई उम्र के अलावा, कंपनी कम उम्र के उपयोगकर्ताओं की पहचान करने के लिए "खाता और व्यवहार संबंधी संकेतों" का भी उपयोग करती है। प्रवक्ता ने कहा, "हालांकि कोई भी आयु सत्यापन विधि सही नहीं है, हम इन प्रणालियों का परीक्षण और सुधार करना जारी रखते हैं, जिसमें सुरक्षा सुरक्षा को बायपास करने के प्रयासों को रोकना भी शामिल है।"
टिप्पणियाँ