तकनीकी विकास के साथ तालमेल बनाए रखने के लिए मौजूदा कानून को अद्यतन करने की योजना के तहत, यूरोपीय आयोग ने आज घोषणा की कि बाल यौन शोषण (सीएसए) को दर्शाने वाली कृत्रिम बुद्धिमत्ता से उत्पन्न छवियों और डीपफेक के अन्य रूपों को यूरोपीय संघ में अपराध घोषित किया जा सकता है। यूरोपीय संघ ने बाल यौन शोषण की लाइव स्ट्रीमिंग को एक नया आपराधिक अपराध बनाने का भी प्रस्ताव दिया है। योजना के तहत "पीडोफाइल मैनुअल" के कब्जे और आदान-प्रदान को भी अपराध माना जाएगा - यूरोपीय संघ का कहना है कि यह बाल यौन शोषण की रोकथाम को मजबूत करने के उद्देश्य से उपायों के एक व्यापक पैकेज का हिस्सा है, जिसमें ऑनलाइन जोखिमों के बारे में जागरूकता बढ़ाना और पीड़ितों के लिए अपराधों की रिपोर्ट करना और सहायता प्राप्त करना (उन्हें वित्तीय मुआवजे का अधिकार देना भी शामिल है) को आसान बनाना शामिल है।
इस क्षेत्र में वर्तमान यूरोपीय संघ के नियम 2011 से चले आ रहे हैं, और उन्हें अद्यतन करने के प्रस्तावों में उल्लंघन की अनिवार्य रिपोर्टिंग में बदलाव भी शामिल हैं।
मई 2022 में, आयोग ने सीएसए-संबंधित कानून का एक अलग मसौदा पेश किया, जिसका उद्देश्य एक रूपरेखा स्थापित करना था जिसके तहत डिजिटल सेवाओं को अपने प्लेटफार्मों पर प्रसारित मौजूदा या नए बाल यौन शोषण सामग्री (सीएसएएम) का पता लगाने और रिपोर्ट करने के लिए स्वचालित तकनीक का उपयोग करना चाहिए, और बाल संवारने की पहचान और रिपोर्ट करना चाहिए।
सीएसएएम स्कैनिंग योजना बेहद विवादास्पद साबित हुई है - यह संसद और यूरोपीय संघ परिषद में सांसदों को विभाजित करना जारी रखती है, जबकि यूरोपीय आयोग और बाल सुरक्षा प्रौद्योगिकी लॉबिस्टों के बीच संबंधों के बारे में संदेह भी बढ़ाती है और यूरोपीय संघ के कार्यकारी के लिए अन्य शर्मनाक सवाल उठाती है, जैसे कि प्रस्ताव को बढ़ावा देने के लिए कानूनी रूप से संदिग्ध सूक्ष्म-लक्षित विज्ञापन अभियान का उपयोग किया जाता है।
सीएसए को संबोधित करने के लिए डिजिटल सूचना प्लेटफार्मों को प्राथमिकता देने के यूरोपीय आयोग के फैसले ने आलोचना को प्रेरित किया है कि यूरोपीय संघ के कानून निर्माता इस जटिल सामाजिक मुद्दे को संबोधित करते समय गलत क्षेत्रों पर ध्यान केंद्रित कर रहे हैं - जिससे आयोग पर अनुवर्ती सिफारिशें करने के लिए कुछ दबाव पैदा हो सकता है। (बेशक, यूरोपीय आयोग ने आज के पैकेज को अपने पहले सीएसएएम स्कैनिंग प्रस्ताव का "पूरक" बताते हुए ऐसा नहीं कहा)।
फिर भी, विवादास्पद निजी सूचना स्कैनिंग कार्यक्रम प्रस्तावित होने के दो साल से भी कम समय में, डीपफेक और एआई-जनरेटेड छवियों के जोखिमों के बारे में चिंताएं काफी बढ़ गई हैं, जिसमें सीएसएएम का उत्पादन करने के लिए प्रौद्योगिकी का दुरुपयोग होने की चिंताएं और चिंताएं शामिल हैं कि ऐसी सिंथेटिक सामग्री वास्तविक पीड़ितों की पहचान करने के लिए कानून प्रवर्तन के लिए इसे और अधिक चुनौतीपूर्ण बना देगी। इसलिए एआई-जनित प्रौद्योगिकी में वायरल उछाल स्पष्ट रूप से कानून निर्माताओं को नियमों पर फिर से विचार करने के लिए प्रेरित कर रहा है।
समिति ने आज एक प्रेस विज्ञप्ति में कहा, "ऑनलाइन बच्चों की संख्या में वृद्धि और प्रौद्योगिकी के विकास ने दुरुपयोग की नई संभावनाएं पैदा की हैं।" समिति ने यह भी कहा कि प्रस्ताव का उद्देश्य "ऑनलाइन बच्चों के यौन शोषण और शोषण में व्याप्त दंडमुक्ति को कम करना है।"
समिति ने प्रस्ताव प्रस्तुत करने से पहले एक प्रभाव मूल्यांकन किया और निष्कर्ष निकाला कि ऑनलाइन बच्चों की संख्या में वृद्धि और "नवीनतम तकनीकी विकास" ने सीएसए के लिए नए अवसर पैदा किए हैं। आयोग ने यह भी कहा कि उसे चिंता है कि सदस्य देशों के कानूनी ढाँचे में अंतर दुर्व्यवहार से निपटने की कार्रवाई में बाधा बन सकता है और वह सीएसए को रोकने और पीड़ितों की सहायता के लिए मौजूदा "सीमित" प्रयासों में सुधार करना चाहता है।
एक सहायक बयान में, गृह मामलों के आयुक्त यल्वा जोहानसन ने कहा: "तेजी से विकसित हो रही प्रौद्योगिकियां ऑनलाइन बाल यौन शोषण के लिए नई संभावनाएं पैदा कर रही हैं और इस बेहद गंभीर और व्यापक अपराध की जांच कर रहे कानून प्रवर्तन के लिए चुनौतियां पैदा कर रही हैं। मजबूत आपराधिक कानून आवश्यक है और आज हम यह सुनिश्चित करने के लिए एक महत्वपूर्ण कदम उठाते हैं कि हमारे पास बच्चों को बचाने और अपराधियों को न्याय दिलाने के लिए प्रभावी कानूनी उपकरण हैं। हम जुलाई 2020 में प्रस्तुत बाल यौन शोषण से अधिक प्रभावी ढंग से निपटने के लिए यूरोपीय संघ की रणनीति में की गई प्रतिबद्धताओं को पूरा कर रहे हैं।"
बच्चों के लिए ऑनलाइन सुरक्षा जोखिमों के संबंध में, आयोग के प्रस्ताव का उद्देश्य सदस्य राज्यों को "जागरूकता बढ़ाने" में अधिक निवेश करने के लिए प्रोत्साहित करना है।
सीएसएएम स्कैन कार्यक्रम की तरह, यूरोपीय संघ की संसद और परिषद में सह-विधायक प्रस्ताव के अंतिम आकार पर निर्णय लेंगे। इस साल के अंत में संसदीय चुनावों और आयुक्त समिति के फिर से शुरू होने से पहले बातचीत के लिए सीमित समय है, हालांकि आज के सीएसए कार्रवाई प्रस्ताव सूचना स्कैनिंग योजना की तुलना में कम विभाजनकारी होने की संभावना है। इसलिए संभावना है कि यह योजना पारित हो जाएगी जबकि दूसरी योजना रुक जाएगी।
यूरोपीय आयोग के अनुसार, यदि/एक बार सीएसए से निपटने के लिए मौजूदा निर्देश में संशोधन करने पर सहमति बन जाती है, तो निर्देश यूरोपीय संघ के आधिकारिक जर्नल में प्रकाशन के 20 दिन बाद लागू होगा।