नीदरलैंड्स इंस्टीट्यूट फॉर ह्यूमन राइट्स ने फैसला सुनाया है कि मेटा ने नौकरी विज्ञापनों को बढ़ावा देने के लिए अपने एल्गोरिदम के माध्यम से लिंग के आधार पर भेदभाव किया है। एक यूरोपीय मानवाधिकार निकाय ने फैसला सुनाया है कि फेसबुक के एल्गोरिदम में नौकरी के विज्ञापनों को बढ़ावा देने में लैंगिक पूर्वाग्रह है। कार्यकर्ताओं का कहना है कि बड़ी तकनीकी कंपनियों को उनके प्लेटफॉर्म के डिजाइन के लिए जवाबदेह बनाने की दिशा में यह एक महत्वपूर्ण कदम है।
नीदरलैंड इंस्टीट्यूट फॉर ह्यूमन राइट्स ने 18 फरवरी को एक फैसले में कहा कि फेसबुक के एल्गोरिदम ने लैंगिक रूढ़िवादिता को मजबूत किया क्योंकि यह मुख्य रूप से नीदरलैंड में महिला फेसबुक उपयोगकर्ताओं को "विशिष्ट महिला व्यवसाय" दिखाता है। फेसबुक के स्वामित्व वाली सोशल प्लेटफ़ॉर्म कंपनी मेटा को ऐसा होने से रोकने के लिए अपने एल्गोरिदम की निगरानी और समायोजन करना चाहिए था।
संस्थान का यह फैसला उन रिपोर्टों के बाद आया है जिसमें कहा गया था कि यूरोप में फेसबुक उपयोगकर्ता लैंगिक पूर्वाग्रह के कारण नौकरी के अवसरों से चूक रहे हैं।
यह 2023 रिपोर्ट अंतरराष्ट्रीय गैर-लाभकारी संगठन ग्लोबल विटनेस द्वारा साझा किए गए सर्वेक्षण परिणामों पर आधारित है। संगठन ने फेसबुक नौकरी विज्ञापनों की जांच की और पाया कि नीदरलैंड और पांच अन्य देशों में नौकरी विज्ञापन अक्सर ऐतिहासिक लिंग रूढ़िवादिता के आधार पर उपयोगकर्ताओं को लक्षित करते हैं।
उदाहरण के लिए, मशीनिस्ट की नौकरियों के विज्ञापन मुख्य रूप से पुरुषों को दिखाए जाते हैं, जबकि किंडरगार्टन शिक्षक की नौकरियों के विज्ञापन ज्यादातर महिलाओं को दिखाए जाते हैं। ग्लोबल विटनेस ने कहा कि नीदरलैंड, फ्रांस, भारत, आयरलैंड, यूनाइटेड किंगडम और दक्षिण अफ्रीका में किए गए प्रयोगों से पता चला है कि एल्गोरिदम में दुनिया भर में समान पूर्वाग्रह हैं। गैर-लाभकारी संस्था की जांच में डच मानवाधिकार समूह ब्यूरो क्लारा विचमैन और फ्रांसीसी संगठन फोंडेशन डेस फेम्स की ओर से चार शिकायतें सामने आईं।
नीदरलैंड्स इंस्टीट्यूट फॉर ह्यूमन राइट्स ने फरवरी के एक फैसले में कहा कि यूरोप में फेसबुक विज्ञापनों का प्रबंधन करने वाली मेटा प्लेटफॉर्म्स आयरलैंड लिमिटेड यह साबित करने में विफल रही कि उसका विज्ञापन एल्गोरिदम निषिद्ध लिंग भेदभाव में शामिल नहीं था। डच एजेंसी ने कहा कि फेसबुक को आगे भेदभावपूर्ण व्यवहार को रोकने के लिए अपने विज्ञापन एल्गोरिदम को संशोधित करना होगा।
यूरोपीय संघ के पास लिंग के आधार पर भेदभाव पर रोक लगाने वाले कई निर्देश हैं, जिनमें ऑनलाइन विज्ञापन का क्षेत्र भी शामिल है।
संस्थान के फैसले में यह भी कहा गया है: "मेटा (आयरलैंड) ने स्वीकार किया है कि लिंग डेटा बिंदु एल्गोरिदम का हिस्सा हो सकता है। मेटा (आयरलैंड) ने इस बात पर विवाद नहीं किया है कि यह डेटा बिंदु एल्गोरिदम के माध्यम से लिंग रूढ़िवादिता में योगदान कर सकता है।"
मेटा के प्रवक्ता एशले सेटल ने पहले कहा था कि कंपनी नौकरी, आवास और क्रेडिट विज्ञापनों के लिए अभियान स्थापित करते समय विज्ञापनदाताओं पर "लक्ष्यीकरण प्रतिबंध" लागू करती है। मेटा के अनुसार, ये ऑडियंस लक्ष्यीकरण प्रतिबंध संयुक्त राज्य अमेरिका, कनाडा और फ्रांस और नीदरलैंड सहित 40 से अधिक यूरोपीय देशों और क्षेत्रों में लागू हैं।
सेटल ने 2023 के एक बयान में कहा, "हम विज्ञापनदाताओं को लिंग के आधार पर इन विज्ञापनों को लक्षित करने की अनुमति नहीं देंगे।" "हम एल्गोरिथम निष्पक्षता मुद्दों के अध्ययन और समाधान के सर्वोत्तम तरीकों का पता लगाने के लिए शिक्षा जगत, मानवाधिकार संगठनों और अन्य क्षेत्रों में हितधारकों और विशेषज्ञों के साथ काम करना जारी रखेंगे।" उस समय, मेटा ने इस सवाल का जवाब नहीं दिया कि उसके विज्ञापन सिस्टम एल्गोरिदम को कैसे प्रशिक्षित किया जाता है। अपने विज्ञापन वितरण प्रणाली के बारे में 2020 के ब्लॉग पोस्ट में, फेसबुक ने कहा कि उपयोगकर्ताओं को विज्ञापन विभिन्न कारकों के आधार पर दिखाए जाते हैं, जिसमें उनका "प्लेटफ़ॉर्म पर और बाहर व्यवहार" भी शामिल है।
"क्लारा विचमैन ऑफ़िस" की बर्टी बैनोर ने नीदरलैंड्स इंस्टीट्यूट फॉर ह्यूमन राइट्स के फैसले की सराहना की, जिसके बारे में उनका मानना था कि यह बहुत महत्वपूर्ण था।
बेन्नो ने कहा, "आज डच फेसबुक उपयोगकर्ताओं के लिए एक अच्छा दिन है, जिनके पास अब मेटा जैसी बहुराष्ट्रीय प्रौद्योगिकी कंपनियों को जवाबदेह बनाने और यह सुनिश्चित करने के लिए एक व्यवहार्य तंत्र है कि वास्तविक जीवन में उन्हें जो अधिकार प्राप्त हैं, वे डिजिटल क्षेत्र में भी कायम हैं।"
उन्होंने आगे कहा, "मुझे लगता है कि यह यह दिखाने की शुरुआत है कि भेदभाव-विरोधी कानून बड़ी तकनीकी कंपनियों पर उसी तरह लागू होते हैं जैसे वे ऑफ़लाइन दुनिया पर लागू होते हैं।"
ग्लोबल विटनेस में डिजिटल खतरों के वरिष्ठ प्रचारक रोजी शार्प ने कहा कि यह फैसला "बड़ी तकनीकी कंपनियों को उनकी सेवाओं के डिजाइन और उनके एल्गोरिदम के लोगों पर पड़ने वाले भेदभावपूर्ण प्रभाव के लिए जवाबदेह बनाने की दिशा में एक महत्वपूर्ण कदम है।"
उन्होंने आगे कहा, "हमें उम्मीद है कि यह फैसला यूरोप और उसके बाहर आगे की कार्रवाई के लिए एक स्प्रिंगबोर्ड के रूप में काम करेगा।"
हालांकि नीदरलैंड इंस्टीट्यूट फॉर ह्यूमन राइट्स का फैसला कानूनी रूप से बाध्यकारी नहीं है, लेकिन विशेषज्ञों का कहना है कि अगर मामला आगे बढ़ता है तो अदालत को संस्थान के निष्कर्षों पर विचार करने की आवश्यकता होगी।
एंटोन एक्कर, एक डच वकील, जो कृत्रिम बुद्धिमत्ता और डिजिटल अधिकारों में विशेषज्ञ हैं, ने कहा कि संस्थान के फैसले से डच डेटा संरक्षण नियामकों को मेटा पर जुर्माना लगाना पड़ सकता है या विशिष्ट एल्गोरिदम में बदलाव का आदेश दिया जा सकता है, विशेष रूप से वे जो असमानताओं को मजबूत करते हैं और लिंग, जाति, जातीयता या धर्म के आधार पर हाशिए पर रहने वाले समूहों को असंगत नुकसान पहुंचाते हैं।
उन्होंने कहा कि यदि मेटा ने अपने नौकरी विज्ञापन एल्गोरिदम पर कार्रवाई नहीं की, तो एनजीओ अपने एल्गोरिदम को भेदभावपूर्ण उद्देश्यों के लिए इस्तेमाल होने से रोकने के लिए आगे की कानूनी कार्रवाई करने का विकल्प चुन सकता है।
बेनो ने कहा कि नीदरलैंड में फैसला ऐसे समय आया है जब डिजिटल अधिकार सुरक्षा, खासकर महिलाओं और हाशिए पर रहने वाले समूहों के लिए, गंभीर रूप से कमजोर कर दी गई है।
पिछले महीने, मेटा ने कहा कि वह अपनी विविधता, समानता और समावेशन कार्यक्रम को समाप्त कर देगा, अपने मंच पर घृणित आचरण पर अपनी नीति को संशोधित करेगा और संयुक्त राज्य अमेरिका में अपने तीसरे पक्ष के तथ्य-जांच कार्यक्रम को रद्द कर देगा।
मेटा इंक अपनी घृणित आचरण नीति में बड़े बदलाव कर रहा है, यह कहने के कुछ ही घंटों बाद कि वह तथ्य-जांचकर्ताओं को खत्म कर देगा।
पिछले एक दशक में, मेटा को विभिन्न भेदभाव के दावों का सामना करना पड़ा है, जिसमें संयुक्त राज्य अमेरिका में आवास, रोजगार और क्रेडिट विज्ञापन पर मुकदमे भी शामिल हैं। परिणामस्वरूप, कंपनी ने संयुक्त राज्य अमेरिका में इन विज्ञापनों के लिए अपने एल्गोरिदम को संशोधित किया है।
ग्लोबल विटनेस शार्प ने कहा कि यह "अपमानजनक" है कि समान परिवर्तन विश्व स्तर पर लागू नहीं किए जा रहे हैं। उनका मानना है कि एल्गोरिदम और कृत्रिम बुद्धिमत्ता तेजी से दैनिक जीवन को प्रभावित कर रही है और सामाजिक न्याय के लिए महत्वपूर्ण जोखिम पैदा कर रही है।