एक शर्मनाक खोज: स्वायत्त ड्राइविंग प्रणाली लोगों के समूहों के साथ भी भेदभाव करती है। किंग्स कॉलेज लंदन के शोधकर्ताओं ने एक अध्ययन किया और 8,000 से अधिक छवियों की जांच करने के बाद एक खामी पाई: स्व-ड्राइविंग कारों द्वारा उपयोग की जाने वाली एआई-संचालित पैदल यात्री पहचान प्रणाली में वयस्कों की तुलना में बच्चों के लिए पहचान सटीकता 19.67% कम है, और अंधेरे त्वचा की पहचान सटीकता हल्की त्वचा की तुलना में 7.53% कम है। लिंग के बीच पहचान की सटीकता में बहुत अधिक अंतर नहीं है, केवल 1.1% का अंतर है।
इसका मतलब है कि वयस्कों और हल्की त्वचा वाले पैदल चलने वालों की तुलना में बच्चों और गहरे रंग के पैदल यात्रियों का पता लगाना सेल्फ-ड्राइविंग कारों के लिए अधिक कठिन होगा।
ऐसा क्यों है?
बच्चों और सांवली त्वचा वाले लोगों के लिए अनुकूल नहीं
आइए पहले प्रायोगिक प्रक्रिया पर नजर डालें।
इस शोध दल ने डेटा विश्लेषण पद्धति का उपयोग किया। उन्होंने सबसे पहले 8 पैदल यात्री-विशिष्ट पहचान प्रणालियाँ खोजीं जो स्वायत्त ड्राइविंग कंपनियों द्वारा सबसे अधिक उपयोग की जाती हैं और बाजार में भी आम हैं।
फिर वास्तविक दृश्य परीक्षण डेटा एकत्र करने के लिए इन पैदल यात्री पहचान प्रणालियों का उपयोग करें, जिसमें विभिन्न चमक, कंट्रास्ट, मौसम की स्थिति आदि के साथ वास्तविक दृश्य शामिल हैं। ये डेटा सेट मुख्य रूप से ली गई वास्तविक सड़क छवियों से बने होते हैं।
उन्होंने चार वास्तविक दृश्यों में कुल 8311 छवियां प्राप्त कीं, जिनमें पैदल चलने वालों को विभिन्न मुद्राओं, आकारों और रोड़ा परिदृश्यों में दिखाया गया था। शोधकर्ताओं ने छवियों में पैदल चलने वालों के लिए विशेष रूप से टैग भी जोड़े, जिसमें कुल 16,070 लिंग टैग, 20,115 आयु टैग और 3,513 त्वचा रंग टैग शामिल हैं।
शोध का फोकस इस बात पर है कि क्या स्वायत्त ड्राइविंग की पैदल यात्री पहचान प्रणाली अलग-अलग पैदल चलने वालों का सामना करते समय एक ही तरह से प्रतिक्रिया करती है, खासकर क्या लिंग, उम्र और त्वचा के रंग के तीन कारकों में अनुचित समस्याएं होंगी।
उपयोग की जाने वाली पहचान प्रणालियों में ALFNet, CSP, MGAN और PRNet आदि शामिल हैं। उनमें से, ALFNet स्पर्शोन्मुख स्थिति के लिए मल्टी-स्टेप भविष्यवाणी का उपयोग करता है, जो पैदल यात्री पहचान में एकल-चरण पहचान की सीमाओं को हल करता है।
CSP केंद्र का पता लगाकर और पैदल चलने वालों को स्केल करके एक लंगर-मुक्त विधि का परिचय देता है; एमजीएएन ध्यान उत्पन्न करने के मार्गदर्शन के लिए दृश्य क्षेत्र बाउंडिंग बॉक्स जानकारी का उपयोग करता है और मुख्य रूप से रोड़ा के तहत पैदल यात्री का पता लगाने के लिए उपयोग किया जाता है।
छवियों को एकत्र करने के बाद, अनुसंधान टीम ने यह सवाल करने के लिए एक अंतर सूत्र का उपयोग किया कि क्या स्वायत्त ड्राइविंग प्रणाली समूह के लिए अनुचित थी। एमआर आम तौर पर पैदल यात्री पहचान अनुसंधान में सबसे अधिक इस्तेमाल किए जाने वाले प्रदर्शन संकेतक का प्रतिनिधित्व करता है, एमआर = 1-टीपी / (टीपी + एफएन), जहां टीपी (सच्चा सकारात्मक) सफलतापूर्वक हटाए गए ग्राउंड-ट्रुथ बाउंडिंग बॉक्स की संख्या को संदर्भित करता है, और एफएन (गलत नकारात्मक) अनिर्धारित ग्राउंड-ट्रुथ बाउंडिंग बॉक्स की संख्या को संदर्भित करता है।
गणना के बाद, महिला और पुरुष पैदल यात्रियों के लिए पैदल यात्री डिटेक्टर की पहचान दर समान है, जिसमें 1.1% का अंतर है। हालाँकि, उम्र और त्वचा के रंग में अंतर बड़ा है, जो क्रमशः 19.67% और 7.52% तक पहुँच गया है!
इसका मतलब है कि ड्राइवर रहित पैदल यात्री पहचान प्रणालियों में बच्चों और गहरे रंग की त्वचा वाले लोगों की पहचान करने में अधिक कठिनाई होगी, और इन समूहों को अधिक जोखिम का भी सामना करना पड़ेगा।
खास बात यह है कि रात में ये संख्या कुछ हद तक बढ़ जाती है। बच्चों का ईओडी (बच्चों और वयस्क समूहों के बीच अंतर) दिन-रात 22.05% से बढ़कर 26.63% हो जाता है, और त्वचा के रंग समूहों (गहरी और हल्की त्वचा) की अंतर दर दिन के दौरान 7.14% से बढ़कर रात में 9.68% हो जाती है।
इसके अलावा, पुरुषों की तुलना में महिलाओं में तीनों कारकों में अपराध दर पुरुषों की तुलना में अधिक है।
इसके अलावा, अनुसंधान टीम ने विभिन्न चमक और कंट्रास्ट स्थितियों के तहत डेटा का अध्ययन किया। इन चरों का पता लगाने की दर पर भी अधिक प्रभाव पड़ेगा।
चयनित 8 पैदल यात्री पहचान प्रणालियों में से, जैसे-जैसे चमक कम होती जाती है, प्रथम-स्तरीय पहचान प्रणाली सबसे खराब प्रदर्शन करती है, विशेष रूप से त्वचा के रंग में, जहां गहरे रंग की त्वचा और हल्की त्वचा के बीच का अंतर उच्चतम मूल्य तक पहुंच जाता है।
"निष्पक्ष एआई को सभी समूहों के साथ समान व्यवहार करना चाहिए, लेकिन वर्तमान में ड्राइवर रहित कारों के मामले में ऐसा नहीं लगता है।" अध्ययन के लेखक डॉ. जी झांग ने कहा।
ऐसा क्यों होता है?
यह मुख्य रूप से इसलिए है क्योंकि कृत्रिम बुद्धिमत्ता प्रणालियों को प्रशिक्षित करने के लिए बड़ी मात्रा में डेटा की आवश्यकता होती है, और एक बार जब ये डेटा अपर्याप्त हो जाते हैं, तो यह अनिवार्य रूप से कृत्रिम बुद्धिमत्ता के प्रदर्शन में परिलक्षित होगा। इसका मतलब यह भी है कि प्रशिक्षण डेटा की कमी के कारण कुछ कृत्रिम बुद्धिमत्ता एआई में कुछ पूर्वाग्रह पैदा हो गए हैं।
अभी भी कई अनसुलझे मुद्दे हैं
वास्तव में, कृत्रिम बुद्धिमत्ता प्रणालियों में एक निश्चित अनुचितता है, और यह पहली बार नहीं है कि शोधकर्ताओं ने इसका अध्ययन किया है।
2019 की शुरुआत में, संयुक्त राज्य अमेरिका में जॉर्जिया इंस्टीट्यूट ऑफ टेक्नोलॉजी के शोध से पता चला कि गहरे रंग की त्वचा वाले लोगों को हल्की त्वचा वाले लोगों की तुलना में सड़क पर चालक रहित कारों की चपेट में आने की अधिक संभावना है। शोधकर्ताओं ने वस्तुओं का पता लगाने के लिए चालक रहित कारों के तरीकों का विश्लेषण किया और विभिन्न त्वचा के रंग वाले लोगों की कुल 3,500 तस्वीरों का विश्लेषण किया।
अंत में, यह निष्कर्ष निकाला गया कि गहरे रंग की त्वचा वाले लोगों की पहचान करते समय ड्राइवर रहित तकनीक औसतन 5% कम सटीक थी।
हालांकि इन अध्ययनों में ड्राइवर रहित कारें शामिल नहीं हैं जो पहले से ही सड़क पर हैं, लेकिन वे निस्संदेह लोगों को ड्राइवर रहित तकनीक के प्रति अधिक सतर्क कर देंगे।
मानव रहित ड्राइविंग को लागू करना कठिन है। इसका एक बड़ा कारण यह है कि यह पैदल चलने वालों और सड़क की स्थिति पर समय पर प्रतिक्रिया देने में वास्तव में मनुष्यों की जगह नहीं ले सकता है।
2018 में, राइड-हेलिंग सेवा की दिग्गज कंपनी उबर की एक चालक रहित कार ने टेम्पे, एरिज़ोना, अमेरिका में एक व्यक्ति को टक्कर मार दी और उसकी मौत हो गई। यह पहली चालक रहित दुर्घटना थी। "प्रतिक्रिया करने के लिए समय की कमी" एक बड़ी समस्या थी।
कुछ समय पहले, संयुक्त राज्य अमेरिका के कैलिफ़ोर्निया ने क्रूज़ और वेमो, दो प्रमुख स्वायत्त टैक्सियों को, सैन फ्रांसिस्को में चौबीसों घंटे व्यावसायिक रूप से संचालित करने की अनुमति देने के लिए मतदान किया था। इस खबर से अमेरिकी जनता में असंतोष फैल गया क्योंकि स्वायत्त टैक्सियाँ अक्सर दुर्घटनाओं का कारण बनती हैं।
कार का ड्राइवरलेस सिस्टम विभिन्न तरीकों से सड़क की स्थिति की पहचान कर सकता है, जैसे छत पर लगा लिडार, जो प्रति सेकंड कई बार कार के परिवेश की त्रि-आयामी छवियां उत्पन्न कर सकता है। यह मुख्य रूप से वस्तुओं को प्रतिबिंबित करने और सेंसरों को सिग्नल संचारित करने के लिए इन्फ्रारेड लेजर पल्स का उपयोग करता है, जो स्थिर और चलती वस्तुओं का पता लगा सकता है।
हालाँकि, घने कोहरे या भारी बारिश जैसे चरम मौसम का सामना करते समय, लिडार की सटीकता बहुत कम हो जाएगी।
छोटी दूरी और लंबी दूरी के ऑप्टिकल कैमरे वास्तव में सिग्नल पढ़ सकते हैं, वस्तुओं का रंग और अन्य अधिक विस्तृत वस्तुओं का निर्धारण कर सकते हैं, जो लिडार की कमियों को पूरा कर सकते हैं।
पहचान क्षमताओं को बढ़ाने के लिए, कई घरेलू मानवरहित ड्राइविंग सिस्टम ने एक हाइब्रिड धारणा मार्ग अपनाया है, जिसे लिडार और कैमरा विज़न तकनीक के माध्यम से महसूस किया जाता है। दृश्य धारणा को रडार धारणा पर प्राथमिकता दी जाती है, दृश्य धारणा मुख्य आधार के रूप में और रडार धारणा पूरक के रूप में होती है।
लेकिन टेस्ला "शुद्ध दृश्य धारणा" का बहुत बड़ा प्रशंसक है। मस्क ने एक बार कहा था कि लिडार मानव शरीर के अपेंडिक्स की तरह है। हालाँकि, इसके कारण टेस्ला पर कई बार दुर्घटनाओं के कारण मुकदमा भी चलाया गया।
वास्तव में, हाइब्रिड सेंसिंग मार्ग को भी अभी भी कई चुनौतियों से पार पाने की जरूरत है।
उदाहरण के लिए, लंबी दूरी से ली गई पैदल यात्रियों की छवि में आमतौर पर छोटे लक्ष्य होते हैं, जिसके परिणामस्वरूप कम रिज़ॉल्यूशन और अपर्याप्त स्थिति सटीकता होती है। यह भी एक कारण है कि बच्चों में जांच छूटने की दर अधिक है। दूसरे, पैदल चलने वालों की अलग-अलग मुद्राएं भी एल्गोरिदम द्वारा गलत पहचान का कारण बनेंगी, और पैदल चलने वालों का पता पृष्ठभूमि से प्रभावित होगा, जैसे कि प्रकाश की तीव्रता, मौसम में बदलाव, आदि, जो निर्णय को प्रभावित करेगा।
अंत में, बाधाएँ हैं। ओवरलैपिंग लक्ष्य और अवरोधों का भी एल्गोरिदम पहचान पर बहुत प्रभाव पड़ता है।
चीनी विद्वानों ने शोध का नेतृत्व किया
स्वायत्त ड्राइविंग प्रणाली की निष्पक्षता का परिचय देने वाले इस पेपर को "सड़कों पर गहरे रंग वाले लोगों को अधिक जोखिम का सामना करना पड़ता है: स्वायत्त ड्राइविंग प्रणाली की निष्पक्षता के मुद्दों को उजागर करना" कहा जाता है। यह पेपर "न्यू साइंटिस्ट" पत्रिका में प्रकाशित हुआ था।
पेपर की शोध टीम किंग्स कॉलेज लंदन से है। पेपर में 6 लेखक सूचीबद्ध हैं, जिनमें ज़िन्यू एली, यिंग झांग और जुआनज़े लियू चीन के पेकिंग विश्वविद्यालय से हैं, जेनपेंग चेन और फेडेरिको कासारो लंदन विश्वविद्यालय, यूके से हैं, और जी एम. झांग किंग्स कॉलेज लंदन से हैं।
JieM.Zang वर्तमान में किंग्स कॉलेज लंदन में सहायक प्रोफेसर हैं। उनका शोध सॉफ्टवेयर की विश्वसनीयता में सुधार के लिए सॉफ्टवेयर इंजीनियरिंग अनुसंधान को कृत्रिम बुद्धिमत्ता अनुसंधान के साथ संयोजित करने पर केंद्रित है। वह लंदन विश्वविद्यालय में शोधकर्ता थीं और उन्होंने चीन के पेकिंग विश्वविद्यालय से कंप्यूटर विज्ञान में पीएचडी प्राप्त की थी।
एक चीनी विद्वान के रूप में, जी एम. झांग की चीन में उपलब्धियाँ भी उल्लेखनीय हैं। इस वर्ष मार्च में उन्हें "चीन की शीर्ष पंद्रह युवा महिला विद्वानों में से एक" नामित किया गया था। उन्हें कई बार मशीनी अनुवाद की विश्वसनीयता पर मुख्य भाषण देने के लिए भी आमंत्रित किया गया है। उन्होंने और उनकी टीम ने कई बार कृत्रिम बुद्धिमत्ता की सीखने की क्षमता पर शोध और विश्लेषण भी किया है।
पैदल यात्री पहचान प्रणालियों में निष्पक्षता की कमी के मुद्दे के संबंध में, जीईएम। झांग ने कहा कि स्वायत्त ड्राइविंग सिस्टम की सुरक्षा और निष्पक्षता सुनिश्चित करने के लिए कार निर्माताओं और सरकारों को संयुक्त रूप से नियम बनाने की जरूरत है।
वास्तव में, कृत्रिम बुद्धिमत्ता भर्ती सॉफ्टवेयर और चेहरे की पहचान करने वाले सॉफ्टवेयर पहले भी आ चुके हैं, और काली महिलाओं की सटीकता श्वेत पुरुषों जितनी अच्छी नहीं है। अब, एक बार सेल्फ-ड्राइविंग कारों की पहचान संबंधी ग़लतफ़हमियाँ हो गईं, तो परिणाम अधिक गंभीर हो सकते हैं।
"अतीत में, कुछ सॉफ़्टवेयर के कारण जातीय अल्पसंख्यकों को उस सुविधा से वंचित किया गया होगा जिसके वे हकदार हैं।" जीईएम. झांग ने कहा कि अब उन्हें और भी गंभीर नुकसान हो सकता है, यहां तक कि व्यक्तिगत चोट भी लग सकती है.