वर्तमान कृत्रिम बुद्धिमत्ता दृश्य मॉडल में आम पूर्वाग्रह समस्या के जवाब में, सोनी एआई टीम ने हाल ही में "फेयर ह्यूमन-सेंट्रिक इमेज बेंचमार्क (एफएचआईबीई)" नामक एक नया डेटा सेट जारी किया है, जिसका उद्देश्य निष्पक्षता परीक्षण और नैतिक डेटा संग्रह के मानकीकरण को बढ़ावा देना है।
इस डेटा सेट की सभी छवियां मेरी सहमति से एकत्र की गईं, जिसमें दुनिया भर के 81 देशों और क्षेत्रों को शामिल किया गया। इसमें कुल 10,318 चित्र और 1,981 स्वतंत्र विषय शामिल हैं। प्रत्येक छवि विस्तृत एनोटेशन से सुसज्जित है, जिसमें पेशेवर जानकारी जैसे बॉर्डर परिभाषा, सेगमेंटेशन मास्क और कैमरा पैरामीटर शामिल हैं, ताकि डेवलपर्स को मॉडल का विस्तृत मूल्यांकन करने में सुविधा हो सके।
सोनी एआई में वैश्विक एआई गवर्नेंस के प्रमुख ऐलिस जियांग ने कहा कि कंप्यूटर विज़न के क्षेत्र में एक गलतफहमी यह है कि मॉडल डेटा और एल्गोरिदम पर निर्भरता के कारण वास्तविकता को निष्पक्ष रूप से प्रतिबिंबित कर सकते हैं। वास्तव में, मॉडल प्रशिक्षण प्रक्रिया में डेटा पूर्वाग्रह सीधे वास्तविक प्रदर्शन को प्रभावित करेगा। उदाहरण के लिए, चीन में, कुछ मोबाइल फोन चेहरे की पहचान प्रणालियों में एक बार प्रशिक्षण डेटा में अपर्याप्त एशियाई चेहरे थे, जिससे परिवार के सदस्यों को गलती से डिवाइस को अनलॉक करना पड़ा और भुगतान पूरा करना पड़ा, जिससे सुरक्षा जोखिम पैदा हुआ। इसके अलावा, मौजूदा दृश्य मॉडल में महिला डॉक्टरों को नर्स के रूप में गलत वर्गीकृत करने, या अनजाने में व्यावसायिक, नस्लीय और लैंगिक रूढ़िवादिता को मजबूत करने जैसी समस्याएं भी हैं।
पहले, निष्पक्षता का आकलन करने के लिए उपयोग किए जाने वाले अधिकांश कंप्यूटर विज़न डेटा सेटों को विषयों की सहमति नहीं मिलती थी, और यहां तक कि सीधे इंटरनेट प्लेटफ़ॉर्म से छवियां क्रॉल की जाती थीं, जिससे कई कॉपीराइट और गोपनीयता विवाद शुरू हो गए थे। इसके विपरीत, FHIBE के सभी डेटा संग्रह में सहमति और मुआवजा प्रक्रियाओं के पूरी तरह से सार्वजनिक रिकॉर्ड हैं, और इसे उद्योग के लिए एक नया नैतिक मानक स्थापित किया गया माना जाता है।
एफएचआईबीई परीक्षण के आधार पर, सोनी एआई टीम ने पाया कि हेयर स्टाइल की विविधता के कारण निर्दिष्ट लिंग सर्वनाम (जैसे "वह/उसकी") से निपटने के दौरान कुछ मॉडलों की सटीकता कम हो गई। मॉडल व्यवसाय मान्यता कार्य में अनुचित रूप से आपराधिक गतिविधियों को कुछ जातीय समूहों के साथ जोड़ सकता है। टीम ने इस बात पर जोर दिया कि एफएचआईबीई डेवलपर्स को इन विचलनों को समय पर खोजने और सही करने में मदद कर सकता है, उद्योग को डेटा संग्रह में नैतिकता और निष्पक्षता पर अधिक ध्यान देने के लिए बढ़ावा दे सकता है, और आर एंड डी कर्मियों को डेटा परत नवाचार में सुधार के लिए अधिक संसाधनों का निवेश करने के लिए प्रोत्साहित कर सकता है।
वर्तमान में, हालांकि अमेरिकी संघीय स्तर ने अभी तक ऐसी नीतियां पेश नहीं की हैं जो विशेष रूप से एआई नैतिकता और निष्पक्षता का समर्थन करती हैं, ईयू एआई अधिनियम और कुछ अमेरिकी राज्यों में प्रासंगिक नियमों ने उच्च जोखिम वाले क्षेत्रों में एल्गोरिदमिक पूर्वाग्रह की समीक्षा की आवश्यकता शुरू कर दी है। सोनी समूह ने एआई नैतिकता मूल्यांकन प्रक्रिया में एफएचआईबीई डेटा सेट को अपनाया है और एआई नैतिकता कोड के अनुपालन में अपने व्यापार मॉडल की निष्पक्षता की सक्रिय रूप से समीक्षा करता है।
ऐलिस जियांग का मानना है कि "डेटा शून्यवाद" उद्योग में तेजी से प्रचलित है, और एफएचआईबीई के अभ्यास से पता चलता है कि एआई तकनीक पूरी तरह से सहमति और मुआवजे वाले डेटा के आधार पर विकसित की जा सकती है। हालाँकि FHIBE का वर्तमान पैमाना अभी भी छोटा है और बड़े डेटा प्रशिक्षण का समर्थन करने के लिए पर्याप्त नहीं है, इसका महत्व उद्योग के लिए विधि प्रदर्शन प्रदान करना और डेटा परत नवाचार पर अधिक ध्यान आकर्षित करना है, जो अभी भी एक महत्वपूर्ण मुद्दा है जिसे वर्तमान AI क्षेत्र में हल करने की आवश्यकता है।