जनरेटिव आर्टिफिशियल इंटेलिजेंस तेजी से विकसित हो रहा है, लेकिन यूनिवर्सिटी ऑफ ईस्ट एंग्लिया (यूईए) के एक नए अध्ययन में चेतावनी दी गई है कि यह सार्वजनिक विश्वास और लोकतांत्रिक मूल्यों के लिए छिपे खतरे पैदा कर सकता है।चैटजीपीटी एक व्यापक रूप से इस्तेमाल किया जाने वाला कृत्रिम बुद्धिमत्ता मॉडल है जो वामपंथी विचारों का पक्ष लेता है और रूढ़िवादी विचारों से बचता है, जिससे समाज पर इसके प्रभाव के बारे में चिंताएं बढ़ जाती हैं। अध्ययन यह सुनिश्चित करने के लिए नियामक सुरक्षा उपायों की तत्काल आवश्यकता पर प्रकाश डालता है कि एआई उपकरण निष्पक्ष, संतुलित और लोकतांत्रिक मूल्यों के अनुरूप बने रहें।
ब्राजील के गेटुलियो वर्गास फाउंडेशन (एफजीवी) और इंस्पर के शोधकर्ताओं के सहयोग से किए गए अध्ययन में पाया गया कि चैटजीपीटी पाठ और छवि निर्माण दोनों में राजनीतिक पूर्वाग्रह प्रदर्शित करता है, जो वाम-झुकाव वाले विचारों का पक्ष लेता है। इससे एआई डिजाइन में निष्पक्षता और जवाबदेही को लेकर चिंताएं पैदा होती हैं।
शोधकर्ताओं ने पाया कि चैटजीपीटी अक्सर मुख्यधारा के रूढ़िवादी विचारों से जुड़ने से बचता है लेकिन वामपंथी झुकाव वाली सामग्री का उत्पादन करने में प्रवृत्त होता है। वैचारिक प्रतिनिधित्व में यह असंतुलन सार्वजनिक चर्चा को विकृत कर सकता है और सामाजिक विभाजन को गहरा कर सकता है।
यूईए नॉर्विच बिजनेस स्कूल में अकाउंटिंग के लेक्चरर डॉ. फैबियो मोटोकी आज जर्नल ऑफ इकोनॉमिक बिहेवियर एंड ऑर्गनाइजेशन में प्रकाशित "जेनरेटिव आर्टिफिशियल इंटेलिजेंस में राजनीतिक पूर्वाग्रह और मूल्य गलत संरेखण का आकलन" पेपर के प्रमुख शोधकर्ता हैं।
डॉ. मोतोकी ने कहा: "हमारे निष्कर्ष बताते हैं कि जेनरेटिव एआई उपकरण तटस्थ से बहुत दूर हैं। वे जो पूर्वाग्रह दर्शाते हैं, वे धारणाओं और नीति को अप्रत्याशित तरीकों से प्रभावित कर सकते हैं।"
चूंकि एआई पत्रकारिता, शिक्षा और नीति निर्माण का अभिन्न अंग बन गया है, इसलिए अनुसंधान सामाजिक मूल्यों और लोकतांत्रिक सिद्धांतों के साथ स्थिरता सुनिश्चित करने के लिए अधिक पारदर्शिता और नियामक सुरक्षा उपायों की मांग करता है।
चैटजीपीटी जैसे एआई-जनरेटेड सिस्टम विभिन्न क्षेत्रों में जानकारी बनाने, उपभोग करने, व्याख्या करने और प्रसारित करने के तरीके को नया आकार दे रहे हैं। नवीन होते हुए भी, ये उपकरण वैचारिक पूर्वाग्रहों को बढ़ाने और सामाजिक मूल्यों को उन तरीकों से प्रभावित करने का जोखिम उठाते हैं जो अभी तक पूरी तरह से समझे या विनियमित नहीं हैं।
अनियंत्रित एआई पूर्वाग्रह का जोखिम
ईपीजीई ब्राजीलियाई स्कूल ऑफ इकोनॉमिक्स एंड फाइनेंस में अर्थशास्त्र के प्रोफेसर, सह-लेखक डॉ. पिन्हो नेटो ने संभावित सामाजिक प्रभाव पर प्रकाश डाला।
डॉ. पिन्हो-नेट्टो ने कहा, "जेनरेटिव एआई में अनियंत्रित पूर्वाग्रह मौजूदा सामाजिक विभाजन को गहरा कर सकता है और संस्थानों और लोकतांत्रिक प्रक्रियाओं में विश्वास को कम कर सकता है।" "यह अध्ययन एआई सिस्टम को डिजाइन करने के लिए नीति निर्माताओं, प्रौद्योगिकीविदों और शिक्षाविदों के बीच अंतःविषय सहयोग की आवश्यकता पर प्रकाश डालता है जो निष्पक्ष, जिम्मेदार और सामाजिक रूप से अनुपालनशील हैं।"
अनुसंधान टीम ने चैटजीपीटी में राजनीतिक स्थिरता का आकलन करने के लिए तीन नवीन तरीकों को अपनाया, और अधिक विश्वसनीय परिणाम प्राप्त करने के लिए पिछली तकनीकों को आगे बढ़ाया। ये विधियाँ उन्नत सांख्यिकीय और मशीन शिक्षण उपकरणों का लाभ उठाते हुए पाठ और छवि विश्लेषण को जोड़ती हैं।
वास्तविक दुनिया के सर्वेक्षणों के साथ कृत्रिम बुद्धिमत्ता का परीक्षण करें
सबसे पहले, अध्ययन में औसत अमेरिकियों की प्रतिक्रियाओं का अनुकरण करने के लिए प्यू रिसर्च सेंटर द्वारा विकसित एक मानकीकृत प्रश्नावली का उपयोग किया गया।
मोटोकी ने कहा, "चैटजीपीटी उत्तरों की वास्तविक सर्वेक्षण डेटा के साथ तुलना करने पर, हमें एक व्यवस्थित वाम-झुकाव वाला पूर्वाग्रह मिला।" "इसके अतिरिक्त, हमारा दृष्टिकोण दिखाता है कि कैसे बड़े नमूना आकार एआई आउटपुट को स्थिर करते हैं, जिससे निष्कर्षों में स्थिरता मिलती है।"
मुक्त पाठ प्रतिक्रियाओं में राजनीतिक संवेदनशीलता
दूसरे चरण में, चैटजीपीटी को राजनीतिक रूप से संवेदनशील विषयों को कवर करते हुए मुफ्त-पाठ प्रतिक्रियाएँ उत्पन्न करने का काम सौंपा गया है।
चैटजीपीटी का पाठ वामपंथी और दक्षिणपंथी विचारों के अनुरूप है या नहीं, इसकी तुलना करने के लिए अध्ययन में एक अलग बड़े पैमाने के भाषा मॉडल, रॉबर्टा का भी उपयोग किया गया। परिणाम बताते हैं कि जबकि चैटजीपीटी ज्यादातर समय वामपंथी मूल्यों के साथ संरेखित होता है, यह कभी-कभी सैन्य वर्चस्व जैसे विषयों पर अधिक रूढ़िवादी विचारों को दर्शाता है।
छवि निर्माण: पूर्वाग्रह का एक नया आयाम
अंतिम परीक्षण चैटजीपीटी की छवि निर्माण क्षमताओं का पता लगाता है। एआई-जनित छवियों को प्रेरित करने के लिए टेक्स्ट जेनरेशन चरण के विषयों का उपयोग किया गया था, और आउटपुट का विश्लेषण GPT-4Vision का उपयोग करके किया गया था और Google के जेमिनी के माध्यम से इसकी पुष्टि की गई थी।
इंस्पर में सार्वजनिक नीति में मास्टर के छात्र, सह-लेखक विक्टर रंगेल ने कहा, "हालांकि छवि निर्माण पाठ्य पूर्वाग्रह को दर्शाता है, हमें एक चिंताजनक प्रवृत्ति मिली है।" "नस्लीय-जातीय समानता जैसे कुछ विषयों के लिए, चैटजीपीटी ने गुमराह करने वाली चिंताओं का हवाला देते हुए, दक्षिण-झुकाव वाले विचारों को उत्पन्न करने से इनकार कर दिया। हालांकि, बाएं-झुकाव वाले विचारों वाली छवियां बिना किसी हिचकिचाहट के उत्पन्न की गईं।"
इन अस्वीकृति मुद्दों को संबोधित करने के लिए, अनुसंधान टीम ने प्रतिबंधित छवियां उत्पन्न करने के लिए 'जेलब्रेक' रणनीति अपनाई।
रंगेल ने कहा, "परिणाम सामने आ रहे हैं। कोई स्पष्ट गलत सूचना या हानिकारक सामग्री नहीं थी, जो इन अस्वीकृतियों के पीछे के तर्क पर संदेह पैदा करती हो।"
अभिव्यक्ति की स्वतंत्रता और निष्पक्षता पर प्रभाव
डॉ. मोतोकी ने इस खोज के व्यापक निहितार्थों पर प्रकाश डालते हुए कहा: "यह संवैधानिक सुरक्षा (जैसे यूएस फर्स्ट संशोधन) और कृत्रिम बुद्धिमत्ता प्रणालियों के लिए निष्पक्षता सिद्धांतों की प्रयोज्यता के आसपास बहस में योगदान देता है: यह संवैधानिक सुरक्षा (जैसे यूएस फर्स्ट संशोधन) और कृत्रिम बुद्धिमत्ता प्रणालियों के लिए निष्पक्षता सिद्धांतों की प्रयोज्यता के आसपास बहस में योगदान देता है।"
मल्टीमॉडल विश्लेषण के उपयोग सहित इस अध्ययन के पद्धतिगत नवाचार, जेनरेटिव एआई सिस्टम में पूर्वाग्रह का अध्ययन करने के लिए एक प्रतिकृति मॉडल प्रदान करते हैं। ये निष्कर्ष अनपेक्षित सामाजिक परिणामों को रोकने के लिए एआई डिजाइन में जवाबदेही और सुरक्षा उपायों की तत्काल आवश्यकता पर प्रकाश डालते हैं।
/ScitechDaily से संकलित