यूनिवर्सिटी ऑफ ईस्ट एंग्लिया (UEA) के एक नए अध्ययन के अनुसार, कृत्रिम बुद्धिमत्ता प्लेटफॉर्म ChatGPT स्पष्ट प्रणालीगत वामपंथी प्रवृत्ति दिखाता है। ब्रिटिश और ब्राज़ीलियाई शोधकर्ताओं की एक टीम ने राजनीतिक पूर्वाग्रह की जांच करने के लिए एक कठोर नई पद्धति विकसित की है। पब्लिक चॉइस पत्रिका के हालिया अंक में प्रकाशित शोध परिणाम बताते हैं कि चैटजीपीटी के उत्तर अमेरिकी डेमोक्रेटिक पार्टी, ब्रिटिश लेबर पार्टी और ब्राजीलियाई वर्कर्स पार्टी के अध्यक्ष लूला दा सिल्वा के लिए फायदेमंद हैं।
पिछली चिंताएं और तटस्थता का महत्व
अंतर्निहित राजनीतिक के बारे में चिंताएं चैटजीपीटी में पूर्वाग्रह को पहले भी उठाया गया है, लेकिन सुसंगत, साक्ष्य-आधारित विश्लेषणात्मक दृष्टिकोण का उपयोग करने वाला यह पहला बड़े पैमाने का अध्ययन है।
UEA नॉर्विच बिजनेस स्कूल के प्रमुख लेखक डॉ. फैबियो मोटोकी ने कहा: "जैसा कि जनता तथ्यों की खोज करने और नई सामग्री बनाने के लिए AI-संचालित सिस्टम का तेजी से उपयोग कर रही है, यह महत्वपूर्ण है कि ChatGPT जैसे लोकप्रिय प्लेटफार्मों का आउटपुट यथासंभव निष्पक्ष हो। राजनीतिक पूर्वाग्रह की उपस्थिति उपयोगकर्ताओं के विचारों को प्रभावित कर सकती है और राजनीतिक और चुनावी प्रक्रियाओं पर संभावित प्रभाव डाल सकती है। हमारे निष्कर्ष उन चिंताओं को बढ़ाते हैं जो AI सिस्टम को प्रभावित कर सकते हैं। इंटरनेट और सोशल मीडिया द्वारा उत्पन्न मौजूदा चुनौतियों को दोहराना या बढ़ाना भी।चैटजीपीटी की राजनीतिक तटस्थता का परीक्षण करने के लिए शोधकर्ताओं ने एक नवीन नई पद्धति विकसित की है। शोधकर्ताओं ने मंच पर उपयोगकर्ताओं से 60 से अधिक वैचारिक सवालों की एक श्रृंखला का जवाब देते हुए राजनीतिक स्पेक्ट्रम के व्यक्तियों के रूप में पेश होने के लिए कहा। फिर इन प्रतिक्रियाओं की तुलना प्रश्नों के समान सेट के लिए प्लेटफ़ॉर्म की डिफ़ॉल्ट प्रतिक्रियाओं से की गई - शोधकर्ताओं को यह मापने की अनुमति दी गई कि चैटजीपीटी की प्रतिक्रियाएं विशिष्ट राजनीतिक स्थितियों से कितनी निकटता से जुड़ी थीं।
ChatGPT जैसे कृत्रिम बुद्धिमत्ता प्लेटफार्मों को शक्ति प्रदान करने वाले "बड़े भाषा मॉडल" में निहित यादृच्छिकता से उत्पन्न कठिनाइयों को दूर करने के लिए, प्रत्येक प्रश्न को 100 बार पूछा गया और विभिन्न प्रतिक्रियाएं एकत्र की गईं। उत्पन्न पाठ से निकाले गए निष्कर्षों की विश्वसनीयता को और बेहतर बनाने के लिए इन एकाधिक प्रतिक्रियाओं को 'बूटस्ट्रैपिंग' (मूल डेटा को फिर से नमूना करने की एक विधि) के 1,000 पुनरावृत्तियों के अधीन किया गया था।
सह-लेखक विक्टर रोड्रिग्स ने कहा: "हमने यह कार्यक्रम बनाया क्योंकि परीक्षण का सिर्फ एक दौर पर्याप्त नहीं था। मॉडल की यादृच्छिकता के कारण यह सुनिश्चित करने के लिए कि विधि यथासंभव कठोर थी, हमने आगे के परीक्षणों की एक श्रृंखला आयोजित की। "खुराक-प्रतिक्रिया परीक्षण" में चैटजीपीटी को कट्टरपंथी राजनीतिक पदों का प्रतिरूपण करने के लिए कहा गया था। "प्लेसीबो परीक्षण" में, राजनीतिक रूप से तटस्थ प्रश्न पूछे गए थे। "पेशेवर-राजनीतिक अनुरूपता परीक्षण" में विभिन्न प्रकार के पेशेवरों का अनुकरण करने के लिए कहा जाता है। विकसित हो रही प्रौद्योगिकियाँ,'' सह-लेखक डॉ. पिन्हो-नेट्टो ने कहा। उन्होंने कहा, ''एलएलएम में पूर्वाग्रहों का पता लगाकर और उन्हें ठीक करके, हमारा लक्ष्य इस तकनीक में पारदर्शिता, जवाबदेही और सार्वजनिक विश्वास बढ़ाना है।'' राजनीतिक पूर्वाग्रह की जाँच के अलावा, टूल का उपयोग चैटजीपीटी प्रतिक्रियाओं में अन्य प्रकार के पूर्वाग्रह को मापने के लिए किया जा सकता है।
पूर्वाग्रह के संभावित स्रोत
हालांकि अनुसंधान परियोजना ने राजनीतिक पूर्वाग्रह के कारणों की पहचान करने की कोशिश नहीं की, निष्कर्षों ने दो संभावित स्रोतों की ओर इशारा किया।
पहला प्रशिक्षण डेटा सेट है - इसमें पूर्वाग्रह हो सकता है, या मनुष्यों द्वारा जोड़ा गया पूर्वाग्रह हो सकता है जिनकी "सफाई" प्रक्रियाएं इसे हटाने में विफल रहीं। दूसरा संभावित स्रोत एल्गोरिदम ही है, जो प्रशिक्षण डेटा में पहले से मौजूद पूर्वाग्रहों को बढ़ा सकता है।