फ्रांस और इटली के शोधकर्ताओं द्वारा हाल ही में जारी एक प्रायोगिक अध्ययन से पता चलता है कि कृत्रिम बुद्धिमत्ता (एआई) द्वारा प्रदान की गई सलाह पर अत्यधिक निर्भरता मानव की आलोचनात्मक सोच को बाधित कर सकती है, जिससे लोग अनिश्चित समस्याओं का सामना करने पर एआई द्वारा दी गई गलत जानकारी को आँख बंद करके स्वीकार करने के लिए अधिक इच्छुक हो जाते हैं, बजाय यह स्वीकार करने के कि वे "नहीं जानते हैं।"
मिलान-बिस्कोका विश्वविद्यालय के एसोसिएट प्रोफेसर वेलेरियो कैप्रारो और उनके सहयोगियों ने यह पता लगाने के लिए अध्ययन किया कि एआई सिफारिशें मनुष्यों की अज्ञानता को स्वीकार करने की इच्छा को कैसे प्रभावित करती हैं। शोधकर्ताओं ने विशेष रूप से अलोकप्रिय फिल्म और टेलीविजन विवरण प्रश्नों की एक श्रृंखला तैयार की, जिनका उत्तर आमतौर पर बड़े भाषा मॉडल के लिए देना मुश्किल होता है, और तुलनात्मक प्रयोगों के लिए विषयों की भर्ती की गई। प्रयोगों के एक सेट में, विषयों ने एआई सहायता के बिना प्रश्नों के उत्तर दिए; प्रयोगों के एक अन्य सेट में, विषयों को एआई सुझावों तक पहुंच प्राप्त थी।
अध्ययन में पाया गया कि एआई सहायता के बिना बेसलाइन समूह में, 44% प्रतिभागी ईमानदारी से "पता नहीं" चुनने में सक्षम थे और इस प्रकार निर्णय को निलंबित करने का विकल्प चुना; हालाँकि, जिस समूह को AI सुझाव प्राप्त हुए, उसमें यह अनुपात गिरकर 3% हो गया। इससे भी अधिक चिंता की बात यह है कि एआई का हस्तक्षेप न केवल प्रदर्शन में सुधार करने में विफल रहा, बल्कि सटीकता में भी कमी आई: एआई सहायता के बिना, 27% विषयों ने सही उत्तर दिया; लेकिन जब एआई ने सुझाव दिए, तो सटीकता घटकर 9% रह गई क्योंकि प्रतिभागियों ने एआई के उत्तरों पर जरूरत से ज्यादा भरोसा किया।
इसके अलावा, प्रायोगिक परिणामों से पता चला कि एआई सहायता ने विषयों के आत्मविश्वास में काफी सुधार किया। एआई के बिना, विषयों का औसत आत्मविश्वास 30% था; एआई सहायता से, गलत जानकारी का सामना करने पर भी, विषयों का आत्मविश्वास 76% तक बढ़ गया। शोधकर्ताओं ने बताया कि प्रतिभागियों ने एआई के सामने अपने स्वयं के ज्ञान की सीमाओं पर निर्णय लेना छोड़ दिया, भले ही उन्हें जो जानकारी प्राप्त हुई वह अक्सर एआई द्वारा निर्मित एक "भ्रम" थी।
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या मौद्रिक प्रोत्साहन दिए जाने पर इसमें सुधार हुआ। परिणामों से पता चला कि यद्यपि अज्ञानता को स्वीकार करने की इच्छा 3% से थोड़ा बढ़कर 8% हो गई, और सटीकता दर भी 9% से बढ़कर 16% हो गई, फिर भी ये दोनों संकेतक बेंचमार्क समूह की तुलना में बहुत कम थे।
कैप्रारो ने कहा कि "नहीं जानना" स्वीकार करना आत्म-ज्ञान की मानवीय समझ की सीमाओं का एक महत्वपूर्ण अभिव्यक्ति है, और इस क्षमता का नुकसान एक समस्या है जिसे सामाजिक स्तर पर तत्काल हल करने की आवश्यकता है। उन्होंने इस बात पर जोर दिया कि इस घटना में हस्तक्षेप केवल मॉडल प्रदाताओं पर निर्भर नहीं होना चाहिए, क्योंकि उनके वाणिज्यिक प्रोत्साहन आवश्यक रूप से महत्वपूर्ण सोच को बढ़ावा देने के साथ संरेखित नहीं होते हैं। उनका मानना है कि शिक्षा नीति और एआई साक्षरता शिक्षा के माध्यम से इससे निपटना एक अधिक आदर्श मार्ग है, खासकर अगली पीढ़ी के लिए जो इन प्रणालियों के साथ बड़े होते हैं और बुनियादी महत्वपूर्ण कौशल सीखने में सक्षम नहीं हो सकते हैं। यह मुद्दा विशेष रूप से ध्यान देने योग्य है।