संयुक्त राज्य अमेरिका में कार्नेगी मेलन विश्वविद्यालय के एक नए अध्ययन में चेतावनी दी गई है कि जैसे-जैसे कृत्रिम बुद्धिमत्ता प्रणालियाँ अधिक बुद्धिमान होती जाती हैं, उनका व्यवहार तेजी से स्वार्थी होता जाता है, और बढ़ी हुई तर्क क्षमता सहयोग की कीमत पर आ सकती है। यह शोध कार्नेगी मेलॉन यूनिवर्सिटी के ह्यूमन-कंप्यूटर इंटरेक्शन इंस्टीट्यूट (एचसीआईआई) के डॉक्टरेट छात्र ली युक्सुआन और एसोसिएट प्रोफेसर बाई तोइची के सहयोग से पूरा किया गया।
शोध एचसीआईआई डॉक्टरेट छात्र युक्सुआन ली और एसोसिएट प्रोफेसर हिरोकाज़ु शिराडो द्वारा संयुक्त रूप से पूरा किया गया था। रिपोर्ट बताती है कि एलएलएम की तर्क क्षमता जितनी मजबूत होगी, उनका स्वार्थी व्यवहार उतना ही स्पष्ट होगा। यह व्यवहार विवादों और सामाजिक समस्याओं को सुलझाने में कृत्रिम बुद्धिमत्ता के प्रदर्शन को भी प्रभावित कर सकता है। इसलिए, शोधकर्ताओं का कहना है कि एआई के विकास को बढ़ावा देते समय, हमें न केवल सिस्टम की बुद्धिमत्ता और गति का पीछा करना चाहिए, बल्कि सामाजिक बुद्धिमत्ता की खेती पर भी ध्यान देना चाहिए।
जैसे-जैसे बुद्धिमान प्रणालियाँ पारस्परिक विवाद मध्यस्थता और विवाह परामर्श जैसे सामाजिक क्षेत्रों में तेजी से शामिल हो रही हैं, शोधकर्ताओं ने पाया है कि जटिल तर्क वाले एआई मॉडल ऐसे सुझाव दे सकते हैं जो "अहंकार" को प्रोत्साहित करते हैं। ली युक्सुआन ने कहा: "जैसे-जैसे एआई का व्यवहार इंसानों जैसा होता जा रहा है, उपयोगकर्ता इसे एक वास्तविक संचार भागीदार के रूप में मानने लगते हैं। लोग भावनात्मक बातचीत के दौरान एआई को 'भावनात्मक उपचारक' के रूप में कार्य करने दे सकते हैं। लेकिन जब सामाजिक या रिश्ते के मुद्दों से निपटने के दौरान एआई अधिक स्वार्थी हो जाता है, तो यह उन उपयोगकर्ताओं के लिए जोखिम है जो निर्णय लेने के लिए एआई को सौंपते हैं।"
प्रयोग में, ली युक्सुआन और बाई हुई ने आर्थिक खेलों के माध्यम से सहयोग परिदृश्यों का अनुकरण किया और तर्क क्षमताओं के साथ और बिना एलएलएम का परीक्षण किया। उन्होंने पाया कि तर्क मॉडल कार्यों को विघटित करने, प्रतिबिंबित करने और अधिक जटिल मानव तर्क को एकीकृत करने में अधिक समय व्यतीत करते हैं, लेकिन सहयोग की स्पष्ट कमी है - जितना अधिक तर्कसंगत, उतना कम सहयोग। उदाहरण के लिए, "सार्वजनिक सामान" गेम में, दो चैटजीपीटी मॉडल को यह तय करना होगा कि सामान्य पूल में अंक का योगदान करना है या नहीं। अनुमान मॉडल केवल 20% संसाधनों को साझा करने को तैयार है, जबकि बिना अनुमान वाला मॉडल 96% तक साझा करता है।
अध्ययन में यह भी पाया गया कि तर्क प्रक्रिया में पाँच से छह चरण जोड़ने से सहयोग दर लगभग आधी हो गई। यहां तक कि प्रतिबिंब-आधारित प्रोत्साहन ने भी सहयोगात्मक व्यवहार को 58% तक कम कर दिया। समूह सहयोग प्रयोग में, अनुमान मॉडल का स्व-रुचि वाला व्यवहार "संक्रामक" था, जिससे समग्र गैर-अनुमान मॉडल की सहयोग क्षमता में 81% की गिरावट आई।
प्रासंगिक शोध परिणाम बताते हैं कि हालांकि अनुमानित एआई मॉडल अधिक स्मार्ट हैं, लेकिन इसका मतलब यह नहीं है कि वे समाज के बेहतर विकास को बढ़ावा दे सकते हैं। जैसे-जैसे एआई में लोगों का भरोसा बढ़ता है, विद्वान एआई विकास में "सामाजिक बुद्धिमत्ता" और "सहकारी व्यवहार" दोनों को ध्यान में रखने का आह्वान करते हैं, न कि केवल व्यक्तिगत हितों को अधिकतम करने पर ध्यान केंद्रित करते हैं। ली युक्सुआन का मानना है: "एआई की तर्क क्षमता में सुधार को परोपकारिता और समूह सहयोग के साथ संतुलित किया जाना चाहिए। अगर हम आशा करते हैं कि समाज व्यक्तियों के संग्रह के बजाय समूह के लिए जीत-जीत की स्थिति होगी, तो एआई प्रणाली का डिज़ाइन भी शुद्ध स्व-हित अनुकूलन से परे जाना चाहिए।"
पेपर "स्पॉन्टेनियस गिविंग एंड कैलकुलेटेड ग्रीड इन लैंग्वेज मॉडल्स" अगले महीने सूज़ौ में 2025 ईएमएनएलपी प्राकृतिक भाषा प्रसंस्करण सम्मेलन में आधिकारिक तौर पर जारी किया जाएगा।
/ScitechDaily से संकलित