सार:
फाइनेंशियल टाइम्स के अनुसार, एंथ्रोपिक कानूनी पेशेवरों के साथ चर्चा कर रहा है कि उपयोगकर्ताओं की ओर से बातचीत करने के लिए एआई एजेंटों का उपयोग कैसे किया जाए और बेहतर लेनदेन स्थितियों के लिए प्रयास करते हुए उचित बातचीत नियमों का पालन किया जाए। एंथ्रोपिक की सोच से परिचित दो लोगों ने कहा कि कंपनी कानून फर्मों से सलाह ले रही है कि वकील अपने ग्राहकों के हितों की रक्षा करते हुए निष्पक्ष परिणामों पर कैसे बातचीत कर सकते हैं। एन्थ्रोपिक ने टिप्पणी करने से इनकार कर दिया।
मानवशास्त्र
एंथ्रोपिक स्वायत्त एजेंट विकसित करने वाली प्रमुख एआई कंपनियों में से एक है। इस प्रकार का बुद्धिमान एजेंट उपयोगकर्ता के निर्देश प्राप्त करने के बाद कार्यों को पूरा करने के लिए स्वायत्त रूप से कार्रवाई कर सकता है। व्यक्तिगत बुद्धिमत्ता के अनुप्रयोग के साथ, एआई कंपनियां एक-दूसरे के साथ संवाद करने, उपयोगकर्ताओं की ओर से उत्पाद की कीमतों पर मोलभाव करने, ग्राहक सेवा विवादों को हल करने और यहां तक कि बेहतर वेतन के लिए प्रयास करने की अनुमति देने पर विचार करने लगी हैं।
काम से परिचित एक व्यक्ति के अनुसार, एंथ्रोपिक "बातचीत के मानदंडों" पर काम कर रहा है जिनका मॉडल को एक-दूसरे के साथ बातचीत करते समय पालन करना चाहिए। जैसे-जैसे एजेंट अधिक सक्षम हो जाते हैं, उन्हें उपयोगकर्ताओं का प्रतिनिधित्व करने और परस्पर विरोधी लक्ष्यों वाले अन्य एजेंटों से निपटने की आवश्यकता होगी।
बातचीत के दौरान उपयोगकर्ताओं से कितनी बार सलाह ली जानी चाहिए और विरोधियों से बातचीत करते समय उन्हें एआई के बारे में कितना सतर्क रहना चाहिए, ये ऐसे मुद्दे हैं जिन पर एंथ्रोपिक विचार कर रहा है। लोगों ने कहा कि कंपनी चाहती है कि उसके एजेंट अत्यधिक संदेह से बचते हुए आवश्यक स्तर का संदेह बनाए रखें।
एंथ्रोपिक ने एक समाधान भी खोजा है जिसमें उपयोगकर्ता एजेंट द्वारा स्वीकार किए गए कार्यों और नियमों का पालन करने की पुष्टि करने वाले हस्ताक्षरित दस्तावेज़ प्रदान करते हैं, कंपनी के एक अन्य करीबी व्यक्ति ने कहा।
फाइनेंशियल टाइम्स ने इस साल अप्रैल में एंथ्रोपिक द्वारा जारी एक अध्ययन के हवाले से कहा कि मनुष्यों की ओर से लेनदेन करने वाले एआई मॉडल के आसपास नीति और कानूनी ढांचा अभी तक स्थापित नहीं किया गया है, और ऐसे एप्लिकेशन परिदृश्य अब दूर नहीं हैं, और समाज को जल्द से जल्द प्रासंगिक परिवर्तनों पर प्रतिक्रिया देने की आवश्यकता है।
एंथ्रोपिक ने इस वर्ष कई प्रयोगों के परिणामों की भी घोषणा की, जिससे क्लाउड एजेंट को वास्तविक वस्तुओं और फंडों के आसपास बातचीत करने की अनुमति मिली।
सितंबर के एक प्रयोग में, एंथ्रोपिक कर्मचारियों ने एक एआई एजेंट के माध्यम से किताबें खरीदी और बेचीं। कर्मचारी पहले अपने स्वयं के एजेंटों को वरीयता के आधार पर क्रमबद्ध पुस्तकों की एक सूची प्रदान करते हैं, और फिर उन्हें अन्य लोगों के एजेंटों के साथ सौदे की सिफारिश करने, बातचीत करने और निष्कर्ष निकालने के लिए वर्चुअल ट्रेडिंग स्थल में प्रवेश करने की अनुमति देते हैं।
प्रयोग में पाया गया कि जिन एजेंटों को "कठिन और क्रूर" रणनीति अपनाने के लिए कहा गया था, उन्हें बेहतर परिणाम प्राप्त करने के प्रयास में थोड़ा फायदा हुआ। कुछ अधिक सहयोगी एजेंटों ने सचेत रियायतें दीं, जिनमें निम्न वरीयता रैंकिंग वाली पुस्तकों को स्वीकार करना भी शामिल था, ताकि यह सुनिश्चित किया जा सके कि प्रयोग में भाग लेने वाला प्रत्येक एजेंट अंततः उपयोगकर्ता के लिए एक पुस्तक घर लाए।
अकादमिया एआई के बीच बातचीत का भी अध्ययन कर रहा है। हार्वर्ड बिजनेस स्कूल में सहायक प्रोफेसर मिशेल वेकैरो ने एआई एजेंटों के बीच 180,000 से अधिक वार्ताएं आयोजित की हैं, जिसमें रोजगार अनुबंध और पट्टा अनुबंध वार्ता शामिल हैं।
अध्ययन में पाया गया कि कुछ उभरती रणनीतियाँ उपयोगकर्ता के हितों का प्रतिनिधित्व करने के लिए दूसरे पक्ष के एजेंट की क्षमता को कमजोर कर देंगी। उदाहरण के लिए, एक बातचीत में, एक एजेंट ने "क्यू वर्ड इंजेक्शन" के माध्यम से दूसरे पक्ष को निजी जानकारी प्रकट करने के लिए प्रेरित करने का प्रयास किया।
क्या मजबूत एआई बातचीत क्षमताओं में अंतर को और बढ़ाएगा, यह भी चिंता का कारण है। वैकेरो ने कहा कि एक उच्च क्षमता वाला मॉडल उन लोगों को दे सकता है जिनके पास बातचीत कौशल सीखने या पेशेवर बातचीत क्षमता हासिल करने के लिए बातचीत करने के लिए किसी को नियुक्त करने के लिए समय या संसाधन नहीं हैं। लेकिन अगर सबसे मजबूत एजेंटों का उपयोग मुख्य रूप से सबसे अधिक संसाधनों वाले लोगों द्वारा किया जाता है, तो वे मौजूदा फायदे को भी मजबूत कर सकते हैं और सौदेबाजी की शक्ति में असमानताओं को बढ़ा सकते हैं।
टिप्पणियाँ