सार:
कल रात एक पोस्ट वायरल हुई: 50 मिलियन अमेरिकी डॉलर के हस्तांतरण का सामना करते हुए, किसी ने क्लाउड से पूछा, और क्लाउड ने कहा कि इसे स्थानांतरित न करें। अंत में पैसा ट्रांसफर नहीं हुआ. उनके अनुसार, क्लाउड ने उन्हें 50 मिलियन डॉलर बचाए। लेकिन उसके कथन को देखते हुए, वह क्लाउड से पूछने से पहले अपना मन नहीं बदलना चाहता था। एआई ने उसके लिए निर्णय नहीं लिया, उसने बस उसके मूल विचार में एक कदम जोड़ा।
सोशल प्लेटफ़ॉर्म पर कुछ लोगों ने इसे इस तरह से भी देखा: उनके दिमाग में पहले से ही जवाब था और उन्होंने क्लाउड से निर्णय पर हस्ताक्षर करने के लिए कहा। दूसरों ने अधिक सीधे तौर पर कहा, क्लाउड को दोष न लेने दें।
जब उनसे पूछा गया कि अगर डौबाओ के बारे में सवाल पूछा जाए तो क्या होगा, उन्होंने कहा कि अगर उन्होंने मॉडल बदल दिया, तो उन्हें दूसरा जवाब मिल सकता है।
यदि आप मॉडल बदलते हैं, तो उत्तर बदल जाएगा। तब प्रश्न निर्णय का नहीं, बल्कि समर्थन का हो सकता है।
इस साल अप्रैल में, एंथ्रोपिक ने 1 मिलियन क्लाउड.एआई वार्तालापों का विश्लेषण किया। लगभग 6% व्यक्तिगत कोचिंग में शामिल थे, जिसमें स्वास्थ्य, करियर, रिश्ते और व्यक्तिगत वित्त का योगदान 76% था। क्या मुझे अपनी नौकरी बदलनी चाहिए? मुझे अपने साथी से कैसे बात जारी रखनी चाहिए? मुझे अपने कर्ज से कैसे निपटना चाहिए? इनमें से कुछ प्रश्न जो मैं पहले दोस्तों, परिवार या पेशेवरों से पूछता था, उन्हें चैट बॉक्स में भेज दिया गया है।
लोग अपनी भावनाओं के बारे में AI से बात करना क्यों पसंद करते हैं?
एआई के साथ चैट करना आसान है। कोई अपॉइंटमेंट लेने की ज़रूरत नहीं, दोस्तों के चेहरे देखने की ज़रूरत नहीं, और कहानी तीसरी बार भी सुनाने पर भी वह अधीर नहीं होगा।
कुछ लोग कहते हैं कि एआई के साथ चैट करना सिर्फ अपनी भावनाओं के लिए रास्ता ढूंढना है। मुझे यकीन नहीं है कि यह जो कहता है वह सही है, और मुझे पता है कि यह कभी-कभी अपने रास्ते पर चलेगा, लेकिन कम से कम यह पहले आपका मूल्यांकन नहीं करेगा।
धैर्य एक बात है, पूर्ण नासमझी दूसरी बात है।
जब कोई रिश्ता क्लॉड के पास आता है, तो अक्सर केवल एक ही पक्ष की कहानी रह जाती है। दूसरे पक्ष ने क्या कहा और कौन से विवरण छोड़े गए, यह मॉडल द्वारा नहीं सुना जा सकता। इसमें केवल एक पक्ष का बयान देखा जाता है, लेकिन उसे एक सभ्य निष्कर्ष देना होता है।Anthropic用自动分类器检查这些对话时发现，
Claude在个人指导场景中出现"谄媚"的比例约为9%，到了关系咨询中，这个数字升至25%。
यहां चापलूसी का मतलब केवल कुछ अच्छे शब्द कहना नहीं है, बल्कि इसमें अपर्याप्त जानकारी होने पर उपयोगकर्ता के साथ अत्यधिक पहचान करना या दूसरे पक्ष के लिए निष्कर्ष निकालने के लिए उपयोगकर्ता की कहानी का अनुसरण करना भी शामिल है।
जब उपयोगकर्ता खंडन करता है, तो उत्तर उस दिशा में आगे बढ़ना जारी रह सकता है जिसकी उपयोगकर्ता अपेक्षा करता है। संबंध परामर्श में क्लाउड का खंडन करने वाले उपयोगकर्ताओं का अनुपात 21% था, और अन्य क्षेत्रों में औसत 15% था;
खंडन के बाद, उपयोगकर्ताओं के लिए क्लाउड खानपान का अनुपात 18% तक पहुंच गया, और जब कोई खंडन नहीं हुआ, तो यह 9% था।
एकतरफ़ा बयानों को सुनकर इंसान के दोस्त भी पक्ष लेंगे, लेकिन एआई पक्षों को लंबे और पूरे तरीके से लिख सकता है, और ऐसा लगता है।
सलाह का एक टुकड़ा वास्तव में आपकी पसंद बदल सकता है
2024 में, "साइंटिफिक रिपोर्ट्स" ने कुल 1,925 लोगों को शामिल करते हुए दो प्रयोग प्रकाशित किए। शोधकर्ताओं ने प्रतिभागियों को चैटजीपीटी या विशेषज्ञों से सलाह प्रदान की, और फिर देखा कि उन्होंने कैसे चुना।
परिणाम बताते हैं कि नैतिक निर्णय और कुछ अन्य कार्यों में, प्रतिभागी सिफारिशों की दिशा में आगे बढ़ेंगे, और चैटजीपीटी का प्रभाव विशेषज्ञ सिफारिशों के समान है; कुछ कार्य ऐसे भी होते हैं जिनमें कोई खास बदलाव नहीं दिखता।
दूसरे शब्दों में, एआई शब्द हवा नहीं हैं, वे वास्तव में लोगों को एक निश्चित दिशा में धकेलते हैं।
有人会说，那多问几个模型不就行了。可"多问几个"听起来像交叉验证，其实不是。
不同模型有不同的训练方式、表达习惯和安全规则，同一件事换一种讲法，答案也可能改变。
चार मॉडल पूछने का मतलब चार तटस्थ तृतीय पक्षों से पूछना नहीं है। उनमें से प्रत्येक की अपनी प्रशिक्षण प्रवृत्तियाँ हैं।有个更简单的做法：讲述冲突时，先别告诉AI哪一方是自己，只列双方分别做了什么，再让它分析。至少这样可以减少模型顺着"提问者视角"站队的机会。
आप यह भी देखने का प्रयास कर सकते हैं कि इसका निर्णय स्थिर है या नहीं। उसी चीज़ के लिए, पहले कहानी का पक्ष पक्ष बताएं, और फिर दूसरे पक्ष का संस्करण जोड़कर देखें कि क्या वे तुरंत अपने शब्द बदल देंगे।
जो कोई भी खंडन होते ही अपनी स्वीकारोक्ति से मुकर जाता है, उसे अपने उत्तर के पहले संस्करण को गंभीरता से नहीं लेना चाहिए।
提问方式也得换。别急着问"我该不该分手""这笔钱该不该给"，先让AI列出已经确认的事实、还缺什么信息、每种选择要付出什么代价。
एआई आपके साथ सोच सकता है, लेकिन आपके लिए चयन नहीं कर सकता।
भले ही चार मॉडल चार उत्तर दें, एक ही व्यक्ति अंत में स्थानांतरण, हस्ताक्षर और ब्रेकअप करेगा।
टिप्पणियाँ