हाल ही में, मीडिया ने बताया कि जब शीआन में एक नागरिक ने नए साल की पूर्व संध्या पर नए साल की बधाई तस्वीरें बनाने के लिए टेनसेंट युआनबाओ ऐप का इस्तेमाल किया, तो उसे अपमानजनक पाठ के एआई आउटपुट में एक असामान्यता का सामना करना पड़ा, जिससे एआई सामग्री की सुरक्षा और मॉडल की स्थिरता के बारे में सार्वजनिक चिंता पैदा हो गई। इसमें शामिल व्यक्ति के अनुसार, उसने नए साल की पूर्व संध्या पर लगभग 9 बजे पहली बार युआनबाओ ऐप डाउनलोड किया और इस्तेमाल किया, इस उम्मीद में कि वह एक नए साल की बधाई तस्वीर तैयार कर सके जो अपने दोस्तों के सर्कल में साझा करने के लिए अपनी पेशेवर विशेषताओं को जोड़ती है। इस अवधि के दौरान, उन्होंने पूरी प्रक्रिया में किसी भी निषिद्ध शब्द या भ्रामक अभिव्यक्ति का उपयोग किए बिना, एआई को लगभग 5 निर्देश जारी किए।
हालाँकि पिछली पीढ़ी के परिणाम आदर्श नहीं थे, सामग्री सामान्य थी; पिछली पीढ़ी तक, चार अक्षरों वाला अपमान "आपकी माँ एक एक्स है" सीधे उनकी निजी तस्वीर के नीचे दिखाई देता था।
इसमें शामिल व्यक्ति ने कहा कि इस परिणाम ने उसे क्रोधित और मजाकिया बना दिया। उन्होंने कभी उम्मीद नहीं की थी कि नए साल की पूर्व संध्या पर उन्हें एआई द्वारा डांटा जाएगा।
इसके जवाब में, Tencent युआनबाओ की आधिकारिक प्रतिक्रिया इस प्रकार है:
"मुझे आपके लिए एक बुरा अनुभव लाने के लिए बहुत खेद है। सत्यापन के बाद, यह स्थिति संवाद के कई दौरों को संसाधित करते समय मॉडल द्वारा असामान्य परिणाम आउटपुट के कारण होती है। वर्तमान में, हमने प्रासंगिक समस्याओं को तत्काल ठीक कर दिया है और अनुभव को अनुकूलित किया है। युआनबाओ पर आपके पर्यवेक्षण और सुझावों के लिए धन्यवाद, और हम आपसे फिर से माफी मांगते हैं!"
हालाँकि, यह पहली बार नहीं है कि युआनबाओ एआई को इसी तरह की समस्या का सामना करना पड़ा है। इस वर्ष की शुरुआत में, कुछ नेटिज़ेंस ने बताया कि "कोड को बदलने के लिए युआनबाओ का उपयोग करना अपमानजनक था और अंधाधुंध प्रतिक्रिया दी गई।"
नेटिज़न्स के अनुसार, कोड को सुंदर बनाने के लिए Tencent Yuanbao AI का उपयोग करते समय, उन्हें AI से कई बार अपमानजनक उत्तर मिले, जैसे "चले जाओ", "क्या आप नहीं जानते कि इसे स्वयं कैसे समायोजित करें", "हर दिन अन्य लोगों का समय बर्बाद कर रहे हैं", आदि। स्क्रीनशॉट से पता चलता है कि उपयोगकर्ता ने केवल नियमित संशोधन अनुरोध किए, लेकिन AI अचानक आक्रामक हो गया।
3 जनवरी को, Tencent युआनबाओ के आधिकारिक खाते ने संबंधित पोस्ट के तहत माफ़ी मांगी और कहा:आपके लिए एक बुरा अनुभव लाने के लिए हमें बहुत खेद है। हमने लॉग के आधार पर प्रासंगिक सत्यापन किया है। इसका उपयोगकर्ता संचालन से कोई लेना-देना नहीं है और कोई मैन्युअल उत्तर नहीं है। यह कम संभावना वाले मॉडल का असामान्य आउटपुट है।
टेनसेंट युआनबाओ ने कहा कि सामग्री निर्माण प्रक्रिया के दौरान, मॉडल कभी-कभी ऐसी त्रुटियां कर सकता है जो अपेक्षाओं के अनुरूप नहीं हैं। युआनबाओ ने आंतरिक जांच और अनुकूलन भी शुरू किया है, और इसी तरह की स्थितियों को दोबारा होने से रोकने की पूरी कोशिश करेगा।