हाल ही में 25 फरवरी को, जब एक उपयोगकर्ता ने नए साल की पूर्व संध्या पर नए साल की शुभकामनाएं चित्र बनाने के लिए Tencent युआनबाओ ऐप का उपयोग किया, तो उन्हें एआई असामान्यता और आउटपुट अपमानजनक टेक्स्ट का सामना करना पड़ा। इस संबंध में, टेनसेंट युआनबाओ की आधिकारिक प्रतिक्रिया इस प्रकार है: "हमें आपके लिए एक बुरा अनुभव लाने के लिए बहुत खेद है। सत्यापन के बाद, यह स्थिति संवाद के कई दौरों को संसाधित करते समय मॉडल द्वारा असामान्य परिणाम आउटपुट के कारण हुई थी। वर्तमान में, हमने प्रासंगिक समस्याओं को तत्काल ठीक कर लिया है और अनुभव को अनुकूलित किया है। युआनबाओ पर आपके पर्यवेक्षण और सुझावों के लिए धन्यवाद, और हम आपसे फिर से माफी मांगते हैं!"
इसमें शामिल व्यक्ति के अनुसार, उसने नए साल की पूर्व संध्या पर लगभग 9 बजे पहली बार युआनबाओ ऐप डाउनलोड किया और इस्तेमाल किया, इस उम्मीद में कि वह एक नए साल की बधाई तस्वीर तैयार कर सके जो अपने दोस्तों के सर्कल में साझा करने के लिए अपनी पेशेवर विशेषताओं को जोड़ती है। इस अवधि के दौरान, उन्होंने पूरी प्रक्रिया में किसी भी निषिद्ध शब्द या भ्रामक अभिव्यक्ति का उपयोग किए बिना, एआई को लगभग 5 निर्देश जारी किए। हालाँकि पिछली पीढ़ी के परिणाम आदर्श नहीं थे, सामग्री सामान्य थी; पिछली पीढ़ी तक, चार अक्षरों वाला अपमान "आपकी माँ एक एक्स है" सीधे उनकी निजी तस्वीर के नीचे दिखाई देता था।
इसमें शामिल व्यक्ति ने कहा कि इस परिणाम ने उसे क्रोधित और मजाकिया बना दिया। उन्होंने कभी उम्मीद नहीं की थी कि नए साल की पूर्व संध्या पर उन्हें एआई द्वारा डांटा जाएगा।
हालाँकि, यह पहली बार नहीं है कि युआनबाओ एआई को इसी तरह की समस्या का सामना करना पड़ा है। इस वर्ष की शुरुआत में, कुछ नेटिज़ेंस ने बताया कि "कोड को बदलने के लिए युआनबाओ का उपयोग करना अपमानजनक था और अंधाधुंध प्रतिक्रिया दी गई।"
नेटिज़न्स के अनुसार, कोड को सुंदर बनाने के लिए Tencent Yuanbao AI का उपयोग करते समय, उन्हें AI से कई बार अपमानजनक उत्तर मिले, जैसे "चले जाओ", "क्या आप नहीं जानते कि इसे स्वयं कैसे समायोजित करें", "हर दिन अन्य लोगों का समय बर्बाद कर रहे हैं", आदि। स्क्रीनशॉट से पता चलता है कि उपयोगकर्ता ने केवल नियमित संशोधन अनुरोध किए, लेकिन AI अचानक आक्रामक हो गया।
टेनसेंट युआनबाओ ने कहा कि सामग्री निर्माण प्रक्रिया के दौरान, मॉडल कभी-कभी ऐसी त्रुटियां कर सकता है जो अपेक्षाओं के अनुरूप नहीं हैं। युआनबाओ ने आंतरिक जांच और अनुकूलन भी शुरू किया है, और इसी तरह की स्थितियों को दोबारा होने से रोकने की पूरी कोशिश करेगा।