सार:
404 मीडिया द्वारा जारी रिपोर्टों के अनुसार, OpenAI के भीतर प्रोजेक्ट लिली नामक एक परियोजना चल रही है: OpenAI प्रतिक्रियाओं की गुणवत्ता में सुधार करने के लिए वास्तविक उपयोगकर्ताओं और ChatGPT के बीच की बातचीत को मैन्युअल रूप से पढ़ने के लिए सैकड़ों आउटसोर्स किए गए त्वरित शब्द समीक्षकों को काम पर रखता है।
एक गोपनीयता फ़िल्टर है लेकिन यह पर्याप्त रूप से पर्याप्त नहीं है:
सामान्य परिस्थितियों में, शीघ्र शब्द समीक्षक उपयोगकर्ता नाम नहीं देख सकता है, और व्यक्तिगत जानकारी को हटाने के लिए बातचीत को पहले गोपनीयता फ़िल्टर के माध्यम से फ़िल्टर किया जाएगा। हालाँकि, OpenAI यह भी स्वीकार करता है कि फ़िल्टरिंग तंत्र व्यक्तिगत जानकारी को मिस कर सकता है, और छोटी बातचीत में विशेष रूप से समस्याएँ उत्पन्न होती हैं।
समीक्षा इंटरफ़ेस आमतौर पर उपयोगकर्ता मेमोरी सारांश के साथ भी आता है। मेमोरी सारांश उपयोगकर्ता के पिछले प्रश्नों, रुचियों और स्थितियों आदि का सारांश देगा। कभी-कभी यह मेमोरी के माध्यम से उपयोगकर्ता के स्थान का अनुमान भी लगा सकता है। ऑडिटर अक्सर पूरी बातचीत को संदर्भ से देखते हैं।
समीक्षक मुख्य रूप से उत्तर स्कोर करता है:
काम को यांत्रिक और दोहराव वाला बताया गया था, और प्रति घंटा वेतन $50 से अधिक बताया गया था। समीक्षक का मुख्य काम तथ्यों की जांच करने के बजाय उत्तरों का मूल्यांकन करना है। उदाहरण के लिए, समीक्षक को यह तय करने की आवश्यकता है कि क्या मॉडल द्वारा दिया गया उत्तर प्रासंगिक है, क्या इसमें स्पष्ट एआई स्वाद है, क्या उपदेशात्मक व्यवहार है, क्या अभिव्यक्तियों का दुरुपयोग है, क्या चापलूसी वाला व्यवहार है, और क्या मॉडल जीवन के अनुभव वाले व्यक्ति के रूप में मॉडल लिखेगा।
जहां तक यह सवाल है कि क्या मॉडल द्वारा दिए गए उत्तरों में तथ्यात्मक त्रुटियां हैं, तो यह ऑडिटर का काम नहीं है। आख़िरकार, ऑडिटर विश्वकोश नहीं हैं और सभी घटनाओं की पूरी सच्चाई नहीं जान सकते हैं, इसलिए उपयोगकर्ताओं के लिए मॉडल द्वारा दिए गए उत्तरों को देखना सामान्य है जिनमें तथ्यात्मक त्रुटियां होती हैं।
डिफ़ॉल्ट रूप से सक्षम बेहतर मॉडल डेटा साझाकरण की कुंजी है:
चैटजीपीटी मुफ़्त, प्लस और प्रो संस्करण सभी डिफ़ॉल्ट रूप से उत्पादों को बेहतर बनाने के लिए चैट के उपयोग को सक्षम करते हैं। जब यह फ़ंक्शन सक्षम हो जाता है, तो उपयोगकर्ता की चैट सामग्री उत्पाद सुधार के लिए OpenAI को अधिकृत कर दी जाएगी। बातचीत की सामग्री की जांच करने के लिए लिली प्लान में आउटसोर्स किए गए ऑडिटर केवल डेटा उपयोगों में से एक हैं। डेटा का उपयोग स्वाभाविक रूप से अन्य उद्देश्यों के लिए किया जाएगा, जैसे मॉडल को प्रशिक्षित करना जारी रखना।
कई उपयोगकर्ता चैटजीपीटी को एक अस्थायी विश्वासपात्र के रूप में उपयोग करते हैं, परिवार, स्वास्थ्य और यहां तक कि अधिक निजी मामलों के बारे में बात करते हैं। कुछ समीक्षकों ने कहा कि कई उपयोगकर्ताओं को यह नहीं पता होगा कि उनकी बातचीत वास्तविक लोगों द्वारा पढ़ी जा सकती है, इसलिए इस बारे में सोचें कि क्या यह एक डरावनी बात है।
टिप्पणियाँ