सार:
रॉयटर्स के मुताबिक, OpenAI ने गुरुवार को अपना मॉडल स्पेक अपडेट किया। यह एक सार्वजनिक रोडमैप है जो बताता है कि कंपनी अपने एआई मॉडलों का प्रदर्शन कैसा चाहती है। जैसे-जैसे एआई सिस्टम की क्षमताएं बढ़ती जा रही हैं, ओपनएआई ने विशिष्टताओं के इस सेट को पांच मुख्य मूल्यों के आसपास फिर से बनाया है। पाँच मूल्य हैं मानवीय इरादे के प्रति निष्ठा, नुकसान को कम करना, ईमानदारी और पारदर्शिता, मानवीय स्वायत्तता के लिए सम्मान और देखभाल।
OpenAI
ओपनएआई ने कहा कि मानवीय इरादों के प्रति वफादारी इस ढांचे का आधार है, जिसके लिए मॉडल को केवल निर्देशों को शाब्दिक रूप से निष्पादित करने के बजाय उपयोगकर्ताओं, डेवलपर्स और ओपनएआई के इरादों और मूल्य अभिविन्यास को समझने की आवश्यकता होती है।
ओपनएआई ने कहा कि अपडेट उसके एआई संरेखण प्रयासों का हिस्सा है जो मॉडलों को हमेशा मानव पर्यवेक्षण को स्वीकार करते हुए अपरिचित परिस्थितियों में मानवीय मूल्यों को लागू करने में मदद करता है। संशोधित ढांचे में कहा गया है कि मॉडलों को नुकसान को कम करना चाहिए, वे जो जानते हैं और जो नहीं जानते हैं उसके बारे में पारदर्शी होना चाहिए और उपयोगकर्ताओं को अपने निर्णय लेने और अपने लक्ष्यों को प्राप्त करने में मदद करनी चाहिए।
कंपनी ने कहा कि वर्तमान मॉडल अभी तक अद्यतन "मॉडल विशिष्टता" की आवश्यकताओं को पूरी तरह से प्रतिबिंबित नहीं करता है और मॉडल को इन सिद्धांतों को अपने व्यवहार में शामिल करने में मदद करने के लिए नई प्रशिक्षण विधियों की खोज कर रहा है।
यह कदम प्रतिद्वंद्वी एंथ्रोपिक के "संवैधानिक एआई" दृष्टिकोण को प्रतिध्वनित करता है। दृष्टिकोण सिद्धांतों के लिखित "संविधान" के माध्यम से एक मॉडल के व्यवहार का मार्गदर्शन करता है और एआई सिस्टम को आकार देने वाले मूल्यों को अधिक पारदर्शी बनाता है।
टिप्पणियाँ