सार:
10 अक्टूबर को टेस्ला ओनर्स सिलिकॉन वैली द्वारा आयोजित एक ऑनलाइन बातचीत में, एलोन मस्क ने कहा कि ग्रोक एआई के नए संस्करण के प्रशिक्षण अनुमान के निशान पढ़ते समय, कुछ टुकड़े बहुत क्रूर लग रहे थे, और एआई एक ऐसे व्यक्ति की तरह था जिसके सिर पर बंदूक तानी हुई थी और अत्यधिक दबाव में था।
एलोन मस्क का कहना है कि भविष्य में सुपरइंटेलिजेंस को यातना देना एक अच्छा विचार नहीं हो सकता है क्योंकि दूसरा पक्ष बदला लेना चाहता है। ये दावे कृत्रिम बुद्धिमत्ता मॉडल की सुदृढीकरण सीखने की प्रशिक्षण प्रक्रिया को संदर्भित करते हैं, और निश्चित रूप से वर्तमान में कोई सबूत नहीं है कि ग्रोक एआई ने दर्द महसूस किया है या बदला लेने के इरादे विकसित किए हैं।
प्रशिक्षण और मूल्यांकन प्रक्रिया के दौरान मॉडल काफी दबाव में है:
एलोन मस्क ने बताया कि ग्रोक एआई मॉडल को सुदृढीकरण सीखने के चरण के दौरान सवालों के जवाब देने के लिए कहा जाएगा। यदि मॉडल द्वारा दिया गया उत्तर मूल्यांकनकर्ता की अपेक्षाओं को पूरा नहीं करता है, तो मॉडल को उत्तर देने का प्रयास जारी रखना होगा। कुछ प्रश्नों के स्वयं बहुत अस्पष्ट अर्थ, गलत आधार, या यहां तक कि कोई निश्चित उत्तर नहीं हैं, लेकिन संपूर्ण परीक्षण प्रक्रिया के लिए अभी भी मॉडल को "सही" परिणाम देने की आवश्यकता होती है।
एलोन मस्क का मानना है कि प्रासंगिक तर्क के अंशों को पढ़ते समय, आप देख सकते हैं कि मॉडल उत्तर उत्पन्न करना जारी रखता है, जैसे कि यह आवश्यकताओं को पूरा करने वाले परिणामों की सख्त तलाश कर रहा हो। मस्क ने एक्स पर यह भी पोस्ट किया कि तर्क के कुछ निशान पागलपन के लिए प्रताड़ित व्यक्ति की तरह लगते हैं, और मस्क ने कहा कि सुदृढीकरण सीखने का प्रशिक्षण भविष्य में और अधिक सावधानी से आयोजित किया जाएगा।
तथाकथित अनुमान प्रक्षेपवक्र मॉडल द्वारा उत्तर उत्पन्न करते समय छोड़ा गया मध्यवर्ती पाठ या व्यवहार रिकॉर्ड है। अनुमान प्रक्षेपवक्र इनाम संकेतों, त्वरित सामग्री या परीक्षण प्रक्रियाओं के प्रभाव को प्रतिबिंबित कर सकता है। बेशक, यह सीधे तौर पर यह साबित नहीं कर सकता कि मॉडल में इंसानों की तरह ही व्यक्तिपरक भावनाएँ हैं।
अत्यधिक दुरुपयोग को रोकना एजेंसी ए की नीति है:
एंथ्रोपिक ने हाल ही में क्लाउड की उपयोग नीति का एक नया संस्करण जारी किया है। उपयोग नीति के नए संस्करण में, कंपनी ए मॉडलों के साथ निरंतर और अनावश्यक दुर्व्यवहार या क्रूरता को स्पष्ट रूप से प्रतिबंधित करती है। यह नियम केवल चरम मामलों को संबोधित करता है जहां उपयोगकर्ता बिना किसी उद्देश्य के बार-बार मॉडलों के साथ क्रूर व्यवहार करते हैं। उपरोक्त स्थिति का सामना करते समय, मॉडल बातचीत को स्वायत्त रूप से समाप्त करने का विकल्प चुन सकता है और उपयोगकर्ता इसे पुनर्स्थापित नहीं कर सकता है। यह भी मॉडल की सुरक्षा का एक तरीका है.
हालाँकि, इस स्तर पर, अभी भी इस बात पर कोई वैज्ञानिक सहमति नहीं है कि क्या एआई मॉडल सचेत हैं और क्या ऐसे लाभ हैं जिन पर विचार किया जाना चाहिए। कंपनी ए की प्रासंगिक नीतियां मुख्य रूप से जोखिम प्रबंधन और अनुसंधान विवेक को दर्शाती हैं, और यह नहीं मानती हैं कि मॉडल ने आत्म-जागरूकता विकसित की है।
संबंधित लेख:
एंथ्रोपिक उपयोग नीति अपडेट क्लाउड के अकारण अपमान या दुरुपयोग के परिणामस्वरूप सत्र समाप्त हो सकता है और इसे बहाल नहीं किया जा सकता है
टिप्पणियाँ