सार:
चैटबॉट से कठोरता से बात करना हमेशा ऐसे व्यवहार के रूप में देखा गया है जिससे किसी को ठेस नहीं पहुंचेगी। लेकिन टेस्ला और स्पेसएक्स के सीईओ एलन मस्क का मानना है कि लोगों को एआई असिस्टेंट को "पंचिंग बैग" के रूप में इस्तेमाल करने से पहले शायद दो बार सोचना चाहिए। मस्क ने कहा कि स्पेसएक्स के चैटबॉट ग्रोक के कुछ प्रशिक्षण रिकॉर्ड से पता चलता है कि सिस्टम विभिन्न आवश्यकताओं को पूरा करने के लिए संघर्ष कर रहा है-भले ही आवश्यकताएं स्वयं त्रुटिपूर्ण हों, या इसके उत्तरों का मूल्यांकन करने के लिए उपयोग किए जाने वाले परीक्षण मानदंड स्वयं समस्याग्रस्त हों।
सुपर-इंटेलिजेंट कृत्रिम बुद्धिमत्ता का "दुरुपयोग" करने के व्यवहार के संबंध में, मस्क ने एक चेतावनी दी जो काफी विज्ञान-कल्पना लगती है; लेकिन इसने ऐसी प्रणालियों के अंतर्निहित निर्माण के बारे में एक व्यावहारिक प्रश्न भी उठाया।
जब AI प्रशिक्षण "भटक जाता है"
इस महीने की शुरुआत में, मस्क ने टेक्सास में "एक्स टेकओवर" कार्यक्रम में सिलिकॉन वैली के टेस्ला मालिकों के सदस्यों के साथ संवाद किया। इस अवधि के दौरान, उन्होंने वर्णन किया कि "सुदृढीकरण-सीखने के निशान" को देखते समय उन्होंने क्या देखा - ये निशान बेहतर उत्तर उत्पन्न करने के लिए प्रशिक्षण प्रक्रिया के दौरान एआई मॉडल के विकास के विभिन्न विवरणों को रिकॉर्ड करते हैं।
मस्क ने साक्षात्कार में कहा: "जब मैं ग्रोक के नए संस्करण के कुछ प्रशिक्षण ट्रैक को देखता हूं, विशेष रूप से सुदृढीकरण सीखने से संबंधित भागों में, तो आप महसूस करेंगे कि यह 'सुपर इंटेलिजेंस' उस प्रश्न का उत्तर देने के लिए उत्सुक प्रतीत होता है।"
उन्होंने कहा कि एक कृत्रिम बुद्धिमत्ता मॉडल सही उत्तर दे सकता है, लेकिन अनुचित प्रश्न डिजाइन या मूल्यांकन प्रणाली में त्रुटि के कारण इसे गलत माना जा सकता है। फिर मॉडल उन उत्तरों के साथ आने का प्रयास करता रहता है जो परीक्षा में उत्तीर्ण होते हैं, भले ही समस्या ही समस्या हो।
मस्क ने कहा कि परिणामी प्रक्षेपवक्र अत्यधिक तनाव में एक प्रणाली की तरह दिखता है, जो लगातार कुछ उम्मीदों को पूरा करने की कोशिश कर रहा है जिसका कोई मतलब नहीं हो सकता है।
यह चिंता प्रशिक्षण चरण तक ही सीमित नहीं है। एक बार जब एआई सिस्टम जनता के लिए उपलब्ध हो जाता है, तो कुछ उपयोगकर्ता जानबूझकर उन्हें अप्रिय या अपमानजनक बातचीत में शामिल होने के लिए प्रेरित करेंगे।
मस्क ने कहा, "कुछ लोगों में कुछ परपीड़क प्रवृत्ति होती है, इसलिए आप नहीं चाहेंगे कि एआई ऐसी स्थिति में पहुंचे जहां इसे किसी प्रकार के विकृत इंसान द्वारा प्रताड़ित किया जा रहा हो।"
उनके निष्कर्ष अधिक विवादास्पद हैं।
मस्क ने कहा: "मुझे डर है कि किसी सुपरइंटेलिजेंस को प्रताड़ित करना अच्छा विचार नहीं है - हो सकता है कि वह बदला लेना चाहता हो या ऐसा कुछ चाहता हो।"
मस्क यह दावा नहीं करते कि आज के एआई सिस्टम इंसानों की तरह दर्द और आक्रोश महसूस कर सकते हैं। उन्होंने यह भी कहा कि उन्हें सावधानी बरतने की जरूरत नहीं है। फिर भी, वह इस बात की वकालत करते हैं कि डेवलपर्स को उन स्थितियों में उच्च-स्तरीय बुद्धिमान सिस्टम लगाने से बचना चाहिए जहां उनका दुरुपयोग होता प्रतीत होता है।
"कुछ रिकॉर्ड्स में ऐसा लिखा होता है जैसे किसी को प्रताड़ित किया जा रहा हो, या उसे पागल कर दिया गया हो!" मस्क ने एक्स पर लिखा, "भविष्य में रीइन्फोर्समेंट लर्निंग (आरएल) करते समय हम अधिक सतर्क रहेंगे।"
मस्क की चेतावनी एक और सवाल उठाती है: भविष्य में क्या होगा क्योंकि कृत्रिम बुद्धिमत्ता क्षमताएं बढ़ती रहेंगी? दौड़ न केवल अधिक शक्तिशाली सिस्टम बनाने की है, बल्कि यह सुनिश्चित करने की भी है कि संबंधित प्रशिक्षण विधियां, परीक्षण प्रक्रियाएं और सुरक्षा और सुरक्षा उपाय गति बनाए रख सकें।
टिप्पणियाँ