सार:
23 सितंबर को, ब्लूमबर्ग के अनुसार, एआई अग्रणी ली फेइफी ने स्वतंत्र एजेंसियों और सार्वजनिक क्षेत्र द्वारा एआई की अधिक निगरानी का आह्वान किया। उनका मानना है कि तेजी से शक्तिशाली एआई सिस्टम का सुरक्षा मूल्यांकन पूरी तरह से इन सिस्टम को विकसित करने वाली कंपनियों पर नहीं छोड़ा जाना चाहिए।
ली फेइफी
स्टैनफोर्ड यूनिवर्सिटी में प्रोफेसर और वर्ल्ड लैब्स के सह-संस्थापक के रूप में, ली फेइफी ने मंगलवार को कहा कि हालांकि एआई कंपनियों के आंतरिक शोधकर्ता व्यक्तिगत मॉडल की क्षमताओं और सुरक्षा का मूल्यांकन कर सकते हैं, लेकिन यह सरकार, उद्योग और शैक्षणिक संस्थानों द्वारा संयुक्त रूप से विकसित व्यापक मानकों को प्रतिस्थापित नहीं कर सकता है।
"मैं अब भी मानता हूं कि स्वतंत्र संस्थानों के साथ-साथ शिक्षा जगत जैसे सार्वजनिक क्षेत्रों द्वारा मानदंड स्थापित करना बहुत महत्वपूर्ण है। साथ ही, उद्योग और सरकार को भी जिम्मेदारी साझा करनी चाहिए।" ब्लूमबर्ग टीवी के साथ एक साक्षात्कार में ली फेइफी ने कहा।
जैसे-जैसे एआई सिस्टम की क्षमताएं बढ़ती जा रही हैं, वैसे-वैसे उनके संभावित जोखिमों के बारे में चिंताएं भी बढ़ती जा रही हैं। सिलिकॉन वैली के कुछ नेताओं ने चेतावनी दी है कि प्रौद्योगिकी बहुत तेजी से विकसित हो रही है और अंततः मानव नियंत्रण से आगे निकल सकती है। हाल के सप्ताहों में, एंथ्रोपिक सीईओ डारियो अमोदेई और ओपनएआई सीईओ सैम ऑल्टमैन दोनों ने अत्याधुनिक मॉडलों के विकास को धीमा करने का आह्वान किया है। दोनों बुधवार को संयुक्त राष्ट्र सुरक्षा परिषद में एआई सुरक्षा पर चर्चा करेंगे।
ली फेइफ़ी ने कहा कि एआई जो अस्तित्वगत जोखिम ला सकता है वह अंततः इस बात पर निर्भर करता है कि मनुष्य इस तकनीक को कैसे विकसित, शासन और उपयोग करना चुनते हैं। उन्होंने कहा कि यह सिद्धांत एआई के अलावा बिजली और भाप इंजन से लेकर आधुनिक परिवहन तक अन्य प्रौद्योगिकियों पर भी लागू होता है। मानव समाज को प्रौद्योगिकी से मिलने वाले लाभों और व्यक्तिगत सुरक्षा के बीच संतुलन बनाने की भी आवश्यकता है।
उन्होंने कहा, "मानवता के पास प्रौद्योगिकी की शक्ति है।" "हमें नियंत्रण रखना चाहिए। एआई एआई के बारे में नहीं है, बल्कि मनुष्यों के बारे में है। यह हमारी सामान्य और व्यक्तिगत गरिमा और स्वायत्तता के बारे में है, और यह हमारी जिम्मेदारियों के बारे में भी है।" ली फेइफी ने कहा।
ली फेइफ़ी की टिप्पणियाँ नीति निर्माताओं और एआई उद्योग के नेताओं के बीच बढ़ती गरमागरम बहस में एक नई आवाज़ जोड़ती हैं। बहस इस बात पर केंद्रित है कि प्रौद्योगिकी के सबसे चरम जोखिमों के बारे में चेतावनियों को कितनी गंभीरता से लिया जाना चाहिए। इससे पहले मंगलवार को, अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने एआई के अस्तित्व संबंधी खतरे के बारे में चिंताओं को खारिज कर दिया, इसे "धोखा" कहा और न्यूयॉर्क में संयुक्त राष्ट्र महासभा में एक भाषण के दौरान पूरी गति से प्रौद्योगिकी का विकास जारी रखने की आवश्यकता पर बल दिया।
ली फेइफी ने कहा कि एआई सिस्टम के व्यवहार के बारे में चर्चा वर्तमान एआई सनक को चलाने वाले तथाकथित अत्याधुनिक मॉडल से आगे बढ़ गई है। जिस कंपनी की उन्होंने स्थापना की, वर्ल्ड लैब्स, तथाकथित "विश्व मॉडल" विकसित कर रही है जो त्रि-आयामी वातावरण उत्पन्न और पुनर्निर्माण कर सकती है। उन्होंने कहा कि प्रौद्योगिकी का उपयोग रोबोटों को प्रशिक्षित करने और उनका मूल्यांकन करने और डिजाइन, चिकित्सा और अन्य उद्योगों में अनुप्रयोगों को सक्षम करने के लिए किया जा सकता है।
जैसा कि ये सिस्टम वास्तविक दुनिया के अनुप्रयोगों की ओर बढ़ते हैं, उन्होंने कहा, उद्योग को एक ही बुनियादी सवाल का सामना करना पड़ता है: तेजी से शक्तिशाली एआई का मूल्यांकन कैसे करें और यह निर्धारित करें कि क्या यह उम्मीद के मुताबिक काम कर रहा है।
टिप्पणियाँ