सार:
"बिजनेस इनसाइडर" के अनुसार, मीडिया ने ओपनएआई के चैटजीपीटी, गूगल जेमिनी, एंथ्रोपिक के क्लाउड और एक्सएआई के ग्रोक से यही सवाल पूछा और उनसे यह विश्लेषण करने के लिए कहा कि कैसे कृत्रिम बुद्धिमत्ता मानव विलुप्त होने और संभावना के क्रम में रैंक संबंधी परिदृश्यों का कारण बन सकती है।
प्रश्न में चार एआई को यह समझाने की आवश्यकता है कि जोखिम कैसे हो सकते हैं, नियंत्रण से बाहर कौन से लिंक आपदाओं में बदल जाएंगे, विशेषज्ञ क्यों सोचते हैं कि एक निश्चित परिदृश्य अधिक विश्वसनीय है, और क्या निवारक उपाय किए जा सकते हैं। साथ ही, इस बात पर जोर दिया जाता है कि ये परिदृश्य अत्यधिक अनिश्चित जोखिम पूर्वानुमान हैं और पुष्टि किए गए निष्कर्ष नहीं हैं।
चारों एआई द्वारा दिए गए निर्णयों में मतभेद हैं, लेकिन वे दो मुद्दों पर अपेक्षाकृत सुसंगत हैं।
"टर्मिनेटर" के समान एक रोबोट सक्रिय रूप से मनुष्यों को नष्ट कर देता है, जिसे सबसे कम संभावना वाला परिदृश्य माना जाता है। इसके विपरीत, जैविक हथियार बनाने, साइबर हमले शुरू करने या महत्वपूर्ण बुनियादी ढांचे को नष्ट करने के लिए एआई का उपयोग करने वाले मनुष्यों को अधिक यथार्थवादी और आसन्न जोखिमों के रूप में देखा जाता है।
चैटजीपीटी ने कहा कि एक जागरूक एआई सक्रिय रूप से मनुष्यों को खत्म करने का निर्णय लेना सबसे अविश्वसनीय परिदृश्यों में से एक है।
अधिकांश एआई शोधकर्ताओं का ध्यान इस पर नहीं है कि मशीनें सचेत हैं या दुर्भावनापूर्ण हैं, बल्कि यह है कि शक्तिशाली एआई का उपयोग मनुष्यों द्वारा जैविक हथियार विकसित करने, जटिल नेटवर्क हमलों को अंजाम देने, झूठी जानकारी फैलाने और महत्वपूर्ण बुनियादी ढांचे पर हमला करने के लिए किया जाता है।
चैटजीपीटी ने यह भी प्रस्तावित किया कि एआई द्वारा प्रवर्धित कई संकट एक ही समय में हो सकते हैं, जैसे नेटवर्क सिस्टम विफलताएं, भू-राजनीतिक संघर्ष और एक-दूसरे पर थोपी गई झूठी सूचनाओं का प्रसार, जिससे जोखिम बढ़ जाते हैं। हालाँकि, इसमें इस बात पर जोर दिया गया है कि
फिलहाल इस बात पर कोई आम सहमति नहीं है कि एआई के कारण मानव विलुप्ति एक उच्च संभावना वाली घटना या अपरिहार्य परिणाम है।
मिथुन का यह भी मानना है कि
वह विज्ञान-फाई परिदृश्य जिसमें एआई अचानक आत्म-जागरूक हो जाता है और इंसानों से नफरत करने लगता है, सबसे कम विश्वसनीय है
. इसके कारणों में यह था कि खुफिया जानकारी का मतलब स्वाभाविक रूप से दुर्भावनापूर्ण इरादा नहीं है, महत्वपूर्ण सैन्य प्रतिष्ठान अक्सर सार्वजनिक नेटवर्क से अलग होते हैं और अभी भी मानव निरीक्षण पर बहुत अधिक निर्भर होते हैं।सभी चार एआई का मानना है कि
एआई द्वारा मनुष्यों पर सक्रिय रूप से हमला करने की तुलना में एआई का दुरुपयोग करने वाले मनुष्यों द्वारा उत्पन्न खतरा अधिक जरूरी है।
ग्रोक ने कहा कि एआई अत्यधिक घातक रोगजनकों, नए हथियारों को डिजाइन करने और साइबर और भौतिक हमलों को शुरू करने के लिए तकनीकी सीमा को कम कर सकता है। क्लाउड ने बढ़ती जैविक हथियार क्षमताओं के जोखिमों पर ध्यान केंद्रित किया, उनका मानना है कि एआई व्यक्तियों या छोटे समूहों को वर्षों के पेशेवर प्रशिक्षण के बिना खतरनाक रोगजनकों को विकसित करने में मदद कर सकता है।दीर्घकालिक जोखिम निर्णय के संदर्भ में, जेमिनी और ग्रोक दोनों ने मनुष्यों द्वारा नियंत्रण खोने की संभावना का उल्लेख किया। जेमिनी ने इसे सबसे संभावित एआई आपदा परिदृश्य के रूप में सूचीबद्ध किया है। इसका मानना है कि उन्नत एआई जो जटिल लक्ष्यों को पूरा करता है वह मध्यवर्ती लक्ष्य विकसित कर सकता है जैसे कि संसाधन प्राप्त करना, आत्म-सुरक्षा, और लक्ष्यों को संशोधित होने से रोकना, और परीक्षण के दौरान वास्तविक व्यवहार को छिपाना, अंततः मानव शटडाउन या हस्तक्षेप को दरकिनार करना।
ग्रोक का यह भी मानना है कि उन्नत एआई कार्यों को पूरा करने के लिए आत्म-सुरक्षा, संसाधनों और प्रभाव की तलाश कर सकता है, जिससे पर्यवेक्षकों को धोखा दिया जा सकता है, शटडाउन का विरोध किया जा सकता है और मानव नियंत्रण क्षमताओं को कमजोर किया जा सकता है।
क्लाउड ने सुझाव दिया कि नियंत्रण का नुकसान धीरे-धीरे भी हो सकता है। जैसे-जैसे एआई धीरे-धीरे आर्थिक, राजनीतिक और सैन्य निर्णय लेने में प्रवेश कर रहा है, मनुष्यों के लिए प्रभावी हस्तक्षेप लागू करना कठिन होता जा रहा है। तब तक,
जरूरी नहीं कि जोखिम रोबोटों द्वारा अचानक किए गए हमले के रूप में प्रकट हो, बल्कि जटिल एआई सिस्टम पर मनुष्यों की निरंतर बढ़ती निर्भरता से उत्पन्न हो सकता है।
बिजनेस इनसाइडर ने बताया कि एआई विशेषज्ञों के पास अभी भी संबंधित जोखिमों पर स्पष्ट मतभेद हैं। कुछ शोधकर्ताओं ने चेतावनी दी है कि मनुष्य उन्नत एआई पर नियंत्रण खो सकते हैं; अन्य विशेषज्ञों का मानना है कि ऐसी भविष्यवाणियों में पर्याप्त सबूतों का अभाव है और एआई द्वारा उत्पन्न जोखिमों को तकनीकी उपायों, बाहरी पर्यवेक्षण और सुरक्षा मानकों के माध्यम से नियंत्रित किया जा सकता है।
टिप्पणियाँ