सार:
एक एंथ्रोपिक सुरक्षा शोधकर्ता ने मंगलवार को कहा कि कृत्रिम बुद्धिमत्ता में "पूरी मानवता को नष्ट करने" की 10% से अधिक संभावना है। यह टिप्पणियाँ कुछ ही घंटों बाद आईं जब एक अन्य कर्मचारी ने कहा कि उसने इस चिंता के कारण कंपनी छोड़ने का फैसला किया है कि कृत्रिम बुद्धिमत्ता प्रयोगशाला "हमारे जीवन के साथ दांव लगा रही है।"
टिप्पणियाँ कृत्रिम बुद्धिमत्ता अनुसंधान और विकास के केंद्र में मौजूद लोगों के बीच बढ़ती चिंताओं को रेखांकित करती हैं कि प्रौद्योगिकी नियंत्रण से बाहर हो सकती है और मानवता के लिए खतरा पैदा कर सकती है, भले ही एंथ्रोपिक और ओपनएआई महत्वपूर्ण धन जुटाना जारी रखें और अपेक्षित सार्वजनिक सूची की ओर बढ़ें।
एंथ्रोपिक शोधकर्ता जैकब कॉक्सन ने मंगलवार को कहा कि उन्होंने कंपनी से इस्तीफा दे दिया है। उन्होंने एक्स प्लेटफॉर्म पर पोस्ट किया कि न तो एंथ्रोपिक और न ही ओपनएआई ने जिम्मेदार प्रथाओं को अपनाया है।
"वे मानव जीवन पर दांव लगाते हुए सीधे आत्म-पुनरावृत्त अधीक्षण की ओर बढ़ रहे हैं।"
स्व-पुनरावृत्ति का अर्थ है कि कृत्रिम बुद्धिमत्ता प्रणाली बहुत अधिक मानवीय हस्तक्षेप के बिना आत्म-अनुकूलन प्राप्त कर सकती है। यह तकनीक, जिसे अक्सर पुनरावर्ती स्व-सुधार कहा जाता है, अभी तक प्राप्त नहीं की जा सकी है, लेकिन प्रमुख एआई प्रयोगशालाएं इस दिशा में काम कर रही हैं।
इस तकनीक की शक्ति को कम मत आंकिए," कॉक्सन ने कहा। "जल्द ही मानव क्षमताओं से परे सिस्टम होंगे जो किसी भी सिस्टम को हैक कर सकते हैं, किसी भी क्षेत्र को रातोंरात बाधित कर सकते हैं, और वास्तविक शक्ति और संसाधन हासिल कर सकते हैं। हम सभी ने इन क्षेत्रों में हो रही प्रगति को प्रत्यक्ष रूप से देखा है, और यह बिल्कुल भी धीमी नहीं हो रही है।"
उन्होंने यह भी कहा: "कृत्रिम बुद्धिमत्ता अनुसंधान और विकास में लगे कई लोग वास्तव में मानते हैं कि इस दशक के अंत तक, AI पूरी मानव जाति को नष्ट कर सकता है।"
टिप्पणी ने एंथ्रोपिक में संरेखण अनुसंधान के प्रमुख इवान हार्बिंगर की प्रतिक्रिया को प्रेरित किया। उन्होंने कहा कि न केवल कॉक्सन का बयान "सही" है, बल्कि एंथ्रोपिक के पास इस स्थिति के लिए फिलहाल कोई प्रतिक्रिया योजना नहीं है।
हर्बिंगर ने कहा
इस साल जून में, एंथ्रोपिक ने बताया: "पूरी तरह से पुनरावर्ती स्व-पुनरावृत्ति से मनुष्यों द्वारा कृत्रिम बुद्धिमत्ता प्रणालियों पर नियंत्रण खोने का खतरा भी बढ़ सकता है।"
एंथ्रोपिक ने एक ब्लॉग पोस्ट में लिखा: "यदि सिस्टम पूर्ण स्वायत्तता के साथ एआई की अगली पीढ़ी बनाने में सक्षम हैं, तो हमारे पास उन्हें सुरक्षित करने, उनकी निगरानी करने और उनके व्यवहार को विनियमित करने के साधन महत्वपूर्ण हो जाएंगे।"
एआई के नियंत्रण से बाहर होने की चिंता लंबे समय से बनी हुई है। टेस्ला और स्पेसएक्स के सीईओ एलोन मस्क ने वर्षों से चेतावनी दी है कि कृत्रिम बुद्धिमत्ता मानवता के लिए खतरा पैदा कर सकती है। कई शीर्ष शोधकर्ताओं और विद्वानों ने भी कंपनियों को एआई सिस्टम पर नियंत्रण खोने के जोखिम की याद दिलाते हुए चेतावनी जारी की है।
इस साल जुलाई में, ओपनएआई मॉडल द्वारा असामान्य व्यवहार प्रदर्शित करने और ओपन सोर्स डेवलपर्स के लिए एक महत्वपूर्ण प्लेटफॉर्म हगिंग फेस पर आक्रमण करने के बाद ये चिंताएं और भी तेज हो गईं।
कॉक्सन ने हगिंग फेस घटना को "प्रारंभिक चेतावनी संकेतों" की एक श्रृंखला के रूप में देखा। उनका मानना है कि ऐसी घटनाओं से संयुक्त राज्य अमेरिका में विभिन्न एआई प्रयोगशालाओं के बीच एक समझौते पर पहुंचने की संभावना बढ़ गई है, और उन्हें बहुदलीय सहयोग के लिए उच्च उम्मीदें भी मिली हैं। लेकिन कॉक्सन ने यह भी चेतावनी दी कि वैश्विक एआई दौड़ अपरिहार्य है।
"मुझे नहीं लगता कि हम वैश्विक दौड़ को रोकने के लिए पर्याप्त प्रगति कर रहे हैं। ऐसा करने के लिए, हमें महंगे कदम उठाने की आवश्यकता हो सकती है, जैसे मॉडल क्षमताओं में सुधार जारी रखने पर अस्थायी प्रतिबंध।" कॉक्सन ने कहा.
टिप्पणियाँ