एआई सुरक्षा शोधकर्ता का दावा है कि एआई दस वर्षों के भीतर मानव विलुप्त होने की आधी से अधिक संभावना पैदा कर देगा। उन्होंने दस वर्षों से अपनी सेवानिवृत्ति बचत में कोई योगदान नहीं दिया है।

सार:

मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट (एमआईआरआई) के प्रमुख नैट सुआरेज़ ने हाल ही में द अटलांटिक मंथली के सीईओ निकोलस थॉम्पसन द्वारा आयोजित एक साक्षात्कार में कहा कि उनका मानना ​​​​है कि 50% से अधिक संभावना है कि उन्नत कृत्रिम बुद्धिमत्ता दस साल से भी कम समय में मानव विलुप्त होने का कारण बनेगी। उन्होंने यह भी खुलासा किया कि वह अब सेवानिवृत्ति के लिए बचत नहीं कर रहे हैं: हालांकि उनके पास Google में काम करते समय खोला गया 401(k) सेवानिवृत्ति खाता अभी भी बरकरार है, लेकिन उन्होंने दस वर्षों तक योगदान देना जारी नहीं रखा है।

सुआरेज़ ने लंबे समय से कृत्रिम बुद्धिमत्ता संरेखण की समस्या का अध्ययन किया है, यानी शक्तिशाली एआई सिस्टम के व्यवहार को मानवीय इरादों के अनुरूप बनाना। उन्होंने Google और Microsoft में एक इंजीनियर के रूप में काम किया है और इफ समवन मेड इट, एवरीवन विल डाई के सह-लेखक हैं। जोखिम के बारे में उनकी चिंता यह नहीं है कि एआई मनुष्यों से नफरत करेगा, बल्कि यह है कि एक सुपरइंटेलिजेंट सिस्टम को इस बात की परवाह नहीं होगी कि मनुष्य जीवित रहेंगे या नहीं; यदि मनुष्य इसके लक्ष्यों के रास्ते में आते हैं, या इसे बंद करने और प्रतिस्पर्धी प्रणालियाँ विकसित करने का प्रयास करते हैं, तो मनुष्यों को एक बाधा के रूप में देखा जा सकता है।

जिस जोखिम पथ की उन्होंने कल्पना की थी, उसमें महत्वपूर्ण बात सिर्फ यह नहीं है कि क्या एआई हमले शुरू कर सकता है, बल्कि क्या यह आत्मनिर्भर बन सकता है: यदि सिस्टम स्वतंत्र रूप से ऊर्जा, चिप्स और अन्य संसाधन प्राप्त कर सकता है, और एक स्वचालित बुनियादी ढांचा स्थापित कर सकता है जो अब मनुष्यों पर निर्भर नहीं है, तो इसे नियंत्रित करने की मनुष्यों की क्षमता में गिरावट आ सकती है। सुआरेज़ ने वर्णन किया कि लोग पहले से नहीं जानते होंगे कि सुपरइंटेलिजेंस किन विशिष्ट तरीकों से आपदा का कारण बनेगी, लेकिन फिर भी वे यह अनुमान लगा सकते हैं कि वे एक बहुत शक्तिशाली प्रतिद्वंद्वी का सामना कर रहे हैं।

उन्होंने वकालत की कि सरकार सामान्य कृत्रिम बुद्धिमत्ता प्रणालियों का प्रशिक्षण बंद कर दे और अनुसंधान और विकास का ध्यान कैंसर अनुसंधान और सुरक्षित स्वायत्त ड्राइविंग जैसे विशिष्ट उपयोगों पर केंद्रित कर दे। उन्होंने यह भी कहा कि आपदाएँ अपरिहार्य नहीं हैं और वह अभी भी इस परिणाम को रोकने के लिए अपना सर्वश्रेष्ठ प्रयास कर रहे हैं। उन्होंने जिस समाधान पर जोर दिया वह ऐसी व्यवस्था बनाना नहीं था जो हर किसी को मार डाले।

सुआरेज़ का निर्णय एक व्यक्तिगत जोखिम मूल्यांकन है, न कि कोई सिद्ध वैज्ञानिक भविष्यवाणी, न ही यह कृत्रिम बुद्धिमत्ता शोधकर्ताओं के बीच एकीकृत आम सहमति का प्रतिनिधित्व करता है। उनका यह बयान कि उन्होंने अपनी सेवानिवृत्ति बचत बढ़ाना बंद कर दिया है, भविष्य के जोखिमों के बारे में उनके दृष्टिकोण को दर्शाता है और इसे दूसरों के वित्तीय निर्णयों के बारे में सलाह के रूप में नहीं लिया जाना चाहिए।