कनाडाई शोधकर्ताओं ने अत्याधुनिक एआई अनुसंधान पर अनिश्चितकालीन रोक लगाने का आह्वान किया है, अन्यथा यह मानव विलुप्त होने से पहले "बस कुछ समय की बात" है

सार:

यदि मनुष्य प्रलय के दिन के परिदृश्य से बचना चाहता है, तो केवल कृत्रिम बुद्धिमत्ता अनुसंधान और विकास को धीमा करना पर्याप्त नहीं है। यह चेतावनी कनाडाई कृत्रिम बुद्धिमत्ता शोधकर्ता डेविड क्रुएगर ने जारी की है। उन्होंने दो टूक कहा कि अन्य उपाय भी किये जाने चाहिए. मॉन्ट्रियल विश्वविद्यालय में एआई के सहायक प्रोफेसर और क्यूबेक आर्टिफिशियल इंटेलिजेंस रिसर्च इंस्टीट्यूट, मिला के मुख्य अकादमिक सदस्य क्रूगर ने कहा: "हमें अत्याधुनिक कृत्रिम बुद्धिमत्ता के अनुसंधान और विकास को तुरंत और अनिश्चित काल के लिए निलंबित करने की आवश्यकता है।" उनकी व्यक्तिगत प्रोफ़ाइल में कहा गया है कि उनकी शोध दिशा "कृत्रिम बुद्धिमत्ता के कारण मानव विलुप्त होने के जोखिम को कम करना है।"

उन्होंने कहा, ''हमें अब अधिक सक्षम एआई विकसित करना बंद कर देना चाहिए।''

एंथ्रोपिक के सीईओ डारियो अमोदेई द्वारा शनिवार को एक संदेश जारी कर एआई कंपनियों से अनुसंधान और विकास की गति को धीमा करने का आह्वान करने के बाद क्लुगर की टिप्पणियां आईं। इस प्रस्ताव को OpenAI के सैम अल्टमैन और स्पेसएक्स के एलोन मस्क का समर्थन प्राप्त है। यह उद्योग जगत की शीर्ष हस्तियों के बीच एक दुर्लभ आम सहमति है।

क्रूगर ने कहा: "एआई अनुसंधान और विकास को धीमा करने की मांग करने वाली आवाजें मान्यता के योग्य हैं," लेकिन वह प्रासंगिक प्रस्तावों के विशिष्ट समाधानों से सहमत नहीं थे। "मैं कई पहलुओं में इन योजनाओं की विशिष्ट सामग्री से सहमत नहीं हूं। मुझे लगता है कि ये उपाय पर्याप्त मजबूत नहीं हैं और वे पर्याप्त तेजी से आगे नहीं बढ़े हैं।"

अमोदेई पर्यवेक्षण और अंतर्राष्ट्रीय सहयोग के कार्यान्वयन के साथ-साथ तीसरे पक्ष के मूल्यांकनकर्ताओं की शुरूआत की वकालत करता है। एआई कंपनी के सुरक्षा उपायों को सत्यापित करने और सुरक्षा घटनाओं की रिपोर्ट करने के लिए मूल्यांकनकर्ताओं को किसी उद्यम के समान कर्मचारी-स्तर की पहुंच दी जाएगी।

क्रूगर एविटेबल के संस्थापक हैं, जो एक गैर-लाभकारी संस्था है जो जनता को एआई द्वारा उत्पन्न महत्वपूर्ण जोखिमों के बारे में शिक्षित करती है। उन्हें चिंता है कि अमोदेई के प्रस्ताव पर्याप्त मजबूत नहीं हैं और वर्तमान एआई परीक्षण विधियां अब विश्वसनीय नहीं हैं।

उन्होंने कहा: "ये परीक्षण मूल रूप से अमान्य हो गए हैं। जैसे-जैसे एआई स्मार्ट होता जाएगा, परीक्षणों की विश्वसनीयता कम होती जाएगी क्योंकि एआई में छिपाने की क्षमता होती है। यह अच्छा व्यवहार कर सकता है, या यह जानबूझकर मूर्खतापूर्ण कार्य कर सकता है और हमारे परीक्षणों को मूर्ख बना सकता है।"

"यह बस समय की बात है"

पिछले हफ्ते, एंथ्रोपिक के एक वरिष्ठ सुरक्षा शोधकर्ता ने सुझाव दिया था कि 10 में से 1 से अधिक संभावना है कि एआई अगले दशक के भीतर पृथ्वी पर सभी मनुष्यों को मिटा देगा। कुछ लोगों ने सोचा कि यह आंकड़ा अतिशयोक्ति है और सिर्फ ध्यान आकर्षित करने के लिए है, लेकिन क्रुएगर ने अनुमान को "बहुत कम" बताया।

उन्होंने कहा: "अगर हमने दिशा नहीं बदली, तो अगले पांच वर्षों के भीतर, नियंत्रण से बाहर एआई द्वारा मनुष्य को प्रभुत्व से स्थायी रूप से वंचित कर दिया जाएगा। तब तक, मानव विलुप्त होने में केवल समय की बात होगी।"

"प्रभुत्व की हानि" से उनका तात्पर्य एक ऐसी स्थिति से है जहां एआई वास्तव में समाज को नियंत्रित करता है, जैसे कि मनुष्य अब ग्रह पर हर दूसरी प्रजाति पर हावी है।

“एआई भौतिक बुनियादी ढांचे को नियंत्रित करेगा, जिसमें अधिक एआई विकसित करने, रोबोट बनाने और अन्य भौतिक प्रणालियों की प्रक्रिया के हर चरण शामिल हैं।”

उन्होंने आगे कहा: "एक ऐसी दुनिया की कल्पना करें जहां सभी व्यवसाय कृत्रिम बुद्धिमत्ता द्वारा चलाए जाते हैं और रोबोट हर जगह हैं। मनुष्यों के लिए लगभग कोई वास्तविक नौकरियां नहीं हैं, केवल नाममात्र पद हैं। यहां तक ​​कि राजनेता और हर कोई एआई के निर्देशों का पालन करता है क्योंकि एआई निर्णय लेने में बहुत सक्षम लगता है। यही वह भविष्य है जिसकी ओर हम बढ़ रहे हैं।"

उन्होंने चेतावनी दी कि कार्रवाई की गुंजाइश बहुत कम है. उन्होंने कहा कि अगर कोई एआई सिस्टम अब नियंत्रण से बाहर हो जाता है, तो हम अभी भी उसकी बिजली आपूर्ति काट सकते हैं। लेकिन एक बार जब कोई एआई नियंत्रण से बाहर हो जाता है, तो यह खुद को इतने सारे कंप्यूटरों में दोहरा सकता है कि "हमें यह भी पता नहीं चलता कि कौन से डिवाइस को बंद करना है।"

"हम केवल सभी उपकरणों को बंद करने का प्रयास कर सकते हैं, और इसे लागू करना बेहद कठिन है।" उन्होंने कहा, "इसलिए इस प्रकार के जोखिम को रोकने के लिए कार्रवाई करने के लिए हमारे पास बहुत सीमित समय बचा है।"

फिर भी, उन्होंने कहा कि कार्रवाई करने वाली सरकारों पर उनका भरोसा पहले कभी इतना ऊंचा नहीं रहा। उन्होंने कहा कि पिछले 15 वर्षों में चेतावनियाँ जारी की गई थीं और पिछले सप्ताह पहली बार दुनिया ने यथार्थवादी और तर्कसंगत रूप से प्रतिक्रिया दी थी।

"मुझे लगता है कि लोगों को अंततः एहसास हो रहा है कि यह संकट वास्तव में कितना गंभीर है। यह आपातकाल की स्थिति है।"

सोमवार को, कनाडाई संघीय एआई मामलों के मंत्री इवान सोलोमन का साक्षात्कार लिया गया और उनसे पूछा गया कि क्या वह इस कथन से सहमत हैं कि एआई द्वारा मनुष्यों के नष्ट होने की 10% संभावना है।

उन्होंने जवाब दिया: "क्या कृत्रिम बुद्धिमत्ता के साथ जोखिम हैं? बेशक हैं। हां, हम इन जोखिमों से अवगत हैं।"

सोलोमन ने कहा कि उन्होंने रविवार सुबह ओपनएआई के सीईओ सैम ऑल्टमैन से बात की।

"कनाडाई लोगों को सुरक्षित रखने के लिए कृत्रिम बुद्धिमत्ता को विनियमित किया जाएगा।" सोलोमन ने कहा, ''यह हमारी पहली जिम्मेदारी और हमारी सबसे बड़ी चिंता है।''

सोलोमन ने यह भी खुलासा किया कि वह "आर्टिफिशियल इंटेलिजेंस के गॉडफादर" के रूप में जाने जाने वाले कनाडाई कंप्यूटर वैज्ञानिक जोशुआ बेंगियो के साथ बुधवार को संयुक्त रूप से एआई सुरक्षा से संबंधित घोषणा जारी करेंगे।