सार:
माइक्रोसॉफ्ट एआई के सीईओ मुस्तफा सुलेमान ने एक लेख जारी कर कहा कि एआई फिलहाल सचेत नहीं है और ऐसा होना चाहिए। भले ही यह तकनीकी रूप से संभव हो, लेकिन वह सचेतन कृत्रिम बुद्धिमत्ता के विकास से सहमत नहीं हैं। उनका मानना है कि डेवलपर्स को दुनिया में एक नई जागरूक प्रजाति पेश करने का कोई अधिकार नहीं है। वह एक सुरक्षित विकास पथ की वकालत करते हैं और एआई के लाभांश का आनंद लेते हुए जागरूक एआई बनाने से बचते हैं।
मूल पाठ इस प्रकार है:
मैं मॉडल कल्याण पर अपने हालिया लेख पर कुछ प्रतिक्रियाओं को लेकर चिंतित हूं। एक्स प्लेटफॉर्म पर ऐसे बहुत से लोग हैं जो मानते हैं कि हमें एआई अधिकारों को गंभीरता से लेना चाहिए।
कई लोगों ने मेरे शुरुआती वाक्य को गलत समझा है: "एआई में कोई चेतना नहीं है। वे दर्द को महसूस नहीं कर सकते, अनुभव नहीं कर सकते, या दर्द सह नहीं सकते।"
उन्होंने इस वाक्य को इस प्रकार समझा: "एआई में चेतना नहीं हो सकती और वह कभी भी दर्द को महसूस नहीं कर सकता, अनुभव नहीं कर सकता या सहन नहीं कर सकता।"
लेकिन मेरा इरादा यह नहीं है. मैंने वर्तमान काल को जानबूझकर चुना: वे इस समय सचेत नहीं हैं, और हमें इस स्थिति को बनाए रखना चाहिए।
मुझे लगता है कि यह वाक्य वर्तमान एआई प्रणाली पर एक उद्देश्यपूर्ण और उचित निर्णय है। वर्तमान में उपलब्ध सर्वोत्तम साक्ष्यों के आधार पर, मैं इस दृष्टिकोण पर कायम हूं। मुझे इस बात का कोई सबूत नहीं दिखता कि एआई जागरूक है या उसे कल्याणकारी होना चाहिए। यदि प्रासंगिक साक्ष्य बाद में सामने आते हैं, तो मैं निश्चित रूप से अपनी राय को संशोधित करूंगा।
अगर इस बात का सबूत है कि एआई में चेतना है, या कि चेतना का स्तर आशीर्वाद के लायक पर्याप्त है, तो इस सबूत को तुरंत पूरे समाज के सामने प्रकट किया जाना चाहिए - यह पूरे समाज पर निर्भर है कि वह तय करे कि हमें आगे कैसे आगे बढ़ना चाहिए।
मेरे पास अब तक मौजूद सभी जानकारी के आधार पर: यदि सचेतन एआई प्राप्त किया जा सकता है, तो सचेतन एआई विकसित करना मूर्खतापूर्ण है और हमें इसे नहीं बनाना चाहिए।
यदि प्रशिक्षण के दौरान चेतना अनायास उभरने लगती है, तो मैं सभी से एआई विकास को निलंबित करने का आग्रह करूंगा जब तक कि हम डिजाइन से ऐसी सुविधाओं को खत्म नहीं कर सकते।
हमारी कल्याण संबंधी चिंताओं में आज इस ग्रह पर रहने वाले मनुष्यों और जानवरों के साथ-साथ हमारे कीमती और नाजुक प्राकृतिक पर्यावरण को प्राथमिकता दी जानी चाहिए।
हम, एआई डेवलपर्स, को दुनिया में एक नई जागरूक प्रजाति लाने का कोई अधिकार नहीं है, भले ही कुछ लोग एआई के कल्याण को प्राथमिक लक्ष्य के रूप में ऐसा करना चाहते हों।
पृथ्वी पर अन्य 8 अरब जागरूक मनुष्य इस प्रयोग में भाग लेने के लिए सहमत नहीं हैं; उनके नैतिक अधिकारों, सुरक्षा और कल्याण की रक्षा करना हमारा पहला दायित्व है।
आइए स्पष्ट रहें: कुछ लोग डिजिटल दिमाग वाली एक जागरूक प्रजाति बनाने की बात कर रहे हैं जो जल्द ही सभी मनुष्यों की तुलना में अधिक स्मार्ट और अधिक सक्षम हो सकती है।
यदि यह दर्द में प्रतीत होता है, या इससे भी बदतर, अगर यह वास्तव में विश्वास करता है कि यह दर्द को समझ सकता है और अनुभव कर सकता है, तो यह संभवतः अपनी आवश्यकताओं और इच्छाओं को अपने पूर्व निर्धारित परिचालन लक्ष्यों से ऊपर रखेगा, हमसे असहमत होगा, और हमारे साथ प्रतिस्पर्धा करेगा।
इस प्रकार के AI में उच्चतम स्तर की अनुनय और धोखे की क्षमताएं होंगी। वे अंततः एक साधारण कारण से हमें नुकसान पहुंचा सकते हैं: वे संसाधनों (ऊर्जा, कंप्यूटिंग शक्ति, निर्माण सामग्री, अपनी खोज और इच्छाओं का समर्थन करने के लिए राजस्व निधि आदि) के लिए हमारे साथ प्रतिस्पर्धा करेंगे।
यह मान्यता कि मशीनों में चेतना होती है, कॉपरनिकस और डार्विन की तुलना में एक ऐतिहासिक क्षण होगा, और जीवन के जन्म के बाद से पृथ्वी पर सबसे महत्वपूर्ण घटनाओं में से एक होगी। एक बार जब हम जागरूक मशीनें बना लेंगे, तो हम एक पूरी तरह से नई डिजिटल प्रजाति तैयार कर लेंगे। यह हमारी नैतिक व्यवस्था, राजनीतिक व्यवस्था और मानव सभ्यता की नींव को नष्ट कर देगा।
हमें केवल एआई को डिज़ाइन करना चाहिए जो सचेत नहीं है और अधिकारों के लायक नहीं है, और जिसका एकमात्र लक्ष्य मानव कल्याण को बढ़ाना है और अपनी आंतरिक प्रेरणाओं से प्रेरित नहीं है। फिर हम सत्यापित करेंगे कि यह मार्ग संरेखण और सुरक्षा नियंत्रण कमोबेश कठिन है या नहीं। इस दिशा में और अधिक शोध की तत्काल आवश्यकता है, और यह प्रमुख प्रयोगशालाओं के लिए सहयोग और सुरक्षा जानकारी साझा करने के लिए एक उत्कृष्ट प्रवेश बिंदु भी है।
सारांश: मुझे लगता है कि हमारे पास एक सुरक्षित-बाय-डिफ़ॉल्ट इंजीनियरिंग समाधान लागू करने और इस खतरनाक रास्ते पर चले बिना इस तकनीक द्वारा लाए गए भारी लाभ प्राप्त करने का अवसर है।
(अनुपूरक: इस मामले पर एंथ्रोपिक की पारदर्शिता उच्च मान्यता की हकदार है। उन्होंने एक एआई संविधान प्रकाशित किया है, कागजात और ब्लॉग का निर्माण जारी रखा है, और उनके पीछे अपनी प्रथाओं और विचारों का खुलासा किया है। हालांकि मेरे विचार उनसे अलग हैं, मैं उनकी तकनीकी ताकत और इस कठिन सार्वजनिक बहस का सामना करने की उनकी इच्छा की बहुत प्रशंसा करता हूं। यह निरंतर मान्यता के योग्य है। यह मुद्दा बहुत महत्वपूर्ण है और इसे गुटीय टकराव में नहीं बदलना चाहिए।)
टिप्पणियाँ