ओपनएआई के सीईओ ऑल्टमैन कृत्रिम बुद्धिमत्ता पर बात करते हैं: हम नियंत्रण खो सकते हैं

सार:

ओपनएआई के सीईओ सैम अल्टमैन उस दुःस्वप्न जैसे कृत्रिम बुद्धिमत्ता उत्पाद से बहुत परेशान हैं, जिसे बनाने में उन्होंने मदद की है, और उनके लिए शांति से सोना भी मुश्किल हो रहा है। लगभग 0:57 बजे पूर्वी समय में, ऑल्टमैन ने एक्स प्लेटफ़ॉर्म पर पोस्ट किया: "कृत्रिम बुद्धिमत्ता के विकास में दो विनाशकारी रुझान हैं जिनसे बचा जाना चाहिए। पहला, हम कृत्रिम बुद्धिमत्ता के भविष्य पर नियंत्रण खो सकते हैं। यह अस्वीकार्य है। हम दृढ़ता से मानव जाति के पक्ष में हैं, और कृत्रिम बुद्धिमत्ता को हमेशा लोगों की सेवा करनी चाहिए। ऐसा करने के लिए, हमें संरेखित प्रौद्योगिकियों और सुरक्षा विधियों की विकास गति सुनिश्चित करनी चाहिए, और मॉडल क्षमताओं की पुनरावृत्ति से आगे रहना चाहिए।"

उन्होंने आगे लिखा: "दूसरा जोखिम दुनिया में शक्ति का उच्च संकेंद्रण है। यदि एक निश्चित व्यक्ति या एक निश्चित कंपनी बेहद शक्तिशाली कृत्रिम बुद्धिमत्ता में महारत हासिल करती है और हर किसी पर अपना विश्वदृष्टिकोण थोपती है, तो परिणाम बेहद खराब होगा। उपरोक्त दो प्रमुख खतरों से बचने के लिए, आपको एक संकीर्ण मध्य मार्ग पर चलने की जरूरत है। उदाहरण के लिए, एक निश्चित देश बहुत अधिक शक्ति हासिल कर रहा है, या एक निश्चित प्रयोगशाला का बहुत अधिक प्रभाव है, ये सभी ऐसे जोखिम हैं।"

केवल दो दिनों में, एंथ्रोपिक के सीईओ डारियो अमोदेई और ऑल्टमैन, दो एआई उद्योग के दिग्गजों ने इस शक्तिशाली तकनीक के बारे में एक के बाद एक चेतावनी जारी की, जिसका नेतृत्व उन्होंने किया और शीर्ष आर एंड डी टीम को तेजी लाने के लिए प्रेरित किया।

अमोदेई ने शनिवार को अपने निजी ब्लॉग में कहा: "पिछले कुछ महीनों में, मैं इस बात को लेकर आश्वस्त हो गया हूं कि संबंधित जोखिमों का पूरी तरह से जवाब देने के लिए, हमें अधिक विवेकपूर्ण ढंग से कार्य करने की आवश्यकता है। न केवल हम जोखिमों को रोकने के लिए संसाधनों का निवेश करते हैं, बल्कि हमें एआई क्षमताओं की पुनरावृत्ति गति को नियंत्रित करने और जोखिम की रोकथाम और नियंत्रण के लिए समय छोड़ने की भी आवश्यकता है। हमें कृत्रिम बुद्धिमत्ता मॉडल की क्षमताओं में सुधार की गति को धीमा करना चाहिए। समग्र प्रौद्योगिकी अभी भी तेजी से विकास बनाए रखेगी, और हमें समय का अच्छा उपयोग करना चाहिए। लाभ।"

अमोदेई द्वारा अपना संदेश पोस्ट करने के बाद, अल्ट्रामैन ने तुरंत अपनी राय व्यक्त की और अपने प्रतिद्वंद्वी के दृष्टिकोण से सहमत हुए।

यह टिप्पणियाँ दो एआई शोधकर्ताओं द्वारा अत्याधुनिक उन्नत एआई मॉडल के खतरों के बारे में चिंता व्यक्त करने के बाद आई हैं।

पिछले सप्ताह की शुरुआत में, जैकब कॉक्सन ने एंथ्रोपिक से अपने प्रस्थान की घोषणा की। उन्होंने कहा कि न तो एंथ्रोपिक और न ही ओपनएआई ने उच्च प्रदर्शन वाली कृत्रिम बुद्धिमत्ता प्रणाली विकसित करने में अपनी उचित जिम्मेदारी ली है।

इसके बाद, एंथ्रोपिक के संरेखण विज्ञान के प्रमुख, इवान हार्बिंगर ने पूर्व कर्मचारी की भावनाओं का समर्थन करते हुए, कॉक्सन के पोस्ट का जवाब दिया। उनका मानना ​​है कि 10% से अधिक संभावना है कि यह तकनीक "सभी मनुष्यों के विलुप्त होने का कारण बनेगी।"

राष्ट्रपति ट्रंप ने रविवार को ऐसी सुरक्षा चिंताओं को खारिज कर दिया। उन्होंने कहा, "कृत्रिम बुद्धिमत्ता के क्षेत्र में हम चीन से आगे हैं। हम तकनीकी रूप से दुनिया में सबसे उन्नत देश हैं और सच कहूं तो मुझे इस बढ़त को बरकरार रखने की उम्मीद है, क्योंकि जो कृत्रिम बुद्धिमत्ता प्रतियोगिता जीतेगा वही भविष्य जीतेगा।"

उपरोक्त चिंताओं से प्रभावित होकर, एआई क्षेत्र के प्रमुख शेयर सोमवार को दबाव में आ गए, बाजार को चिंता हुई कि एआई तकनीक के विकास में बाधाएं आ सकती हैं। सैनडिस्क प्री-मार्केट ट्रेडिंग में 5% नीचे था, जबकि एनवीडिया प्री-मार्केट ट्रेडिंग में 3% नीचे था।

यॉर्कविले इवेस के संस्थापक भागीदार डैन इवेस ने याहू फाइनेंस को बताया: "मुझे लगता है कि डैलियो का लेख, सप्ताहांत उद्योग चर्चाओं के साथ, सोमवार की शुरुआत में थोड़ी कमजोरी का कारण बनेगा, लेकिन बाजार जल्द ही पलटाव करेगा। निवेशक जल्द ही स्पष्ट रूप से देखेंगे कि उद्योग में इस सार्वजनिक राय के तूफान के बावजूद, अगले पांच वर्षों में एआई निवेश में $ 5 ट्रिलियन की कुल स्थिति में भौतिक परिवर्तन नहीं होगा।"