सार:
प्रसिद्ध एआई सुरक्षा शोधकर्ता और ओपनएआई होल्डिंग्स के निदेशक मंडल के सदस्य पॉल क्रिस्टियानो ने एक लोकप्रिय प्रौद्योगिकी पॉडकास्ट के साथ एक साक्षात्कार में कृत्रिम बुद्धिमत्ता के विकास की संभावनाओं के बारे में चेतावनी जारी की। उन्होंने कहा कि भविष्य में इंसानों के एआई पर पूरी तरह से नियंत्रण खोने की संभावना तेजी से बढ़ रही है।

यह पॉडकास्ट सोमवार को प्रसारित होता है और इसकी मेजबानी देवाक्ष पटेल करते हैं। क्रिस्टियानो ने शो में कहा, "इस बात की उचित संभावना है कि अगले छह महीनों में एक आपदा आ सकती है जो बड़ी संख्या में लोगों को मार डालेगी या सरकार को उखाड़ फेंकेगी।" पॉडकास्ट में आमतौर पर लाखों श्रोता होते हैं, जिनमें प्रौद्योगिकी उद्योग के कई लोग भी शामिल हैं।
क्रिस्टियानो ने कहा कि उपरोक्त घटनाएं घटित होंगी या नहीं यह एआई प्रौद्योगिकी पुनरावृत्ति की गति पर निर्भर करता है। उन्होंने यह भी प्रस्तावित किया कि पुनरावर्ती स्व-सुधार प्रौद्योगिकी द्वारा संचालित, एआई मॉडल स्व-पुनरावृत्ति उन्नयन प्राप्त कर सकते हैं, और अगले वर्ष के भीतर एक खतरनाक महत्वपूर्ण बिंदु तक विकसित होने की संभावना "काफी अधिक है।"
क्रिस्टियानो की पिछली सार्वजनिक टिप्पणियों की तुलना में, यह बयान चेतावनी को और बढ़ाने का प्रतिनिधित्व करता है। वह बर्कले स्थित एक गैर-लाभकारी संगठन सेंटर फॉर एलाइनमेंट रिसर्च का भी निर्देशन करते हैं, जो एआई संरेखण अनुसंधान पर केंद्रित है। एक वरिष्ठ शोधकर्ता के रूप में, जिन्होंने लंबे समय से एआई सुरक्षा जोखिमों के बारे में चेतावनी दी है, सितंबर में वह ओपनएआई फाउंडेशन के निदेशक मंडल में शामिल हुए, जो कंपनी को नियंत्रित करता है। क्रिस्टियानो ने साक्षात्कार में इस बात पर जोर दिया कि उनका भाषण केवल उनकी व्यक्तिगत स्थिति का प्रतिनिधित्व करता है और ओपनएआई निदेशक मंडल के विचारों का प्रतिनिधित्व नहीं करता है।
जब वह पहली बार निदेशक मंडल में शामिल हुए, तो क्रिस्टियानो ने एक सार्वजनिक लेख प्रकाशित किया जिसमें अनुमान लगाया गया कि अगले वर्ष मनुष्यों द्वारा एआई पर नियंत्रण खोने के कारण होने वाली विनाशकारी घटनाओं का जोखिम लगभग 4% है।
सोमवार को एक साक्षात्कार में, उन्होंने कहा कि मॉडल क्षमताओं ने पिछले कुछ महीनों में तेजी से प्रगति की है, और अब उनका आकलन है कि अगले वर्ष एआई द्वारा मनुष्यों पर हावी होने का जोखिम "1% नहीं, बल्कि 10% के करीब है।" उन्होंने कहा कि यदि प्रमुख कंपनियां एआई विकास के कारण होने वाले जोखिमों को कम करने के लिए अधिक सुरक्षात्मक उपाय नहीं करती हैं, तो जोखिम का अनुमान "काफी अधिक" होगा।
टिप्पणियाँ