सार:
जेफरी हिंटन, जिन्हें "कृत्रिम बुद्धिमत्ता के गॉडफादर" में से एक के रूप में जाना जाता है, ने कहा कि अंततः यह साबित करना संभव हो सकता है कि यदि मनुष्यों ने इस तकनीक को कभी विकसित नहीं किया होता तो स्थिति बेहतर होती। उन्होंने चेतावनी दी कि एआई इस साल या अगले साल बड़ी दुर्घटना का कारण बन सकता है, जैसे वित्तीय प्रणाली और बिजली प्रणाली का अस्थायी पक्षाघात।

नोबेल पुरस्कार विजेता कंप्यूटर वैज्ञानिक ने ब्रिटिश मीडिया के साथ एक साक्षात्कार में कहा कि वह एआई प्रलय का दिन सिद्धांतकार नहीं हैं। उनके अग्रणी कृत्रिम तंत्रिका नेटवर्क अनुसंधान ने इस तकनीक की नींव रखी। उनका मानना है कि एआई के पास "सुंदर भविष्य" लाने का अवसर है, लेकिन उन्होंने यह भी कहा: "यह संभव है कि हमारे लिए एआई को पहले स्थान पर विकसित न करना ही बेहतर होता।"
78 वर्षीय हिंटन ने कहा कि दस साल के भीतर, या शायद उससे भी पहले, मानव जाति को पता चल जाएगा कि क्या हम एआई के जोखिमों का प्रबंधन कर सकते हैं और वह हासिल कर सकते हैं जिसे वह "अत्यधिक धन" कहते हैं; या "हम जोखिमों को नियंत्रित करने में विफल रहे हैं, अमीर और गरीब के बीच की खाई नाटकीय रूप से बढ़ गई है, कई सांस्कृतिक विरोधाभास पैदा हो गए हैं, बड़े पैमाने पर बेरोजगारी हुई है, और पूरा समाज टूट गया है।"
हिंटन का साक्षात्कार "एआई: हो सकता है कि इसमें चिंता करने की कोई बात नहीं है" नामक एक नई फीचर-लेंथ डॉक्यूमेंट्री की स्क्रीनिंग से पहले किया गया था - शीर्षक को एआई चैटबॉट द्वारा चुना गया था जिसे हिंटन और उनके पूर्व सहयोगियों ने
ब्रिटिश मीडिया के साथ एक साक्षात्कार में, हिंटन ने कुछ प्रमुख एआई कंपनी के अधिकारियों के जोखिम भरे व्यवहार की आलोचना की: उद्योग के प्रभुत्व और बाजार हिस्सेदारी के लिए प्रतिस्पर्धा करने के लिए, कंपनियां तेजी से शक्तिशाली एआई मॉडल लॉन्च करना जारी रखती हैं। उन्होंने कहा कि उन्हें ओपनएआई के सीईओ सैम ऑल्टमैन पर बिल्कुल भी भरोसा नहीं है. "मुझे लगता है कि ज़करबर्ग, मस्क और ऑल्टमैन, जोखिमों को जानते हैं, लेकिन उन्हें परवाह नहीं है। वे पहले पैसा कमाना चाहते हैं, यह मेरी राय है।"
हिंटन लगभग 44 वर्षों से एआई के क्षेत्र में गहराई से जुड़े हुए हैं। 1970 के दशक में, उन्होंने तंत्रिका नेटवर्क की अवधारणा का प्रस्ताव रखा - एक गणितीय प्रणाली जो मनुष्यों की तरह सीख सकती है और अनुभव जमा कर सकती है। 2023 में, उन्होंने Google से इस्तीफा दे दिया ताकि वे AI के खतरों के बारे में चेतावनी देने के लिए स्वतंत्र रूप से बोल सकें: "यदि ये AI अधिक नियंत्रण हासिल करने पर तुले हैं, तो हम मुसीबत में पड़ जाएंगे।"
उन्होंने कहा कि इस गर्मी में हगिंग फेस वेबसाइट को हैक करने की ओपनएआई एजेंटों की साजिश 1979 में पेंसिल्वेनिया में थ्री माइल आइलैंड परमाणु ऊर्जा संयंत्र के आंशिक मंदी के बराबर थी, और मूल रूप से एक प्रारंभिक चेतावनी संकेत थी।
"इस साल के अंत में या अगले साल, हम चेरनोबिल जैसी दुर्घटना का सामना करेंगे, और तब यह वास्तव में लोगों को जगाने के लिए पर्याप्त हो सकता है।" उसने कहा।
उन्होंने एक उदाहरण दिया कि इस प्रकार की "चेरनोबिल जैसी घटना" कोई परमाणु दुर्घटना नहीं थी, बल्कि एक एआई हमला हो सकता है जिसके कारण बिजली उत्पादन प्रणाली में व्यापक ब्लैकआउट हो गया या एक सप्ताह के लिए वित्तीय प्रणाली बंद हो गई।
"क्या आप सोच सकते हैं कि क्या होगा? हममें उबरने की क्षमता है, लेकिन इस घटना से सभी को जाग जाना चाहिए।"
जब उनसे पूछा गया कि यहां "हर कोई" किसे संदर्भित करता है, तो उन्होंने जवाब दिया: "ट्रम्प को छोड़कर विभिन्न देशों के नेता।"
यू.एस. राष्ट्रपति ट्रम्प ने एक बार कहा था कि वह "वैश्विक नियंत्रण एआई प्रणाली बनाने के किसी भी प्रयास का दृढ़ता से विरोध करते हैं" और अत्याधुनिक एआई कंपनियों के स्वतंत्र विनियमन की वकालत करते हैं। हिंटन फिनलैंड के राष्ट्रपति और 32 अन्य देशों (सिंगापुर, जर्मनी, कनाडा और ऑस्ट्रेलिया सहित) द्वारा प्रचारित अधिक कठोर योजनाओं के एक सेट का समर्थन करता है: अत्याधुनिक एआई मॉडल का अनिवार्य परीक्षण, स्वतंत्र मूल्यांकन और एकीकृत अंतर सरकारी मानकों की स्थापना।
ब्रिटिश प्रधान मंत्री एंडी बर्नहैम ने कहा कि यूके अगले साल अपनी G20 अध्यक्षता का उपयोग सभी पक्षों को वैश्विक सिद्धांतों और मानकों के एकीकृत सेट तक पहुंचने के लिए बढ़ावा देने के लिए करेगा, एआई की पूरी क्षमता को उजागर करने और जोखिमों से बचाने के लिए।
हिंटन ने कहा: "हमें दवाओं को विनियमित करने के लिए अमेरिकी खाद्य एवं औषधि प्रशासन (एफडीए) द्वारा उपयोग किए जाने वाले तंत्र के समान एक तंत्र की आवश्यकता है: कंपनियों को एआई मॉडल जारी करने से पहले, उन्हें यह साबित करने के लिए स्वतंत्र संस्थानों को ठोस सांख्यिकीय साक्ष्य प्रदान करना होगा कि मॉडल के लाभ जोखिमों से अधिक हैं। हमने थैलिडोमाइड (1950 के दशक में विकसित एक दवा जो गंभीर जन्म दोष पैदा कर सकती है) घटना से सीखा: पहले बाजार में जाओ, एक दुर्घटना करो, और फिर दायित्व और अभियोजन का पीछा करो। यह रास्ता नहीं होगा। काम। और बड़ी प्रौद्योगिकी कंपनियां अब बिल्कुल वही नियामक मॉडल चाहती हैं जिसका उपयोग थैलिडोमाइड के लिए किया गया था।''
एआई के संस्थापकों में से एक के रूप में, हिंटन की तुलना अक्सर ओपेनहाइमर से की जाती है - ओपेनहाइमर परमाणु हथियारों के विकास में मुख्य व्यक्ति हैं। हिंटन के एक मित्र ने उसके लिए एक समान ओपेनहाइमर टोपी भी खरीदी। लेकिन वह जोर देकर कहते हैं: "मैं ओपेनहाइमर नहीं हूं," क्योंकि हजारों अन्य वैज्ञानिक तंत्रिका नेटवर्क पर काम कर रहे हैं।
चेतावनियों के बावजूद, कुल मिलाकर, हिंटन को अभी भी आपदा टलने की उम्मीद है।
उन्होंने कहा, ''मेरी आंतरिक भावना यह है कि हम अभी भी नियंत्रण में हैं।'' "हमारे पास कार्रवाई करने का हर अवसर है। सफलता तभी संभव है जब हम बहुत अधिक प्रयास करेंगे, लेकिन वास्तव में हम सब कुछ कर सकते हैं।"
टिप्पणियाँ