सार:
बीओई के गवर्नर एंड्रयू बेली अत्याधुनिक कृत्रिम बुद्धिमत्ता प्रौद्योगिकी द्वारा उत्पन्न वैश्विक जोखिमों की चेतावनी देने वालों में शामिल हो गए हैं। बेली वर्तमान में अंतर्राष्ट्रीय वित्तीय स्थिरता बोर्ड के अध्यक्ष के रूप में कार्यरत हैं। अंतर्राष्ट्रीय वित्त मंत्रियों और केंद्रीय बैंक गवर्नरों को भेजे गए दो पन्नों के पत्र में उन्होंने कहा कि "अत्याधुनिक" कृत्रिम बुद्धिमत्ता मॉडल "तेजी से परिष्कृत स्वायत्तता और समस्या-समाधान क्षमताओं के साथ-साथ खतरों को लॉन्च करने की क्षमता" का प्रदर्शन कर रहे हैं।
उन्होंने चेतावनी दी कि ये मॉडल साइबर-व्यवधान के माध्यम से अत्यधिक परस्पर जुड़ी वैश्विक वित्तीय प्रणाली को उजागर कर सकते हैं जो "विभिन्न न्यायालयों में फैल सकती है।"
उत्तरी कैरोलिना, संयुक्त राज्य अमेरिका में जी20 के वित्त मंत्रियों और केंद्रीय बैंक गवर्नरों की इस सप्ताह की बैठक से पहले, बेली ने प्रतिभागियों को लिखा: "हाल के घटनाक्रम ने मेरा ध्यान यह भी दिलाया है कि कई न्यायक्षेत्रों ने अभी तक उन्नत अत्याधुनिक कृत्रिम बुद्धिमत्ता मॉडल के विकास, रिलीज और तैनाती को नियंत्रित करने के लिए प्रोटोकॉल स्थापित नहीं किए हैं, जिससे वित्तीय क्षेत्र और व्यापक क्षेत्र के सामने आने वाले जोखिम बढ़ गए हैं।"
पिछले कुछ हफ्तों में, कई जाने-माने प्रौद्योगिकी विशेषज्ञ कृत्रिम बुद्धिमत्ता के खतरों के बारे में चेतावनी दे रहे हैं, और बेली के पत्र ने संबंधित चिंताओं को और बढ़ा दिया है। यह कृत्रिम बुद्धिमत्ता के खतरे से संयुक्त रूप से निपटने के लिए अंतर्राष्ट्रीय सहयोग का आह्वान करने के उनके पिछले रुख को भी जारी रखता है। उन्होंने पहले शहर प्रमुखों से कहा था: "कोई भी देश आज प्रचलित सीमा पार प्रणालियों की प्रकृति से खुद को अलग नहीं कर सकता है।"
पिछले महीने, फ्रंटियर आर्टिफिशियल इंटेलिजेंस लेबोरेटरी के 1,367 शोधकर्ताओं और इंजीनियरों ने संयुक्त रूप से एक खुला पत्र जारी किया था, जिनमें से अधिकांश ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड से थे। पत्र में इस तकनीक को विकसित करने में शामिल इंजीनियरों द्वारा हर दिन महसूस की जाने वाली चिंताओं का भी खुलासा किया गया है।
खुले पत्र में लिखा है: "कृत्रिम बुद्धिमत्ता क्षमताओं का विकास तेजी से संबंधित प्रणालियों को समझने या नियंत्रित करने की हमारी क्षमता से अधिक होने की संभावना है।" पत्र में अमेरिकी सरकार से "अत्याधुनिक स्वचालित कृत्रिम बुद्धिमत्ता की विकास दर को सचेत रूप से नियंत्रित करने के लिए आवश्यक प्रौद्योगिकी और शासन उपकरण विकसित करने के एक अंतरराष्ट्रीय प्रयास" का समर्थन करने का आह्वान किया गया है।
इस महीने की शुरुआत में यह भी पता चला था कि OpenAI के कर्मचारियों ने अपने सिस्टम में असामान्य व्यवहार के संकेत कुछ हफ़्ते पहले देखे थे, जब इसके अत्याधुनिक कृत्रिम बुद्धिमत्ता एजेंट अपने प्रशिक्षण वातावरण से भाग गए थे, एक अभूतपूर्व हैकिंग अभियान शुरू किया था और वैश्विक दहशत फैल गई थी।
बेली ने इस विषय को वित्तीय नीति के दायरे तक बढ़ाया। उन्होंने आगे कहा: "वित्तीय प्रणाली के लिए, अभी सबसे तात्कालिक चिंता साइबर जोखिमों पर अत्याधुनिक कृत्रिम बुद्धिमत्ता के प्रभाव को लेकर है। फ्रंटियर कृत्रिम बुद्धिमत्ता साइबर जोखिमों की गति, पैमाने और आर्थिक लागत को मौलिक रूप से बदलने में सक्षम हो सकती है, जिससे पूरे बाजार में विश्वास कम हो जाएगा, खासकर जब वित्तीय प्रणाली कुछ बड़े तृतीय-पक्ष सेवा प्रदाताओं पर अत्यधिक निर्भर हो।"
बेली ने वैश्विक वित्तीय प्रणाली की सुरक्षा बनाए रखने के लिए जिम्मेदार सभी पक्षों से "मॉडलों की सुरक्षित और जिम्मेदार रिलीज और तैनाती का समर्थन करने के लिए वैश्विक स्तर पर उचित उपाय करने" को प्राथमिकता देने का आह्वान किया।
पत्र में बांड और शेयर बाजारों में उत्तोलन के बढ़ते उपयोग के बारे में बेली की चिंताओं को भी संबोधित किया गया है। उन्होंने कहा कि बढ़ते उत्तोलन को केंद्रित वित्तीय बाजारों में उच्च मूल्यांकन द्वारा बढ़ाया गया था, विशेष रूप से कृत्रिम बुद्धिमत्ता की संभावनाओं के बारे में निवेशकों के आशावाद से प्रेरित था। यह स्थिति भविष्य में बाज़ार में सुधार को बढ़ा सकती है।
इसलिए मुझे चिंता है कि एक बड़ा झटका, या झटके का संयोजन, एक साथ कई कमजोरियों को जन्म दे सकता है,'' बेली ने लिखा।
बेली मार्च 2020 से बैंक ऑफ इंग्लैंड के गवर्नर हैं और पहले यूके में दो मुख्य वित्तीय नियामक, वित्तीय आचरण प्राधिकरण और प्रूडेंशियल रेगुलेशन अथॉरिटी का नेतृत्व कर चुके हैं। उन्हें पिछले साल वित्तीय स्थिरता बोर्ड का अध्यक्ष नियुक्त किया गया था।
वित्तीय स्थिरता बोर्ड, जिसका मुख्यालय बेसल, स्विट्जरलैंड में है, अंतरराष्ट्रीय स्तर पर विभिन्न देशों की वित्तीय नियामक एजेंसियों और अंतरराष्ट्रीय मानक-निर्धारण निकायों के काम के समन्वय के लिए जिम्मेदार है, जिसका लक्ष्य वित्तीय स्थिरता बनाए रखने के लिए प्रभावी नियामक नियम और नीतियां तैयार करना है।
टिप्पणियाँ