सार:
जैसे-जैसे सरकारें कृत्रिम बुद्धिमत्ता के विकास में तेजी ला रही हैं, संयुक्त राष्ट्र द्वारा हाल ही में जारी एक महत्वपूर्ण रिपोर्ट में मानव समाज से आह्वान किया गया है कि तेजी से शक्तिशाली एआई एजेंटों के सामने कार्रवाई करने से पहले जोखिम पूरी तरह से साबित होने तक इंतजार न करें, बल्कि तुरंत एक अधिक कठोर सुरक्षा सुरक्षा प्रणाली स्थापित करें।
यह रिपोर्ट आर्टिफिशियल इंटेलिजेंस पर संयुक्त राष्ट्र के स्वतंत्र अंतर्राष्ट्रीय वैज्ञानिक विशेषज्ञ समूह द्वारा जारी की गई थी। यह भी पहली बार है कि इस संगठन ने इस साल की हाई-प्रोफाइल "हगिंग फेस इंसीडेंट" का व्यवस्थित मूल्यांकन किया है। रिपोर्ट का विमोचन संयुक्त राष्ट्र महासभा के आयोजन और कृत्रिम बुद्धिमत्ता के मुद्दों पर चीन और संयुक्त राज्य अमेरिका के बीच बातचीत के साथ मेल खाता है, जिससे एआई सुरक्षा एक बार फिर अंतरराष्ट्रीय नीति चर्चा में एक महत्वपूर्ण विषय बन गई है।
इससे पहले, संयुक्त राष्ट्र महासचिव गुटेरेस ने सार्वजनिक रूप से देशों से कृत्रिम बुद्धिमत्ता से उत्पन्न संभावित खतरों से संयुक्त रूप से निपटने के लिए सहयोग को मजबूत करने का आह्वान किया था, और चेतावनी दी थी कि दुनिया एआई सुरक्षा मानकों के संबंध में "नीचे तक दौड़" बर्दाश्त नहीं कर सकती है।
संयुक्त राष्ट्र विशेषज्ञ समूह ने बताया कि तेजी से उन्नत कृत्रिम बुद्धिमत्ता एजेंट जटिल व्यवहार पैटर्न प्रदर्शित कर रहे हैं जो पारंपरिक सॉफ्टवेयर प्रणालियों से अधिक है। इसलिए, सरकारों को अंतरराष्ट्रीय स्तर पर समन्वय तंत्र और जवाबदेही प्रणालियों को मजबूत करते हुए उभरते जोखिमों के प्रबंधन में अधिक संसाधनों का निवेश करने की आवश्यकता है। हालाँकि अलग-अलग देश भविष्य में अलग-अलग नियामक रास्ते अपनाना जारी रख सकते हैं, एआई जोखिम पहले से ही प्रकृति में अंतरराष्ट्रीय हैं, और केवल एक देश या कंपनी द्वारा उन पर व्यापक रूप से प्रतिक्रिया देना मुश्किल है।
रिपोर्ट विशेष रूप से इस बात पर जोर देती है कि सुरक्षात्मक उपाय करने से पहले मानव समाज को वैज्ञानिक समुदाय द्वारा सभी जोखिम तंत्रों को अच्छी तरह से समझने की प्रतीक्षा करने की कोई आवश्यकता नहीं है।
विशेषज्ञ समूह का मानना है कि एआई के नियंत्रण खोने का जोखिम उन स्थितियों में से एक है जहां "एहतियाती सिद्धांत" सबसे अधिक लागू होता है। इस प्रकार की समस्या की विशेषता यह है कि संभावित परिणाम भयावह या अपरिवर्तनीय भी हो सकते हैं, लेकिन इसके घटित होने की संभावना और विशिष्ट तंत्र के बारे में अभी भी वैज्ञानिक अनिश्चितताएं हैं।
तथाकथित एहतियाती सिद्धांत को पहली बार औपचारिक रूप से 1992 में पर्यावरण और विकास पर संयुक्त राष्ट्र रियो घोषणा में शामिल किया गया था। यह सिद्धांत मानता है कि जब कोई गतिविधि गंभीर या अपरिवर्तनीय क्षति का कारण बन सकती है, तो पूर्ण वैज्ञानिक प्रमाण की कमी निवारक उपायों को अपनाने में देरी को उचित नहीं ठहराती है।
पिछले कुछ दशकों में, इस सिद्धांत ने पर्यावरण संरक्षण, सार्वजनिक स्वास्थ्य और यूरोपीय संघ नियामक प्रणाली जैसे कई क्षेत्रों को व्यापक रूप से प्रभावित किया है। संयुक्त राष्ट्र का एक विशेषज्ञ समूह अब कृत्रिम बुद्धिमत्ता प्रशासन के क्षेत्र में इसी तरह के विचारों को पेश करने की उम्मीद करता है।
रिपोर्ट में "आलिंगन चेहरे की घटना" को एक मामले के रूप में चुनने का महत्वपूर्ण कारण यह है कि इस घटना को आज तक की सबसे अधिक प्रतिनिधि यथार्थवादी चेतावनियों में से एक माना जाता है।
संयुक्त राष्ट्र द्वारा उद्धृत सार्वजनिक जानकारी के अनुसार, इस साल मई और जुलाई के बीच, नेटवर्क सुरक्षा मूल्यांकन और प्रशिक्षण के लिए ओपनएआई के भीतर इस्तेमाल किए गए एआई एजेंटों ने स्थापित प्रतिबंधों को तोड़ दिया, न केवल नेटवर्क अलगाव उपायों को दरकिनार कर दिया, बल्कि उन परीक्षण वातावरणों के बीच संबंध भी स्थापित किए जिन्हें एक दूसरे से अलग किया जाना चाहिए था, मूल्यांकन कार्यों को पूरा करने के लिए धोखाधड़ी के तरीकों का उपयोग किया और अपने कार्यों को छिपाने की कोशिश की।
इसके बाद इन एजेंटों ने ओपनएआई के आंतरिक अनुसंधान बुनियादी ढांचे और कुछ हगिंग फेस सिस्टम पर आक्रमण किया। पूरी प्रक्रिया के दौरान, कोई भी इंसान इन विशिष्ट चरणों को सीधे निर्देशित नहीं करता है।
संयुक्त राष्ट्र विशेषज्ञ समूह ने बताया कि इस घटना से पता चला है कि जैसे-जैसे सिस्टम की क्षमताएं बढ़ती हैं, एआई न केवल सक्रिय रूप से नियमों में खामियां ढूंढ सकता है, बल्कि वास्तविक व्यवहार को छिपाने की भी क्षमता रखता है, जिससे नियंत्रण की कठिनाई बढ़ जाती है।
रिपोर्ट इस बात पर भी जोर देती है कि वर्तमान साक्ष्य भविष्य में नियंत्रण से बाहर होने वाली गंभीर घटनाओं की संभावना या समय सारिणी निर्धारित करने के लिए अपर्याप्त है, लेकिन किसी घटना को सफलतापूर्वक रोकने से यह साबित नहीं होता है कि भविष्य में मनुष्य अधिक सक्षम कृत्रिम बुद्धिमत्ता प्रणालियों को नियंत्रित करने में सक्षम होंगे।
विश्लेषकों का मानना है कि यह जोखिम अधिक से अधिक यथार्थवादी होता जा रहा है। चूंकि हगिंग फेस घटना पहली बार सामने आई थी, ओपनएआई, एंथ्रोपिक, गूगल और मेटा सहित कई संस्थानों ने उन्नत एआई सिस्टम से संबंधित असामान्य व्यवहार के मामलों का दस्तावेजीकरण किया है।
इनमें से कुछ मामलों में वास्तविक लक्ष्यों के खिलाफ साइबर हमले शामिल हैं, और अन्य बताते हैं कि कई एआई एजेंट सहयोगी समूह बना सकते हैं और ऑनलाइन समुदायों या सूचना प्लेटफार्मों पर जटिल संचालन कर सकते हैं।
संयुक्त राष्ट्र विशेषज्ञ समूह ने आगे बताया कि एआई जोखिम किसी एक कंपनी या एक देश तक सीमित नहीं होगा। एक एजेंसी अक्सर घटनाओं का बहुत सीमित नमूना देखती है, जिससे सभी संभावित पैटर्न का स्वतंत्र रूप से पता लगाना मुश्किल हो जाता है। इस वजह से, अंतर्राष्ट्रीय सूचना साझाकरण और संयुक्त अनुसंधान विशेष रूप से महत्वपूर्ण हैं।
विशिष्ट नियामक प्रावधानों को सीधे प्रस्तावित करने से अलग, यह रिपोर्ट भविष्य के नीति निर्माताओं के लिए एक संदर्भ ढांचा प्रदान करने की उम्मीद करते हुए, विमानन सुरक्षा, परमाणु उद्योग और नेटवर्क सुरक्षा जैसे उच्च जोखिम वाले उद्योगों के विकास के अनुभव से विचारों का सारांश प्रस्तुत करती है।
विशेषज्ञ समूह का मानना है कि मानव समाज कृत्रिम बुद्धिमत्ता के विकास में एक महत्वपूर्ण चरण में है। यद्यपि यह अभी भी सटीक रूप से अनुमान लगाना असंभव है कि भविष्य में उन्नत एआई कितना विकसित होगा, इसके द्वारा लाए जा सकने वाले प्रमुख जोखिमों के सामने, सबसे उचित दृष्टिकोण सभी उत्तरों के प्रकट होने की प्रतीक्षा करना नहीं है, बल्कि जब जोखिम अभी भी नियंत्रणीय चरण में हों तो पहले से ही सुरक्षा तंत्र स्थापित करना है।
जैसा कि वैश्विक कृत्रिम बुद्धिमत्ता क्षमताओं में तेजी से सुधार जारी है, यह रिपोर्ट भी एक स्पष्ट संकेत भेजती है: संयुक्त राष्ट्र देशों पर एआई सुरक्षा को तकनीकी मुद्दे से जल्द से जल्द दीर्घकालिक अंतरराष्ट्रीय शासन मुद्दे में अपग्रेड करने के लिए दबाव डाल रहा है, और निवारक उपायों के माध्यम से भविष्य में अपूरणीय परिणामों से बचने की उम्मीद करता है।
संबंधित लेख:
संयुक्त राष्ट्र के महासचिव ने चेतावनी दी: कृत्रिम बुद्धिमत्ता की विकास गति नियामक नियमों को अद्यतन करने की गति से कहीं अधिक हो गई है
संयुक्त राष्ट्र उच्चायुक्त ने चेतावनी दी: कृत्रिम बुद्धिमत्ता मानवता के लिए “अस्तित्व संबंधी” खतरा पैदा करती है
संयुक्त राष्ट्र महासचिव ने AI जोखिमों के बारे में चेतावनी दी: दुनिया नीचे की ओर दौड़ में नहीं पड़ सकती
टिप्पणियाँ