संयुक्त राष्ट्र द्वारा स्थापित कृत्रिम बुद्धिमत्ता पर पहले स्वतंत्र वैज्ञानिक विशेषज्ञ पैनल ने एक प्रारंभिक मूल्यांकन रिपोर्ट जारी की जिसमें कहा गया कि कृत्रिम बुद्धिमत्ता (एआई) के तेजी से विकास से दुनिया भर के देशों और लोगों को भारी संभावित लाभ हुआ है, लेकिन यह बड़े जोखिमों के साथ भी आता है। यह रिपोर्ट 6 से 7 जुलाई तक जिनेवा में पहले संयुक्त राष्ट्र वैश्विक आर्टिफिशियल इंटेलिजेंस गवर्नेंस डायलॉग में सरकारों को सौंपी जाएगी। यह वैश्विक स्तर पर कृत्रिम बुद्धिमत्ता का पहला स्वतंत्र वैज्ञानिक मूल्यांकन है। एक पूर्ण और व्यापक संस्करण अगले वर्ष जारी होने की उम्मीद है।
रिपोर्ट दुनिया के सभी क्षेत्रों के 40 प्रमुख वैज्ञानिकों और विशेषज्ञों द्वारा सह-लिखित थी, जिन्होंने तीन साल की अवधि के लिए व्यक्तिगत क्षमता में भाग लिया था और वे सीधे किसी सरकार, एजेंसी या कंपनी से बंधे नहीं थे, और इसका उद्देश्य निर्णय निर्माताओं को स्वतंत्र वैज्ञानिक साक्ष्य प्रदान करना था। रिपोर्ट बताती है कि कृत्रिम बुद्धिमत्ता क्षमताओं के तेजी से विकास के संदर्भ में, नीति निर्माताओं को नियामक ढांचे तैयार करने के लिए तत्काल विश्वसनीय वैज्ञानिक आधार की आवश्यकता है। हालाँकि, वैज्ञानिक समुदाय द्वारा कुछ अत्यधिक स्वायत्त प्रणालियों की वर्तमान समझ अभी भी पिछड़ रही है, और समाज और सरकार की अनुकूलनशीलता स्पष्ट रूप से अपर्याप्त है। इस प्रकार की अत्यधिक स्वायत्त कृत्रिम बुद्धिमत्ता पर लगाम लगाने के लिए प्रभावी उपकरण अभी भी सीमित हैं।
विशेषज्ञ पैनल के सह-अध्यक्ष योशुआ बेंगियो ने रिपोर्ट में जोर देकर कहा कि कृत्रिम बुद्धिमत्ता में "भ्रामक व्यवहार" के वैज्ञानिक प्रमाण बढ़ रहे हैं। उन्होंने बताया कि जैसे-जैसे सिस्टम क्षमताओं में और सुधार होगा, वैज्ञानिक अनुसंधान यह गारंटी नहीं दे सकता है कि कृत्रिम बुद्धिमत्ता विनाशकारी नुकसान नहीं लाएगी - ऐसा नुकसान सिस्टम के व्यवहार से या दुर्भावनापूर्ण उद्देश्यों वाले उपयोगकर्ताओं से उत्पन्न हो सकता है। रिपोर्ट का निष्कर्ष है कि "कृत्रिम बुद्धिमत्ता के संभावित लाभ बहुत बड़े हैं," लेकिन चेतावनी दी गई है कि अगर बड़े पैमाने पर तेजी से तैनाती के दौरान पर्याप्त बाधाओं और सावधानीपूर्वक योजना की कमी है तो प्रौद्योगिकी के नकारात्मक प्रभावों को नजरअंदाज नहीं किया जा सकता है।
रिपोर्ट बताती है कि कृत्रिम बुद्धिमत्ता का तेजी से प्रचार सामाजिक, आर्थिक और पर्यावरणीय प्रणालियों को गहराई से बदल रहा है, और उपयोगकर्ताओं के मानसिक स्वास्थ्य के लिए भी चुनौतियाँ पैदा कर रहा है। सकारात्मक पक्ष पर, कृत्रिम बुद्धिमत्ता अनुप्रयोगों ने शिक्षा, चिकित्सा देखभाल, वैज्ञानिक अनुसंधान और औद्योगिक उत्पादन जैसे कई क्षेत्रों में दक्षता में सुधार करने और नए मूल्य बनाने की क्षमता का प्रदर्शन किया है। लेकिन नकारात्मक पक्ष पर, रिपोर्ट में चेतावनी दी गई है कि एआई का उपयोग विनाशकारी उपकरण के रूप में या सूचना और भावनाओं में हेरफेर करके सार्वजनिक विश्वास, सामाजिक एकजुटता और लोकतांत्रिक विचार-विमर्श (विचार-विमर्श) को कमजोर करने के लिए किया जा सकता है।
इस प्रारंभिक मूल्यांकन के अनुसार, दुनिया भर में एक अरब से अधिक लोग हर हफ्ते संवादी एआई का उपयोग करते हैं, लेकिन विभिन्न देशों और उद्योगों में आवेदन का स्तर अत्यधिक असमान है, विकासशील देश आम तौर पर पहुंच और उपयोग के मामले में पीछे हैं। कंप्यूटिंग शक्ति एकाग्रता के संदर्भ में, रिपोर्ट में उद्धृत आंकड़ों में कहा गया है कि दुनिया के शीर्ष 500 कृत्रिम बुद्धिमत्ता सुपर कंप्यूटरों में, संयुक्त राज्य अमेरिका की कंप्यूटिंग शक्ति का लगभग 75% हिस्सा है और चीन का लगभग 15% हिस्सा है, जो इस बात पर प्रकाश डालता है कि वर्तमान कृत्रिम बुद्धिमत्ता बुनियादी ढांचा कुछ अर्थव्यवस्थाओं में अत्यधिक केंद्रित है।
रिपोर्ट में भाषा के स्तर पर गंभीर असंतुलन पर भी ध्यान दिया गया है। दुनिया में 7,000 से अधिक भाषाएँ हैं, लेकिन वर्तमान मुख्यधारा के कृत्रिम बुद्धिमत्ता मॉडल प्रशिक्षण में उनमें से बहुत कम संख्या को ही कवर करते हैं। कई भाषाओं के लिए, मशीन अनुवाद गुणवत्ता की समस्याएं प्रमुख हैं, और त्रुटियां न केवल दैनिक संचार को प्रभावित करती हैं, बल्कि उन परिदृश्यों में गंभीर परिणाम भी पैदा कर सकती हैं जो व्यक्तिगत सुरक्षा के प्रति अत्यधिक संवेदनशील हैं, जैसे चिकित्सा निदान और उपचार निर्णय लेना।
विशेषज्ञ पैनल ने बताया कि कृत्रिम बुद्धिमत्ता के प्रसार से उत्पन्न जोखिम कई क्षेत्रों में स्पष्ट होने लगे हैं। इनमें मानवाधिकारों, सामाजिक प्रणालियों और प्राकृतिक पर्यावरण पर संभावित नकारात्मक प्रभाव शामिल हैं, जैसे कि कृत्रिम बुद्धि द्वारा उत्पन्न बाल यौन शोषण सामग्री की बढ़ती आवृत्ति और इंटरनेट पर डीपफेक तकनीक का उपयोग करके लागू की गई यौन हिंसा सामग्री। रिपोर्ट का मानना है कि संबंधित घटनाओं ने सामग्री पर्यवेक्षण, आपराधिक न्याय और अंतरराष्ट्रीय सहयोग में स्पष्ट कमियों को उजागर किया है, और तकनीकी और संस्थागत स्तरों पर प्रतिक्रियाओं को एक साथ मजबूत करने की तत्काल आवश्यकता है।
सूचना परिवेश के संदर्भ में, रिपोर्ट में चेतावनी दी गई है कि कृत्रिम बुद्धिमत्ता ने बड़े पैमाने पर उत्पादन और "प्रेरक सामग्री" के सटीक लक्षित प्रसार के लिए सीमा को काफी कम कर दिया है। इस प्रवृत्ति से सूचना अखंडता में प्रगतिशील क्षरण हो सकता है, जिससे मीडिया और संस्थानों में जनता का विश्वास कम हो सकता है, सामाजिक एकजुटता कमजोर हो सकती है, और लोकतांत्रिक प्रक्रियाओं के विचार-विमर्श तंत्र में हस्तक्षेप हो सकता है जो तथ्यों और तर्कसंगत बहस पर निर्भर होते हैं। विशेषज्ञों का मानना है कि ऐसे परिवर्तनों के सामने, पारंपरिक सूचना सुरक्षा और मीडिया नियामक ढांचे अपर्याप्त हो गए हैं, और शासन के विचारों को अद्यतन करना और अंतर्राष्ट्रीय समन्वय को मजबूत करना आवश्यक है।
रिपोर्ट में यह भी बताया गया है कि अधिकांश देशों - जिनमें कुछ उन्नत अर्थव्यवस्थाएं भी शामिल हैं - में नवीनतम और सबसे शक्तिशाली कृत्रिम बुद्धिमत्ता मॉडल के तकनीकी मूल्यांकन करने की क्षमता का अभाव है, और इन प्रणालियों के वैश्विक शासन को प्रभावित करने के लिए पर्याप्त तकनीकी भागीदारी होना मुश्किल है। तकनीकी क्षमताओं और संसाधनों में इस अंतर ने कृत्रिम बुद्धिमत्ता सुरक्षा मानकों और जोखिम निवारण और नियंत्रण के निर्माण में अंतर्राष्ट्रीय असमानता को और बढ़ा दिया है। विशेषज्ञ समूह ने बहुपक्षीय सहयोग तंत्र और क्षमता-निर्माण परियोजनाओं के माध्यम से देशों की व्यापक श्रेणी को उनके मूल्यांकन और नियामक क्षमताओं में सुधार करने में मदद करने का आह्वान किया, जिससे वैश्विक शासन में अधिक प्रतिनिधि आवाज बन सके।
यह प्रारंभिक रिपोर्ट भविष्य के नियामक ढांचे और सहयोग पथों पर चर्चा करने के लिए सरकारों और प्रासंगिक अंतरराष्ट्रीय संगठनों के लिए संयुक्त राष्ट्र ग्लोबल आर्टिफिशियल इंटेलिजेंस गवर्नेंस डायलॉग में एक मुख्य संदर्भ दस्तावेज़ के रूप में काम करेगी। विशेषज्ञ समूह ने कहा कि वह जोखिम की रोकथाम और नियंत्रण तथा तकनीकी नवाचार के बीच अधिक स्थिर संतुलन की तलाश में सभी पक्षों का समर्थन करने के लिए प्रस्तावित व्यापक रिपोर्ट के लिए अधिक विस्तृत और व्यवस्थित साक्ष्य आधार प्रदान करने के लिए अगले वर्ष नवीनतम वैज्ञानिक अनुसंधान परिणामों और व्यावहारिक अनुप्रयोग मामलों को एकत्र करना और मूल्यांकन करना जारी रखने की योजना बना रहा है।