सार:
माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ ने कहा कि कृत्रिम बुद्धिमत्ता की वर्तमान निगरानी पर्याप्त नहीं है, यहाँ तक कि दूध और वॉशिंग मशीन जैसे सामान्य उपभोक्ता उत्पादों की तुलना में भी कम है। उन्होंने देशों से जल्द से जल्द वैश्विक कृत्रिम बुद्धिमत्ता सुरक्षा नियम स्थापित करने का आह्वान किया, जिसमें कृत्रिम बुद्धिमत्ता प्रणालियों के नियंत्रण से बाहर होने और क्षति होने पर कंपनियों को पीड़ितों को सूचित करने, दुर्घटना रिपोर्ट प्रस्तुत करने और कुछ कृत्रिम बुद्धिमत्ता उत्पादों के आधिकारिक तौर पर जारी होने से पहले स्वतंत्र मूल्यांकन एजेंसियों द्वारा समीक्षा स्वीकार करने की आवश्यकता शामिल है।
स्मिथ का यह रुख अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप के दावों से बिल्कुल उलट है. ट्रम्प का मानना है कि कृत्रिम बुद्धिमत्ता उद्योग को अत्यधिक सरकारी हस्तक्षेप से बचने के लिए मुख्य रूप से अपने स्वयं के विनियमन पर भरोसा करना चाहिए जो अमेरिकी कंपनियों की चीनी प्रतिस्पर्धियों के साथ प्रतिस्पर्धा करने की क्षमता को कमजोर करता है। स्मिथ का मानना है कि कृत्रिम बुद्धिमत्ता में उपकरण और हथियार दोनों की दोहरी विशेषताएं हैं, और यह जोखिमों को नियंत्रित करने के लिए केवल कॉर्पोरेट आत्म-अनुशासन पर निर्भर नहीं रह सकता है।
स्मिथ ने बीबीसी के बिग बॉस इंटरव्यू पॉडकास्ट को बताया, "आपकी वॉशिंग मशीन अब कृत्रिम बुद्धिमत्ता से अधिक सुरक्षा नियमों के अधीन है।" "किराने की दुकान में आप जो भी दूध का कार्टन देखते हैं, वह सुरक्षा नियमों और निरीक्षण के अधीन है।"
उनका मानना है कि कृत्रिम बुद्धिमत्ता का विकास उस स्तर पर पहुंच गया है जहां कार्रवाई की जानी चाहिए। देशों को अन्य उद्योगों के विनियामक अनुभव से सीखना चाहिए और कृत्रिम बुद्धिमत्ता प्रौद्योगिकी के लिए उपयुक्त सुरक्षा प्रणालियाँ स्थापित करनी चाहिए, न कि प्रतिक्रिया देने के तरीके पर चर्चा करने के लिए गंभीर दुर्घटनाएँ होने तक प्रतीक्षा करनी चाहिए।
चूंकि हाल के वर्षों में कृत्रिम बुद्धिमत्ता मॉडल की क्षमताओं में तेजी से सुधार हुआ है, इसलिए उद्योग के सख्त विनियमन की मांग बढ़ी है। कृत्रिम बुद्धिमत्ता के क्षेत्र के कुछ विशेषज्ञों ने यहां तक चेतावनी दी है कि यह तकनीक मानव समाज की दीर्घकालिक सुरक्षा के लिए खतरा पैदा कर सकती है। साइबर सुरक्षा जोखिमों, अनियंत्रित व्यवहार और कृत्रिम बुद्धिमत्ता से होने वाले अन्य संभावित नुकसान पर ध्यान केंद्रित करते हुए, उद्योग के भीतर इस बात पर भी चर्चा शुरू हो गई है कि क्या प्रौद्योगिकी विकास को धीमा किया जाना चाहिए।
अमेरिकी कृत्रिम बुद्धिमत्ता कंपनियों एंथ्रोपिक, ओपनएआई और गूगल डीपमाइंड के प्रमुखों ने कृत्रिम बुद्धिमत्ता के विकास के लिए अधिक सतर्क दृष्टिकोण का समर्थन किया है, और कुछ लोग कुछ परिस्थितियों में प्रौद्योगिकी अनुसंधान और विकास को धीमा करने का भी समर्थन करते हैं। हालाँकि, ट्रम्प ने हमेशा उन उपायों का विरोध किया है जो अमेरिकी कृत्रिम बुद्धिमत्ता उद्योग के विकास को प्रतिबंधित कर सकते हैं और उन्होंने बार-बार इस बात पर जोर दिया है कि संयुक्त राज्य अमेरिका को इस तकनीकी प्रतिस्पर्धा में आगे रहना चाहिए।
स्मिथ का मानना है कि कृत्रिम बुद्धिमत्ता को केवल एक सामान्य सॉफ्टवेयर उत्पाद नहीं माना जाना चाहिए। जैसे-जैसे कृत्रिम बुद्धिमत्ता एजेंट प्रणालियाँ मजबूत स्वायत्त निष्पादन क्षमताएँ प्राप्त करती हैं और उन्नत मॉडलों का साइबर सुरक्षा के क्षेत्र में प्रभाव बढ़ता जा रहा है, संबंधित जोखिमों के लिए सरकारों, उद्यमों और स्वतंत्र मूल्यांकन एजेंसियों को संयुक्त रूप से प्रतिक्रिया देने की आवश्यकता होती है।
उन्होंने कंपनियों से कृत्रिम बुद्धिमत्ता प्रणालियों के लिए आपातकालीन ब्रेकिंग तंत्र स्थापित करने का आह्वान किया, जिसे उद्योग में अक्सर "किल स्विच" कहा जाता है। यदि कोई कृत्रिम बुद्धिमत्ता प्रणाली नियंत्रण से बाहर व्यवहार करती है, या ऐसे संचालन करना शुरू कर देती है जिसके गंभीर परिणाम हो सकते हैं, तो उद्यमों को समय पर सिस्टम के संचालन को निलंबित करने में सक्षम होना चाहिए, या जोखिमों के आगे विस्तार को रोकने के लिए इसके संचालन की गति और अधिकार को कम करना चाहिए।
स्मिथ एक अनिवार्य दुर्घटना रिपोर्टिंग प्रणाली की भी वकालत करते हैं। यदि कोई कृत्रिम बुद्धिमत्ता एजेंट नियंत्रण खो देता है और अन्य प्रणालियों पर आक्रमण करता है, या असामान्य व्यवहार के कारण उपयोगकर्ताओं को नुकसान पहुंचाता है, तो संबंधित कंपनियों को कानून के अनुसार घटना की रिपोर्ट करनी चाहिए और प्रभावित व्यक्तियों या संगठनों को सूचित करना चाहिए।
उनका मानना है कि ये उपाय कृत्रिम बुद्धिमत्ता सुरक्षा नियामक प्रणाली का हिस्सा बनना चाहिए और स्वैच्छिक कार्रवाई करने के लिए केवल कंपनियों पर निर्भर नहीं रह सकते।
इसके अलावा, स्मिथ ने सुझाव दिया कि कुछ उच्च जोखिम वाले कृत्रिम बुद्धिमत्ता उत्पादों को जारी करने से पहले, सरकार द्वारा मान्यता प्राप्त स्वतंत्र मूल्यांकनकर्ताओं द्वारा उनकी समीक्षा की जानी चाहिए ताकि यह निर्धारित किया जा सके कि सिस्टम प्रासंगिक सुरक्षा आवश्यकताओं को पूरा करता है या नहीं। इसका मतलब यह नहीं है कि सभी कृत्रिम बुद्धिमत्ता उत्पादों को समान स्तर के पर्यवेक्षण के अधीन होना चाहिए, बल्कि यह कि क्या रिलीज़ से पहले एक स्वतंत्र मूल्यांकन की आवश्यकता है, यह उत्पाद क्षमताओं, उपयोग परिदृश्यों और संभावित जोखिमों के आधार पर निर्धारित किया जाना चाहिए।
स्मिथ ने कहा कि अन्य उद्योगों ने समान सुरक्षा प्रबंधन तंत्र स्थापित किए हैं, और कृत्रिम बुद्धिमत्ता पर्यवेक्षण इन परिपक्व अनुभवों से सीख सकता है। उनका मानना है कि कृत्रिम बुद्धिमत्ता के क्षेत्र में मौजूदा जोखिम मूल्यांकन, दुर्घटना रिपोर्टिंग और उत्पाद सुरक्षा प्रणालियों को तर्कसंगत रूप से लागू करना महत्वपूर्ण है।
अंतर्राष्ट्रीय कृत्रिम बुद्धिमत्ता नियमों को बढ़ावा देने में, स्मिथ यूके की भूमिका के बारे में विशेष रूप से आशावादी हैं।
उन्होंने बताया कि यूके ने कृत्रिम बुद्धिमत्ता सुरक्षा मुद्दों में विशेषज्ञता वाली एक एजेंसी की स्थापना की है। एजेंसी को मूल रूप से पूर्व प्रधान मंत्री ऋषि सुनक के प्रशासन के दौरान आर्टिफिशियल इंटेलिजेंस सुरक्षा अनुसंधान संस्थान के रूप में लॉन्च किया गया था और बाद में इसका नाम बदलकर आर्टिफिशियल इंटेलिजेंस इंस्टीट्यूट (एआई सुरक्षा संस्थान) कर दिया गया, जो उन्नत कृत्रिम इंटेलिजेंस सिस्टम की क्षमताओं और संभावित जोखिमों का अध्ययन करने के लिए जिम्मेदार है।
स्मिथ का मानना है कि ब्रिटेन के पास कृत्रिम बुद्धिमत्ता सुरक्षा मूल्यांकन में मजबूत तकनीकी ताकत है और अंतरराष्ट्रीय सहयोग को बढ़ावा देने की स्थिति भी है। उन्होंने कहा कि यदि आप प्रौद्योगिकी उद्योग के लोगों से पूछें कि कौन सा देश कृत्रिम बुद्धिमत्ता सुरक्षा प्रौद्योगिकी क्षमताओं में अग्रणी है, तो कई लोग बिना किसी हिचकिचाहट के ब्रिटेन को चुनेंगे।
उनका मानना है कि यूके के पास कृत्रिम बुद्धिमत्ता सुरक्षा के आसपास अधिक एकीकृत नियम स्थापित करने के लिए देशों को बढ़ावा देने के लिए अपनी अनुसंधान क्षमताओं और अंतर्राष्ट्रीय प्रभाव का उपयोग करने का अवसर है।
स्मिथ के विचार ट्रम्प प्रशासन की नीति दिशा से भिन्न हैं जो कृत्रिम बुद्धिमत्ता के विकास में तेजी लाने पर जोर देती है। ट्रम्प ने बार-बार कहा है कि जो कोई भी कृत्रिम बुद्धिमत्ता प्रतियोगिता जीतेगा वही भविष्य जीतेगा। यह रुख नियामक बाधाओं को कम करने, व्यापार निवेश को प्रोत्साहित करने और प्रौद्योगिकी अनुप्रयोगों का विस्तार करके कृत्रिम बुद्धिमत्ता के क्षेत्र में संयुक्त राज्य अमेरिका की अग्रणी स्थिति को मजबूत करने की अमेरिकी सरकार की इच्छा को दर्शाता है।
हालांकि, स्मिथ को विश्वास नहीं है कि अमेरिकी सरकार निश्चित रूप से ब्रिटिश नेतृत्व वाली कृत्रिम बुद्धिमत्ता नियामक पहल को अस्वीकार कर देगी।
उन्होंने बताया कि ब्रिटेन और यूरोपीय संघ के प्रति अमेरिकी राजनीतिक हलकों के रुख में मतभेद हैं। वाशिंगटन, यूके और लंदन में आम तौर पर ब्रुसेल्स और यूरोपीय संघ संस्थानों की तरह राजनीतिक प्रतिक्रिया का समान स्तर नहीं होता है। स्मिथ का मानना है कि रिश्तों में यह अंतर अंतरराष्ट्रीय एआई सुरक्षा मानकों के लिए यूके के प्रयास में एक फायदा हो सकता है।
उन्होंने इस बात पर जोर दिया कि ध्यान देने योग्य पर्याप्त जोखिम संकेत हैं, जिनमें कृत्रिम बुद्धिमत्ता एजेंट भी शामिल हैं जो मानव नियंत्रण से बच सकते हैं, और ऐसे मॉडल जो वैश्विक नेटवर्क सुरक्षा के लिए खतरा पैदा करने के लिए पर्याप्त शक्तिशाली हैं।
जब आप कृत्रिम बुद्धिमत्ता एजेंटों को देखते हैं जो मानव नियंत्रण से बाहर हैं, जब आप ऐसे मॉडल देखते हैं जो वैश्विक साइबर सुरक्षा से समझौता करने के लिए पर्याप्त शक्तिशाली हैं, तो मैं कहूंगा कि समय आ गया है," स्मिथ ने कहा।
उन्होंने सभी पक्षों से शांत लेकिन दृढ़ रवैया अपनाने, जितनी जल्दी हो सके बातचीत शुरू करने और सरकार, उद्यमों और अनुसंधान संस्थानों को संयुक्त रूप से प्रासंगिक नियम बनाने के लिए बढ़ावा देने का आह्वान किया। उन्होंने यह भी उम्मीद जताई कि माइक्रोसॉफ्ट इस प्रक्रिया में भूमिका निभा सकता है और यूके अंतरराष्ट्रीय सहयोग को बढ़ावा देने की भूमिका निभा सकता है।
यह ध्यान देने योग्य है कि स्मिथ ने उद्योग स्व-नियमन के मूल्य को पूरी तरह से नकारा नहीं है। पिछले महीने के अंत में, ट्रम्प ने व्हाइट हाउस में OpenAI, Anthropic, NVIDIA, SpaceX, Meta और Google जैसे प्रौद्योगिकी दिग्गजों के प्रमुखों से मुलाकात की। बैठक में कॉर्पोरेट अधिकारियों ने एक नैतिक दस्तावेज़ पर हस्ताक्षर किए, जिसमें यह मूल्यांकन करने के लिए स्वतंत्र लेखा परीक्षकों के साथ सहयोग करने पर सहमति व्यक्त की गई कि क्या कृत्रिम बुद्धिमत्ता प्रणालियां उम्मीद के मुताबिक काम कर रही हैं और यह सुनिश्चित करने के लिए कि सिस्टम अनपेक्षित तरीकों से तकनीकी प्रणालियों में घुसपैठ या पहुंच न करें।
इस दस्तावेज़ का उद्देश्य सुरक्षा समीक्षाओं को मजबूत करने और स्वतंत्र मूल्यांकन के माध्यम से संभावित समस्याओं की पहचान करने के लिए कृत्रिम बुद्धिमत्ता कंपनियों को बढ़ावा देना है। हालाँकि इसकी बाध्यकारी शक्ति औपचारिक कानूनों और विनियमों से भिन्न है, फिर भी इसे सुरक्षा प्रशासन के संदर्भ में प्रौद्योगिकी उद्योग द्वारा की गई कार्रवाई के रूप में माना जाता है।
स्मिथ ने बयान के लिए सराहना व्यक्त की और कहा कि माइक्रोसॉफ्ट प्रासंगिक दस्तावेजों पर हस्ताक्षर करने को तैयार है। उनका मानना है कि यह एक अच्छी शुरुआत और जरूरी कदम है.
लेकिन उनके विचार में, केवल इस प्रकार की स्वैच्छिक प्रतिबद्धता पर निर्भर रहना अब पर्याप्त नहीं है।
स्मिथ ने बताया कि किसी भी स्व-नियामक प्रणाली को एक मूलभूत समस्या का सामना करना पड़ेगा: जिम्मेदार कंपनियां आमतौर पर सुरक्षा आवश्यकताओं का पालन करने के लिए तैयार रहती हैं, लेकिन वास्तविक चिंताएं वे कंपनियां हैं जिनमें जिम्मेदारी की भावना की कमी है और वे सक्रिय रूप से सुरक्षा उपाय करने के लिए तैयार नहीं हैं।
उनका मानना है कि यदि पूरा उद्योग पूरी तरह से स्वैच्छिक प्रतिबद्धताओं पर निर्भर करता है, तो नियमों का पालन करने वाली कंपनियां अधिक लागत वहन कर सकती हैं, जबकि प्रतिस्पर्धी जो सुरक्षा सुनिश्चित करने में संसाधनों का निवेश करने के इच्छुक नहीं हैं, वे तेजी से विस्तार करना जारी रख सकते हैं। इसलिए, कानूनी रूप से बाध्यकारी न्यूनतम सुरक्षा मानक स्थापित करने से यह सुनिश्चित करने में मदद मिलती है कि सभी व्यवसायों को बुनियादी आवश्यकताओं को पूरा करना होगा।
यह स्मिथ द्वारा जोर दिया गया मुख्य मुद्दा भी है: कृत्रिम बुद्धिमत्ता विनियमन न केवल इस बात पर निर्भर होना चाहिए कि कंपनियां जिम्मेदारी लेने के लिए तैयार हैं या नहीं, बल्कि यह निर्धारित करने के लिए एक स्पष्ट प्रणाली स्थापित करनी चाहिए कि कंपनियों को कौन से सुरक्षा दायित्वों को पूरा करना चाहिए और सिस्टम में गंभीर समस्याएं होने पर क्या कार्रवाई करने की आवश्यकता है।
जैसे-जैसे एआई एजेंट जटिल कार्य करने, बाहरी उपकरणों को लागू करने और तकनीकी प्रणालियों तक पहुंचने की क्षमता हासिल करते हैं, सॉफ्टवेयर सुरक्षा प्रबंधन के लिए पारंपरिक दृष्टिकोण को अनुकूलित करने की आवश्यकता हो सकती है। भविष्य की नियामक प्रणाली को न केवल इस बात पर ध्यान देने की आवश्यकता होगी कि क्या मॉडल में खामियां हैं, बल्कि यह भी विचार करने की आवश्यकता है कि कृत्रिम बुद्धिमत्ता वास्तविक संचालन में क्या अनुमति प्राप्त कर सकती है, यह किन संसाधनों तक पहुंच सकती है, और क्या असामान्य व्यवहार होने पर ऑपरेशन को समय पर निलंबित किया जा सकता है।
माइक्रोसॉफ्ट के लिए, इस मुद्दे का प्रत्यक्ष व्यावसायिक महत्व भी है। Microsoft कृत्रिम बुद्धिमत्ता अवसंरचना और मॉडल अनुप्रयोगों में एक महत्वपूर्ण खिलाड़ी है और एंटरप्राइज़-स्तरीय क्लाउड कंप्यूटिंग और सॉफ़्टवेयर सेवाओं का एक प्रमुख प्रदाता है। कृत्रिम बुद्धिमत्ता प्रणालियों की सुरक्षा, विश्वसनीयता और नियंत्रणीयता सीधे प्रभावित करेगी कि क्या कॉर्पोरेट ग्राहक व्यावसायिक प्रक्रियाओं में संबंधित प्रौद्योगिकियों को व्यापक रूप से तैनात करने के इच्छुक हैं।
स्मिथ के बयान से पता चलता है कि अमेरिकी प्रौद्योगिकी उद्योग के भीतर भी, कृत्रिम बुद्धिमत्ता को कैसे विनियमित किया जाना चाहिए, इस पर पूर्ण सहमति नहीं है। कुछ कंपनियां और नीति निर्माता नवाचार और व्यावसायीकरण को गति देने के लिए जितना संभव हो सके प्रतिबंधों को कम करने की उम्मीद करते हैं; दूसरों का मानना है कि जैसे-जैसे तकनीकी क्षमताएं बढ़ती हैं, स्पष्ट सुरक्षा जिम्मेदारियां और जोखिम नियंत्रण तंत्र एक साथ स्थापित किए जाने चाहिए।
इस बहस की कुंजी न केवल कृत्रिम बुद्धिमत्ता के विकास का समर्थन करना है, बल्कि यह सुनिश्चित करते हुए नवाचार को कैसे प्रोत्साहित करना है कि तकनीकी अनुप्रयोग व्यक्तियों, व्यवसायों और समाज के लिए अस्वीकार्य जोखिम पैदा न करें।
दूध और वॉशिंग मशीनों के उदाहरणों से लेकर आपातकालीन ब्रेकिंग तंत्र, दुर्घटना रिपोर्ट और स्वतंत्र मूल्यांकन तक, स्मिथ जो संदेश देने की कोशिश कर रहे हैं वह स्पष्ट है: कृत्रिम बुद्धिमत्ता का तकनीकी विकास मौजूदा नियामक प्रणाली के समायोजन की गति से तेज है। यदि देश कृत्रिम बुद्धिमत्ता से आर्थिक और सामाजिक लाभ प्राप्त करना जारी रखना चाहते हैं, तो उन्हें जल्द से जल्द ऐसे सुरक्षा नियम स्थापित करने होंगे जो उनकी क्षमताओं और जोखिमों से मेल खाते हों।
उनके विचार में, इस समस्या को हल करने के लिए केवल कॉर्पोरेट आत्म-अनुशासन पर निर्भर रहना पर्याप्त नहीं है। वास्तव में प्रभावी नियामक प्रणाली को न केवल जिम्मेदार कंपनियों को नवाचार जारी रखने के लिए प्रोत्साहित करना चाहिए, बल्कि उन प्रतिभागियों पर भी अंकुश लगाना चाहिए जो सक्रिय रूप से जोखिमों को नियंत्रित करने के इच्छुक नहीं हैं।
टिप्पणियाँ