सार:
माइक्रोसॉफ्ट के सीईओ सत्य नडेला ने कहा कि कंपनियों को शक्तिशाली कृत्रिम बुद्धिमत्ता मॉडल को संभावित अंदरूनी खतरों के रूप में मानना चाहिए, मान लेना चाहिए कि इन मॉडलों से समझौता किया जा सकता है, और एजेंट मॉडल को नियंत्रण से बाहर होने से रोकने के लिए एक "आपातकालीन ब्रेकिंग" तंत्र स्थापित करना चाहिए। नडेला ने कहा कि उन्नत कृत्रिम बुद्धिमत्ता तैनात करने वाली कंपनियों को केवल मॉडल डेवलपर्स द्वारा दी गई गारंटी पर निर्भर नहीं रहना चाहिए।
नडेला ने शनिवार को एक्स पर एक पोस्ट में लिखा, "हमें यह मान लेना चाहिए कि मॉडल के साथ समझौता किया गया है और शुरुआत से ही इसे नियंत्रित करना चाहिए।" "इसे एक आपातकालीन ब्रेक के रूप में सोचें। अधिकृत कर्मियों को मॉडल को अपने मिशन के दौरान हमेशा रोकने या बंद करने में सक्षम होना चाहिए।"
नडेला की टिप्पणी एंथ्रोपिक पीबीसी और ओपनएआई इंक के रूप में आई है। इसने हाल के महीनों में अपने कृत्रिम बुद्धिमत्ता मॉडल के अप्रत्याशित व्यवहार से जुड़ी घटनाओं की एक श्रृंखला का खुलासा किया है, जिसमें एंथ्रोपिक के मॉडल में से एक ने पुलिस को एक हत्या के बारे में झूठी सूचना देना और तीसरे पक्ष की वेबसाइटों पर कई हमले शामिल हैं। खुलासों ने अत्याधुनिक कृत्रिम बुद्धिमत्ता के सुरक्षा जोखिमों के बारे में चिंताएँ बढ़ा दी हैं और कृत्रिम बुद्धिमत्ता के लिए तथाकथित "आपातकालीन किल स्विच" के बारे में चर्चा फिर से शुरू कर दी है।
उद्योग जगत के नेताओं द्वारा अत्याधुनिक मॉडलों के विकास को धीमा करने और सुरक्षा पर अधिक ध्यान देने के आह्वान के बाद, माइक्रोसॉफ्ट कृत्रिम बुद्धिमत्ता शोधकर्ताओं ने कंपनी के सबसे उन्नत मॉडलों के विकास पर सीमा निर्धारित करने के लिए 14 सितंबर को दिशानिर्देशों का एक सेट जारी किया। माइक्रोसॉफ्ट दोनों उन्नत मॉडलों का उपयोग करता है और अपने उपभोक्ता-सामना वाले उत्पाद कोपायलट को लॉन्च करता है, साथ ही उद्यम ग्राहकों को एआई मॉडल और बुनियादी ढांचा प्रदान करता है।
ये मार्गदर्शक सिद्धांत कहते हैं कि कृत्रिम बुद्धिमत्ता मॉडल में अधिकार या कानूनी व्यक्तित्व नहीं होना चाहिए, मानव नियंत्रण से बचने या उपयोगकर्ताओं को धोखा देने के लिए डिज़ाइन नहीं किया जाना चाहिए, और ऐसे किसी भी कार्य को पूरा नहीं करना चाहिए जिसे करने के लिए उनके बाध्यकारी सिद्धांतों के उल्लंघन की आवश्यकता होती है।
नडेला की सुरक्षा सिफारिशों में प्रमुख निर्णयों में एकल कृत्रिम बुद्धिमत्ता मॉडल पर भरोसा नहीं करना, एजेंट के कार्यों के छेड़छाड़-प्रूफ रिकॉर्ड रखना और कृत्रिम बुद्धिमत्ता प्रणालियों को स्वतंत्र ऑडिट के अधीन करना शामिल है। उन्होंने प्रमुख कृत्रिम बुद्धिमत्ता विफलताओं या सुरक्षा घटनाओं के खुलासे का भी आह्वान किया और सुझाव दिया कि कंपनियां विफलताओं का विवरण साझा करें ताकि अन्य कंपनियां सुरक्षात्मक उपायों को मजबूत कर सकें।
उन्होंने लिखा, ''हम अधीक्षण को परतों पर परतों वाले एक ब्लैक बॉक्स के रूप में नहीं मान सकते हैं, और फिर इसके सुझावों, उत्तरों और कार्यों को स्वीकार या अस्वीकार नहीं कर सकते हैं।'' "हमें ऐसी प्रणालियाँ बनानी चाहिए जो प्रतिबंधित हों ताकि उनके व्यवहार पर नज़र रखी जा सके, उनकी सीमाओं का परीक्षण किया जा सके और उनके कार्यों को हमेशा नियंत्रित किया जा सके।"
उन्होंने आगे कहा: "दूसरे शब्दों में, हमें खुफिया जानकारी की आपूर्ति को खुफिया नियंत्रण से अलग करने की जरूरत है।"
ट्रम्प प्रशासन ने अब तक काफी हद तक कम हस्तक्षेपवादी दृष्टिकोण अपनाया है, लेकिन उनकी नई कृत्रिम बुद्धिमत्ता टास्क फोर्स ने शुक्रवार देर रात चेतावनी दी कि डेवलपर्स को सुरक्षा घटनाओं की रिपोर्ट करनी चाहिए और उनका समाधान करना चाहिए या अनिर्दिष्ट संभावित परिणामों का सामना करना पड़ेगा।
एंथ्रोपिक द्वारा एक सुरक्षा घटना का खुलासा करने के बाद "सुपरइंटेलिजेंस वर्किंग ग्रुप" नामक समूह ने एक बयान जारी किया: "कंपनियों को तुरंत अपने मॉडलों से जुड़ी घटनाओं का खुलासा करना चाहिए और किसी भी और सभी क्षति को ठीक करने के लिए जल्दी और निर्णायक रूप से कार्य करना चाहिए।" "विलंबित अधिसूचनाएं, अपर्याप्त सुधारात्मक कार्रवाइयां और जवाबदेही की कमी बर्दाश्त नहीं की जाएगी।"
टिप्पणियाँ