सार:
"असल सवाल यह है: अगर आपको लगता है कि आपको धीमी गति से चलना चाहिए, तो तेज़ गति से न दौड़ें, और तब तक इंतज़ार न करें जब तक बाहरी ताकतें आपको रुकने के लिए मजबूर न कर दें।" यह बात माइक्रोसॉफ्ट के उपाध्यक्ष और अध्यक्ष ब्रैड स्मिथ ने संयुक्त राष्ट्र महासभा के दौरान एलन मरे से कही। उन्होंने जिस विषय पर चर्चा की वह यह था: क्या अत्याधुनिक बड़े मॉडल निर्माताओं को यह सुनिश्चित करने के लिए मंदी पैडल पर कदम रखना चाहिए कि उनके द्वारा विकसित की गई तकनीक मानव जाति के लिए तबाही नहीं लाएगी।
जिस दिन उन्होंने ये टिप्पणी की, उसी दिन एंथ्रोपिक के सीईओ डारियो अमोदेई और ओपनएआई के सीईओ सैम अल्टमैन ने संयुक्त राष्ट्र में बात की, जिसमें देशों से मानव नियंत्रण क्षमताओं से परे एआई के विकास को रोकने के लिए एआई सुरक्षा सुरक्षा तंत्र स्थापित करने का आह्वान किया गया।
स्मिथ, जिनके पास कई वर्षों का उद्योग अनुभव है, ने कहा: "यदि आप, किसी कंपनी के सीईओ के रूप में, यह निर्णय लेते हैं कि आपके उत्पाद में सुरक्षा संबंधी खतरे हैं, तो क्या आपको इसका विपणन जारी रखना चाहिए? मुझे लगता है कि उत्तर स्पष्ट है - नहीं। कंपनियों की सार्वजनिक सुरक्षा की जिम्मेदारी है।"
फिर भी, उन्होंने कहा: "कुछ नियामक उपायों की शुरूआत अंततः अपरिहार्य होगी।" ऐतिहासिक रूप से, कई उत्पाद सुरक्षित कार्यान्वयन प्राप्त करने के लिए विनियमन पर निर्भर थे। उदाहरण के लिए, दूध के दूषित होने की समस्याएँ हुआ करती थीं, "इसलिए हमने एक कृषि निरीक्षण विभाग स्थापित किया और प्रासंगिक कानून पेश किए। अब जब आप सुपरमार्केट में जाते हैं, तो सभी प्रकार के दूध सुरक्षित और पीने योग्य होते हैं।"
जब स्मिथ ने प्रस्ताव दिया कि "एआई सिस्टम को सीधे धीमा या बंद करने की क्षमता होनी चाहिए," मेजबान एलन ने पुष्टि की कि वह एआई आपातकालीन शटडाउन स्विच (किल स्विच) के बारे में बात कर रहे थे, और फिर पूछा: "क्या आपको लगता है कि यह एक अच्छा विचार है?"
स्मिथ ने उत्तर दिया: "बेशक... मॉडल डेवलपर के पास इसे बंद करने का अधिकार होना चाहिए; माइक्रोसॉफ्ट जैसे क्लाउड इंफ्रास्ट्रक्चर प्रदाताओं के पास वह अधिकार होना चाहिए; और एआई एजेंट को नियंत्रित करने के लिए जिम्मेदार एजेंसी के पास भी इसे बंद करने की क्षमता होनी चाहिए। भले ही यह तंत्र कानून के माध्यम से अनिवार्य हो, यह कोई बुरी बात नहीं होगी।"
एलन ने उनसे पूछा कि व्यवसाय प्रबंधकों को अपनी कंपनियों के भीतर एआई सुरक्षा मुद्दों को कैसे संभालना चाहिए। "मेरा कहना है कि एआई का उपयोग बंद न करें। एआई एक मौलिक नवाचार है और उत्पादकता में सुधार के लिए एक महत्वपूर्ण उपकरण है। लेकिन यह याद रखना महत्वपूर्ण है कि प्रौद्योगिकी के लिए शासन की आवश्यकता होती है। ... इस प्रौद्योगिकी का शासन उतना ही महत्वपूर्ण है जितना कि स्वयं प्रौद्योगिकी।"
उन्होंने यह भी याद दिलाया: "मैं हर दिन जागता नहीं हूं और महसूस करता हूं कि मानव विलुप्त होने की 10% संभावना है। लेकिन मैं चाहता हूं कि हम बहुत कम करने के बजाय बहुत अधिक चिंता करें। आखिरकार, हम जो चर्चा कर रहे हैं वह मानव अस्तित्व के बारे में है। भगवान के लिए, यह मामला नवीनतम तकनीक से अधिक महत्वपूर्ण है, और हमें इसे गंभीरता से लेना चाहिए।"
टिप्पणियाँ