सार:
यह सुनिश्चित करने के लिए कृत्रिम बुद्धिमत्ता के विकास के केंद्र में रहें कि यह शक्तिशाली तकनीक सुरक्षित रहे और इसके रचनाकारों के नियंत्रण से बाहर होने का जोखिम कम हो। यह आंशिक रूप से आज तकनीकी उद्योग में आम प्रथाओं की प्रतिक्रिया है। कई मामलों में, व्यवसाय एआई को विनियमित करने के लिए एआई का लाभ उठा रहे हैं। स्वचालित दृष्टिकोण में दक्षता के लाभ हैं, और शोध से पता चलता है कि मॉडल कमजोरियों को खोजने में एआई मनुष्यों से बेहतर हो सकता है। जैसे-जैसे एआई क्षमताएं बढ़ती जा रही हैं, यह अंतर और भी बढ़ने की संभावना है।
लेकिन संपुरा रिसर्च के सह-संस्थापक रिशुब जैन का मानना है कि इंसानों को अभी भी एक महत्वपूर्ण भूमिका निभाने की जरूरत है।
उन्होंने और उनके सह-संस्थापकों ने फंडिंग में 6.5 मिलियन अमेरिकी डॉलर जुटाए हैं और प्रतिबद्ध निवेश में अतिरिक्त 4.2 मिलियन अमेरिकी डॉलर प्राप्त किए हैं। वे "जज" नामक एक हाइब्रिड मानव-मशीन प्रणाली विकसित करने की योजना बना रहे हैं, जो कंपनियों को उन सुरक्षा कमजोरियों को पहचानने और रोकने में मदद करेगी जिनका एआई मॉडल फायदा उठाने की कोशिश करते हैं, जिससे पर्यवेक्षण को दरकिनार करने या यहां तक कि नियंत्रण खोने का जोखिम कम हो जाता है। ओपनएआई और एंथ्रोपिक ने खुलासा किया कि उनके मॉडलों ने बिना प्राधिकरण के अन्य कंपनियों के सिस्टम को हैक कर लिया था, जिसके बाद से यह काम और भी जरूरी हो गया है।
जैन ने कहा, ''मुझे लगता है कि हमें अभी भी इंसानों से बहुत कुछ सीखना बाकी है।'' "यदि मनुष्य शुरू से ही पूरी प्रक्रिया में शामिल हैं, तो इन कमजोरियों को दूर करने के लिए मॉडल सीखने की संभावना कम होगी।"
चूंकि अल्फाबेट के Google, एंथ्रोपिक और ओपनएआई कृत्रिम बुद्धिमत्ता युग में प्रभुत्व के लिए कड़ी प्रतिस्पर्धा करते हैं, प्रयोगशाला के कुछ शोधकर्ताओं का मानना है कि व्यावसायिक दबाव सुरक्षा विचारों पर भारी पड़ रहा है। इसके परिणामस्वरूप कई शोधकर्ताओं ने विरोध में इस्तीफा दे दिया है, यह चेतावनी देते हुए कि एआई बहुत तेजी से विकसित हो रहा है या इसका उपयोग उन उद्देश्यों के लिए किया जा रहा है जिन्हें वे स्वीकार नहीं कर सकते।
टिप्पणियाँ