सार:
टेनसेंट के मुख्य एआई वैज्ञानिक और पूर्व ओपनएआई शोधकर्ता याओ शुन्यू ने हाल ही में हांगकांग में एक वैज्ञानिक सेमिनार में भाग लिया और कहा कि अत्याधुनिक कृत्रिम बुद्धिमत्ता मॉडल तेजी से जीव विज्ञान के क्षेत्र में आगे बढ़ रहे हैं, और उनकी क्षमताएं जल्द ही एक महत्वपूर्ण बिंदु पर पहुंच जाएंगी जो वास्तविक जीवन को नुकसान पहुंचा सकती हैं। हालाँकि इस बदलाव से नई दवा अनुसंधान और विकास और चिकित्सा नवाचार को बढ़ावा मिलने की उम्मीद है, लेकिन यह नई सुरक्षा चुनौतियाँ भी ला सकता है और जैव सुरक्षा जोखिमों के बारे में उद्योग की चिंताओं को बढ़ा सकता है।
याओ शुन्यू ने कहा कि कृत्रिम बुद्धिमत्ता ने नेटवर्क सुरक्षा के क्षेत्र में वास्तविक प्रभाव डालने के लिए पर्याप्त क्षमताओं का प्रदर्शन किया है, और जैविक क्षमताएं समान स्तर पर पहुंच रही हैं। उन्होंने चेतावनी दी कि जीव विज्ञान के क्षेत्र में एआई के भविष्य के विकास को साइबर सुरक्षा के क्षेत्र की तुलना में प्रबंधित करना अधिक कठिन हो सकता है, इसलिए चीनी कंपनियों और खुले मॉडल मार्ग को अपनाने वाली अन्य कंपनियों दोनों को प्रासंगिक सुरक्षा मुद्दों को गंभीरता से लेना चाहिए।
हाल के वर्षों में, जीवन विज्ञान, चिकित्सा अनुसंधान और दवा विकास में अधिक से अधिक अत्याधुनिक एआई सिस्टम लागू होने लगे हैं। उद्योग में आम तौर पर यह माना जाता है कि एआई से दवा स्क्रीनिंग और अनुसंधान और विकास चक्र को काफी छोटा करने और उपचार विकल्पों की खोज में तेजी लाने की उम्मीद है। हालाँकि, विशेषज्ञों ने यह भी बताया कि इन क्षमताओं में "दोहरे उपयोग" की विशेषताएं हैं। वैज्ञानिक अनुसंधान प्रगति को बढ़ावा देने के दौरान, अपराधियों द्वारा उनका दुरुपयोग भी किया जा सकता है, जिससे नए जैव सुरक्षा जोखिम सामने आ सकते हैं।
याओ शुन्यू का भाषण ऐसे समय में आया है जब Tencent अपनी AI रणनीति में तेजी ला रहा है। Tencent ने आधिकारिक तौर पर 4 नवंबर को नई पीढ़ी का फ्लैगशिप मॉडल Hy4 जारी किया और इसे कंपनी के सबसे महत्वपूर्ण बुनियादी मॉडलों में से एक के रूप में स्थान दिया। कृत्रिम बुद्धिमत्ता मूल्यांकन एजेंसी, आर्टिफिशियल एनालिसिस के आंकड़ों के अनुसार, Hy4 को वर्तमान में चीन में सबसे मजबूत प्रदर्शन करने वाले AI मॉडल में से एक के रूप में स्थान दिया गया है।
भविष्य के विकास दिशाओं के बारे में बात करते समय, याओ शुन्यू ने खुलासा किया कि Tencent एक "स्वायत्त वैज्ञानिक प्रयोगशाला" बनाने की संभावना तलाश रहा है और कुछ जैविक अनुसंधान कार्यों सहित जटिल वैज्ञानिक अनुसंधान प्रक्रियाओं को स्वतंत्र रूप से पूरा करने के लिए एआई सिस्टम का उपयोग करने की उम्मीद करता है। उनका मानना है कि तकनीकी दृष्टिकोण से, अधिकांश समस्याओं को अंततः हल किया जा सकता है। वास्तविक बड़ी चुनौतियाँ सामाजिक शासन, संगठनात्मक समन्वय और सुरक्षा पर्यवेक्षण प्रणालियों के निर्माण में हैं।
संभावित जोखिमों को कम करने के लिए, Tencent ने Hy4 की प्रशिक्षण प्रक्रिया के दौरान सुरक्षा उपायों की एक श्रृंखला अपनाई है। कंपनी ने कहा कि उसने जानबूझकर सॉफ़्टवेयर भेद्यता शोषण और हमले के व्यवहार से संबंधित डेटा को हटा दिया है, केवल रक्षात्मक नेटवर्क सुरक्षा ज्ञान को बरकरार रखा है, जिससे सुरक्षात्मक क्षमताओं को बनाए रखते हुए हमले की क्षमताओं को कम करने की उम्मीद है। जीव विज्ञान के क्षेत्र के संबंध में, Tencent के आंतरिक मूल्यांकन का मानना है कि यद्यपि Hy4 के पास मजबूत बुनियादी जैविक ज्ञान है, फिर भी स्वतंत्र रूप से प्रयोगात्मक प्रक्रियाओं को तैयार करने और उच्च जोखिम क्षमताओं को बनाने में सक्षम होने के बीच एक स्पष्ट अंतर है।
याओ शुन्यू ने विशेष रूप से जोर दिया कि नेटवर्क सुरक्षा के क्षेत्र की तुलना में, जीव विज्ञान के क्षेत्र में "आक्रामक क्षमताओं" और "रक्षात्मक क्षमताओं" के बीच स्पष्ट रूप से अंतर करना अक्सर अधिक कठिन होता है। इसका मतलब यह है कि शोधकर्ताओं को मॉडल जोखिमों का आकलन करते समय अधिक जटिल परिस्थितियों का सामना करना पड़ेगा, इसलिए मॉडलों को रिलीज से पहले अधिक कठोर परीक्षण और सत्यापन से गुजरना होगा। Tencent वर्तमान में प्रासंगिक क्षमताओं का व्यवस्थित मूल्यांकन करने के लिए कंपनी की शीर्ष सुरक्षा प्रयोगशाला के साथ सहयोग कर रहा है।
हाल के वर्षों में विवादास्पद "ओपन सोर्स बनाम क्लोज्ड सोर्स" बहस के लिए, याओ शुन्यू ने कहा कि एंथ्रोपिक जैसी अमेरिकी कंपनियां संभावित सामाजिक जोखिमों को कम करने के लिए सबसे उन्नत मॉडल को बंद रखने की वकालत करती हैं। इस दृष्टिकोण में कुछ तर्कसंगतता है. लेकिन उनका यह भी मानना है कि खुले मॉडल भी रक्षकों को उनकी क्षमताओं में सुधार करने में मदद कर सकते हैं, इसलिए भविष्य में उद्योग को पूरी तरह से एक ही मार्ग पर निर्भर रहने के बजाय खुलेपन और समापन के बीच संतुलन तलाशने की आवश्यकता हो सकती है।
चूंकि कृत्रिम बुद्धिमत्ता धीरे-धीरे प्रोग्रामिंग, गणित और सामग्री निर्माण से लेकर जीवन विज्ञान के क्षेत्र तक फैल रही है, जीव विज्ञान को अगले चरण में सबसे महत्वपूर्ण एआई सीमाओं में से एक माना जा रहा है। विश्लेषकों ने बताया कि एक बार जब एआई वास्तव में जैविक ज्ञान को गहराई से समझने और लागू करने की क्षमता रखता है, तो संबंधित प्रौद्योगिकियां न केवल दवा अनुसंधान और विकास और चिकित्सा उद्योग को बदल सकती हैं, बल्कि वैश्विक नियामक एजेंसियों को बाद की नई सुरक्षा चुनौतियों से निपटने के लिए कृत्रिम बुद्धिमत्ता शासन ढांचे की फिर से जांच करने के लिए प्रेरित कर सकती हैं।
टिप्पणियाँ