जॉन्स हॉपकिन्स विश्वविद्यालय, ऑक्सफोर्ड विश्वविद्यालय, स्टैनफोर्ड विश्वविद्यालय, कोलंबिया विश्वविद्यालय और न्यूयॉर्क विश्वविद्यालय के शोधकर्ता कुछ संक्रामक रोग डेटा सेटों के खिलाफ सुरक्षा उपायों की मांग कर रहे हैं जो कृत्रिम बुद्धि को घातक वायरस डिजाइन करने की अनुमति दे सकते हैं। चेतावनी कृत्रिम बुद्धिमत्ता के विकास में गंभीर रूप से नजरअंदाज की गई सुरक्षा खामी पर प्रकाश डालती है।
शोधकर्ताओं का कहना है कि एक बार जब उच्च जोखिम वाला जैविक डेटा खुले वेब पर फैल जाता है, तो इसे वापस नहीं लिया जा सकता है। इसका मतलब यह है कि भले ही भविष्य में प्रासंगिक नियामक नियम पेश किए जाएं, यदि खतरनाक ज्ञान स्वयं व्यापक रूप से प्रसारित किया गया है, तो कोई भी नियामक उपाय अप्रभावी होगा। यह अपरिवर्तनीयता जैव सुरक्षा डेटा के प्रबंधन और नियंत्रण को विशेष रूप से जरूरी और जटिल बनाती है।
वर्तमान में, कृत्रिम बुद्धिमत्ता प्रौद्योगिकी के तेजी से विकास के साथ, विशेष रूप से बायोमेडिकल क्षेत्र में इसके बढ़ते गहन अनुप्रयोग के साथ, उच्च जोखिम वाले जैविक डेटा को प्राप्त करने और संसाधित करने के लिए एआई सिस्टम की क्षमता भी लगातार बढ़ रही है। शोधकर्ताओं को चिंता है कि यदि इन संवेदनशील डेटा सेटों तक उचित पहुंच प्रतिबंध और सुरक्षा उपाय नहीं किए जाते हैं, तो दुर्भावनापूर्ण अभिनेता अत्यधिक संक्रामक या घातक जैविक खतरे पैदा करने के लिए रोगजनकों को इंजीनियर या संशोधित करने के लिए एआई तकनीक का उपयोग कर सकते हैं।
यह कॉल दोहरे उपयोग वाले एआई के जोखिमों के बारे में गहरी अकादमिक चिंताओं को दर्शाता है। जबकि वैज्ञानिक डेटा का खुला साझाकरण चिकित्सा अनुसंधान और सार्वजनिक स्वास्थ्य को आगे बढ़ाने के लिए महत्वपूर्ण है, कुछ संभावित खतरनाक जैविक जानकारी गलत हाथों में पड़ने पर विनाशकारी परिणाम हो सकते हैं। इसलिए, वैज्ञानिक प्रगति को बढ़ावा देने और जैविक सुरक्षा सुनिश्चित करने के बीच संतुलन कैसे खोजा जाए यह एक प्रमुख मुद्दा बन गया है जिसे एआई शासन के क्षेत्र में हल करने की आवश्यकता है।