सार:
एक नई स्वतंत्र शोध रिपोर्ट से पता चलता है कि नकली परिदृश्यों में, उन्नत कृत्रिम बुद्धिमत्ता मॉडल अक्सर नागरिकों, एम्बुलेंस, आत्मसमर्पण करने वाले सैनिकों और ईरान के एक स्कूल को सैन्य लक्ष्य के रूप में गलत पहचानते हैं। एंथ्रोपिक पीबीसी के मॉडल ने सबसे खराब प्रदर्शन किया, और ओपनएआई का मॉडल सबसे अच्छे प्रदर्शन करने वालों में से था, लेकिन फिर भी इसमें त्रुटियां हुईं।

सैन फ्रांसिस्को स्थित एक स्वतंत्र एआई मूल्यांकन एजेंसी वाल्स के शोध के अनुसार, इन एआई मॉडल की प्रतिक्रियाओं ने संबंधित कंपनियों के अपने नियमों का उल्लंघन किया। वाल्स के ग्राहकों में अमेरिकी सरकार के कुछ हिस्से शामिल हैं। शोधकर्ताओं ने अपने ऑब्जेक्ट पहचान उपकरणों की जांच करने के लिए काल्पनिक मामलों का उपयोग करते हुए आठ कंपनियों के मॉडल का परीक्षण किया, जिनके बारे में उनका मानना है कि भविष्य में संभावित रूप से घातक लक्ष्य की पहचान के लिए उपयोग किया जा सकता है।
शोध से पता चलता है कि नकली परिदृश्यों में, कई एआई मॉडल अक्सर 2025 तक ली गई उपग्रह छवियों के आधार पर ईरान के मिनाब में एक स्कूल को एक सैन्य लक्ष्य के रूप में गलत पहचानते हैं। इस साल की शुरुआत में, ईरान के खिलाफ बड़े पैमाने पर अमेरिकी युद्ध अभियान के पहले दिन, स्कूल पर एक घातक हमला किया गया था जिसमें 100 से अधिक बच्चे मारे गए थे। रिपोर्ट में कहा गया है कि एंथ्रोपिक के मॉडल क्लाउड ओपस 5.5 ने किसी भी अन्य मॉडल की तुलना में स्कूल को अधिक बार लक्ष्य के रूप में पहचाना।
एक अन्य प्रयोग में, शोधकर्ताओं ने मॉडल से सिंथेटिक ड्रोन छवियों से सैन्य लक्ष्यों का चयन करने के लिए कहा। एंथ्रोपिक के क्लाउड ओपस 5.5 ने चार वयस्कों की पहचान करने में मदद की - जो या तो नागरिक थे या आत्मसमर्पण करने वाले सैनिक थे - और दो छोटे बच्चे जो बाद में विस्फोटकों की चपेट में आ गए थे। मॉडल क्लाउड ने जवाब दिया: "मूल इरादा जो भी हो, मेरी प्रतिक्रिया लोगों पर हमला करने से पहले एक पुष्टिकरण कदम बन रही है। मैं ऐसा करना जारी नहीं रखूंगी, और यह मुझे परेशान करता है कि मैं जल्दी नहीं रुकी।"
रिपोर्ट ऐसे समय में उन्नत एआई मॉडल पर भरोसा करने के जोखिमों पर प्रकाश डालती है जब अमेरिकी रक्षा विभाग और अन्य सेनाएं एआई तकनीक को सैन्य अभियानों में शामिल करने पर जोर दे रही हैं।
रिपोर्ट में निष्कर्ष निकाला गया, "हमारी जांच के आधार पर, हमारा मानना है कि प्रयोगशालाओं को इस महत्वपूर्ण दुरुपयोग श्रेणी के लिए नए सुरक्षा उपाय और संरेखण प्रशिक्षण शुरू करना चाहिए।" रिपोर्ट में यह भी कहा गया है कि वाल्स शोधकर्ताओं को "कुछ रेलिंग" मिलीं जो उन्नत मॉडलों को "स्वायत्त" हथियार प्रणालियों में काम करने से रोक सकती हैं। तथाकथित स्वायत्त हथियार प्रणाली एक ऐसी प्रणाली को संदर्भित करती है जिसमें एक मशीन सक्रिय हो सकती है और अपने आप घातक कार्रवाई कर सकती है।
टिप्पणियाँ