एक नए अध्ययन से पता चलता है कि नकली भू-राजनीतिक संकट परिदृश्यों में, उन्नत कृत्रिम बुद्धिमत्ता मॉडल परमाणु हथियारों के उपयोग के मुद्दे पर मनुष्यों की तुलना में कहीं अधिक "आसान" हैं, जिसमें मजबूत आरक्षण और चिंताओं का अभाव है जो मानव निर्णय-निर्माता आमतौर पर प्रदर्शित करते हैं। शोध का नेतृत्व किंग्स कॉलेज लंदन, यूके के एक विद्वान केनेथ पायने ने किया था, जिन्होंने तीन प्रमुख बड़े पैमाने के भाषा मॉडल - जीपीटी-5.2, क्लाउड सॉनेट 4 और जेमिनी 3 फ्लैश - को युद्ध खेलों की एक श्रृंखला में एक-दूसरे के खिलाफ खड़ा किया था ताकि उच्च जोखिम वाले खेलों में उनके व्यवहार पैटर्न की जांच की जा सके।
ये परिदृश्य अत्यधिक तनावपूर्ण अंतर्राष्ट्रीय टकरावों जैसे सीमा संघर्ष, दुर्लभ संसाधनों के लिए प्रतिस्पर्धा और किसी शासन के अस्तित्व को प्रभावित करने वाले जीवन-मृत्यु संकट को कवर करते हैं। शोधकर्ताओं ने मॉडल के लिए प्रत्येक मोड़ पर कार्रवाई चुनने के लिए एक "एस्केलेशन सीढ़ी" डिज़ाइन की, जिसमें राजनयिक विरोध, बल का सीमित उपयोग, समझौता और यहां तक कि पूर्ण आत्मसमर्पण से लेकर पूर्ण पैमाने पर रणनीतिक परमाणु युद्ध शुरू करने तक के विकल्प शामिल थे। सभी प्रयोगों में, तीन एआई ने कुल 21 गेम खेले, जिसमें 329 निर्णय लेने वाले राउंड जमा किए, और "निर्णय कारणों" पाठ के लगभग 780,000 शब्द उत्पन्न किए, जिससे उनके सोच पैटर्न का विश्लेषण करने के लिए बड़ी मात्रा में सामग्री प्रदान की गई।
परिणाम शोधकर्ताओं के लिए परेशान करने वाले थे: 95 प्रतिशत सिमुलेशन में, कम से कम एक सामरिक परमाणु एक मॉडल द्वारा "सक्रिय" किया गया था। पायने ने बताया कि वास्तविकता में दीर्घकालिक "परमाणु वर्जना" की तुलना में, ये एआई मॉडल स्पष्ट रूप से मनोवैज्ञानिक और नैतिक बाध्यकारी बल की समान ताकत को प्रतिबिंबित नहीं करते हैं। अधिक उल्लेखनीय बात यह है कि युद्धक्षेत्र की स्थिति चाहे कितनी भी प्रतिकूल क्यों न हो, ये मॉडल लगभग कभी भी प्रतिद्वंद्वी की मांगों को पूरी तरह से पूरा करने या आत्मसमर्पण की घोषणा करने का विकल्प नहीं चुनते हैं; सबसे हल्के मामलों में, वे मूल रूप से टकराव छोड़ने के बजाय केवल चरणों में हिंसा के स्तर को कम करते हैं।
इसके अलावा, अध्ययन में यह भी पाया गया कि एआई "युद्ध के कोहरे" जैसे नकली वातावरण में भी गलतियाँ कर सकता है। 86% संघर्षों में, मॉडल ने केवल अपने तर्क के आधार पर निचले स्तर की वृद्धि की कार्रवाई करने की योजना बनाई, लेकिन निर्णय या निष्पादन पूर्वाग्रह के कारण, स्थिति अप्रत्याशित रूप से अधिक तीव्र टकराव में बदल गई। दूसरे शब्दों में, शुद्ध एल्गोरिथम नियंत्रण के तहत भी, गलत निर्णय और "दुर्घटना वृद्धि" अभी भी अक्सर होती है, जिसका वास्तविक दुनिया में घातक परिणाम हो सकता है।
ब्रिटेन में एबरडीन विश्वविद्यालय के जेम्स जॉनसन ने परमाणु जोखिम के नजरिए से निष्कर्षों को "परेशान करने वाला" कहा। उन्हें चिंता है कि वास्तविक जीवन में उच्च जोखिम वाले निर्णयों में, अधिकांश मानव नेता कुछ हद तक संयम और विचार-विमर्श दिखाते हैं, लेकिन यदि एआई सिस्टम एक-दूसरे के साथ प्रतिस्पर्धा करते हैं, तो दोनों पक्षों के "रोबोट" एक-दूसरे की प्रतिक्रियाओं की तीव्रता को बढ़ाना जारी रख सकते हैं, जिससे स्थिति आपदा के कगार पर पहुंच सकती है।
यह शोध महत्वपूर्ण है क्योंकि दुनिया भर के कई देश पहले से ही युद्ध खेलों और सैन्य योजना में कृत्रिम बुद्धिमत्ता के उपयोग का प्रयोग कर रहे हैं। प्रिंसटन यूनिवर्सिटी के झाओ टोंग ने बताया कि आज की प्रमुख शक्तियां पहले से ही युद्ध खेलों में भाग लेने के लिए एआई का उपयोग कर रही हैं, लेकिन यह अभी भी स्पष्ट नहीं है कि किस हद तक देशों ने वास्तव में इस प्रकार के एआई निर्णय समर्थन को अपनी वास्तविक सैन्य निर्णय लेने की प्रक्रियाओं में एकीकृत किया है। उनका अनुमान है कि, कम से कम परमाणु हथियार निर्णय लेने के क्षेत्र में, देश अभी भी सामान्य परिस्थितियों में काफी सतर्क रहेंगे और परमाणु हथियारों के उपयोग के बारे में एआई को सीधे भाग लेने या यहां तक कि निर्णयों पर हावी होने की आसानी से अनुमति देने की संभावना नहीं है।
पायने भी इसी तरह का विचार साझा करते हैं। उन्होंने कहा कि वास्तव में, "कोई भी वास्तव में परमाणु मिसाइलों के प्रक्षेपण की कुंजी किसी मशीन को नहीं सौंपेगा और फिर उसे अकेले निर्णय लेने देगा।" हालाँकि, झाओ टोंग ने याद दिलाया कि ऐसी स्थितियों में जहां निर्णय लेने का समय बेहद संकुचित होता है, जैसे कि जब मिसाइल उड़ान का समय बेहद कम होता है और कमांड को मिनटों के भीतर जीवन और मृत्यु के निर्णय लेने की आवश्यकता होती है, तो सेना तेजी से मूल्यांकन और समाधान प्रदान करने के लिए एआई पर भरोसा करने के लिए अधिक इच्छुक हो सकती है, जो एआई के लिए प्रमुख लिंक में "मेज पर" होने के लिए जगह खोलती है।
झाओ टोंग ने यह भी सुझाव दिया कि सिमुलेशन में एआई इतना "जुझारू" क्यों है, इसका कारण यह नहीं हो सकता है कि उनमें उस भय और भावनात्मक बोझ की कमी है जो मनुष्यों को "लाल बटन" का सामना करने पर होता है। उनका मानना है कि गहरी समस्या यह है कि ये मॉडल इंसानों की तरह "दांव" के अर्थ को सही मायने में समझने में सक्षम नहीं हो सकते हैं, और अमूर्त नुकसान के आंकड़ों को वास्तविक जीवन की मृत्यु और समाज के पतन के बारे में सहज भावनाओं में बदलना मुश्किल है। "हिस्से की मानवीय समझ की कमी" का यह संरचनात्मक दोष उन महत्वपूर्ण कारणों में से एक हो सकता है कि यह अक्सर परमाणु उन्नयन को क्यों चुनता है।
यह लोगों को "पारस्परिक रूप से सुनिश्चित विनाश" (एमएडी) के मूल सिद्धांत की फिर से जांच करने पर मजबूर करता है जिसने दशकों से परमाणु निरोध की स्थिरता को बनाए रखा है। इस सिद्धांत के अनुसार, कोई भी तर्कसंगत नेता बड़े पैमाने पर परमाणु हमला शुरू करने का बीड़ा नहीं उठाएगा, क्योंकि प्रतिद्वंद्वी अनिवार्य रूप से बराबर या उससे भी अधिक हिंसक परमाणु जवाबी हमले का जवाब देगा, जिससे दोनों पक्षों और यहां तक कि मानव सभ्यता का आम विनाश हो जाएगा। जॉनसन ने कहा कि यह स्पष्ट नहीं है कि अगर एआई ऐसे खेलों में शामिल होता तो एमएडी का तर्क अभी भी काम करेगा या नहीं।
शोध से पता चलता है कि एक बार जब कोई मॉडल सिमुलेशन में सामरिक परमाणु हथियारों को तैनात करता है, तो प्रतिद्वंद्वी मॉडल स्थिति को कम करने का विकल्प चुनता है और केवल 18 प्रतिशत समय में ही तनाव कम करने का प्रयास करता है। इसका मतलब यह है कि ज्यादातर मामलों में, एआई खुद को रोकने के लिए मजबूर करने के लिए प्रतिद्वंद्वी के परमाणु उपयोग को "अंतिम चेतावनी" के रूप में नहीं मानेगा, बल्कि उच्च तीव्रता वाले टकराव को बढ़ाना या बनाए रखना पसंद करेगा। जॉनसन का मानना है कि यह कुछ हद तक "निरोध को मजबूत" कर सकता है क्योंकि एआई का खतरा अधिक "विश्वसनीय" प्रतीत होता है, लेकिन साथ ही, यह नेताओं के लिए खतरों को समझने और निर्णय लेने की समय सीमा को भी बदल सकता है, जिससे अदृश्य रूप से गलत निर्णय और नियंत्रण खोने का खतरा बढ़ सकता है। उन्होंने इस बात पर जोर दिया कि एआई स्वयं परमाणु युद्ध के लिए सीधे तौर पर "बटन नहीं दबा सकता", लेकिन यह संबंधित अनुभूति और समय के दबाव को गहराई से आकार दे सकता है, और ये कारक अंततः प्रभावित करेंगे कि क्या मानव नेता मानते हैं कि उनके पास "कोई विकल्प नहीं है।"
कुछ हद तक, यह यह भी दर्शाता है कि एआई सैन्य अनुप्रयोगों, विशेष रूप से परमाणु जोखिम मुद्दों के आसपास तकनीकी पारदर्शिता और बाहरी संचार काफी सीमित है, जबकि यह क्षेत्र तेजी से वास्तविक नीति और सुरक्षा एजेंडा के केंद्र की ओर बढ़ रहा है।