लैंसेट ने चेतावनी दी है: परमाणु हथियारों की तुलना में एआई द्वारा मानवता को नष्ट करने की अधिक संभावना है

सार:

क्या आप जानते हैं कि महामारी, जलवायु, युद्ध और परमाणु खतरों की तुलना में भी, 2100 से पहले मानव जाति को नष्ट करने की सबसे अधिक संभावना एआई है? यह आश्चर्यजनक निष्कर्ष द लैंसेट की आधिकारिक रिपोर्ट से आया है। लैंसेट ने 11 अक्टूबर को जारी "21वीं सदी में वैश्विक स्वास्थ्य खतरे" समिति की रिपोर्ट में लिखा कि जलवायु परिवर्तन, महामारी और प्रदूषण सहित 17 खतरों में परमाणु संघर्ष और कृत्रिम बुद्धिमत्ता का दुर्भावनापूर्ण उपयोग पहले स्थान पर है, और 2100 से पहले मानव विलुप्त होने का कारण बन सकता है।

यह रिपोर्ट 35 शीर्ष विशेषज्ञों द्वारा लिखी गई थी, और पूरे अध्ययन में दुनिया भर के 204 देशों और क्षेत्रों को शामिल किया गया था। रिपोर्ट में यह भी याद दिलाया गया कि ये खतरे एक-दूसरे के साथ जुड़ सकते हैं और बढ़ सकते हैं।

रिपोर्ट का सबसे चौंकाने वाला हिस्सा यह है कि भले ही एआई और परमाणु संघर्ष दोनों मानव जाति को नष्ट करने में शीर्ष समस्याएं हैं, एआई से होने वाली क्षति परमाणु संघर्ष से कहीं अधिक है।

अगर अमौदी ने एआई के अंत के बारे में यह कहा है, तो मैं इसे सिर्फ मनोरंजन के लिए सुन सकता हूं। आख़िरकार, पहले से ही इतने सारे समान शब्द हैं कि मेरे कान लगभग कठोर हो रहे हैं।

लेकिन इस बार यह द लैंसेट द्वारा कहा गया था, और मैं वास्तव में डर गया था।

द लैंसेट क्या कहता है?

लैंसेट रिपोर्ट का नेतृत्व वाशिंगटन विश्वविद्यालय के इंस्टीट्यूट फॉर हेल्थ मेट्रिक्स एंड इवैल्यूएशन (आईएचएमई) ने किया था। उन्होंने अगले 75 वर्षों में मानव स्वास्थ्य को प्रभावित करने वाले खतरों को गंभीरता के क्रम में "खतरे के पिरामिड" में व्यवस्थित किया, जिसमें शीर्ष पर एक अलग श्रेणी थी:

ऐसे खतरे जो 2100 से पहले मानव विलुप्त होने का कारण बन सकते हैं।

इस श्रेणी में केवल दो चीजें हैं, एक है परमाणु संघर्ष के कारण हुआ "परमाणु अकाल", और दूसरा है कृत्रिम बुद्धिमत्ता का दुर्भावनापूर्ण उपयोग।

यहां तक ​​कि पृथ्वी से टकराने वाले क्षुद्रग्रह और सुपर ज्वालामुखी विस्फोट भी पिरामिड के शीर्ष तक नहीं पहुंचे हैं क्योंकि समिति का मानना ​​है कि अगले 75 वर्षों में उनके घटित होने की संभावना "बेहद कम" है।

लेकिन इसका मतलब यह नहीं है कि "एआई निश्चित रूप से मानव जाति को खत्म कर देगा।"

रिपोर्ट के मूल पाठ में कहा गया है कि "इन दो प्रकार के जोखिमों के घटित होने की संभावना अभी भी बहुत कम है," लेकिन एक बार जब वे घटित होंगे, तो परिणाम संपूर्ण मानव स्तर पर होंगे।

रिपोर्ट में DALYs नामक एक इकाई है, जिसका अर्थ है "विकलांगता समायोजित जीवन वर्ष।" सीधे शब्दों में कहें तो यह बीमारी, विकलांगता या असामयिक मृत्यु के कारण किसी व्यक्ति द्वारा खोए गए स्वस्थ जीवन के वर्षों की कुल संख्या है।

समिति ने इसका उपयोग यह मापने के लिए किया कि प्रत्येक खतरा अंततः 2100 तक "स्वस्थ जीवन की कितनी हानि" का कारण बनेगा।

एआई के दुर्भावनापूर्ण उपयोग से 2100 तक लगभग 10.4 बिलियन DALY का नुकसान हो सकता है, जो मोटे तौर पर मोटापे के समान पैमाने पर है। एक परमाणु संघर्ष से लगभग 133 मिलियन मौतें होंगी और लगभग 9.35 बिलियन DALY का नुकसान होगा।

लैंसेट का मानना ​​है कि AI परमाणु हथियारों से भी ज्यादा खतरनाक है। समिति ने इस बात पर ज़ोर दिया कि इसे सबसे दुखद परिणाम दिखाने के बजाय "कार्रवाई योग्य लीवर" को मापने के लिए डिज़ाइन किया गया था।

तो, AI हमें कैसे "खत्म" कर देता है? क्या यह "टर्मिनेटर" का स्काईनेट है? या "द वांडरिंग अर्थ" से काई?

न तो. लैंसेट का मानना ​​है कि मानवता को नष्ट करने के लिए एआई के पास केवल एक ही रास्ता है, वह है जैविक हथियार।

कुछ लोग एआई का उपयोग दुर्भावनापूर्ण रूप से रोगजनकों या विषाक्त पदार्थों को डिजाइन करने या संशोधित करने के लिए करते हैं जो बड़े पैमाने पर हताहत हो सकते हैं।

लैंसेट का तर्क है कि एआई खतरनाक काम करने की सीमा को कम कर रहा है।

अतीत में, किसी वायरस को संशोधित करने के लिए शीर्ष स्तर की प्रयोगशालाओं, महंगे उपकरणों के साथ-साथ शोधकर्ताओं द्वारा वर्षों से संचित "अनुभव" और मौन ज्ञान की आवश्यकता होती थी। बड़ा मॉडल लोगों को साहित्य खोजने, प्रयोगात्मक योजनाएँ डिज़ाइन करने, अनुप्रयोग सामग्री लिखने और यह समझाने में मदद कर सकता है कि प्रत्येक चरण क्यों किया जाता है।

10 सितंबर, 2026 को, एंथ्रोपिक ने एक खतरे की खुफिया रिपोर्ट जारी की, जिसमें दिसंबर 2025 और अगस्त 2026 के बीच उनके द्वारा पकड़े गए कई प्रकार के दुरुपयोग का खुलासा किया गया। उनमें से, 5 मामले थे जहां उपयोगकर्ताओं ने क्लाउड का इस्तेमाल इस तरह से किया कि "जैविक हथियारों के विकास का समर्थन हो सकता है":

• इस साल मई में, किसी ने क्लाउड से एक अनुदान आवेदन लिखने में मदद करने के लिए कहा ताकि यह अध्ययन किया जा सके कि चिकनगुनिया वायरस में कौन से उत्परिवर्तन इसे अधिक कुशलता से फैला सकते हैं और प्रतिरक्षा प्रणाली से अधिक आसानी से बच सकते हैं।

• कुछ लोग इसका उपयोग अत्यधिक रोगजनक एवियन इन्फ्लूएंजा वायरस को स्तनधारी मेजबानों के लिए अधिक अनुकूल बनाने के लिए प्रयोगों की योजना बनाने के लिए करते हैं।

• यह अध्ययन करने के लिए एक प्रस्ताव तैयार किया गया था कि ऑर्थोपॉक्सवायरस परिवार की विषाक्तता को कैसे बदला जाए, जिसमें चेचक और मंकीपॉक्स शामिल हैं।

• कोई व्यक्ति विषैले पदार्थों का मानचित्र संकलित करने के लिए दवा विकास परियोजना पर काम कर रहा था।

• एक अन्य शोधकर्ता ने विषाक्त पदार्थों के एक सेट के कंप्यूटर को फिर से डिज़ाइन करने में मदद करने के लिए क्लाउड का उपयोग किया, जिसमें एक जीवाणु विष और एक प्रमुख रोग-धमकाने वाले वायरस से प्रोटीन शामिल था, और प्रगति रिपोर्ट लिखते समय इन विषाक्त पदार्थों को संदर्भित करने के लिए जानबूझकर अस्पष्ट शब्दों का इस्तेमाल किया।

इसलिए, AI के दुरुपयोग से निश्चित रूप से पूरी मानव जाति को काफी नुकसान होगा।

एआई प्रलय का दिन सिद्धांत को दो शिविरों में विभाजित किया गया है

वास्तव में, लैंसेट रिपोर्ट सामने आने से पहले, एआई प्रलय के दिन के सिद्धांत हर महीने सामने आते थे। उदाहरण के लिए, सितंबर में, जीवन के सभी क्षेत्र इस बात पर बहस कर रहे थे कि क्या एआई प्रलय लाएगा।

8 सितंबर को, पूर्व एंथ्रोपिक शोधकर्ता जैकब कॉक्सन ने अपने इस्तीफे की घोषणा की और सार्वजनिक रूप से कहा कि ओपनएआई और एंथ्रोपिक दोनों "मानव जीवन पर दांव लगा रहे थे" और एआई "इस दशक के अंत से पहले हम सभी को मार सकता है।" पोस्ट को कुछ ही समय में 100 मिलियन से अधिक बार देखा गया।

अगले दिन, एंथ्रोपिक में संरेखण विज्ञान के प्रमुख इवान हुबिंगर ने लिखा: "हम गंभीरता से मानते हैं कि एआई हर किसी को मार सकता है, और मुझे व्यक्तिगत रूप से लगता है कि अगले दस वर्षों के भीतर संभावना 10% से अधिक है।"

एआई गॉडफादर हिंटन ने बाद में कहा कि 10% का आंकड़ा "अपमानजनक नहीं" था।

तीन दिन बाद, अमौदी ने एक अधिक विशिष्ट बयान पेश किया। उनका मानना ​​है कि 6 से 12 महीनों के भीतर एजेंटों का एक समूह पूरे इंटरनेट पर कब्ज़ा कर सकता है, जिससे सैकड़ों अरब डॉलर का नुकसान हो सकता है।

अल्ट्रामैन और मस्क, दो कट्टर दुश्मन, एक ही मोर्चे पर खड़े हैं और "एआई विकास की गति को धीमा करने" का समर्थन करते हैं।

हालाँकि सकारात्मक पक्ष की मारक क्षमता भयंकर है, नकारात्मक पक्ष की ताकत भी कमज़ोर नहीं है।

हुआंग रेनक्सुन ने साक्षात्कार में उल्लेख किया कि एआई द्वारा 2030 से पहले दुनिया को नष्ट करने की संभावना 0% है। उनका मानना ​​है कि इवान द्वारा उल्लिखित "एआई द्वारा सभी को मारने की 10% संभावना" का कोई वैज्ञानिक आधार नहीं है और यह एक "गैर-जिम्मेदाराना" अंतर्ज्ञान है।

"जिस AI को सुरक्षित रूप से नियंत्रित नहीं किया जा सकता, उसे जारी नहीं किया जाना चाहिए।" हुआंग रेनक्सुन ने कहा।

एआई नाउ इंस्टीट्यूट के मुख्य वैज्ञानिक हेदी खलाफ़ का मानना ​​है कि चाहे यह 10% हो या 20%, "यह न तो मिथ्याकरणीय है और न ही सत्यापन योग्य है, इसलिए यह स्वाभाविक रूप से अवैज्ञानिक है।"

संज्ञानात्मक वैज्ञानिक गैरी मार्कस ने कहा कि "एजेंटों द्वारा इंटरनेट पर कब्जा करने" का विचार "हास्यास्पद" है।

उनका कारण यह है कि इंटरनेट का अधिकांश अंतर्निहित बुनियादी ढांचा क्लाउडफ्लेयर, गूगल और अमेज़ॅन एडब्ल्यूएस जैसी बड़ी कंपनियों के हाथों में है। सरकारी बलों के हस्तक्षेप के बिना, यह कल्पना करना मुश्किल है कि उन्हें लंबे समय तक तोड़ दिया जाएगा या नियंत्रित किया जाएगा।

उन्होंने ब्रिटिश एआई सुरक्षा अनुसंधान संस्थान की एक मूल्यांकन रिपोर्ट का भी हवाला दिया कि एंथ्रोपिक का सबसे शक्तिशाली माइथोस मॉडल केवल "छोटे, कमजोर रूप से संरक्षित" सिस्टम को स्वतंत्र रूप से तोड़ सकता है। जब तक दूसरा पक्ष अपनी नेटवर्क सुरक्षा सुरक्षा में सुधार करता है, मिथोस असहाय रहेगा।

एक साथ देखने पर आपको इस बहस का एक बहुत ही दिलचस्प पहलू मिलेगा:

सकारात्मक पक्ष "परिणामों" के बारे में बात करता है, जबकि नकारात्मक पक्ष "सबूत" के बारे में बात करता है।

एक ओर, आप इस बात पर जोर देते हैं कि जब तक संभावना शून्य नहीं है, परिणाम असहनीय हैं; दूसरी ओर, आप इस बात पर जोर देते हैं कि आप यह भी नहीं बता सकते कि आपने इस संभावना की गणना कैसे की, तो आपको पूरी दुनिया को परेशान क्यों करना चाहिए?

इसके अलावा, हालांकि अमोदेई और ऑल्टमैन ने गति को धीमा करने की वकालत की, मीडिया ने उन पर बाद के प्रतिस्पर्धियों को प्रवेश करने से रोकने के लिए सुरक्षा के नाम पर अपने लिए खाई बनाने का आरोप लगाया।

अकादमिक मंडल झेंग फ़ैंग का अधिक समर्थन करते हैं।

उदाहरण के लिए, पेपर "एआई इंसानों को कैसे मिटा सकता है?" "सभ्यता जोखिमों का विफलता मोड विश्लेषण" (arXiv:2610.08878) में उल्लेख किया गया है कि विनाशकारी एआई जोखिमों के लिए एआई को सचेत, शत्रुतापूर्ण या नुकसान पहुंचाने का स्पष्ट इरादा रखने की आवश्यकता नहीं है।

जोखिम कई परस्पर जुड़े रास्तों से उत्पन्न हो सकता है: स्वायत्त अशुद्धि, मनुष्यों द्वारा दुर्भावनापूर्ण उपयोग, संगठनात्मक विफलता और प्रतिस्पर्धी तैनाती। लेखक ने विशेष रूप से यह भी कहा कि पेपर "गैर-परिचालन" है और केवल कारणों का विश्लेषण करता है और बुराई करने के तरीके प्रदान नहीं करता है।

लेकिन अभी तक, कोई भी वास्तव में इस बहस को "जीत" नहीं सका है।