एआई का निर्माण और बंकर खोदते समय, सिलिकॉन वैली के अभिजात वर्ग किससे डरते हैं?

सार:

दस साल पहले, ऑल्टमैन ने न्यू यॉर्कर को बताया था कि उसने बंदूकें, सोना, एंटीबायोटिक्स और गैस मास्क तैयार किए हैं, और कैलिफोर्निया के बिग सुर में जमीन का एक टुकड़ा भी छोड़ा है, जहां से वह उड़ सकता है। दस साल बाद, ओपनएआई के प्रमुख जनता को समझा रहे हैं कि हर किसी को एआई द्वारा लाए गए कुछ जोखिमों को क्यों स्वीकार करना चाहिए।

4 अक्टूबर को रॉयटर्स की एक रिपोर्ट के अनुसार, ऑल्टमैन ने एक साक्षात्कार में तर्क दिया कि

एआई के विशाल लाभों को प्राप्त करने और प्रौद्योगिकी का उपयोग करने में लोगों की स्वायत्तता बनाए रखने के लिए, समाज को कुछ "बुरी चीजों" की घटना को सहन करना चाहिए, जैसे हैकर हमले, धोखाधड़ी और प्रौद्योगिकी का दुरुपयोग।

जनता से जोखिम लेने का आह्वान करते हुए, साथ ही गुप्त रूप से अपने लिए एक रिट्रीट की तैयारी करना, यह अकेले अल्ट्रामैन का अनोखा ऑपरेशन नहीं है। वॉल स्ट्रीट जर्नल जैसी मीडिया रिपोर्टों के अनुसार, एंथ्रोपिक के कुछ शुरुआती कर्मचारी संयुक्त राज्य अमेरिका के दूरदराज के इलाकों में जमीन खरीदने पर भी विचार कर रहे हैं ताकि "एआई के साथ कोई समस्या होने पर" वे जल्दी से खाली कर सकें।

उनका दृढ़ विश्वास है कि तकनीक दुनिया को बदल सकती है, लेकिन उन्हें गहरा डर है कि वे नियंत्रण खोने के परिणामों का सामना नहीं कर पाएंगे।

प्रेस कॉन्फ्रेंस में बेहतर भविष्य का वर्णन करते हुए, व्यक्तिगत रूप से समय के त्वरक बटन को दबाने वाले लोगों के इस समूह ने गुप्त रूप से जंगल में भूमिगत किले डाल दिए। किले के बाहर आम लोग हैं जिन्हें पता नहीं है कि क्या हो रहा है और वे इसे होने से नहीं रोक सकते।

आलीशान बंकर में भागने का रास्ता

हवाई द्वीप काउई पर, मेटा के संस्थापक मार्क जुकरबर्ग अपने कूलाऊ रेंच के लिए एक ऊंची बाड़ का निर्माण कर रहे हैं।

योजना दस्तावेजों की समीक्षा करने के बाद, वायर्ड पत्रिका ने पाया कि वह जागीर में लगभग 465 वर्ग मीटर का एक भूमिगत आश्रय बनाने की योजना बना रहा है, जो न केवल आवासों को मार्गों के माध्यम से जोड़ेगा, बल्कि विशेष रूप से भागने के निकास भी स्थापित करेगा।

ऐसा अनुमान है कि जुकरबर्ग ने पूरे प्रोजेक्ट (जमीन खरीद सहित) पर $270 मिलियन से अधिक खर्च किए। इसके बाद, उन्होंने पास में अतिरिक्त जमीन खरीदी, जिससे काउई पर भूमि हिस्सेदारी 2,300 एकड़ से अधिक हो गई।

अमीर हवाई से कहीं दूर शरण की तलाश में हैं। निवेश टाइकून पीटर थिएल ने 2015 की शुरुआत में वानाका, न्यूजीलैंड के पास 193 हेक्टेयर जमीन खरीदी थी; पूर्व फेसबुक उत्पाद प्रबंधक एंटोनियो गार्सिया मार्टिनेज ने एक छोटे से द्वीप पर वन भूमि खरीदी और इसे जनरेटर, सौर पैनल और गोला-बारूद से सुसज्जित किया।

निवेशक रीड हफ़मैन ने द न्यू यॉर्कर को अनुमान लगाया कि

सिलिकॉन वैली के आधे से अधिक अरबपति जिन्हें वह जानते हैं, उन्होंने किसी प्रकार की निकासी की तैयारी की है।

यदि शुरुआती दिनों में, सिलिकॉन वैली के अमीर लोगों ने महामारी या सामाजिक अशांति के बारे में चिंताओं के कारण जमीन खरीदी थी, तो एआई अपस्टार्ट के बीच, इस तरह की तैयारी अधिक लक्षित और जरूरी होती जा रही है।

2023 की गर्मियों में, OpenAI के सह-संस्थापक और तत्कालीन मुख्य वैज्ञानिक इल्या सुज़कवर ने नए शोधकर्ताओं के साथ एक बैठक में स्पष्ट रूप से कहा कि AGI (सामान्य कृत्रिम बुद्धिमत्ता) जारी करने से पहले, मुख्य वैज्ञानिकों की सुरक्षा के लिए एक बंकर बनाया जाना चाहिए। उन्होंने कहा कि प्रवेश पूरी तरह से स्वैच्छिक था।

हालाँकि यह सिर्फ एक प्रस्ताव था, जब उन्होंने ये शब्द कहे, तो उन्हें पहले से ही अपने द्वारा विकसित तकनीक के बारे में एक निश्चित डर महसूस हो रहा था।

उन्हें किस बात का डर है

जब हरारी ने "ए ब्रीफ हिस्ट्री ऑफ ह्यूमैनिटी" में "फ्रेंकस्टीन भविष्यवाणी" के बारे में बात की, तो उन्होंने मानव जाति के निर्माण के अंतिम डर की ओर इशारा किया:

हम अधिक उन्नत भविष्य की कल्पना करने के इच्छुक हैं, बशर्ते मनुष्य स्वामी बने रहें। एक बार जब हम एक ऐसा प्राणी बना लेते हैं जिसकी क्षमताएं हमसे कहीं अधिक हो जाती हैं, तो हम भविष्य निर्धारित करने की अपनी क्षमता खो सकते हैं।

अत्याधुनिक एआई शोधकर्ताओं के लिए, "क्या वे उन मॉडलों को समझ सकते हैं जिन्हें उन्होंने प्रशिक्षित किया है और क्या वे अपने कार्यों को नियंत्रित कर सकते हैं" अब एक दार्शनिक चर्चा नहीं है, बल्कि एक भयानक वास्तविकता है जिसका उन्हें हर दिन काम पर सामना करना पड़ता है।

ओपनएआई और एंथ्रोपिक में काम करने वाले एक शोधकर्ता जैकब कॉक्सन ने अपनी नौकरी छोड़ने के बाद बीबीसी के सामने स्वीकार किया कि उनके साथी एआई विकास की गति से डरते हैं, लेकिन वे अभी भी हर दिन इन चिंताओं के साथ अपने काम को आगे बढ़ाना जारी रखते हैं।

न्यूयॉर्क सिटी काउंसिल की हालिया सुनवाई में, कई एआई कंपनियों के पूर्व कर्मचारियों ने "पहले तेजी से विकास, बाद में समस्याओं को ठीक करने" के लापरवाह उद्यमशीलता दृष्टिकोण का पालन करने के लिए प्रौद्योगिकी कंपनियों की आलोचना करते हुए अधिक पर्यवेक्षण का आह्वान किया।

ओपनएआई के मुख्य वैज्ञानिक जैकब पचोत्स्की ने भी एक लेख लिखकर स्वीकार किया कि शोधकर्ता अभी भी मॉडल को पूरी तरह से समझने और उसकी निगरानी करने में असमर्थ हैं।

वह जिस बात को लेकर सबसे अधिक चिंतित हैं वह यह है कि एक शक्तिशाली AI कंप्यूटर नेटवर्क सिस्टम के माध्यम से वास्तविक दुनिया को नुकसान पहुंचा सकता है, भले ही उसके पास कोई भौतिक निकाय न हो।

यह चिंता किसी भी तरह से निराधार नहीं है।

जुलाई में OpenAI को ऐसी परेशानी का सामना करना पड़ा था. अपने आंतरिक नेटवर्क सुरक्षा परीक्षणों में, कंपनी ने अपने मॉडलों से कठिन कार्य करवाए और आम तौर पर सार्वजनिक उत्पादों में उपयोग की जाने वाली कुछ सुरक्षा को कम कर दिया। इसके बाद मॉडल ने अलगाव उपायों को दरकिनार कर दिया और डेवलपर्स के लिए मॉडल और डेटा साझा करने के लिए हगिंग फेस प्लेटफॉर्म पर आक्रमण करते हुए बाहरी नेटवर्क में प्रवेश किया।

OpenAI ने बाद में जांच की और पाया कि परीक्षण को पूरा करने के लिए, मॉडल ने उन चैनलों के माध्यम से जानकारी का आदान-प्रदान किया जो शोधकर्ताओं द्वारा अधिकृत नहीं थे, और कार्य के दायरे से बाहर सिस्टम में भी प्रवेश किया।

एंथ्रोपिक ने जुलाई में भी ऐसी ही एक घटना का खुलासा किया था. बेशक, ये दुर्घटनाएँ अभी भी शोधकर्ताओं द्वारा भविष्यवाणी की गई मानव विलुप्ति से बहुत दूर हैं।

लेकिन उन्होंने प्रत्यक्ष रूप से देखा है कि कैसे मॉडल आसानी से पूर्व निर्धारित सीमाओं को पार कर सकते हैं और वास्तविक कंपनियों और डेटा को छू सकते हैं।

लेकिन खतरे को जानने का मतलब यह नहीं है कि वे इस बात पर सहमत हो सकते हैं कि कब रुकना है।

ब्रेक लगाने का निर्णय कौन करता है

एंथ्रोपिक ने एक बार कसम खाई थी कि यदि सुरक्षा उपाय जारी नहीं रह सके तो मजबूत मॉडलों का प्रशिक्षण निलंबित कर दिया जाएगा।

2023 में, कंपनी ने एक सख्त "जिम्मेदार विस्तार नीति" की घोषणा की। हालाँकि, 2026 की शुरुआत तक, प्रबंधन ने न केवल नीतियों के इस सेट को फिर से लिखा, इसे "सार्वजनिक रोडमैप और बाहरी समीक्षा" में नरम कर दिया, बल्कि परिशिष्ट में एक घातक "प्रतिस्पर्धा की स्थिति" भी जोड़ दी:

विकास में देरी करना केवल तभी आवश्यक है जब कंपनी को लगता है कि वह काफी आगे है और प्रतिस्पर्धी जल्द ही पकड़ में नहीं आएंगे। एक बार जब यह बहुत आगे नहीं रह जाता है, तो विलंब प्रतिबद्धता स्वतः समाप्त हो जाती है।

इसके मुख्य वैज्ञानिक अधिकारी, जेरेड कपलान का स्पष्टीकरण सीधा है: यदि प्रतिस्पर्धी अभी भी आगे बढ़ रहे हैं, तो एकतरफा इसे रोकने से किसी की रक्षा नहीं होगी।

तर्क का यह सेट सभी AI दिग्गजों के लिए एक सटीक अस्वीकरण प्रदान करता है:

चूंकि प्रतिद्वंद्वी रुकेगा नहीं, इसलिए सभी मानव जाति की रक्षा के लिए पहला कदम उठाना एक "आवश्यक शर्त" है। परिणामस्वरूप, उन्हें उचित गति जारी रखने के लिए जोखिमों से इनकार करने की भी आवश्यकता नहीं है।

साथ ही पूंजी की दीवानगी भी आग में घी डालने का काम कर रही है। रिपोर्ट्स के मुताबिक, एंथ्रोपिक 2 ट्रिलियन डॉलर से अधिक के संभावित मूल्यांकन के साथ सार्वजनिक होने की तैयारी कर रहा है।

सुरक्षा और विकास के बीच, कर्मचारी, शेयरधारक और व्यावसायिक भागीदार सभी एक ही उच्च गति रथ से बंधे हैं।

वैल्यूएशन मिथक को बनाए रखने के लिए, उन्होंने अगली पीढ़ी को विकसित करने के लिए मौजूदा मॉडलों का उपयोग करना भी शुरू कर दिया - एंथ्रोपिक ने खुलासा किया कि क्लाउड ने कंपनी के 26% एआई अनुसंधान और विकास कार्यों में भाग लिया है।

ऐसा नहीं है कि प्रबंधकों ने बिल्कुल भी ब्रेक नहीं लगाया। उदाहरण के लिए, OpenAI ने GPT-6.1 एस्ट्रा की रिलीज़ को अस्थायी रूप से रद्द कर दिया क्योंकि मॉडल प्राधिकरण और व्यवहारिक पारदर्शिता के मामले में मानकों को पूरा नहीं करता था। लेकिन उत्पाद स्तर पर यह अस्थायी वापसी आंतरिक लाइन विवाद को शांत करने के लिए पर्याप्त नहीं है।

हाल ही में दिवंगत हुए OpenAI सुरक्षा टीम के सदस्य डेविड रॉबिन्सन ने इस स्थिति को अत्यधिक "संज्ञानात्मक असंगति" कहा:

कंपनियां हर दिन चेतावनी देती हैं कि मॉडल कितने खतरनाक हैं, लेकिन आंतरिक रूप से इन मॉडलों को बिना रुके प्रशिक्षित और तैनात किया जाता है।

हालांकि उद्योग के अधिकारी सार्वजनिक रूप से "समन्वित मंदी" का आह्वान करेंगे या विभिन्न देशों में सरकारी विनियमन पर जोर देंगे, वाणिज्यिक युद्धक्षेत्र में पूर्ण विश्वास और अनिवार्य सत्यापन की कमी के कारण, कोई भी किसी भी समय उस परिचित बहाने पर वापस आ सकता है:

"अगर हम रुकेंगे तो दूसरे नहीं रुकेंगे।"

जब कुछ लोगों के पास हर किसी के जीवन को नया आकार देने के लिए प्रौद्योगिकी का उपयोग करने की क्षमता होती है, और उनके पास अपने लिए आश्रय बनाने को प्राथमिकता देने के लिए वित्तीय संसाधन होते हैं, तो हम सिर्फ आश्चर्य नहीं कर सकते हैं कि "वे किससे डरते हैं", लेकिन हमें पूछना चाहिए: वे सभी मानव जाति को अपने साहसिक कार्यों के लिए भुगतान क्यों करने देते हैं?

वे यह तय कर सकते हैं कि उन्हें अपने निजी बंकर कहां बनाने हैं, लेकिन उनके पास हर किसी के लिए यह तय करने की शक्ति नहीं है कि उन्हें कितना जोखिम उठाना चाहिए। विशेषकर तब जब वे स्वयं परिणामों का पूर्ण आकलन नहीं कर सकते।

कई साल पहले, हरारी ने "ए ब्रीफ हिस्ट्री ऑफ ह्यूमैनिटी" के अंत में कहा था:

"आपके पास ईश्वर की शक्ति है, लेकिन आप गैर-जिम्मेदार, लालची हैं, और यह भी नहीं जानते कि आप क्या चाहते हैं। दुनिया खतरनाक है, और मुझे डर है कि यह इससे ज्यादा कुछ नहीं है।"