अल्ट्रामैन: पीसी पर मेमोरी स्थापित करना बहुत बेकार है और इसे एआई डेटा सेंटर पर छोड़ देना सबसे अच्छा है

सार:

"वैश्विक संसाधन आवंटन के परिप्रेक्ष्य से, यह एक 'काफी भयानक' व्यवस्था है कि हर कोई अपने कंप्यूटर में दुर्लभ DRAM को संग्रहीत कर सकता है और इसे अधिकांश समय निष्क्रिय छोड़ सकता है। मेमोरी को क्लाउड डेटा केंद्रों में केंद्रित किया जाना चाहिए।"

बस इतना ही.

गुरुवार को यूट्यूब चैनल चीकी पिंट के साथ एक साक्षात्कार में, ओपनएआई के सीईओ सैम ऑल्टमैन ने पूरे समय बीयर पी और बड़े एआई मॉडल के स्थानीय तर्क और घरेलू कंप्यूटरों में अपर्याप्त मेमोरी की विस्तारित समस्या के बारे में एक आरामदायक माहौल में बात की, जो अनजाने में हिट हो गई।

हम जानते हैं कि वैश्विक एआई लहर के कारण मेमोरी की कीमतों में मौजूदा वृद्धि के कारण पीसी और मोबाइल फोन की कीमतें आसमान छू रही हैं, जो पहले से ही व्यक्तिगत उपभोक्ताओं के लिए अप्राप्य है। वहीं, प्रमुख मेमोरी निर्माताओं को अपनी उत्पादन क्षमता का विस्तार करने में कुछ समय लगेगा। जबकि अत्याधुनिक एआई कंपनियां बड़ी मात्रा में मेमोरी खा रही हैं, उन्होंने इस बात पर चर्चा करना शुरू कर दिया है कि क्या पर्सनल कंप्यूटर में मेमोरी का पूरी तरह से उपयोग किया जाता है।

ऑल्टमैन ने एक परिकल्पना का उल्लेख किया है कि लोग अपने कंप्यूटर पर स्थानीय कृत्रिम बुद्धिमत्ता चलाने में सक्षम होंगे, जो कि वे कंप्यूटर हो सकते हैं जो उनके पास पहले से हैं या जिन्हें वे एआई बड़े-मॉडल प्रौद्योगिकी के उदय के कारण इकट्ठा करना चाहते हैं। उसने सोचा कि यह एक भयानक विचार था.

"वैश्विक संसाधन आवंटन परिप्रेक्ष्य से, यह वास्तव में बहुत बुरा है कि हर किसी को दुनिया की सीमित DRAM मेमोरी को केवल 5% उपयोग दर के साथ अपने कंप्यूटर में निष्क्रिय छोड़ देना चाहिए,"

ओपनएआई का मुख्य व्यवसाय आज बड़े पैमाने पर डेटा केंद्रों में चलने वाले एक बंद-स्रोत मॉडल पर आधारित है, और उनके व्यवसाय मॉडल के बचाव ने एआई समुदाय में बहस छेड़ दी है।

इससे कई लोग चिंतित भी हो गए हैं: भविष्य में, हमारे लिए अपना स्वयं का हार्डवेयर या सॉफ़्टवेयर रखना अधिक कठिन हो सकता है, और हम केवल क्लाउड में बुद्धिमान एजेंटों और कंप्यूटरों को किराए पर लेने पर विचार कर सकते हैं।

हालांकि साधारण पीसी, मोबाइल फोन और एआई एक्सेलेरेटर कार्ड अलग-अलग मेमोरी का उपयोग करते हैं, उनका उत्पादन कुछ अपस्ट्रीम वेफर उत्पादन क्षमता के लिए प्रतिस्पर्धा करेगा। ऑल्टमैन वैश्विक DRAM संसाधन आवंटन पर चर्चा कर रहे थे। जब बात आती है कि मेमोरी क्षमता का उपयोग कहां किया जाए, यह तय करने के लिए कौन योग्य है, तो अधिकांश समय स्वाभाविक रूप से उपयोगकर्ता ही बड़ा ऑर्डर देता है।

ऑल्टमैन के तर्क का एक हिस्सा इस धारणा पर आधारित है कि डेटा सेंटर का निर्माण धीमा नहीं होगा। इसके अलावा, उन्होंने अनुमान लगाया कि एआई डेटा सेंटर में 24/7 उपयोग की जाने वाली मेमोरी स्प्रेडशीट, वेब ब्राउज़िंग, गेम और यहां तक ​​कि कभी-कभी स्थानीय एआई के लिए उपयोग की जाने वाली मेमोरी से अधिक मूल्यवान होगी।

दरअसल ये इंटरव्यू काफी लंबा था. ऑल्टमैन ने पिछले दो हफ्तों में वैश्विक दहशत पैदा करने वाली PHP भेद्यता, प्रशिक्षण मॉडल की सैंडबॉक्सिंग और गणित के क्षेत्र में एआई अनुसंधान के बारे में भी बात की।

देखिए उन्होंने मुख्य रूप से क्या कहा:

एआई कमजोरियों की लहर पैदा कर रहा है

PHP की अत्यधिक विशाल कमजोरियों के संबंध में, ऑल्टमैन का निर्णय है: कमजोरियों को खोजने के लिए बड़े मॉडलों की क्षमता में तेजी से सुधार जारी है, और इंटरनेट पर कोड की सतह बेहद विशाल है। जब लोग सभी कोड को स्कैन करने के लिए व्यवस्थित रूप से एआई का उपयोग करना शुरू कर देंगे, "हम खुद को एक ऐसी दुनिया में पाएंगे जहां गंभीर कमजोरियां अपेक्षा से कहीं अधिक हैं।" उनका मानना ​​है कि अकेले पैचिंग पर्याप्त नहीं है, आर्किटेक्चर का पुनर्निर्माण किया जाना चाहिए, और राउटर, ऑपरेटिंग सिस्टम और एप्लिकेशन लेयर्स सभी को एक ऐसी दुनिया के लिए फिर से डिजाइन करने की आवश्यकता है जहां "कमजोरियां तेजी से बुद्धिमान हो जाएंगी।" दो साल पहले, "संपूर्ण प्रौद्योगिकी स्टैक को फिर से लिखना" पागलपन भरी बात लगती थी, लेकिन अब ऐसे स्टार्टअप हैं जो एक नया स्टैक बनाना चाहते हैं।

उन्होंने उद्योग जगत की एक दुर्लभ आत्म-आलोचना की: "मुझे नहीं लगता कि हमने लोगों को यह समझाने में अच्छा काम किया है कि इस तकनीक के सभी संभावित नकारात्मक जोखिम इसके लायक क्यों हैं।" उन्होंने कहा कि एआई उद्योग की कहानी एक खराब बिक्री पिच है, जो बेरोजगारी, नियंत्रण की हानि और मजबूत विनियमन की आवश्यकता के भविष्य को चित्रित करते हुए कैंसर का इलाज करने और लागत कम करने का वादा करती है। उन्होंने इस आधार पर पुनरावृत्तीय तैनाती और क्षमता की अधिकता पर ओपनएआई के आग्रह को दोहराया कि "सैन फ्रांसिस्को में कुछ वर्ग मील के लोग सभी निर्णय नहीं ले सकते।"

यह पूछे जाने पर कि क्या वह मॉडल के लिए "अधिकतम सुरक्षा जेल" बना सकते हैं, अल्ट्रामैन ने निराशावादी उत्तर दिया: सैंडबॉक्स केवल एक निश्चित सीमा तक ही प्रभावी है, और निगरानी (विचार श्रृंखला समीक्षा और सक्रियण निगरानी सहित) आगे बढ़ सकती है, लेकिन अंत में इसे अत्यधिक भरोसेमंद और संरेखित किया जाना चाहिए।

उन्होंने अलंकारिक रूप से पूछा, एक ऐसे मॉडल का सामना करना जो सबसे चतुर सुरक्षा शोधकर्ता से लाखों गुना अधिक स्मार्ट है और नए विज्ञान की खोज कर सकता है जिसे मनुष्य अभी तक नहीं समझते हैं, क्या आप वास्तव में उस सैंडबॉक्स पर भरोसा करने की हिम्मत करते हैं?

उन्होंने यह स्पष्ट किया कि उन्हें "एजेंट झुंड" शब्द से नफरत है क्योंकि झुंड टिड्डियों की याद दिलाते हैं, उन्हें एजेंट टीम (एजेंट टीम) कहने पर जोर देते हैं, और मानते हैं कि टीमों के बीच आपसी जांच और संतुलन की प्रकृति बहुलवाद के माध्यम से मजबूती प्राप्त करने के तंत्र से मेल खाती है, और उन्नति के योग्य एक सुरक्षित दिशा है।

बौद्धिक विस्फोट और वैज्ञानिक खोज की कीमत

ऑल्टमैन ने एक वक्र की रूपरेखा तैयार की: GPT-4 युग में, किसी एक समस्या पर कंप्यूटिंग शक्ति में प्रभावी ढंग से $1 का निवेश करना मुश्किल था; विचार की श्रृंखला मॉडल को "कड़ी मेहनत से सोचने" की अनुमति देती है, लेकिन अब हम एजेंटों की पूरी टीम को हजारों बार समानांतर कर सकते हैं। सामान्य उपयोगकर्ताओं और सबसे उन्नत उपयोगकर्ताओं के बीच उपयोग का अंतर लगातार बढ़ रहा है।

ओपनएआई के भीतर कंप्यूटिंग शक्ति कैसे आवंटित की जाती है, इसके बारे में उन्होंने कहा कि कर्मचारियों को बहुत अधिक स्वतंत्रता मिलती है, लेकिन उच्च टोकन खपत को कभी पुरस्कृत नहीं किया जाता है। "टोकन रैंकिंग में ऊपर होना वास्तव में थोड़ा शर्मनाक है, और यह निश्चित रूप से पदोन्नति का कारण नहीं है।" उन्होंने एक उदाहरण के रूप में नेवियर-स्टोक्स समीकरण के प्रमाण का उपयोग किया: एक एकल प्रमाण की लागत लगभग $ 10 मिलियन थी और यह "एक सप्ताह के लिए नियंत्रण से बाहर" था क्योंकि उस समय एजेंट टीम के विस्तार कानून के बारे में किसी को कुछ भी नहीं पता था। लेकिन उन्हें उम्मीद है कि स्मार्ट मॉडल और तरीकों का उपयोग करके इसे एक साल में 1/100 लागत पर फिर से तैयार किया जाएगा।

उन्होंने दुर्लभ भावनाएं भी दिखाईं: उस समय स्थिति वास्तव में आश्चर्यजनक थी। सप्ताहांत में जब एक नया मॉडल आंतरिक रूप से लॉन्च किया गया, तो सभी ने इस मॉडल पर सभी सबसे कठिन समस्याएं डालीं, और यह उन्हें एक-एक करके हल कर सकता था। लोगों को मॉडल से ऐसा करने की बिल्कुल भी उम्मीद नहीं थी. सभी ने देखा कि कई लोगों के शैक्षणिक करियर में सबसे कठिन वैज्ञानिक अनुसंधान समस्याओं को इस मॉडल द्वारा एक-एक करके हल किया गया, और कई अलग-अलग क्षेत्रों को कवर किया गया। यह दृश्य बिल्कुल अद्भुत था।

"मैं दो रातों तक लगभग पूरी रात जागता रहा क्योंकि मैं इतना उत्साहित था कि मुझे बिल्कुल भी नींद नहीं आई। बाद में हमने जो परिणाम प्रकाशित किए उनमें से कई वास्तव में वे समस्याएं थीं जिन्हें हमने उस समय हल किया था।"

अल्ट्रामैन उस समय बेहद उत्साहित और खुश महसूस कर रहा था, लेकिन साथ ही उसे अप्रत्याशित उदासी, उदासी और यह एहसास भी हुआ कि "एक युग समाप्त हो रहा है।" यह न केवल पुरानी यादें हैं, बल्कि मानव वैज्ञानिकों के लिए एक प्रकार की सहानुभूति भी है जो "सुबह सच्चाई सीखते हैं और शाम को मर जाते हैं।" वह इस बात पर जोर देते हैं कि मनुष्य बुनियादी ज्ञान का हकदार है, लेकिन उद्योग को समाधान के लिए इन क्षेत्रों के अभ्यासकर्ताओं की आवश्यकता है।

हालांकि सुपर इंटेलिजेंस के बारे में बात करना जल्दबाजी होगी, अल्ट्रामैन का मानना ​​है कि खरबों छोटे सुपरह्यूमन एक ट्रिलियन आईक्यू से बेहतर हैं:

"एक ट्रिलियन आईक्यू वाले एक एआई के समाज में शामिल होने की तुलना में मैं अधिक सहज रूप से थोड़ा अतिमानवीय बुद्धिमत्ता वाले एक ट्रिलियन एआई को समाज में शामिल करना पसंद करूंगा।"

"सहज रूप से, मैं आईक्यू वाले एक ट्रिलियन एआई की तुलना में थोड़ी अतिमानवीय बुद्धि वाले एक ट्रिलियन एआई को समाज में शामिल करना पसंद करूंगा।"

उनका तर्क है कि समाज की मजबूत मजबूती बड़ी संख्या में सदस्यों के नियंत्रण और संतुलन और सहयोग से आती है। "एकल-मस्तिष्क" दुनिया में इस प्रकार का लचीलापन नहीं है। लेकिन उन्होंने इस बात पर जोर दिया कि यह अपने आप नहीं होगा और इसे सक्रिय रूप से बढ़ावा दिया जाना चाहिए।

एआई युग में अब बाजार नियमन काम नहीं करेगा?

वैश्विक मेमोरी की कमी के संबंध में, ऑल्टमैन ने ओपनएआई का लेआउट पेश किया: स्व-विकसित चिप्स (प्रति वाट बुद्धिमान प्रदर्शन में सुधार करने के लिए), स्व-निर्मित डेटा केंद्र, रोबोट परियोजनाएं, और "स्व-प्रतिकृति डेटा केंद्र" की एक साहसी अवधारणा जो वेफर कारखानों को संचालित करने, टर्बाइन और सौर पैनल बनाने और डेटा केंद्र बनाने के लिए एआई-नियंत्रित रोबोट का उपयोग करती है। उन्होंने कहा, "यह हमारे नियंत्रण में है।"

इस बारे में बात करते हुए कि "बाजार स्व-नियमन" को लंबे समय तक क्यों महसूस नहीं किया गया है, उनका मानना ​​है कि वर्तमान प्रगति बहुत खराब है, और स्मृति निर्माताओं का व्यवहारिक तर्क देता है: यह उद्योग लंबे समय से 20 बिलियन अमेरिकी डॉलर का निवेश करने और 1.9 बिलियन पूंजीगत व्यय अर्जित करने का एक कड़वा व्यवसाय रहा है। इतिहास में अत्यधिक फैक्ट्रियों के निर्माण के कारण कई दिग्गज कंपनियां लगभग दिवालिया हो चुकी हैं। आज, प्रत्येक कंपनी एक वर्ष में मुफ्त नकदी प्रवाह में लगभग 100 बिलियन अमेरिकी डॉलर कमा सकती है, लेकिन दर्दनाक यादों ने उन्हें उत्पादन बढ़ाने में बेहद रूढ़िवादी बना दिया है। इससे उनका दावा है कि "अदृश्य हाथ अब कार्रवाई से बाहर है।"

उन्होंने चिप उद्योग में दो प्रकार की क्षमताओं को प्रतिष्ठित किया: लिथोग्राफी "ऐसा लगता है कि ग्रह पर केवल एक ही कंपनी जानती है कि यह कैसे करना है," लेकिन चिप डिजाइन (फ़ाइल जो अंततः फैब को भेजी जाती है) एआई के लिए पहले से ही एक उत्कृष्ट स्थान है।

पुनरावर्ती स्व-सुधार (आरएसआई) के वास्तविक स्तर के बारे में बात करते हुए, ऑल्टमैन ने कहा कि वर्तमान मॉडल "5% कम्प्यूटेशनल दक्षता सुधार ढूंढना" जैसे कार्यों को पूरा कर सकता है, लेकिन कोई नहीं जानता कि एआई को ट्रांसफार्मर के स्तर पर नए आर्किटेक्चर की खोज कैसे करने दें। एक स्मार्ट मॉडल की कमी है। उन्होंने यह भी भविष्यवाणी की कि समाज को किसी एक मॉडल के आईक्यू को कुछ समय के लिए सीमित करने के लिए सहमत होने की आवश्यकता हो सकती है। "यदि भविष्य में अपर्याप्त प्रगति होती है, तो यह इस निर्णय से उत्पन्न होगी, न कि एआई की अनुसंधान करने की क्षमता से।"

उन्होंने अपस्फीति में अपना विश्वास दिखाया:

प्रमुख एआई कंप्यूटिंग शक्ति के प्रत्येक गीगावॉट की वर्तमान पांच साल की कुल स्वामित्व लागत लगभग 70 बिलियन अमेरिकी डॉलर है। आदर्श होगा यदि इसे घटाकर 20 बिलियन किया जा सके। साथ ही, मॉडल के प्रदर्शन में हर साल 10 गुना सुधार किया जाना चाहिए। इसे प्राप्त करने का मार्ग ऊर्जा को सस्ता बनाना और "रेत से आउटपुट टोकन तक" के बीच के सकल मुनाफे को कम करना है।

जहां तक ​​उद्यमों की टोकन बजट चिंता का सवाल है, उनका मानना ​​है कि वर्तमान में अधिक आम समस्या यह है कि एआई का बहुत अधिक उपयोग करने के बजाय पर्याप्त उपयोग नहीं किया जाता है।

व्यक्तिगत बुद्धिमत्ता का मूल्य कैसे तय करें?

हाल ही में चर्चित व्यक्तिगत बुद्धिमान उत्पादों (जैसे म्यूज़) के संबंध में, अल्ट्रामैन का वर्तमान निर्णय यह है कि "मैकिंटोश क्षण अभी तक नहीं आया है।" लोग इन उत्पादों को पसंद करते हैं, लेकिन इस हद तक नहीं कि "इसके बिना जीवन की कल्पना भी नहीं की जा सकती।" विजेता वर्तमान उत्पाद जैसा दिखेगा, लेकिन "यह बस काम करेगा", विश्वसनीय, और अधिक जटिल कार्यों को संभालने में सक्षम होगा। उनका मानना ​​है कि कंप्यूटर के उपयोग का बिल्ली-और-चूहे का खेल अंततः उस बिंदु पर पहुंच जाएगा जहां "आपको अपनी ओर से एआई को अपना कंप्यूटर संचालित करने देने का अधिकार है।"

बुद्धिमान एजेंटों के व्यावसायीकरण पद्धति के लिए, ऑल्टमैन का मानना ​​है कि कंपनियां अपने उत्पादों में एआई पॉप-अप और एचटीएमएल से चिपकी रहती हैं और ग्राहक संबंध खोने की चिंता करती हैं, लेकिन उपभोक्ता अपने मुख्य चैट एप्लिकेशन में एआई को उनके लिए सब कुछ करने देना चाहते हैं। उनका मानना ​​है कि असली बातें ब्रांड, चयन और पूर्ति नेटवर्क से आती हैं, HTML से नहीं। उन्होंने सक्रिय रूप से खुलासा किया कि वह 10 में से 10 बार अमेज़न पे चुनेंगे, भले ही कीमत अधिक हो। उन्होंने अमेज़ॅन के पूर्ति नेटवर्क की प्रशंसा की और स्वीकार किया कि चैटजीपीटी के भीतर सहयोग मंच पर्याप्त अच्छा नहीं था। उन्होंने सभी वेब फॉर्मों को "फर्जी काम" भी कहा और वर्तमान स्थिति की तुलना ऐप स्टोर युग से की।

यह ठीक इसी वजह से है कि मूल्य निर्धारण को डिजाइन करते समय, OpenAI ने कार्यों के आधार पर AWS के मूल्य निर्धारण की लगभग नकल की और टोकन बिलिंग को पूरी तरह से छोड़ दिया। हालाँकि, इसे ग्राहकों के कड़े विरोध का सामना करना पड़ा: "मुझे यह जानने की ज़रूरत है कि मैं किसके लिए भुगतान कर रहा हूँ।" भले ही यह अधिक हो, यह टोकन जैसी समझने योग्य इकाइयों में होना चाहिए।