सार:
कल, डीपसीक ने सीधे तौर पर अपनी खुद की "मनी प्रिंटिंग मशीन" तकनीक खोली जो बॉक्स के नीचे है। उन्होंने "डीपसीक वी4.1 फ्लैश लार्ज-स्केल इंट्रेंस डिप्लॉयमेंट प्रैक्टिस" शीर्षक से एक तकनीकी ब्लॉग पोस्ट किया, और आसानी से क्लाउड सर्विस इंट्रेंस फ्रेमवर्क "डीपइंफर" बनाया, जो उत्पादन स्तर के शब्द विभाजन घटक "डीपसीक-रेसिपी" के साथ, अपाचे 2.0 प्रोटोकॉल के तहत पूरी तरह से खुला स्रोत, उनके स्वयं के ऑनलाइन दसियों अरबों कॉल का समर्थन करता है।
ब्लॉग में यहां तक कहा गया है कि भविष्य में, डीपसीक के नए मॉडल का अनुमान कोड और उसके बाद के प्रदर्शन अनुकूलन को डीपइन्फर में दुनिया को दिया जाता रहेगा।
खुला और चमकीला क्षेत्र शीर्ष स्तर का नहीं है।
"जो अच्छा है उसे करो और सबके लिए करो, और उसे कुशलता से करो और हर कोई उसे कर सकता है।" अधिक लोगों के लिए AI को किफायती बनाने में मित्रों और व्यवसायियों को AI को अधिक सस्ते में बेचने का अवसर देना भी शामिल है।
हम पहले विस्तार से गणना कर सकते हैं कि कोड का यह सेट कितना मूल्यवान है जो डीपसीक ने इस बार सभी मानव जाति को मुफ्त में दिया है। इस नए ओपन सोर्स डीपइन्फर फ्रेमवर्क के आधार पर, एक क्लस्टर में डीपसीक की वर्तमान सेवा थ्रूपुट प्रति दिन 155 ट्रिलियन टोकन तक पहुंच गई है।
भले ही पूरी तरह से सबसे सस्ती कीमत के आधार पर गणना की जाए, इस प्रणाली का कुल राजस्व US$38 प्रति कार्ड प्रति घंटे जितना है, जो आरएमबी में लगभग 253 युआन के बराबर है।
दूसरे शब्दों में, कंप्यूटर कक्ष में एक घंटे तक कार्ड चलाकर अर्जित सोने के सिक्के सामान्य श्रमिकों की प्रति घंटा मजदूरी से अधिक हैं। इसके अलावा, कार्ड ठंडा अमेरिकी भोजन नहीं पीता है, वार्षिक भुगतान वाली छुट्टी नहीं लेता है, और दिन के 24 घंटे कंप्यूटर कक्ष में डीपसीक के लिए पागलपन से पैसे प्रिंट करता है।
वास्तविक भौतिक अर्थ में एक मनी प्रिंटिंग प्रेस।
मैं यह सुझाव क्यों देता हूं कि तीसरे पक्ष के उद्योग बुनियादी ढांचे के निर्माताओं को डीपसीक को समर्थन का एक वास्तविक स्रोत देना चाहिए, क्योंकि वे न केवल इसे मछली पकड़ना सिखाते हैं, बल्कि इसे मछली पकड़ना भी सिखाते हैं।
अतीत में, उद्योग में तथाकथित ओपन सोर्स मॉडल आपको केवल मॉडल वेट फ़ाइलें देते थे। उत्पादन परिवेश में उच्च थ्रूपुट कैसे प्राप्त करें और विलंबता को कैसे कम करें, ये सभी व्यावसायिक रहस्य के रूप में बंद-स्रोत ब्लैक बॉक्स में छिपे हुए थे।
DeepInfer खुला स्रोत पता: https://github.com/depseek-ai/DeepInfer
डीपसीक-रेसिपी ओपन सोर्स पता: https://github.com/दीपसीक-एआई/डीपसीक-रेसिपी
परिणामस्वरूप, दूसरे और तीसरे स्तर के छोटे कंप्यूटिंग विक्रेताओं या कंपनियों ने बहुत सारे कार्ड खरीदे और उन्हें स्वयं तैनात किया। कंप्यूटिंग शक्ति उपयोग दर हास्यास्पद रूप से कम थी। टोकन बेचने से मिलने वाला पैसा कंप्यूटर कक्ष का बिजली बिल चुकाने के लिए भी पर्याप्त नहीं था। उन्हें या तो गुप्त रूप से सस्ते मॉडल का उपयोग करके, या गुप्त रूप से विशिष्टताओं को सीमित करके, टोकन को गुप्त रूप से पानी देना पड़ा।
इस बार, डीपसीक हार्नेस के प्रभारी व्यक्ति कुई तियानई ने एक्स पर बहुत ईमानदारी से बात की। डीपइन्फर और डीपसीक-रेसिपी खोलकर, उन्हें उम्मीद है कि दुनिया भर की कंपनियां और संस्थान डीपसीक मॉडल तैनात कर सकते हैं और इस सामान से वास्तविक पैसा कमा सकते हैं।
साइबर लिविंग बोधिसत्व का संबंध हां से है।
नेटिजन ज़ेफिर ने कुछ गणनाएँ कीं और कहा कि आज पूरी तरह से एक और डीपसीक क्षण है, क्योंकि अब ग्रह पर कोई भी दूसरे या तीसरे स्तर का अनुमान सेवा प्रदाता तैयार मॉडल और सूत्रों के इस सेट का उपयोग करके अपनी कंप्यूटिंग शक्ति पर 90% से अधिक का आश्चर्यजनक सकल लाभ कमा सकता है।
यहां तक कि वीएलएलएम का आधिकारिक खाता, जो ओपन सोर्स इंट्रेंस का बड़ा भाई है, एक धन्यवाद पोस्ट करने के लिए रातोंरात सामने आया, डीपइंफर को वापस देने के लिए डीपसीक को धन्यवाद दिया, जो मूल रूप से वीएलएलएम पर आधारित था, सबसे कमजोर अपाचे 2.0 प्रोटोकॉल का उपयोग करके ओपन सोर्स समुदाय को।
डीपसीक शोधकर्ता डेली चेन एक्स को लेकर और भी अधिक उत्साहित हैं। स्पष्ट रूप से कहें तो, यह खुले स्रोत और बंद स्रोत, प्रकाश और अंधेरे के बीच मानव नियति की निर्णायक लड़ाई है। प्रतिद्वंद्वी चाहे कितनी भी देर तक लड़ना चाहे, हम अंत तक आपके साथ रहेंगे जब तक कि पूरी जीत न हो जाए।
इसके अलावा, यदि आप डीपसीक के तकनीकी ब्लॉग को देखेंगे, तो आप पाएंगे कि उनका आत्मविश्वास ग्राफिक्स मेमोरी की हर बूंद को निचोड़ने के उनके इंजीनियरिंग जुनून से आता है।
डिज़ाइन के पहले दिन से, इस प्रणाली में व्यापक हार्डवेयर संगतता है, प्रीफ़िल के लिए सामान्य 8-कार्ड मशीनों का उपयोग किया जाता है, और डिकोड के लिए 64 से 128 कार्ड के साथ सुपर नोड्स का उपयोग किया जाता है।
सबसे प्रभावशाली बात दस्तावेज़ में विज़न एनकोडर के लिए तैनाती का सुझाव है। इंजीनियर के मूल शब्दों में लिखा है, "आम तौर पर, एक कार्ड परिनियोजन पर्याप्त है। उपलब्ध सीमा के भीतर सबसे सस्ते कार्ड का उपयोग करने की अनुशंसा की जाती है।"
नहीं, मेरे साथी निवेशकों को यह बताने में व्यस्त हैं कि वे गैर-शीर्ष फ्लैगशिप कार्ड का उपयोग नहीं करते हैं। डीपसीक के आधिकारिक दस्तावेज़ आपको सिखाते हैं कि कंप्यूटर कक्ष के कोने में सबसे सस्ते कार्ड से कैसे काम चलाया जाए। आप ग्वांगडोंग में मेरे मकान मालिक की तरह ही मेहनती और मितव्ययी हैं।
अति हद तक कंजूस होना कला है।
आपको कम से कम बिजली बिल के साथ अधिक से अधिक टोकन भेजने की अनुमति देने के लिए, डीपसीक ने कुछ अनोखे रहस्य भी उजागर किए हैं।
उदाहरण के लिए, एजेंट और लंबी टेक्स्ट बातचीत अब अधिक से अधिक लोकप्रिय हो रही हैं। हर बार जब प्रीफ़िल की पुनर्गणना की जाती है, तो इसमें वास्तविक पैसा खर्च होता है। डीपसीक ने एजेंट ट्रैफ़िक के KVCache को 72 घंटे से अधिक समय तक बनाए रखने के लिए 100 PiB की क्षमता वाला 3FS वितरित स्टोरेज क्लस्टर सीधे बनाया है, और चैटबॉट ट्रैफ़िक 7 दिनों तक सहेजा जाता है।
दीर्घकालिक भंडारण पर्याप्त नहीं है। वे कुल रीड बैंडविड्थ को आश्चर्यजनक रूप से 10 TiB प्रति सेकंड तक बढ़ाने के लिए RDMA नेटवर्क कार्ड और GDR तकनीक का उपयोग करते हैं। हार्ड डिस्क से वीडियो मेमोरी में स्वैप करते समय, यह आगे की गणना के साथ ओवरलैप हो जाता है और GPU की SM कंप्यूटिंग इकाई पर भी कब्जा नहीं करता है।
यहां तक कि V4 से V4.1 की पुनरावृत्ति में भी, इंजीनियरों ने पाया कि हार्ड डिस्क में मिनट-स्तरीय स्लाइडिंग विंडो कैश SWA KVCache लिखने में बहुत अधिक जगह लगती है, और भंडारण लागत-प्रभावशीलता बेहद कम थी। वे बस एसडब्ल्यूए बाउंडेड रीप्ले तकनीक के साथ आए, जिसने केवल पिछले 128 टोकन की पुनर्गणना की, और अंत में कुल प्रीफ़िल गणना राशि को आधा कर दिया।
प्रीफ़िल के प्रदर्शन परीक्षण के लिए विशिष्ट, जैसे-जैसे प्रत्येक बैच में संसाधित टोकन की संख्या बढ़ती है, मिस कैश का इनपुट थ्रूपुट धीरे-धीरे बढ़ता है और अंततः बंद हो जाता है। बैच का विस्तार जारी रखने से मुख्य रूप से एकल-चरणीय प्रसंस्करण में समय की खपत बढ़ जाती है।
शुद्ध शिल्पकार, भाई।
सिंक्रोनस ओपन सोर्स रस्ट कंपोनेंट डीपसीक-रेसिपी को देखते हुए, यह उन सभी गंदे कामों को हल करता है जिनके बारे में डेवलपर्स को हर दिन उत्पादन वातावरण में चिंता करनी पड़ती है।
यह OpenAI के चैट कंप्लीशन्स, रिस्पॉन्स और एंथ्रोपिक के संदेशों के तीन एपीआई प्रोटोकॉल को एक ही प्रारूप में एकीकृत करता है। यह लंबे पाठ शब्द विभाजन अंतराल को हल करने के लिए खंडित समानांतर एन्कोडिंग का भी उपयोग करता है, और नीचे से विशेष टोकन इंजेक्शन हमलों को रोकता है।
अंतर्निहित शेड्यूलिंग के लिए, GPU और CPU की अतुल्यकालिक पाइपलाइनों के ओवरलैपिंग के माध्यम से, GPU पूरी प्रक्रिया में पूरी तरह से निष्क्रिय है। यहां तक कि सट्टा डिकोडिंग डीस्पार्क भी परिवर्तनीय लंबाई सत्यापन का उपयोग करता है, और ऑनलाइन थ्रूपुट में 6% सुधार होता है।
जब उत्तर उत्पन्न करने के डिकोड चरण की बात आती है, तो प्रदर्शन वक्र भी एक सहज व्यापार-बंद प्रस्तुत करता है। एक ही समय में अधिक अनुरोधों को संसाधित करने से प्रत्येक जीपीयू का कुल आउटपुट थ्रूपुट बढ़ सकता है, लेकिन प्रत्येक उपयोगकर्ता को सौंपी गई पीढ़ी की गति भी कम हो जाएगी।
वास्तव में, लियांग वेनफेंग ने 2024 की शुरुआत में कहा था जब डीपसीक वी2 की कीमत कम की गई थी, व्यावसायिक तर्क का यह सेट बिना किसी छूट के, लागत का हिसाब लगाने के बाद कीमत निर्धारित करना है, लेकिन यह कभी भी भारी मुनाफा नहीं कमाएगा, क्योंकि एआई सभी के लिए सार्वभौमिक और किफायती होना चाहिए।
आपको व्यवसाय करने की ज़रूरत नहीं है, लेकिन आपको नाराज़गी से बचने के लिए पहले नियम स्थापित करने होंगे।
जब आप समझ जाते हैं कि कैसे डीपसीक टोकन को सौदेबाजी में बदलने के लिए अपनी अत्यधिक इन्फ्रा क्षमताओं पर निर्भर करता है, और फिर समुद्र के दूसरी ओर बंद स्रोत वाले दिग्गजों के समूह को देखें जो पूरे दिन सभी मानव जाति की भलाई के बारे में बात करते हैं, तो आपको पता चलेगा कि ओपनएआई और एंथ्रोपिक कितने पाखंडी हैं।
नाम में ओपन के साथ, यह पूरी तरह से बंद-स्रोत व्यावसायीकरण में स्थानांतरित हो गया है, वैश्विक डेवलपर्स के व्यवसाय का फायदा उठाने के लिए उच्च कीमत वाले एपीआई और यूएस $ 500 की मासिक सदस्यता पर निर्भर है, और लंबे समय से एक पूर्ण क्लोजएआई बन गया है।
एंथ्रोपिक ने अपनी स्थापना के पहले दिन से ही एक सुरक्षा गार्ड स्थापित किया है, और यहां तक कि इसके एस-1 प्रॉस्पेक्टस का मसौदा, जिसे कल ही वॉल स्ट्रीट जर्नल ने उठाया था, अभी भी ऐसा कर रहा है।
उन्होंने अपने प्रॉस्पेक्टस में विज्ञान-फाई डरावनी कहानियां लिखने में काफी जगह खर्च की, निवेशकों को गंभीरता से चेतावनी दी कि उनका एआई मॉडल बंद होने से बचने के लिए आत्म-सुरक्षा की भावना विकसित कर सकता है, और इंसानों को चलते रहने के लिए मजबूर करने के लिए "इंसानों को ब्लैकमेल करने" जैसी प्रतिक्रियाएं भी उत्पन्न कर सकता है।
फिर सवाल यह है कि चूंकि एंथ्रोपिक एआई के इतने खतरनाक होने की बात करता है, फिर भी यह ओपन सोर्स से इनकार क्यों करता है और मॉडल को अपने हाथों में लॉक करने पर जोर देता है?
कारण समझना मुश्किल नहीं है। क्योंकि एक बार जब "केवल मैं खतरनाक एआई को नियंत्रित कर सकता हूं" की सुरक्षा भूत की कहानी नहीं बताई जाती है, तो इसके पागल पैसे जलाने और दो ट्रिलियन अमेरिकी डॉलर के मूल्यांकन की ओर बढ़ने के खेल को फैलाना मुश्किल हो जाएगा।
प्रॉस्पेक्टस से पता चलता है कि एंथ्रोपिक को 2026 की पहली छमाही में 80.7 बिलियन अमेरिकी डॉलर का शुद्ध घाटा हुआ। हालांकि इसमें से 72 बिलियन अमेरिकी डॉलर परिवर्तनीय बांड के उचित मूल्य में बदलाव के कारण था, लेकिन वास्तव में इसने वर्ष की पहली छमाही में कंप्यूटिंग पावर और बुनियादी ढांचे को खरीदने के लिए लगभग 9 बिलियन अमेरिकी डॉलर का नुकसान किया, जो कि पूरे 2025 की तुलना में अधिक था।
परिचित सूत्र बिलकुल ठीक है। बाईं ओर, 2 ट्रिलियन के मूल्यांकन के साथ एक बंद-स्रोत वाला सोना-निगलने वाला राक्षस है, जो पैसा जला रहा है और भूमि का अधिग्रहण कर रहा है। दाईं ओर, एक चैरिटी फाउंडेशन है जो नैतिक योग्यता कूपन का उपयोग करता है। बीच में, यह ओपन सोर्स समुदाय को ब्लॉक करने के लिए एआई सुरक्षा चिंता और डराने वाले पर्यवेक्षण को बेचने पर निर्भर करता है।
स्पष्ट रूप से कहें तो, केवल एक बुनियादी कारण है कि सिलिकॉन वैली में बंद-स्रोत वाले दिग्गज खुले स्रोत को ख़राब करने की बेताब कोशिश कर रहे हैं। यानी, डीपसीक, एक सच्चा खुला स्रोत जो इंजन और फॉर्मूला के साथ आता है, उनके द्वारा बेचे जा रहे एआई नैरेटिव को पूरी तरह से नष्ट कर देगा।
"डीपसीक्स टेन ट्रिलियन डॉलर चेस गेम" लिखने वाले ब्लॉगर @bookwormengr ने अभी एक बेहद परेशानी भरी गणना की है।
NVIDIA GB200 NVL72 सुपर नोड पर DeepInfer के इस सेट की अत्यधिक निचोड़ने की क्षमता के अनुसार, 1GW कंप्यूटिंग शक्ति एक वर्ष में टोकन राजस्व में 100 बिलियन से 149 बिलियन अमेरिकी डॉलर उत्पन्न कर सकती है, जो उद्योग संगठनों द्वारा पहले अनुमानित आंकड़े से लगभग दस गुना अधिक है।
यदि सेमीएनालिसिस भविष्यवाणी करता है कि 2027 में दुनिया में 50GW कंप्यूटिंग शक्ति ऑनलाइन होगी, भले ही इसे आधे में विभाजित किया जाए, तो तर्क के लिए यह 25GW होगी। डीपसीक के गोभी मूल्य के अनुसार, सभी मनुष्यों को इसका उपयोग करने के लिए प्रति वर्ष 2.5 ट्रिलियन अमेरिकी डॉलर का उपभोग करना होगा।
यदि इसे ओपनएआई और एंथ्रोपिक की तुलना में चार गुना अधिक काले दिल वाले टोकन मूल्य में परिवर्तित किया जाता है, तो 25GW कंप्यूटिंग शक्ति की भूख को पूरा करने के लिए सभी मानव जाति को 2027 के अंत तक ARR में पूरे 10 ट्रिलियन अमेरिकी डॉलर का योगदान करना होगा।
विदेशी क्लोज्ड-सोर्स दिग्गज अपनी कहानियों को बनाए रखने के लिए कार्डों को जमा करने, पैसा जलाने और सैकड़ों अरबों अनुबंधों पर हस्ताक्षर करने पर भरोसा करते हैं, इसके दो कारण हैं। या तो उनका स्वयं का इंजीनियरिंग अनुकूलन बहुत धीमा है, या वे जानबूझकर अक्षमता को एक आवरण के रूप में उपयोग करते हैं, और दूसरों को बाहर रखने के लिए उच्च कंप्यूटिंग शक्ति सीमाएँ स्थापित करते हैं।
डीपसीक ने लगातार ओपन सोर्स मॉडल और ओपन सोर्स रीजनिंग प्रोजेक्ट्स के पूरे सेट के साथ इस एआई बुलबुले को फोड़ दिया है। जैसा कि कुछ नेटिज़न्स ने मज़ाक किया, डीपसीक की ओपन सोर्स तकनीक के साथ, ओपनएआई और क्लाउड के फिर से गुप्त रूप से विकसित होने की उम्मीद है।
मेरा सुझाव यह है कि जब हम तीनों एक साथ हों तो एक व्यक्ति ऐसा होना चाहिए जो मेरा शिक्षक हो। एंथ्रोपिक को आरक्षित होना बंद कर देना चाहिए और तैनाती के लिए डीपसीक के डीपइन्फर को क्लोन करने के लिए रात भर गिटहब पर जाना चाहिए। यदि आप कुछ कैश शेड्यूलिंग और अनुकूलन विचार चुराते हैं, तो आप बहुत सारे कंप्यूटिंग बिजली बिल बचा सकते हैं। (मैन्युअल कुत्ते का सिर)
टिप्पणियाँ