सार:
एआई सर्कल में हाल ही में एक नाटकीय घटना घटी है: डीपसीक द्वारा एक आधिकारिक घोषणा ट्वीट, इससे पहले कि सभी के पास तकनीकी विवरणों का सावधानीपूर्वक अध्ययन करने का समय होता, पहले कवर टेक्स्ट के कारण सर्कल से बाहर हो गया।
कुछ नेटिज़न्स ने पाया कि सार्वजनिक खाता लेख "डीपसीक ओपन सोर्स इंफ़रेंस फ्रेमवर्क: टुवर्ड्स ए ट्रूली इनक्लूसिव फ़्यूचर" के कवर पर गलती से "पुट एंड व्हिटनी" को "एचपी" टाइप कर दिया गया, जो कि प्रसिद्ध कंप्यूटर ब्रांड हेवलेट-पैकार्ड (एचपी) से टकराया।
कई नेटिज़न्स ने मज़ाक किया कि डीपसीक अनजाने में एचपी को मुफ़्त में ट्रैफ़िक विज्ञापनों की एक श्रृंखला भेज रहा था; कुछ लोगों ने यह भी मजाक किया कि एचपी अधिकारी सहयोग पर चर्चा करने के लिए आने के अवसर का लाभ उठाएंगे।
इस दिलचस्प गलती का अधिकारी को तुरंत पता चल गया। कवर छवि को तत्काल संशोधित किया गया है, और पाठ को "वास्तव में समावेशी भविष्य की ओर" बहाल कर दिया गया है। छोटा ऊलोंग सफलतापूर्वक समाप्त हो गया।
मजाक को छोड़ दें तो, इस लेख का वजन ही इस घटना का असली फोकस है। डीपसीक ने हाल ही में आधिकारिक तौर पर एक ट्वीट जारी कर घोषणा की है कि इसका आंतरिक कोर अनुमान ढांचा डीपइन्फर पूरी तरह से खुला स्रोत है।
डेवलपर्स जो डीपसीक की लय से परिचित हैं, वे जानते हैं कि इस टीम ने ओपन सोर्स ट्रैक में अपने प्रयासों को बढ़ाना जारी रखा है, और पहले कई बड़े मॉडल, टाइललैंग संकलन टूल चेन और सहायक अनुमान ऑपरेटर लाइब्रेरी जारी की है।
इस बार, उन्होंने सीधे अंतर्निहित अनुमान इंजन का खुलासा किया जो बाहरी दुनिया में बड़े पैमाने पर ऑनलाइन सेवाओं का समर्थन करता है, और अपनी ईमानदारी दिखाते हुए उत्पादन वातावरण में पॉलिश की गई एक पूर्ण तैनाती योजना प्रस्तुत की।
मूल इरादे को स्पष्ट करने के लिए आधिकारिक उद्धरण "इसे अच्छे के लिए करें और सभी के लिए करें, इसे कौशल के लिए करें और सभी के लिए करें"।
सीधे शब्दों में कहें तो, यदि एक बड़े मॉडल को लागू किया जाना है, तो न केवल मजबूत मॉडल पैरामीटर पर्याप्त हैं, बल्कि अनुमान ढांचा थ्रूपुट, विलंबता और कंप्यूटिंग बिजली बिलों को निर्धारित करने की कुंजी है।कई छोटी और मध्यम आकार की टीमों और उद्यमों ने बड़े ओपन सोर्स मॉडल प्राप्त किए हैं, लेकिन वे तैनाती प्रक्रिया में फंस गए हैं: उच्च समवर्ती अनुरोधों को संभाला नहीं जा सकता है, देरी में काफी उतार-चढ़ाव होता है, कंप्यूटिंग पावर ओवरहेड उच्च रहता है, और निजीकृत तैनाती और सार्वजनिक क्लाउड लॉन्च की लागत ने कई खिलाड़ियों को हतोत्साहित किया है।
डीपइन्फर खुला स्रोत है और इसका उद्देश्य इस समस्या को दूर करना है।
डीपसीक को उम्मीद है कि डेवलपर्स और उद्यमों को ऑनलाइन सेवा संकेतकों को अनुकूलित करने, थ्रूपुट बढ़ाने, प्रतिक्रिया में देरी को कम करने और निजीकृत या सार्वजनिक क्लाउड एआई सेवाओं को सुचारू रूप से बनाने में मदद करने के लिए आंतरिक अभ्यास में संचित बड़े पैमाने पर अनुमान अनुकूलन अनुभव को पूरे समुदाय के साथ साझा किया जाएगा।
अनुकूलन लागू होने के बाद, कंप्यूटिंग पावर ओवरहेड और ऊर्जा खपत एक साथ कम हो जाएगी, और एआई सेवाओं का उपयोग करने की सीमा कम हो जाएगी, जिससे अधिक उद्योगों और अधिक उपयोगकर्ताओं को उच्च लागत प्रदर्शन के साथ बड़े मॉडल सेवाओं का उपयोग करने की अनुमति मिलेगी, और अंततः "समावेशी एआई" का लक्ष्य प्राप्त होगा।
टिप्पणियाँ