सार:
ग्रोक, एक एआई अनुमान चिप कंपनी जिसे एनवीआईडीआईए द्वारा अधिग्रहित किया गया है, वर्तमान में व्यापक रूप से उपयोग किए जाने वाले एसआरएएम समाधान को बदलने के लिए अपने अगली पीढ़ी के एलपीयू (भाषा प्रसंस्करण इकाई) उत्पादों में 3 डी स्टैक्ड डीआरएएम तकनीक पेश करने की योजना बना रही है। इस समायोजन का मतलब है कि कंपनी भविष्य में बड़े पैमाने पर कृत्रिम बुद्धिमत्ता मॉडल की बढ़ती मांग के अनुकूल चिप भंडारण क्षमता बढ़ाने पर अधिक ध्यान केंद्रित करेगी।
इस साल की शुरुआत में, NVIDIA ने ग्रोक एलपीएक्स रैक उत्पाद की घोषणा की और एआई अनुमान प्रदर्शन को बढ़ाने के लिए इसे वेरा रुबिन पारिस्थितिकी तंत्र में शामिल किया। इस साल अगस्त में रैक का पूर्ण बड़े पैमाने पर उत्पादन शुरू हुआ। प्रारंभिक परीक्षण परिणामों के अनुसार, NVL72 सर्वर के साथ मिलकर काम करने पर, सिस्टम एक नया प्रदर्शन रिकॉर्ड स्थापित करते हुए प्रति सेकंड 3,400 टोकन की अनुमान गति प्राप्त कर सकता है।
ग्रोक एलपीयू की वर्तमान पीढ़ी को 500एमबी एसआरएएम के साथ डिजाइन किया गया है और इसकी मेमोरी बैंडविड्थ 150टीबी/एस तक है। एलपीएक्स रैक में, सिस्टम को इनमें से 256 चिप्स के साथ कॉन्फ़िगर किया गया है, जो कुल 128GB SRAM क्षमता और 640TB/s विस्तारित बैंडविड्थ क्षमताएं प्रदान करता है। एक एकल ग्रोक एलपीयू लगभग 1.20 पीएफएलओपी एफपी8 कंप्यूटिंग शक्ति प्रदान कर सकता है।
लेकिन अगली पीढ़ी के उत्पादों के लिए, ग्रोक पूरी तरह से अलग रास्ता अपनाने की तैयारी कर रहा है। कंपनी की योजना केवल SRAM पर अपनी निर्भरता को त्यागने और इसके बजाय DRAM को अपनाने और एक नई वास्तुकला बनाने के लिए इसे 3D स्टैक्ड (3D स्टैक्ड) पैकेजिंग तकनीक के साथ संयोजित करने की है। SRAM की तुलना में, DRAM का सबसे बड़ा लाभ यह है कि यह SRAM की तुलना में बहुत अधिक भंडारण क्षमता प्रदान कर सकता है, लेकिन अपेक्षाकृत कम बैंडविड्थ और एक्सेस स्पीड की कीमत पर।
सेमीकंडक्टर उद्योग के एक सूत्र ने कहा कि ग्रोक की अगली पीढ़ी के चिप्स में 3डी पैकेजिंग तकनीक पेश करने की योजना है, और स्टैकिंग ऑब्जेक्ट मौजूदा एसआरएएम से डीआरएएम में बदल जाएगा। उद्योग में इस कदम की व्यापक रूप से चिप भंडारण क्षमता में उल्लेखनीय वृद्धि करने की ग्रोक की इच्छा के रूप में व्याख्या की गई है। हालाँकि SRAM बेहद तेज़ है, इसकी क्षमता का विस्तार सीमित है; इसकी तुलना में, हालांकि DRAM धीमी है, यह बड़े पैमाने पर भंडारण प्रणालियों के निर्माण के लिए अधिक उपयुक्त है।
3D स्टैकिंग तकनीक का उपयोग करके, ग्रोक एक एकल ऊर्ध्वाधर संरचना चिप में DRAM की कई परतों को स्टैक कर सकता है और अंतर-परत कनेक्शन प्राप्त करने के लिए TSV (सिलिकॉन वाया के माध्यम से) तकनीक का उपयोग कर सकता है। यह डिज़ाइन अवधारणा वर्तमान उच्च-बैंडविड्थ मेमोरी एचबीएम को लागू करने के तरीके के समान है। पारंपरिक DRAM पैकेजिंग की तुलना में, 3D स्टैकिंग समाधान न केवल प्रति इकाई क्षेत्र में भंडारण घनत्व को महत्वपूर्ण रूप से बढ़ा सकता है, बल्कि ऊर्जा दक्षता में भी सुधार कर सकता है और स्थान की आवश्यकताओं को कम कर सकता है।
अब तक सामने आई जानकारी से पता चलता है कि ग्रोक के उत्पाद उन्नयन का ध्यान स्पष्ट रूप से भंडारण क्षमता पर स्थानांतरित हो गया है, जबकि अभी भी इसके एसआरएएम आर्किटेक्चर द्वारा लाए गए कुछ उच्च-बैंडविड्थ लाभों को यथासंभव बनाए रखने की उम्मीद है। जैसे-जैसे जेनेरिक एआई मॉडल का पैमाना बढ़ता जा रहा है, बड़ी क्षमता, हाई-स्पीड मेमोरी की आवश्यकता बढ़ती जा रही है, इसलिए ग्रोक चिप्स की नई पीढ़ी का अधिक व्यापक रूप से उपयोग होने की उम्मीद है।
रिपोर्ट में यह भी उल्लेख किया गया है कि ग्रोक भविष्य में SRAM को पूरी तरह से नहीं छोड़ सकता है, लेकिन विभिन्न एप्लिकेशन परिदृश्यों के अनुसार विभेदित समाधान प्रदान करने के लिए समानांतर में DRAM और SRAM उत्पाद श्रृंखला विकसित करेगा। एनवीआईडीआईए के लिए, जो एआई कारखानों और एआई प्लेटफार्मों का निर्माण कर रहा है, इस प्रकार की उच्च क्षमता वाले अनुमान चिप्स से भी भविष्य में अधिक महत्वपूर्ण भूमिका निभाने की उम्मीद है।
टिप्पणियाँ