NVIDIA द्वारा आधिकारिक तौर पर लॉन्च किया गया नई पीढ़ी का GH200 ग्रेसहॉपर सुपर चिप प्लेटफॉर्म दुनिया में पहली बार HBM3e हाई-बैंडविड्थ मेमोरी का उपयोग करता है। यह पहली बार एक मदरबोर्ड पर सीपीयू और जीपीयू को एकीकृत करता है, जो दुनिया की सबसे जटिल जेनरेटिव एआई लोड आवश्यकताओं को पूरा कर सकता है। आज, GH200 GraceHopper से सुसज्जित पहला पीसी एक जर्मन स्टोर में प्रदर्शित हुआ है, जिसका कुल आकार लगभग 19 इंच है।
स्थिति के संदर्भ में, यह स्पष्ट रूप से गेम और पारंपरिक वर्कस्टेशन के लिए उपयुक्त नहीं है। एक अधिक सटीक स्थिति एक एआई वर्कस्टेशन होनी चाहिए जो मुख्य रूप से स्थानीय स्तर पर बड़े भाषा मॉडल चलाता है।
यह होस्ट 480GB LPDDR5X मेमोरी से लैस है। GH200 (या यहां तक कि 144GBHBMe) में 96GB HBM3 मेमोरी की गिनती करने पर, यह 576GB-624GB तक पहुंच जाती है।
कीमत के संदर्भ में, 96GB HBM3 मेमोरी संस्करण की कीमत 47,500 यूरो (लगभग 370,000 युआन) है और अब यह खरीद के लिए उपलब्ध है। 144GB HBMe संस्करण 2024 की दूसरी तिमाही में लॉन्च होने की उम्मीद है और इसकी कीमत 59,500 यूरो (लगभग 460,000 युआन) है।
इस AI वर्कस्टेशन का विशिष्ट कॉन्फ़िगरेशन यह है कि NVIDIAGH200 GraceHopper प्रोसेसर में 72 ARM कोर हैं (एक 144-कोर संस्करण भी है) और एक समर्पित NVIDIAH100 त्वरक से सुसज्जित है। इसलिए, यह दोहरी 2000W बिजली आपूर्ति और बड़ी क्षमता वाले भंडारण से सुसज्जित है, और विभिन्न कनेक्शन विस्तार विकल्पों (NVIDIA ब्लूफील्ड/कनेक्ट-एक्स सहित) का समर्थन करता है।
पीसी का कूलिंग सिस्टम नोक्टुआ पंखे, ऐड-ऑन, वैकल्पिक एनवीडिया ब्लूफील्ड -3 और कनेक्टएक्स -7 नेटवर्क कार्ड, 8 टीबी एसएसडी, 30 टीबी एचडीडी, माउस और कीबोर्ड और यहां तक कि एक आरटीएक्स 4060 का उपयोग करता है।
प्रदर्शन के संदर्भ में, जर्मन कंपनी का दावा है कि यह AI वर्कस्टेशन 67teraFLOPSFP64, 989teraFLOPSTF32, 1979teraFLOPSFP16, 3958teraFLOPSFP8 और 3958TOPSINT8 का कंप्यूटिंग प्रदर्शन प्रदान कर सकता है।
EmeraldRapids और Bergamo जैसे सॉफ़्टवेयर के 23 परीक्षणों में, निष्कर्ष यह है कि GH200GraceCPU का प्रदर्शन Intel Xeon प्लैटिनम 8592+EmeraldRapids प्रोसेसर के बराबर है।