NVIDIA ने अपना नया H200Hopper GPU जारी किया है, जिसमें अब माइक्रोन की दुनिया की सबसे तेज़ HBM3e मेमोरी है। नए कृत्रिम बुद्धिमत्ता प्लेटफॉर्म के अलावा, NVIDIA ने अपने ग्रेसहॉपर सुपरचिप के साथ एक बड़ी सुपरकंप्यूटिंग जीत की भी घोषणा की, जो अब एक्साफ्लॉपज्यूपिटर सुपरकंप्यूटर को शक्ति प्रदान करती है।
NVIDIA का H100 GPU उद्योग में अब तक की सबसे अधिक मांग वाली कृत्रिम बुद्धिमत्ता चिप है, लेकिन NVIDIA ग्राहकों को और भी बेहतर प्रदर्शन प्रदान करना चाहता है। HGXH200 नवीनतम कृत्रिम बुद्धिमत्ता उच्च-प्रदर्शन कंप्यूटिंग प्लेटफ़ॉर्म है, जो H200TensorCoreGPU द्वारा संचालित है। ये जीपीयू हार्डवेयर और सॉफ्टवेयर दोनों में नवीनतम हॉपर ऑप्टिमाइज़ेशन तकनीक की सुविधा देते हैं, जबकि आज तक दुनिया का सबसे तेज़ मेमोरी समाधान प्रदान करते हैं।
NVIDIAH200GPU माइक्रोन के HBM3e वीडियो मेमोरी सॉल्यूशन से लैस है, जिसकी क्षमता 141GB तक है और बैंडविड्थ 4.8TB/s है। NVIDIAA100 की तुलना में, बैंडविड्थ 2.4 गुना बढ़ गई है और क्षमता दोगुनी हो गई है। Llama2 (70 बिलियन पैरामीटर LLM) जैसे अनुप्रयोगों में, यह नया मेमोरी समाधान H100 GPU की तुलना में NVIDIA के AI अनुमान प्रदर्शन को लगभग दोगुना कर देता है।
समाधान के संदर्भ में, NVIDIAH200GPU का व्यापक रूप से 4-वे और 8-वे GPU कॉन्फ़िगरेशन वाले HGXH200 सर्वर में उपयोग किया जाएगा। HGX सिस्टम में 8-वे H200 GPU कॉन्फ़िगरेशन FP8 कंप्यूटिंग प्रदर्शन के 32PetaFLOPs और 1.1TB मेमोरी क्षमता प्रदान करता है।
जीपीयू मौजूदा एचजीएक्सएच100 सिस्टम के साथ भी संगत होंगे, जिससे ग्राहकों के लिए अपने प्लेटफॉर्म को अपग्रेड करना आसान हो जाएगा। NVIDIA के साझेदार, जैसे ASUS, ASRockRack, Dell, Eviden, GIGABYTE, Hewlett Packard Enterprise, Inglas (Ingrasys), Lenovo (Lenovo), QCT, Wiwynn (Wiwynn), Supermicro (सुपरमाइक्रो) और Wistron (Wistron), ये निर्माता 2024 की दूसरी तिमाही में H200GPU लॉन्च होने पर अद्यतन समाधान प्रदान करेंगे।
H200 GPU की घोषणा के अलावा, NVIDIA ने अपने ग्रेसहॉपर सुपरचिप (GH200) द्वारा संचालित एक बड़े पैमाने के सुपरकंप्यूटर प्रोजेक्ट की भी घोषणा की। इस सुपरकंप्यूटर को "ज्यूपिटर" कहा जाता है और यह जर्मनी में फ़ोर्सचुंगज़ेंट्रम जूलिच में स्थित है। यह यूरोपीय उच्च-प्रदर्शन कंप्यूटिंग संयुक्त उपक्रम (यूरोएचपीसी संयुक्त उपक्रम) का हिस्सा है और एविडेन और पार्टटेक द्वारा अनुबंधित है। इस सुपर कंप्यूटर का उपयोग सामग्री विज्ञान, जलवायु अनुसंधान, दवा खोज और अन्य क्षेत्रों में किया जाएगा। यह नवंबर में एनवीडिया द्वारा जारी किया गया दूसरा सुपरकंप्यूटर भी है। पिछला वाला इसाम्बर्ड-एआई था, जो कृत्रिम बुद्धिमत्ता प्रदर्शन के 21 एक्साफ्लॉप तक प्रदान कर सकता है।
कॉन्फ़िगरेशन के संदर्भ में, ज्यूपिटर सुपरकंप्यूटर एविडेन के BullSequanaXH3000 पर आधारित है और पूरी तरह से लिक्विड-कूल्ड आर्किटेक्चर को अपनाता है। इसमें कुल 24,000 Nvidia GH200 GraceHopper सुपर चिप्स हैं, जो कंपनी के क्वांटम-2 इनफिनिबैंड के जरिए आपस में जुड़े हुए हैं। यह ध्यान में रखते हुए कि प्रत्येक ग्रेस सीपीयू में 288 नियोवर्स कोर होते हैं, हम अकेले बृहस्पति के सीपीयू में लगभग 7 मिलियन एआरएम कोर (सटीक रूप से 6.912 मिलियन) देख रहे हैं।
प्रदर्शन मेट्रिक्स में AI प्रशिक्षण के लिए 90Exaflops और उच्च-प्रदर्शन कंप्यूटिंग के लिए 1Exaflops शामिल हैं। सुपरकंप्यूटर 2024 में स्थापित होने की उम्मीद है। कुल मिलाकर, ये भविष्य के लिए प्रमुख अपडेट हैं क्योंकि एनवीडिया अपने शक्तिशाली हार्डवेयर और सॉफ्टवेयर प्रौद्योगिकियों के साथ कृत्रिम बुद्धिमत्ता की दुनिया में अग्रणी बना हुआ है।