सार:
सामुदायिक डेवलपर्स द्वारा संचालित एक नए अध्ययन से पता चलता है कि NVIDIA GeForce RTX 30 सीरीज और RTX 40 सीरीज ग्राफिक्स कार्ड कंप्यूटिंग क्षमता को छिपाते हैं जो आधिकारिक विनिर्देशों से कहीं अधिक है। अंतर्निहित फ़र्मवेयर और हार्डवेयर कॉन्फ़िगरेशन को अनलॉक करके, डेवलपर्स ने मूल रूप से प्रतिबंधित कंप्यूटिंग शक्ति का हिस्सा सफलतापूर्वक जारी कर दिया है, जिससे कुछ मॉडलों को कृत्रिम बुद्धिमत्ता और मैट्रिक्स कंप्यूटिंग परिदृश्यों में लगभग दोगुना प्रदर्शन सुधार प्राप्त करने की अनुमति मिलती है।
रिपोर्टों के अनुसार, RTX 30 श्रृंखला "एम्पीयर" आर्किटेक्चर ग्राफिक्स कार्ड में उपयोग किया जाने वाला कोर मूल रूप से NVIDIA के पेशेवर-ग्रेड जीपीयू के समान सिलिकॉन है, लेकिन उपभोक्ता-ग्रेड उत्पादों की कुछ कंप्यूटिंग क्षमताएं सॉफ्टवेयर और फर्मवेयर नीतियों द्वारा सीमित हैं। एक शोधकर्ता द्वारा विकसित एक अनलॉकिंग समाधान FP/BF16 FMA से FP32 संचालन के लिए निर्देश जारी करने की दर को बढ़ा सकता है, और GA102, GA103, GA104 और GA106 कोर के लिए उपयुक्त है।
वास्तविक परीक्षणों में, RTX 3090 Ti के BF16 मैट्रिक्स गुणन प्रदर्शन में लगभग 80% तक सुधार हुआ था। चूंकि अधिकांश तंत्रिका नेटवर्क मॉडल को चलाने के लिए मैट्रिक्स गुणन एक महत्वपूर्ण बुनियादी ऑपरेशन है, इसलिए स्थानीय एआई तर्क और मशीन सीखने के कार्यों के लिए इस सुधार का स्पष्ट महत्व है।
उसी समय, RTX 40 श्रृंखला "एडा लवलेस" आर्किटेक्चर के लिए एक और अनलॉकिंग प्रोजेक्ट ने भी एक सफलता हासिल की। यह समाधान FP32 संचय सटीकता को बनाए रखते हुए FP16 और BF16 Tensor के कंप्यूटिंग थ्रूपुट का लगभग दोगुना प्राप्त करता है।
उदाहरण के तौर पर RTX 4090 को लेते हुए, FP16 टेंसर थ्रूपुट परीक्षण में, ग्राफिक्स कार्ड मूल रूप से 165.6 TFLOPS तक पहुंच सकता था, लेकिन अनलॉकिंग सक्षम करने के बाद, प्रदर्शन बढ़कर 331.6 TFLOPS हो गया, जो लगभग दोगुना हो गया। यह स्तर RTX 6000 Ada जैसे कुछ पेशेवर-ग्रेड उत्पादों की कंप्यूटिंग शक्ति के करीब है या यहां तक कि पहुंचता है।
शोधकर्ताओं का मानना है कि यह इंगित करता है कि AD102 कोर में उपभोक्ता-ग्रेड उत्पादों में कृत्रिम कंप्यूटिंग सीमाएं हैं, खासकर मैट्रिक्स गुणन और संचय जैसे प्रमुख एआई कंप्यूटिंग क्षेत्रों में। ये सीमाएँ बड़े भाषा मॉडल जैसे AI अनुप्रयोगों की परिचालन दक्षता को सीधे प्रभावित करेंगी। वर्तमान में, अनलॉकिंग प्रोजेक्ट को AD102, AD103 और AD106 कोर मॉडल का समर्थन करने की पुष्टि की गई है।
यह ध्यान देने योग्य है कि आरटीएक्स 30 श्रृंखला और आरटीएक्स 40 श्रृंखला के लिए दो अनलॉकिंग समाधान लगभग एक ही समय में दिखाई दिए, जो क्रमशः जीपीयू आर्किटेक्चर एम्पीयर और एडा लवलेस की दो पीढ़ियों को कवर करते हैं। डेवलपर ने कहा कि ये संशोधन NVIDIA ड्राइवर के पूर्ण सत्यापन तंत्र को पारित कर सकते हैं और PCIe फ़ंक्शन लेवल रीसेट (FLR) प्रतिबंधों को सफलतापूर्वक बायपास कर सकते हैं। इसलिए, आधिकारिक मूल ड्राइवर का अभी भी उपयोग किया जा सकता है और CUDA-संबंधित परीक्षण सॉफ़्टवेयर सामान्य रूप से चलाया जा सकता है।
परीक्षण डेटा से पता चलता है कि GA102 और AD102 दोनों ग्राफ़िक्स कार्ड अनलॉक करने से पहले और बाद में समान बिजली खपत सीमा बनाए रखते हैं। उदाहरण के लिए, 450W कुल बोर्ड बिजली खपत सेटिंग के तहत, प्रदर्शन में सुधार बिजली की खपत या आवृत्ति में अतिरिक्त वृद्धि के बजाय पूरी तरह से जारी कंप्यूटिंग शक्ति से आता है।
उन उपयोगकर्ताओं के लिए जो स्थानीय बड़े भाषा मॉडल, जेनरेटिव एआई और अन्य उच्च-तीव्रता कंप्यूटिंग कार्यों का उपयोग करते हैं, अतिरिक्त जारी टेन्सर कंप्यूटिंग शक्ति शीघ्र शब्द प्रीप्रोसेसिंग और अनुमान चरणों की दक्षता में सुधार कर सकती है, जिससे उच्च टोकन थ्रूपुट और तेज प्रतिक्रिया गति प्राप्त हो सकती है।
हालांकि, डेवलपर यह भी याद दिलाता है कि ऐसे संशोधन अनौपचारिक हैं और ग्राफिक्स कार्ड वारंटी को अमान्य कर सकते हैं। इसके अलावा, संबंधित मॉड्यूल को सिस्टम स्टार्टअप चरण के दौरान पहले लोड करने की आवश्यकता होती है ताकि एनवीआईडीआईए ड्राइवर जीपीयू को संभालने से पहले अनलॉकिंग ऑपरेशन पूरा किया जा सके। इसलिए, इस प्रकार का समाधान उन्नत उपयोगकर्ताओं के लिए अधिक उपयुक्त है जिनके पास कुछ तकनीकी क्षमताएं हैं और जोखिम लेने के इच्छुक हैं।
टिप्पणियाँ