सार:
एंथ्रोपिक ने कहा कि उसके नवीनतम एआई मॉडल क्लाउड माइथोस प्रीव्यू ने एएमडी जीपीयू प्लेटफार्मों पर कृत्रिम बुद्धिमत्ता मॉडल को तैनात करने के लिए आवश्यक सॉफ्टवेयर विकास समय को काफी कम कर दिया है। कंपनी के अनुसार, पहले इस काम में आमतौर पर 6 से 12 महीने लगते थे और इसे पूरा करने के लिए दर्जनों इंजीनियरों की आवश्यकता होती थी, लेकिन क्लाउड माइथोस महत्वपूर्ण सॉफ़्टवेयर अनुकूलन कार्य को लगभग बिना किसी मैन्युअल हस्तक्षेप के लगभग तीन दिनों में पूरा कर सकता है। यह विकास उन प्रतिस्पर्धी बाधाओं को कमजोर कर सकता है जो एनवीडिया ने CUDA सॉफ़्टवेयर पारिस्थितिकी तंत्र के आधार पर लंबे समय से स्थापित की हैं।

एंथ्रोपिक के सह-संस्थापक और मुख्य कंप्यूटिंग अधिकारी टॉम ब्राउन ने कंपनी के आईपीओ रोड शो के दौरान निवेशकों को नतीजे पेश किए। उन्होंने कहा कि क्लाउड माइथोस स्वचालित रूप से लगभग 100% जीपीयू कर्नेल कोड को पोर्ट या लिख सकता है, जिससे क्लाउड मॉडल एएमडी इंस्टिंक्ट MI355X एक्सेलेरेटर पर चलने में सक्षम हो जाता है। पहले, समान हार्डवेयर अनुकूलन कार्य के लिए अक्सर दर्जनों इंजीनियरों की एक टीम की आवश्यकता होती थी और इसमें कई महीने लग जाते थे।
हालांकि, एंथ्रोपिक द्वारा बताए गए तीन दिनों में आवेदन का स्पष्ट दायरा है, जिसका मतलब यह नहीं है कि संपूर्ण मॉडल परिनियोजन, उत्पादन पर्यावरण सत्यापन और प्रदर्शन अनुकूलन प्रक्रिया तीन दिनों के भीतर पूरी की जा सकती है। रोड शो सामग्री के फ़ुटनोट से पता चलता है कि यह उपलब्धि विशेष रूप से एक एंथ्रोपिक मॉडल के उद्देश्य से है जो AMD MI355X GPU पर त्वरित वर्ड प्रोसेसिंग (प्रीफ़िल) कार्य को पूरा करता है और एक प्रदर्शन स्तर तक पहुंचता है जो व्यावहारिक उपयोग मूल्य का है। एंथ्रोपिक ने स्पष्ट रूप से यह नहीं बताया कि क्या मॉडल जनरेशन उत्तर चरण (डिकोड) भी शामिल है।
जीपीयू कोर कृत्रिम बुद्धिमत्ता सॉफ्टवेयर और अंतर्निहित हार्डवेयर के बीच एक महत्वपूर्ण संबंध है। यह मॉडल गणना कार्यों को निर्देशों में परिवर्तित करने के लिए जिम्मेदार है जिन्हें एक विशिष्ट प्रोसेसर पर कुशलतापूर्वक निष्पादित किया जा सकता है। विभिन्न निर्माताओं के जीपीयू आर्किटेक्चर, मेमोरी सिस्टम और कंप्यूटिंग इकाइयों में अंतर हैं, इसलिए एक ही एआई मॉडल को अक्सर विभिन्न हार्डवेयर प्लेटफार्मों के लिए अंतर्निहित कोड लिखने या समायोजित करने की आवश्यकता होती है। इस प्रकार का कार्य लंबे समय से NVIDIA के CUDA पारिस्थितिकी तंत्र के लिए लाभ का एक महत्वपूर्ण स्रोत रहा है।
NVIDIA का CUDA प्लेटफ़ॉर्म लगभग 20 वर्षों से विकसित किया गया है और इसमें परिपक्व कंपाइलर, विकास उपकरण, अनुकूलन लाइब्रेरी और एक बड़ा डेवलपर समुदाय है। AMD का अपना ROCm सॉफ़्टवेयर प्लेटफ़ॉर्म है और HIP प्रोग्रामिंग परत के माध्यम से संबंधित कंप्यूटिंग कार्यों का समर्थन करता है। डेवलपर्स को CUDA कोड को AMD प्लेटफ़ॉर्म पर स्थानांतरित करने में मदद करने के लिए, AMD ने पहले HIPify टूल लॉन्च किया है। हालाँकि, कोड रूपांतरण का मतलब यह नहीं है कि सभी प्रोग्राम सीधे आदर्श प्रदर्शन प्राप्त कर सकते हैं। डेवलपर्स को आमतौर पर अभी भी बहुत अधिक डिबगिंग और अनुकूलन करने की आवश्यकता होती है।
एआई प्रोग्रामिंग टूल में प्रगति इस स्थिति को बदल रही है। एएमडी के आर्टिफिशियल इंटेलिजेंस सॉफ्टवेयर के उपाध्यक्ष अनुष एलंगोवन ने इस साल अप्रैल में कहा था कि क्लाउड को कोड रूपांतरण में HIPify पर फायदा है क्योंकि इसमें अंतर्निहित वेब खोज क्षमताएं हैं और प्रसंस्करण के दौरान अधिक तकनीकी जानकारी प्राप्त कर सकते हैं। एएमडी ने पहले जीपीयू कर्नेल को स्वचालित रूप से लिखने के लिए एआई एजेंटों का उपयोग करके अनुसंधान परिणामों का प्रदर्शन किया है, लेकिन शुरुआती सिस्टम अभी भी कुछ परीक्षणों में मानव विशेषज्ञों से कमतर थे।
एंथ्रोपिक अपने मॉडलों को चलाने के लिए केवल एनवीडिया जीपीयू पर निर्भर नहीं है। कंपनी ने एक साथ विभिन्न प्रकार के एक्सेलेरेटर जैसे कि NVIDIA और AMD GPU, Google TPU और Amazon AWS ट्रेनियम का उपयोग किया है, और इन हार्डवेयर संसाधनों को एक लचीले ढंग से निर्धारित कंप्यूटिंग संसाधन पूल में एकीकृत किया है। टॉम ब्राउन ने पहले मल्टी-चिप प्लेटफ़ॉर्म रणनीति अपनाने के कंपनी के शुरुआती निर्णय को एक असामान्य विकल्प बताया था। यह रणनीति अधिक आकर्षक हो सकती है क्योंकि सॉफ़्टवेयर अनुकूलन समय काफी कम हो गया है।
एंथ्रोपिक ने इस साल पहली बार एएमडी जीपीयू का उपयोग शुरू किया और एएमडी के साथ 2 गीगावाट कंप्यूटिंग पावर तक के सहयोग समझौते पर पहुंचा। दोनों पक्षों द्वारा पहले बताई गई जानकारी के अनुसार, एएमडी इंस्टिंक्ट श्रृंखला जीपीयू के कार्यभार को अनुकूलित करने और आरओसीएम सॉफ्टवेयर प्लेटफॉर्म के विकास में तेजी लाने के लिए क्लाउड का भी उपयोग कर रहा है। एएमडी का मानना है कि एआई की कर्नेल कोड की स्वचालित पीढ़ी से ग्राहकों के लिए इसके त्वरक को अपनाने के लिए तकनीकी सीमा और कम होने की उम्मीद है।
वास्तव में, AMD प्रबंधन ने बार-बार GPU सॉफ़्टवेयर पारिस्थितिकी तंत्र पर AI प्रोग्रामिंग टूल के प्रभाव के बारे में बात की है। एएमडी के सीईओ सु ज़िफेंग ने पिछले साल सितंबर में कहा था कि बड़ी मात्रा में एआई सॉफ्टवेयर मूल रूप से सीयूडीए के आसपास विकसित किया गया था, लेकिन कोड का एक बड़ा हिस्सा अब सॉफ्टवेयर टूल के माध्यम से एएमडी प्लेटफार्मों के लिए उपयुक्त रूप में परिवर्तित किया जा सकता है। इस साल जुलाई में, एएमडी के वरिष्ठ उपाध्यक्ष वामसी बोप्पाना ने भी कहा था कि एएमडी जीपीयू को अपनाने पर एआई से शेष सॉफ्टवेयर बाधाओं को खत्म करने की उम्मीद है।
इस साल जुलाई में आयोजित एएमडी एडवांसिंग एआई इवेंट में ओपनएआई के फिलिप टायलेट ने जीपीयू कोर डेवलपमेंट में एआई एजेंटों की भूमिका के बारे में भी बात की थी। उन्होंने कहा कि ओपनएआई ने एएमडी हेलिओस रैक प्राप्त करने के बाद, एक इंजीनियर को यह पुष्टि करने में केवल कुछ दिन लगे कि सिस्टम ठीक से काम कर रहा है, यह देखते हुए कि एआई एजेंट धीरे-धीरे कुछ काम कर रहे हैं जो कर्नेल इंजीनियरों की जिम्मेदारी हुआ करती थी। एएमडी ने यह भी खुलासा किया कि एक इंजीनियर ने क्लाउड से MI355X रैक को शुरू करने और सप्ताहांत में सिस्टम को चालू रखने में मदद करने के लिए कहा।
एंथ्रोपिक द्वारा प्रकट किए गए डेटा ने ध्यान आकर्षित किया है क्योंकि प्रासंगिक परिणाम अब केवल एएमडी से प्रदर्शन या प्रचार नहीं हैं। एक एआई कंपनी के रूप में जो वास्तव में चिप्स खरीदती और उपयोग करती है, एंथ्रोपिक ने निवेशकों को अपनी इंजीनियरिंग प्रथाओं में समय के साथ बदलावों का खुलासा किया है। इसके आईपीओ प्रॉस्पेक्टस दस्तावेज़ में यह भी उल्लेख किया गया है कि क्लाउड की मदद से, कंपनी पहले की तुलना में बहुत कम इंजीनियरिंग निवेश के साथ उत्पादन वातावरण में नए चिप प्लेटफ़ॉर्म पेश करने में सक्षम रही है, हालांकि दस्तावेज़ ने तीन दिन का विशिष्ट आंकड़ा नहीं दिया है।
हालांकि, अनुकूलन गति में सुधार सीधे तौर पर यह साबित नहीं करता है कि एएमडी जीपीयू ने प्रदर्शन में एनवीडिया से मेल खाया है। एंथ्रोपिक ने MI355X पर क्लाउड की वास्तविक चलने की गति की घोषणा नहीं की, न ही एनवीडिया के समान हार्डवेयर के साथ प्रदर्शन तुलना डेटा प्रदान किया। रिपोर्ट में यह भी बताया गया है कि हालांकि कंपनी द्वारा प्रदर्शित चार्ट में दोनों समाधानों की अनुकूलन प्रगति 100% के करीब है, लेकिन इसमें विस्तार से नहीं बताया गया है कि यह अनुपात किस कार्य सामग्री से मेल खाता है।
एनवीडिया के सीईओ जेन्सेन हुआंग ने पहले कहा है कि कंपनी स्वयं भी जीपीयू कोर के विकास में सहायता के लिए एआई का उपयोग करती है, और उनका मानना है कि एनवीडिया से बेहतर कोई भी अपने स्वयं के चिप आर्किटेक्चर को नहीं समझता है, इसलिए एनवीडिया हार्डवेयर प्रदर्शन का पूरी तरह से उपयोग कर सकता है। एंथ्रोपिक जैसी कंपनियों द्वारा अन्य त्वरक को अपनाने के संबंध में, उन्होंने एक बार एंथ्रोपिक को उद्योग की प्रवृत्ति के बजाय एक विशेष मामला कहा था।
उसी समय, GPU कर्नेल के AI स्वचालित लेखन को नई संसाधन बाधाओं का भी सामना करना पड़ता है। इस साल जुलाई में सेमीएनालिसिस द्वारा प्रकाशित एक विश्लेषण का मानना था कि सॉफ्टवेयर विकास लागत कम हो रही है, लेकिन एआई एजेंटों द्वारा उत्पन्न कोड को अभी भी वास्तविक जीपीयू पर परीक्षण और सत्यापित करने की आवश्यकता है। प्रत्येक एजेंट को परीक्षण चलाने के लिए संबंधित जीपीयू संसाधनों की आवश्यकता होती है, और ऐसे विकास के लिए एएमडी के आंतरिक जीपीयू संसाधन अपर्याप्त हैं, जो अनुप्रयोगों के आगे विस्तार के लिए बाधा बन सकते हैं।
कुल मिलाकर, क्लाउड मिथोस के प्रदर्शन का महत्व न केवल यह है कि यह एक विशिष्ट सॉफ्टवेयर विकास प्रक्रिया को छोटा करता है, बल्कि यह भी है कि एआई विभिन्न जीपीयू प्लेटफार्मों के बीच सॉफ्टवेयर माइग्रेशन की लागत को बदल सकता है। CUDA के फायदे तुरंत गायब नहीं होंगे। इसकी परिपक्व उपकरण श्रृंखला, डेवलपर पारिस्थितिकी तंत्र और दीर्घकालिक संचित प्रदर्शन अनुकूलन अनुभव अभी भी मूल्यवान हैं। हालाँकि, यदि AI अधिक से अधिक स्वचालित रूप से कोड प्रत्यारोपण, कर्नेल लेखन और हार्डवेयर अनुकूलन को पूरा कर सकता है, तो ग्राहक GPU चुनते समय विशिष्ट सॉफ़्टवेयर पारिस्थितिकी तंत्र पर कम निर्भर हो सकते हैं। एएमडी जैसे प्रतिस्पर्धियों के पास उन ग्राहकों का दिल जीतने का भी अवसर होगा जो मूल रूप से कम माइग्रेशन लागत के साथ मुख्य रूप से एनवीडिया प्लेटफॉर्म का उपयोग करते थे।
टिप्पणियाँ