सार:
फ्रेमवर्क ने आधिकारिक तौर पर 30 सितंबर को AMD Ryzen AI Max+ PRO 495 प्रोसेसर से लैस नए फ्रेमवर्क डेस्कटॉप के लिए प्री-ऑर्डर खोले। हालांकि स्थानीय AI कंप्यूटिंग के लिए इस मिनी डेस्कटॉप कंप्यूटर की कीमत बहुत अधिक है, DIY संस्करण की कीमत US$6,799 से शुरू होती है, उत्पादों का पहला बैच ऑनलाइन होने के कुछ घंटों के भीतर ही बिक गया, जिससे पता चलता है कि स्थानीय रूप से बड़े AI मॉडल को चलाने के लिए बड़ी क्षमता वाली एकीकृत मेमोरी की मजबूत मांग है।
फ्रेमवर्क द्वारा लॉन्च किया गया फ्लैगशिप कॉन्फ़िगरेशन AMD Ryzen AI Max+ PRO 495 का उपयोग करता है, जो एक नई पीढ़ी का प्रोसेसर है जिसका कोड-नाम "गोर्गन हेलो" है, और यह 192GB LPDDR5X-8533 एकीकृत मेमोरी से लैस है। पिछले फ्रेमवर्क डेस्कटॉप के 128GB के अधिकतम कॉन्फ़िगरेशन की तुलना में, नया संस्करण एक समय में 64GB मेमोरी जोड़ता है, जिससे यह एक ही मशीन पर बड़े पैमाने के स्थानीय AI मॉडल को सीधे लोड करने की अनुमति देता है, बिना बार-बार SSDs में कुछ मॉडल वजन डालने या कई कंप्यूटरों के माध्यम से क्लस्टर बनाने की आवश्यकता के बिना।
Ryzen AI Max+ PRO 495 5.2GHz की अधिकतम त्वरण आवृत्ति के साथ 16-कोर Zen 5 CPU का उपयोग करता है, जो 64MB लेवल 3 कैश, 55W का डिफ़ॉल्ट TDP, 120W तक का cTDP और एक एकीकृत Radeon 8065S GPU से लैस है। सीपीयू और जीपीयू एकीकृत मेमोरी साझा करते हैं, जो एक महत्वपूर्ण कारण है कि यह उत्पाद स्थानीय एआई अनुमान के लिए विशेष रूप से उपयुक्त है। फ्रेमवर्क ने कहा कि 192 जीबी मेमोरी उपयोगकर्ताओं को बड़े मॉडल चलाने की अनुमति देती है जिन्हें पहले सामान्य उपभोक्ता पीसी पर मेमोरी में पूरी तरह से लोड करना मुश्किल था।
पिछले Ryzen AI Max+ 395 की तुलना में, PRO 495 न केवल मेमोरी क्षमता बढ़ाता है, बल्कि इसमें CPU और GPU क्लॉक फ्रीक्वेंसी भी अधिक है, और एकीकृत मेमोरी दर 8533 MT/s तक बढ़ जाती है। फ्रेमवर्क ने कहा कि ये बदलाव एआई अनुमान गति में और सुधार कर सकते हैं।
इस बार फ्रेमवर्क द्वारा उपलब्ध कराए गए 192GB संस्करण में DIY संस्करण और पूर्व-स्थापित सिस्टम का पूर्ण होस्ट संस्करण शामिल है। DIY संस्करण $6,799 से शुरू होता है और इसमें 192 जीबी एकीकृत मेमोरी शामिल है लेकिन कोई पूर्व-स्थापित स्टोरेज नहीं है। उन उपयोगकर्ताओं के लिए जिनके पास पहले से ही SSD है या वे अपना स्वयं का भंडारण समाधान चुनना चाहते हैं, यह कॉन्फ़िगरेशन कुछ लागत कम कर सकता है।
यदि आप पूर्ण पूर्व-स्थापित संस्करण चुनते हैं, तो कीमत $7,449 तक पहुंच जाती है। यह संस्करण 2TB NVMe PCIe 4.0 SSD जोड़ता है और Fedora 44 KDE प्लाज्मा संस्करण ऑपरेटिंग सिस्टम के साथ पहले से इंस्टॉल आता है। दूसरे शब्दों में, केवल 2TB SSD और पूर्व-स्थापित सिस्टम को जोड़ने पर, पूरी मशीन की कीमत DIY संस्करण की तुलना में $650 अधिक है।
तुलना के लिए, Ryzen AI Max+ 395 और 128GB मेमोरी वाले मौजूदा फ्रेमवर्क डेस्कटॉप की कीमत लगभग US$3,449 है। नए 192GB संस्करण में 50% अधिक मेमोरी और एक उन्नत प्रोसेसर है, लेकिन DIY संस्करण मूल 128GB संस्करण से लगभग दोगुना महंगा है।
इतनी ऊंची कीमत का सीधा संबंध मेमोरी बाजार में हाल ही में जारी तनाव से है। फ्रेमवर्क ने पहले भी कई बार कहा है कि उच्च क्षमता वाली LPDDR5X मेमोरी की लागत काफी बढ़ रही है, विशेष रूप से 128Gbit उच्च-घनत्व मेमोरी कणों की तंग आपूर्ति, जिसका बड़ी क्षमता वाले एकीकृत मेमोरी उपकरणों की लागत पर बहुत स्पष्ट प्रभाव पड़ता है। इस 192GB संस्करण की कीमत फ्रेमवर्क डेस्कटॉप के पिछले नियमित कॉन्फ़िगरेशन की तुलना में बहुत अधिक है।
वास्तव में, उत्पाद को आधिकारिक तौर पर प्री-ऑर्डर के लिए खोले जाने से पहले फ्रेमवर्क ने कहा था कि सीमित मेमोरी इन्वेंट्री के कारण, यह शुरुआत में केवल 192GB गोर्गन हेलो सिस्टम का एक बैच प्रदान करने में सक्षम होगा। 30 सितंबर को प्री-ऑर्डर शुरू होने के बाद, उत्पादों का पहला बैच तेजी से बिक गया। फ़्रेमवर्क ने बाद में कहा कि कंपनी मेमोरी के एक अतिरिक्त बैच को सुरक्षित करने में कामयाब रही, इसलिए उसने प्री-ऑर्डर का दूसरा सीमित बैच खोला।
उत्पादों का दूसरा बैच नवंबर से भेजे जाने की उम्मीद है। हालाँकि, फ्रेमवर्क उपभोक्ताओं को यह भी याद दिलाता है कि उत्पादों के अगले कुछ बैचों की कीमत और बाजार में आने का समय मेमोरी आपूर्तिकर्ताओं की लागत और आपूर्ति पर निर्भर करेगा। कंपनी ने यहां तक साफ कर दिया कि आने वाले महीनों में फ्रेमवर्क डेस्कटॉप की कीमत में बढ़ोतरी जारी रह सकती है।
स्थानीय AI उपयोगकर्ताओं के लिए, 192GB एकीकृत मेमोरी इस मशीन का सबसे बड़ा आकर्षण है। पारंपरिक पीसी आमतौर पर बड़े एआई मॉडल को चलाने के लिए स्वतंत्र ग्राफिक्स कार्ड मेमोरी पर निर्भर होते हैं, जबकि हाई-एंड जीपीयू की मेमोरी क्षमता आमतौर पर एक कार्ड द्वारा सीमित होती है। यदि मॉडल को पूरी तरह से वीडियो मेमोरी में नहीं रखा जा सकता है, तो डेटा एक्सचेंज के लिए सिस्टम मेमोरी या यहां तक कि एसएसडी का उपयोग किया जाना चाहिए, और प्रदर्शन काफी प्रभावित हो सकता है।
फ्रेमवर्क डेस्कटॉप एक आर्किटेक्चर को अपनाता है जिसमें सीपीयू, जीपीयू और एआई कंप्यूटिंग एक एकीकृत मेमोरी साझा करते हैं, जो सीधे जीपीयू को बड़ी मात्रा में मेमोरी आवंटित कर सकते हैं। 192GB क्षमता का मतलब है कि उपयोगकर्ता लगभग 4.5 लीटर के छोटे कंप्यूटर में बहुत बड़े स्थानीय मॉडल चला सकते हैं। फ्रेमवर्क ने कहा कि अतिरिक्त 64GB मेमोरी न केवल एक बड़े एकल मॉडल को लोड कर सकती है, बल्कि एक ही समय में मेमोरी में दो छोटे मॉडल को भी सहेज सकती है, जिससे एक तेज़ मॉडल मुख्य इंटरैक्शन के लिए जिम्मेदार हो सकता है, और दूसरे अधिक सक्षम लेकिन धीमे मॉडल को जटिल समस्याओं का सामना करने की अनुमति मिलती है।
फ्रेमवर्क इस बात पर भी विशेष रूप से जोर देता है कि यह कॉन्फ़िगरेशन उन उपयोगकर्ताओं के लिए आकर्षक है जो AI को पूरी तरह से स्थानीय रूप से चलाना चाहते हैं। मॉडल क्लाउड पर डेटा अपलोड किए बिना स्थानीय डिवाइस में रह सकता है। गोपनीयता, स्रोत कोड या संवेदनशील व्यावसायिक डेटा से जुड़े परिदृश्यों के लिए, स्थानीय संचालन क्लाउड एआई सेवाओं पर निर्भरता को कम कर सकता है।
हालांकि, 192GB एकीकृत मेमोरी का मतलब यह नहीं है कि सभी 300 बिलियन पैरामीटर-स्तरीय मॉडल उच्च गति पर चल सकते हैं। मॉडल आकार, परिमाणीकरण विधि, संदर्भ लंबाई और वास्तविक मेमोरी फ़ुटप्रिंट सभी अंतिम प्रदर्शन को प्रभावित करते हैं। बड़ी क्षमता वाली मेमोरी "क्या मॉडल स्थापित किया जा सकता है" की समस्या को हल करती है, और मॉडल अनुमान की गति GPU कंप्यूटिंग शक्ति, मेमोरी बैंडविड्थ और सॉफ़्टवेयर अनुकूलन पर भी निर्भर करती है।
फ्रेमवर्क डेस्कटॉप की कुल मात्रा केवल 4.5 लीटर है, इसलिए यह मशीन पारंपरिक अर्थों में एक साधारण मिनी पीसी की तुलना में बहुत छोटे स्थानीय एआई वर्कस्टेशन के करीब है। एआई कंप्यूटिंग के अलावा, यह गेमिंग, डेवलपमेंट और लिनक्स डेस्कटॉप कार्य जैसे कार्य भी कर सकता है, और फ्रेमवर्क अपनी मॉड्यूलर डिजाइन अवधारणा पर जोर देना जारी रखता है।
वर्तमान में, फ्रेमवर्क डेस्कटॉप पहले से ही 32GB, 64GB और 128GB जैसे विभिन्न मेमोरी कॉन्फ़िगरेशन प्रदान करता है, और 192GB संस्करण स्थानीय AI उपयोगकर्ताओं के लिए संपूर्ण उत्पाद लाइन का प्रमुख मॉडल बन गया है। जैसे-जैसे एएमडी अपनी एकीकृत मेमोरी क्षमता और एआई कंप्यूटिंग क्षमताओं में सुधार करना जारी रखता है, यह "सीपीयू + जीपीयू + बड़ी क्षमता साझा मेमोरी" आर्किटेक्चर भी स्थानीय स्तर पर बड़े भाषा मॉडल चलाने के लिए एक महत्वपूर्ण मार्ग बन रहा है।
192जीबी फ्रेमवर्क डेस्कटॉप का पहला बैच 6,799 अमेरिकी डॉलर की शुरुआती कीमत के बावजूद जल्दी ही बिक गया, यह दर्शाता है कि कुछ एआई डेवलपर्स और स्थानीय मॉडल उत्साही लोगों के पास बड़ी क्षमता वाले एकीकृत मेमोरी उपकरणों की बहुत मजबूत मांग है। हालाँकि, उत्पादों का पहला बैच स्वयं मेमोरी आपूर्ति द्वारा सीमित है, इसलिए बेचा गया सीधे पूरे बाजार में मांग के सामान्य पैमाने का प्रतिनिधित्व नहीं करता है। यह निर्धारित करने की वास्तविक कुंजी कि क्या इस उत्पाद को और अधिक लोकप्रिय बनाया जा सकता है, भविष्य की मेमोरी कीमतें, आपूर्ति और बड़े पैमाने के एआई मॉडल के लिए स्थानीय हार्डवेयर की मांग है।
टिप्पणियाँ