सार:
Apple हार्बर नामक एक नया एप्लिकेशन विकसित कर रहा है जिसका उद्देश्य Apple सिलिकॉन चिप्स से लैस मैक कंप्यूटरों को निजी AI अनुमान सर्वर में बदलना है। पारंपरिक स्थानीय एआई सॉफ़्टवेयर के विपरीत, हार्बर न केवल एक मैक पर बड़े भाषा मॉडल चला सकता है, बल्कि थंडरबोल्ट 5 इंटरफ़ेस के माध्यम से कई मैक को भी कनेक्ट कर सकता है, विभिन्न उपकरणों की एकीकृत मेमोरी को एक बड़े कंप्यूटिंग संसाधन पूल में एकीकृत कर सकता है, जिससे एआई मॉडल चल सकता है जिसे एक कंप्यूटर स्वतंत्र रूप से समायोजित नहीं कर सकता है।
10 नवंबर को MacRumors की रिपोर्ट के अनुसार, इस एप्लिकेशन का परीक्षण वर्तमान में Apple की सहायक कंपनी Claris द्वारा किया जा रहा है, और अभी तक इसे आधिकारिक तौर पर जनता के लिए नहीं खोला गया है। क्लेरिस का सबसे प्रसिद्ध उत्पाद एंटरप्राइज़ उपयोगकर्ताओं के लिए फ़ाइलमेकर डेटाबेस प्लेटफ़ॉर्म है, इसलिए हार्बर को मुख्य रूप से उद्यमों, डेवलपर्स और पेशेवर उपयोगकर्ताओं पर लक्षित किया जा सकता है जिन्हें भविष्य में संवेदनशील डेटा को संभालने की आवश्यकता होती है।
हार्बर की मुख्य स्थिति उपयोगकर्ताओं को क्लाउड सर्वर पर भरोसा किए बिना अपने मैक कंप्यूटर पर ओपन वेट आर्टिफिशियल इंटेलिजेंस मॉडल तैनात करने में सक्षम बनाना है। वर्तमान में घोषित उत्पाद परिचय के अनुसार, सभी एआई तर्क प्रक्रियाओं को स्थानीय हार्डवेयर पर पूरा किया जा सकता है, और उपयोगकर्ताओं द्वारा प्रस्तुत दस्तावेजों, प्रश्नों और अन्य डेटा को बाहरी क्लाउड सेवाओं पर अपलोड करने की आवश्यकता नहीं है।
यह एंटरप्राइज़ उपयोगकर्ताओं के लिए विशेष महत्व का है। कई कंपनियां आंतरिक दस्तावेजों का विश्लेषण करने, कोड लिखने या व्यावसायिक जानकारी संसाधित करने के लिए बड़े भाषा मॉडल का उपयोग करना चाहती हैं, लेकिन ग्राहक डेटा, वित्तीय जानकारी और व्यावसायिक रहस्य तीसरे पक्ष के एआई सेवा प्रदाताओं को भेजने के लिए तैयार नहीं हैं। हार्बर उद्यमों को एआई मॉडल चलाने के लिए सीधे अपने स्वयं के मैक हार्डवेयर का उपयोग करने की अनुमति देकर स्थानीय तैनाती प्रक्रिया को सरल बनाने का प्रयास करता है।
इस एप्लिकेशन की सबसे उल्लेखनीय विशेषता यह है कि यह थंडरबोल्ट 5 इंटरफ़ेस के माध्यम से एकाधिक मैक से बने कंप्यूटिंग क्लस्टर की स्थापना का समर्थन करता है।
Apple ने macOS Tahoe 26.2 में थंडरबोल्ट 5 पर आधारित रिमोट डायरेक्ट मेमोरी एक्सेस (RDMA) सपोर्ट जोड़ा है। इस तकनीक के साथ, एक साथ जुड़े मैक कम संचार ओवरहेड के साथ अन्य उपकरणों द्वारा प्रदान किए गए मेमोरी संसाधनों तक पहुंच सकते हैं, जिससे वितरित एआई अनुमान के लिए स्थितियां बन सकती हैं।
उदाहरण के लिए, 64 जीबी एकीकृत मेमोरी से लैस मैक बड़े पैरामीटर आकार के साथ कुछ भाषा मॉडल को स्वतंत्र रूप से लोड करने में सक्षम नहीं हो सकता है। हालाँकि, यदि पर्याप्त मेमोरी वाले कई मैक जुड़े हुए हैं, तो हार्बर उन मॉडलों को चलाने के लिए इन उपकरणों की मेमोरी और कंप्यूटिंग शक्ति के उपयोग का समन्वय कर सकता है जो अन्यथा एक डिवाइस की क्षमता से अधिक होंगे।
हालाँकि, इस प्रकार की मेमोरी पूलिंग का मतलब यह नहीं है कि एकाधिक मैक की मेमोरी एक स्टोरेज स्पेस बन जाएगी जो हार्डवेयर स्तर पर स्थानीय मशीन की एकीकृत मेमोरी के पूरी तरह से बराबर है। क्रॉस-डिवाइस एक्सेस के लिए अभी भी थंडरबोल्ट इंटरफ़ेस के माध्यम से डेटा संचारित करने की आवश्यकता होती है, जिसकी विलंबता और बैंडविड्थ चिप के अंदर एकीकृत मेमोरी आर्किटेक्चर से भिन्न होती है। इसलिए, वास्तविक प्रदर्शन अभी भी इस बात पर निर्भर करता है कि मॉडल को विभिन्न उपकरणों में कैसे वितरित किया जाता है और सिस्टम कंप्यूटिंग कार्यों का समन्वय कैसे करता है।
बड़े मॉडल चलाने के अलावा, मल्टी-मशीन क्लस्टर समवर्ती प्रसंस्करण क्षमताओं को भी बढ़ा सकते हैं। उन उद्यमों के लिए जिन्हें एक ही समय में कई कर्मचारियों को एआई सेवाएं प्रदान करने की आवश्यकता होती है, एकाधिक मैक पूरी तरह से एकल उच्च-कॉन्फ़िगरेशन वर्कस्टेशन पर भरोसा किए बिना अनुमान अनुरोध साझा कर सकते हैं।
हार्बर स्थानीय एआई परिनियोजन में लंबे समय से चली आ रही जटिल कॉन्फ़िगरेशन समस्या को हल करने का भी प्रयास करता है।
वर्तमान में, हालांकि उपयोगकर्ता एलएम स्टूडियो और ओलामा जैसे उपकरणों के माध्यम से मैक पर ओपन वेट मॉडल चला सकते हैं, यदि वे कई कंप्यूटरों को एक क्लस्टर में कनेक्ट करना चाहते हैं, तो उन्हें आमतौर पर अतिरिक्त सॉफ़्टवेयर स्थापित करने, नेटवर्क कॉन्फ़िगर करने, मॉडल शार्डिंग प्रबंधित करने और विभिन्न उपकरणों के बीच संचार समस्याओं को हल करने की आवश्यकता होती है।
प्रकट किए गए फ़ंक्शन विवरण के अनुसार, हार्बर स्वचालित रूप से थंडरबोल्ट 5 के माध्यम से जुड़े मैक उपकरणों की पहचान कर सकता है और क्लस्टर स्थापित करने में सहायता कर सकता है। उपयोगकर्ताओं को केवल डिवाइस कनेक्ट करने और एप्लिकेशन शुरू करने की आवश्यकता है, और सिस्टम स्वचालित रूप से आवश्यक कॉन्फ़िगरेशन को पूरा कर देगा। कमांड लाइन का उपयोग करने या पेशेवर सर्वर प्रबंधन अनुभव की कोई आवश्यकता नहीं है।
मॉडल प्रबंधन के संदर्भ में, हार्बर एक ग्राफिकल ऑपरेशन इंटरफ़ेस भी प्रदान करता है, जो उपयोगकर्ताओं को ओपन वेट मॉडल को सीधे ब्राउज़ करने, डाउनलोड करने और लोड करने की अनुमति देता है। एप्लिकेशन मॉडल फ़ाइल प्रबंधन और रन कॉन्फ़िगरेशन को संभालता है, जिससे उपयोगकर्ता वास्तविक कार्य पर ध्यान केंद्रित कर सकते हैं।
यह डिज़ाइन मल्टी-मशीन वितरित तर्क क्षमताओं के साथ एलएम स्टूडियो के उपयोग में आसानी के संयोजन के बराबर है। उन उपयोगकर्ताओं के लिए जो जटिल एआई बुनियादी ढांचे से परिचित नहीं हैं, यदि अंतिम उत्पाद इन कार्यों को प्राप्त कर सकता है, तो बड़े भाषा मॉडल की स्थानीय तैनाती की सीमा काफी कम हो जाएगी।
हालाँकि, एआई मॉडल चलाने के लिए कई मैक को जोड़ने का प्रयास करने वाला हार्बर पहला प्रोजेक्ट नहीं है। एक्सो नामक एक ओपन सोर्स टूल पहले ही सामने आ चुका है, जो एआई अनुमान कार्यों को संयुक्त रूप से करने के लिए कई उपकरणों का उपयोग कर सकता है। इस बार Apple द्वारा विकसित हार्बर का अधिक महत्वपूर्ण अंतर macOS के अंतर्निहित कार्यों के साथ इसका एकीकरण और सामान्य एंटरप्राइज़ उपयोगकर्ताओं के लिए अधिक सरलीकृत ऑपरेटिंग अनुभव का प्रावधान हो सकता है।
वर्तमान में हार्बर अभी भी प्रारंभिक परीक्षण चरण में है। पहले, ऐप थोड़े समय के लिए ऐप स्टोर पर दिखाई दिया था, लेकिन बाद में संबंधित पेज को हटा दिया गया था। Apple ने अभी तक आधिकारिक तौर पर घोषणा नहीं की है कि उत्पाद कब जारी किया जाएगा, या यह अंततः मुफ्त में उपलब्ध होगा या नहीं।
हार्बर के अर्ली एक्सेस एप्लिकेशन पेज के लिए कंपनी के नाम की आवश्यकता होती है, आगे यह सुझाव दिया जाता है कि ऐप्पल उत्पाद को एक सामान्य टूल के बजाय पहले एंटरप्राइज़ बाज़ार के लिए लॉन्च कर सकता है जिसे सभी मैक उपयोगकर्ता तुरंत डाउनलोड कर सकते हैं।
हार्डवेयर परिप्रेक्ष्य से, यह एप्लिकेशन उच्च मेमोरी क्षमता वाले मैक कंप्यूटरों के एप्लिकेशन परिदृश्यों को और भी विस्तारित कर सकता है। ऐप्पल की एकीकृत मेमोरी आर्किटेक्चर सीपीयू और जीपीयू को समान मेमोरी पूल साझा करने की अनुमति देती है, इसलिए बड़े भाषा मॉडल चलाते समय, बड़ी मात्रा में एकीकृत मेमोरी से लैस मैक स्टूडियो और मैक मिनी स्थानीय एआई को तैनात करने के लिए कुछ डेवलपर्स की पसंद बन गए हैं।
यदि हार्बर कई मैक को एक साथ आसानी से चलाने की अनुमति दे सकता है, तो उद्यम हर बार उच्च-कॉन्फ़िगरेशन और अधिक महंगा स्वतंत्र वर्कस्टेशन खरीदे बिना जरूरतों के अनुसार धीरे-धीरे उपकरण जोड़ सकते हैं।
हालाँकि, यह ध्यान दिया जाना चाहिए कि वर्तमान में हार्बर द्वारा प्रकट किया गया मुख्य कार्य एआई अनुमान है, न कि बड़े मॉडलों का संपूर्ण प्रशिक्षण। अनुमान में मुख्य रूप से एक प्रशिक्षित मॉडल को लोड करना और उत्तर तैयार करना शामिल है, जबकि प्रशिक्षण के लिए बहुत सारी अतिरिक्त गणना, ग्रेडिएंट सिंक्रोनाइज़ेशन और पैरामीटर अपडेट संचालन की आवश्यकता होती है। हार्डवेयर और संचार प्रणालियों की आवश्यकताओं में स्पष्ट अंतर हैं।
इस तकनीक का मतलब यह नहीं है कि कोई भी दो Mac सीधे उच्च-प्रदर्शन AI क्लस्टर बना सकते हैं। मौजूदा उत्पाद परिचय के अनुसार, मल्टी-मशीन मेमोरी पूलिंग फ़ंक्शन थंडरबोल्ट 5 पर निर्भर करता है, इसलिए केवल संगत इंटरफेस से लैस मैक ही इस कनेक्शन विधि का उपयोग कर सकते हैं। पुराने उपकरणों के लिए जो थंडरबोल्ट 5 का समर्थन नहीं करते हैं, वर्तमान में कोई सबूत नहीं है कि हार्बर समान क्लस्टरिंग क्षमताएं प्रदान करेगा।
अगर हार्बर अंततः आधिकारिक तौर पर लॉन्च हो जाता है, तो इसका मतलब यह होगा कि ऐप्पल स्थानीय एआई इंफ्रास्ट्रक्चर सॉफ्टवेयर बाजार में अधिक सीधे भाग लेना शुरू कर देगा। अतीत में, Apple मुख्य रूप से Apple सिलिकॉन चिप्स और macOS के माध्यम से तृतीय-पक्ष AI विकास टूल के लिए हार्डवेयर और सिस्टम फ़ाउंडेशन प्रदान करता था; जबकि हार्बर ऐप्पल को मॉडल डाउनलोडिंग और तैनाती से लेकर मल्टी-मशीन ऑपरेशन तक समाधान का एक पूरा सेट प्रदान करने की अनुमति दे सकता है।
यह मॉडल उन उद्यमों के लिए व्यावहारिक अपील है जो अपने आंतरिक नेटवर्क के भीतर एआई चलाना चाहते हैं और संवेदनशील डेटा को स्थानीय उपकरणों पर छोड़ने से बचना चाहते हैं। हालाँकि, Apple या Claris को अभी भी अधिक विवरणों की घोषणा करने की आवश्यकता है कि हार्बर अंततः किन मॉडलों का समर्थन कर सकता है, कितने Mac एक क्लस्टर बना सकते हैं, वास्तविक अनुमान प्रदर्शन क्या है, और क्या यह चार्जिंग मॉडल को अपनाएगा।
टिप्पणियाँ