माइक्रोसॉफ्ट उस "हार्ड लाइन" को ढीला कर रहा है जो उसने पहले कोपायलट+ पीसी के आसपास खींची थी, जिससे अधिक विंडोज 11 डिवाइसों को देशी एआई वर्कलोड चलाने की अनुमति मिलती है यदि उनके पास सही जीपीयू है।नवीनतम अपडेट से पता चलता है कि NVIDIA GeForce RTX 30 श्रृंखला या कम से कम 6GB वीडियो मेमोरी वाले नए ग्राफिक्स कार्ड वाले सिस्टम विंडोज़ के स्थानीय भाषा मॉडल एपीआई का समर्थन करेंगे। सतह पर, यह डेवलपर्स के लिए बस एक छोटा सा बदलाव है, लेकिन यह संकेत देता है कि माइक्रोसॉफ्ट इस बात पर पुनर्विचार कर रहा है कि क्या अपनी मूल एआई क्षमताओं को कोपायलट+ ब्रांड के तहत कसकर बांधना है या नहीं।
जब Copilot+ PC आधिकारिक तौर पर 18 जून, 2024 को जारी किया गया, तो Microsoft का संदेश बहुत स्पष्ट था: समर्पित AI हार्डवेयर एक आवश्यकता है। इस प्रकार के डिवाइस की कुछ परिभाषित विशेषताएं अंतर्निहित न्यूरल प्रोसेसिंग यूनिट (एनपीयू) हैं, साथ ही 16 जीबी मेमोरी और सॉलिड-स्टेट ड्राइव जैसे बुनियादी कॉन्फ़िगरेशन भी हैं। उनमें से, एनपीयू को जानबूझकर विंडोज़ की मूल एआई क्षमताओं को अनलॉक करने की कुंजी के रूप में आकार दिया गया है।
हालाँकि, एनपीयू अकेले नहीं हैं जो एआई कार्यभार को संभालने में सक्षम हैं। आधुनिक जीपीयू विशेष रूप से बड़े पैमाने पर समानांतर कंप्यूटिंग के लिए बनाए गए हैं और लंबे समय से मशीन लर्निंग मॉडल चलाने के लिए उपयोग किए जाते हैं। व्यवहार में, कई एआई वर्कलोड के लिए, जीपीयू अक्सर वर्तमान एनपीयू की तुलना में उच्च थ्रूपुट क्षमताएं प्रदान कर सकते हैं, अक्सर उच्च बिजली खपत की कीमत पर।
इस समायोजन से पहले, Microsoft अधिकांश अंतर्निहित AI क्षमताओं को NPUs वाले उपकरणों तक सीमित कर रहा था। यह पर्याप्त कंप्यूटिंग शक्ति वाले और पूरी तरह से जीपीयू पर निर्भर रहने वाले कई पीसी को स्थानीय टेक्स्ट और छवि निर्माण के साथ-साथ विंडोज रिकॉल जैसे एआई टूल की एक श्रृंखला का उपयोग करने से रोकता है। आज यह अंतर पाटने की शुरुआत हो रही है। Microsoft ने एक अद्यतन तकनीकी दस्तावेज़ और GitHub पोस्ट में पुष्टि की कि डेवलपर्स अब समर्थित GPU के साथ गैर-कोपायलट+ पीसी पर भाषा मॉडल API चला सकते हैं।
अपने परिचय में, माइक्रोसॉफ्ट ने इस क्षमता को "जीपीयू पर चलने वाली भाषा मॉडल एपीआई (प्रायोगिक)" कहा है, यह देखते हुए कि ये एपीआई अब समर्थित जीपीयू के साथ गैर-कोपायलट + पीसी पर चल सकते हैं, जो मूल भाषा मॉडल क्षमताओं को विंडोज 11 उपकरणों की एक विस्तृत श्रृंखला में लाते हैं। अधिकारी ने यह भी स्पष्ट किया कि वर्तमान में समर्थित हार्डवेयर में NVIDIA GeForce RTX 30 श्रृंखला और 6GB से अधिक वीडियो मेमोरी से लैस नए उत्पाद शामिल हैं।
वर्तमान चरण में, यह क्षमता अभी भी मुख्य रूप से डेवलपर स्तर पर है और सामान्य अंतिम उपयोगकर्ताओं के लिए सीधे खुली नहीं है। इन एपीआई को कॉल करने के लिए, आपको एक एप्लिकेशन विकसित करने या उसका उपयोग करने की आवश्यकता है जो विंडोज एआई फ्रेमवर्क को एकीकृत करता है। हालाँकि, इसने अधिक विंडोज़ उपकरणों के लिए देशी एआई क्षमताओं के बड़े पैमाने पर विस्तार की नींव रखी है।
इस ढांचे के केंद्र में फी सिलिका नामक एक छोटा स्थानीय भाषा मॉडल है। सभी प्रणालियों पर पहले से इंस्टॉल होने के बजाय, फी सिलिका को विंडोज अपडेट के माध्यम से मांग पर वितरित किया जाता है: मॉडल केवल तभी डाउनलोड किया जाता है जब कोई ऐप इसके लिए अनुरोध करता है। एक बार मॉडल स्थापित हो जाने पर, इसे स्थानीय हार्डवेयर पर चलाया जा सकता है। जब एक उपलब्ध जीपीयू का पता लगाया जाता है, तो अनुमान को तेज करने के लिए सबसे पहले जीपीयू का उपयोग किया जाएगा।
वर्तमान में प्रकट किए गए फ़ंक्शन मुख्य रूप से पाठ-संबंधित कार्यों पर केंद्रित हैं। Windows.AI.Text API के माध्यम से, ऐप्स सामग्री सारांशीकरण, पाठ पुनर्लेखन, पाठ को एक संरचित प्रारूप में परिवर्तित करना और संकेत उत्पन्न करने जैसे कार्य कर सकते हैं। उपयोगकर्ता के दृष्टिकोण से, ये क्षमताएं क्लाउड एआई टूल द्वारा प्रदान किए गए अनुभव के समान हैं, सिवाय इसके कि गणना पूरी तरह से स्थानीय रूप से पूरी की जाती है।
स्थानीय स्तर पर दौड़ने से कुछ व्यावहारिक लाभ मिलते हैं। क्लाउड कंप्यूटिंग शक्ति पर निर्भरता कम करके, सिस्टम प्रतिक्रिया गति में सुधार होने की उम्मीद है। साथ ही, डेटा को बाहरी सर्वर पर अपलोड करने की आवश्यकता नहीं होती है, जो डेटा को स्थानीय मशीन के भीतर रहने में मदद करता है। यह मॉडल विलंबता, बैंडविड्थ लागत और गोपनीयता अनुपालन के मामले में डेवलपर्स और एंटरप्राइज़ उपयोगकर्ताओं दोनों के लिए संभावित रूप से आकर्षक है, जो प्रभावित कर सकता है कि वे एआई क्षमताओं को कैसे अपनाते हैं।
यह बताया जाना चाहिए कि इस उद्घाटन का मतलब यह नहीं है कि कोपायलट+ सिस्टम पूरी तरह से "अनलॉक" है। कुछ अधिक दृश्यमान कोपायलट+ सुविधाएँ, जैसे कि विंडोज़ रिकॉल और क्लिक टू डू, वर्तमान में अभी भी एनपीयू-संचालित सिस्टम से जुड़ी हुई हैं। जैसा कि यह खड़ा है, संपूर्ण एआई अनुभव में पूर्ण एकीकरण के बजाय, GPU समर्थन मुख्य रूप से भाषा मॉडल एपीआई परत तक सीमित है।
हालाँकि सीमाएँ बनी हुई हैं, प्रवृत्ति पहले से ही स्पष्ट है: Microsoft अब NPU को Windows देशी AI के लिए एकमात्र प्रवेश बिंदु के रूप में नहीं देखता है। कार्यभार के इस हिस्से को संभालने के लिए GPU को अनुमति देने से संगत हार्डवेयर की सीमा काफी बढ़ जाती है और "मूल AI-केवल" छवि कमजोर हो जाती है जो Copilot+ PC के लॉन्च के समय थी।