सार:
हाल ही में, डेवलपर कैक्टस कंप्यूट ने नीडल 2 नामक एक हल्का एआई मॉडल जारी किया।
मॉडल का आकार केवल 14एमबी है और इसे रास्पबेरी पाई 5 के प्रोसेसर वातावरण के लिए गहराई से अनुकूलित किया गया है। यह एआई त्वरण विस्तार बोर्ड की आवश्यकता के बिना वास्तविक समय में प्राकृतिक भाषा निर्देशों को प्रीसेट फ़ंक्शन कॉल में परिवर्तित कर सकता है।
रास्पबेरी पाई के आधिकारिक ब्लॉग के अनुसार, नीडल 2 एक पारंपरिक सामान्य प्रयोजन चैट रोबोट नहीं है, बल्कि डिवाइस-साइड कमांड निष्पादन पर केंद्रित एक समर्पित मॉडल है। जब उपयोगकर्ता एलईडी लाइट को रोशन करने के लिए इनपुट करता है, तो सिस्टम को पहचान से लेकर निष्पादन तक की पूरी प्रक्रिया को पूरा करने में लगभग तुरंत प्रतिक्रिया प्राप्त करने में केवल 78 मिलीसेकंड लगते हैं।
प्रदर्शन और संसाधन उपयोग के मामले में, नीडल 2 अत्यधिक दक्षता भी प्रदर्शित करता है। रास्पबेरी पाई 5 (8 जीबी मेमोरी संस्करण) के वास्तविक माप में, चलने के दौरान इस मॉडल द्वारा ली गई मेमोरी केवल 28 एमबी है। भले ही पूरा पायथन प्रदर्शन प्रोग्राम चलाया जाए, कुल मेमोरी खपत केवल 46.4MB है।
यह हल्का डिज़ाइन मॉडल को क्लाउड एपीआई और नेटवर्क वातावरण से पूरी तरह से अलग करने में सक्षम बनाता है, और किनारे पर पूरी तरह से स्थानीय बुद्धिमान नियंत्रण प्राप्त करता है।
हार्डवेयर सुविधाओं और इंटरफ़ेस कॉल के संदर्भ में, नीडल 2 पायथन एनोटेशन सिस्टम के माध्यम से अंतर्निहित हार्डवेयर से गहराई से जुड़ा हुआ है। डेवलपर्स को केवल मौजूदा फ़ंक्शन कोड में विशिष्ट टैग जोड़ने की आवश्यकता है, और मॉडल स्वचालित रूप से फ़ंक्शन नाम, विवरण और पैरामीटर प्रकारों को कैप्चर कर सकता है, और कॉलिंग विनिर्देश बना सकता है।
उदाहरण के लिए, प्रोसेसर तापमान को क्वेरी करने के लिए एक निर्देश का प्रतिक्रिया समय 149 मिलीसेकंड है, और सिस्टम सेल्सियस मान को सटीक रूप से लौटाएगा। पूरी प्रक्रिया पूरी तरह से स्थानीय प्रोसेसर के भीतर पूरी हो जाती है।
हालाँकि, यह ध्यान दिया जाना चाहिए कि मॉडल तार्किक निर्णय में बहुत संयमित है। अप्रासंगिक प्रश्नों के लिए जो पूर्व निर्धारित फ़ंक्शन से मेल नहीं खा सकते हैं (जैसे कि "फ्रांस की राजधानी कहां है?"), सुई 2 जबरन उत्तर देने के बजाय 92 मिलीसेकंड के भीतर एक शून्य मान लौटाएगा।
वर्तमान में, नीडल 2 के मॉडल वेट हगिंग फेस प्लेटफॉर्म पर जारी किए गए हैं, और प्रासंगिक कोड अपाचे 2.0 प्रोटोकॉल के बाद GitHub पर भी खुला स्रोत है।
टिप्पणियाँ