सार:
आज, Tencent हुनयुआन का नवीनतम भाषा मॉडल Hy4 फ़्लैश जारी किया गया। मॉडल की कुल पैरामीटर राशि 224B (64B एंग्राम पैरामीटर सहित) है, सक्रियण पैरामीटर केवल 12B हैं, और यह मल्टी-मॉडैलिटी और 1M संदर्भ लंबाई का समर्थन करता है। Hy4 फ्लैश अब तक का सबसे अधिक लागत प्रभावी Hy मॉडल है: इनपुट 0.5 युआन प्रति मिलियन टोकन है, आउटपुट 2 युआन है, और कैश को हिट करते समय केवल 0.02 युआन की आवश्यकता होती है। कीमत Hy4 से काफी कम है।

रिपोर्टों के अनुसार, बुद्धिमत्ता और व्यावहारिकता के स्तर को ध्यान में रखते हुए अंतिम लागत-प्रभावशीलता प्राप्त करने के लिए, हुनयुआन टीम ने कई काम किए हैं:
प्री-ट्रेनिंग चरण में, Hy4 फ्लैश हाइब्रिड अटेंशन, लैटेंटमोई और एंग्राम जैसी आर्किटेक्चरल विशेषताएं जोड़ता है। KV कैश का आकार Hy3 का केवल 1/24 और Hy4 का 1/6 है, और बड़ी संख्या में स्केलिंग सीढ़ी प्रयोग यह सुनिश्चित करते हैं कि प्रभाव अपेक्षाओं को पूरा करता है।
प्रशिक्षण के बाद के चरण में, स्व-आसवन Hy4 के माध्यम से एक मजबूत व्यापक खुफिया स्तर प्राप्त किया जाता है, और फिर सुदृढीकरण सीखने के माध्यम से एंड-टू-एंड कार्य आउटपुट लंबाई 50% कम हो जाती है।
मूल्यांकन चरण में, सामान्य वर्कबडी कार्यों पर आधारित एक आंतरिक मूल्यांकन सेट वर्कइंडेक्स का निर्माण किया गया था, जिसे मानव समीक्षाओं के साथ जोड़ा गया था, ताकि सार्वजनिक सूची स्कोर के बजाय दैनिक कार्य, एकल-राउंड आउटपुट लंबाई और एंड-टू-एंड समय के उत्पाद प्रभावों पर ध्यान केंद्रित किया जा सके जो दैनिक कार्य से बहुत दूर हैं।
अनुमान चरण में, अत्यधिक अनुकूलन के लिए मेगाकर्नेल, 4 बिट क्वांटाइजेशन, डीफ्लैश और अन्य साधनों के साथ संयुक्त, Hy4 फ्लैश डिकोडिंग गति 150 टीपीएस से अधिक है, और कम लागत पर बड़े पैमाने पर तैनात और संचालित किया जा सकता है।
अंत में, समग्र प्रभाव के संदर्भ में बड़े मापदंडों के साथ Hy4 फ़्लैश, Hy4 पूर्वावलोकन से थोड़ा बेहतर है (कुल पैरामीटर 770बी हैं, सक्रियण पैरामीटर 49बी हैं), लेकिन लागत काफी कम है। आंतरिक मूल्यांकन सेट वर्कइंडेक्स (पीपीटी उत्पादन और संशोधन, दस्तावेज़ संपादन, टेबल मरम्मत, ऑडियो और वीडियो प्रसंस्करण और दृश्य समझ जैसे विशिष्ट वर्कबडी कार्यों को कवर करते हुए) के आधार पर व्यापक गणना के अनुसार, Hy4 फ़्लैश की एकल कार्य लागत Hy4 पूर्वावलोकन का केवल 1/13, Hy4 का 1/20, और DeepSeek-V4.1-Flash-1027 (अधिकतम स्तर, व्यस्त घंटे की कीमत) का केवल 1/8 है।
यह बताया गया है कि Hy4 फ्लैश को Tencent क्लाउड टोकनहब, वर्कबडी, युआनबाओ, एंटरप्राइज वीचैट, QQ, IMA, Marvis और अन्य उत्पादों पर लॉन्च किया गया है, और जल्द ही इसे OpenRouter से जोड़ा जाएगा। 30 नवंबर से पहले, उपयोगकर्ता सीमित समय के लिए वर्कबडी का मुफ्त में उपयोग कर सकते हैं, और सीमित समय के लिए 50% छूट पर Tencent क्लाउड टोकनहब एपीआई का उपयोग कर सकते हैं।
टिप्पणियाँ