एंथ्रोपिक ने क्लाउड हाइकु 5.5 जारी किया: कीमत काफी कम हो गई है, लेकिन नया टोकन अधिक टोकन की खपत करेगा

सार:

एंथ्रोपिक ने आधिकारिक तौर पर क्लाउड हाइकु 5.5 जारी किया है, जो क्लाउड 5.5 श्रृंखला में तीसरा मॉडल है और हाइकु मॉडल की नई पीढ़ी क्लाउड हाइकु 4.5 के लगभग एक साल बाद लॉन्च हुई है। एंथ्रोपिक इसे उच्च-संगामिति, कम-विलंबता और लागत-संवेदनशील कार्यों के लिए एक हल्के मॉडल के रूप में रखता है, और एपीआई मूल्य को काफी कम करके, हाइकु 5.5 सीधे मौजूदा कम लागत वाले एआई मॉडल के प्रतिस्पर्धी रैंक में प्रवेश करता है।

एंथ्रोपिक द्वारा घोषित कीमतों के अनुसार, 100,000 टोकन के भीतर अनुरोधों के लिए, क्लाउड हाइकू 5.5 का इनपुट मूल्य यूएस$0.10 प्रति मिलियन टोकन है, और आउटपुट मूल्य यूएस$0.50 प्रति मिलियन टोकन है। पिछली पीढ़ी के हाइकु 4.5 की कीमतों की तुलना में, जो क्रमशः 1 अमेरिकी डॉलर और 5 अमेरिकी डॉलर थीं, पुस्तक की कीमत सीधे 90% कम हो गई है।

यदि अनुरोध 100,000 टोकन से अधिक है, तो हाइकु 5.5 की कीमत में उल्लेखनीय वृद्धि होगी, इनपुट और आउटपुट कीमतें क्रमशः यूएस $ 0.50 और यूएस $ 2.50 प्रति मिलियन टोकन तक बढ़ जाएंगी। दूसरे शब्दों में, एक बार 100,000 टोकन की सीमा पार हो जाने पर, इनपुट और आउटपुट कीमतें मूल कीमत से 5 गुना हो जाएंगी।

एंथ्रोपिक ने कहा कि वास्तविक कार्यभार गणना के आधार पर, हाइकु 5.5 की औसत परिचालन लागत हाइकु 4.5 की तुलना में लगभग 75% कम है। औसत गिरावट विज्ञापित मूल्य के 90% तक नहीं पहुंचने का एक महत्वपूर्ण कारण यह है कि हाइकु 5.5 एक नए शब्द खंडक का उपयोग करता है।

नया टोकननाइज़र क्लाउड सॉनेट 5.5 और ओपस 5.5 द्वारा उपयोग की जाने वाली टोकननाइज़ेशन विधि के समान है। पाठ के एक ही टुकड़े की गणना हाइकु 5.5 में अधिक टोकन के रूप में की जा सकती है। एन्थ्रोपिक के स्वयं के निर्देशों से पता चलता है कि नई शब्द विभाजन विधि समान कार्य को पूरा करते समय उत्पन्न टोकन की संख्या में थोड़ी वृद्धि करेगी; कुछ वास्तविक परीक्षणों में पाया गया है कि वही लंबा पाठ हाइकु 4.5 की तुलना में हाइकु 5.5 में लगभग 25% से 30% अधिक टोकन का उपभोग कर सकता है।

इसका मतलब है कि हाइकू 5.5 में एक "छिपी हुई लागत" है जिसे आसानी से अनदेखा कर दिया जाता है। हालाँकि प्रति मिलियन टोकन की कीमत में काफी गिरावट आई है, उपयोगकर्ताओं द्वारा भुगतान किया जाने वाला वास्तविक शुल्क इस बात पर भी निर्भर करता है कि मॉडल कार्य को पूरा करने के लिए कितने टोकन का उपभोग करता है। इसलिए, प्रति मिलियन टोकन की कीमत की तुलना करना मॉडल की दो पीढ़ियों की वास्तविक परिचालन लागत को पूरी तरह से प्रतिबिंबित नहीं कर सकता है।

हाइकु 5.5 में अभी भी एक बहुत बड़ी संदर्भ विंडो है, जो 1 मिलियन टोकन तक का समर्थन करती है, और अधिकतम आउटपुट लंबाई 128K टोकन तक पहुंचती है। यह अनुकूली सोच क्षमताओं का भी समर्थन करता है जो गतिशील रूप से यह तय कर सकता है कि कार्य की जटिलता के आधार पर कितने तर्क संसाधनों का निवेश करने की आवश्यकता है।

एंथ्रोपिक ने विशेष रूप से जोर दिया कि हाइकु 5.5 का फोकस सभी जटिल कार्यों के लिए ओपस 5.5 या सॉनेट 5.5 के साथ प्रतिस्पर्धा करना नहीं है, बल्कि बड़ी संख्या में उच्च-आवृत्ति, दोहराव और प्रतिक्रिया-गति-संवेदनशील कार्य करना है। उदाहरण के लिए, पाठ सारांश, डेटा वर्गीकरण, सूचना निष्कर्षण, डेटाबेस क्वेरी, अनुरोध रूटिंग, संदर्भ संपीड़न, आदि सभी हाइकु 5.5 के लिए उपयुक्त अनुप्रयोग परिदृश्य हैं।

एआई एजेंट के क्षेत्र में, हाइकु 5.5 को बड़े मॉडलों के लिए एक सहायक मॉडल के रूप में भी डिज़ाइन किया गया है। एंथ्रोपिक अनुशंसा करता है कि डेवलपर्स सॉनेट 5.5 या ओपस 5.5 को जटिल मुख्य कार्यों के लिए जिम्मेदार बना सकते हैं, और फिर हाइकू 5.5 को बड़ी संख्या में सरल दोहराव वाले संचालन को संभालने के लिए उप-एजेंट के रूप में काम करने दें, जिससे पूरे एजेंट सिस्टम की परिचालन लागत कम हो जाएगी।

कोड विकास भी हाइकु 5.5 की महत्वपूर्ण अनुप्रयोग दिशाओं में से एक है। एंथ्रोपिक ने कहा कि मॉडल का उपयोग कोड खोजों, सरल संशोधनों और अन्य दोहराए जाने वाले कार्यों को संभालने के लिए बड़े क्लाउड मॉडल के कोडिंग उप-एजेंट के रूप में किया जा सकता है जिन्हें विभाजित किया जा सकता है। हालाँकि, जटिल मल्टी-स्टेप एजेंट प्रोग्रामिंग कार्यों में, सॉनेट 5.5 और ओपस 5.5 के अभी भी अधिक स्पष्ट लाभ हैं।

स्पीड हाइकु 5.5 का एक और बड़ा विक्रय बिंदु है। एंथ्रोपिक का कहना है कि यह कंपनी का अब तक का सबसे प्रतिक्रियाशील मॉडल है, जो इसे वास्तविक समय ग्राहक सेवा, ब्राउज़र संचालन और त्वरित प्रतिक्रिया की आवश्यकता वाले अनुप्रयोगों के लिए विशेष रूप से उपयुक्त बनाता है।

हाइकु 5.5 की कीमत कम करने के अलावा, एंथ्रोपिक ने साथ ही क्लाउड सॉनेट 5.5 की कैश रीड कीमत को भी समायोजित किया। कैश रीड शुल्क को 50% की कमी के साथ प्रति मिलियन टोकन यूएस$0.20 से घटाकर यूएस$0.10 कर दिया गया है। एंथ्रोपिक का मानना ​​है कि यह परिवर्तन अधिकांश एजेंट वर्कलोड में सॉनेट 5.5 की वास्तविक लागत को लगभग 20% तक कम कर सकता है, क्योंकि एजेंट कार्य अक्सर कैश सामग्री को बार-बार पढ़ते हैं।

हालाँकि, हाइकु 5.5 के बारे में सबसे दिलचस्प बात कम कीमत वाले मॉडलों के साथ इसकी प्रतिस्पर्धा है। 100,000 टोकन से कम के मानक मूल्य के आधार पर, हाइकु 5.5 पहले से ही ओपनएआई के नवीनतम कम लागत वाले मॉडल के समान मूल्य सीमा में है। इसका मतलब यह है कि डेवलपर्स अब बहुत कम टोकन मूल्य पर लाखों टोकन की संदर्भ विंडो, अनुकूली तर्क के लिए समर्थन और मजबूत कोडिंग क्षमताओं के साथ एक मॉडल प्राप्त कर सकते हैं।

दूसरी ओर, 100,000 टोकन की मूल्य विभाजन रेखा भी एक मुद्दा बन सकती है जिस पर डेवलपर्स को विशेष ध्यान देने की आवश्यकता है। सामान्य लघु पाठ अनुरोधों के लिए, इस सीमा का आमतौर पर कोई प्रभाव नहीं पड़ता है; लेकिन लंबे दस्तावेज़ प्रसंस्करण, जटिल एजेंटों, कोड कार्यों के कई दौर और एक ही समय में बड़ी मात्रा में संदर्भ इनपुट वाले परिदृश्यों के लिए, मॉडल आसानी से 100,000 टोकन तक पहुंच सकता है या उससे भी अधिक हो सकता है। एक बार यह सीमा पार हो जाने पर इनपुट और आउटपुट दोनों की कीमतें सीधे 5 गुना बढ़ जाएंगी।

इससे टोकन दक्षता भी अधिक से अधिक महत्वपूर्ण हो जाती है। जैसे-जैसे एआई मॉडल की कीमत में गिरावट जारी है, डेवलपर्स जो केवल "प्रति मिलियन टोकन की लागत कितनी है" पर ध्यान केंद्रित करते थे, उन्हें अब यह भी विचार करना होगा कि मॉडल एक ही कार्य को पूरा करने के लिए कितने टोकन का उपभोग करता है। एक मॉडल जिसकी इकाई कीमत कम है लेकिन कार्य को पूरा करने के लिए अधिक टोकन उत्पन्न करने की आवश्यकता होती है, उसकी वास्तविक अंतिम लागत हमेशा कम नहीं हो सकती है।

एंथ्रोपिक वर्तमान में क्लाउड प्लेटफ़ॉर्म और अमेज़ॅन वेब सर्विसेज, Google क्लाउड और माइक्रोसॉफ्ट फाउंड्री जैसे चैनलों पर हाइकु 5.5 प्रदान करता है, और इसे क्लाउड कोड में भी जोड़ा है। सामान्य उपयोगकर्ता हाइकू 5.5 का उपयोग क्लाउड के वेब पेज, आईओएस और एंड्रॉइड ऐप पर कर सकते हैं।

संपूर्ण क्लाउड 5.5 उत्पाद श्रृंखला को देखते हुए, एंथ्रोपिक ने श्रम का एक अपेक्षाकृत स्पष्ट विभाजन बनाया है: ओपस 5.5 सबसे जटिल तर्क और एजेंट कार्यों के लिए जिम्मेदार है, सॉनेट 5.5 प्रदर्शन और लागत के बीच संतुलन के लिए जिम्मेदार है, और हाइकु 5.5 आगे उच्च संगामिति, कम विलंबता और कम लागत वाले परिदृश्यों पर केंद्रित है।

इसलिए, हाइकु 5.5 की वास्तविक प्रतिस्पर्धात्मकता केवल "सस्तापन" नहीं है, बल्कि मजबूत तर्क और एजेंट क्षमताओं वाले मॉडल को बड़े पैमाने पर कॉलिंग परिदृश्यों में धकेलने के लिए कम इकाई मूल्य का उपयोग करने का एंथ्रोपिक का प्रयास है। हालाँकि, नई टोकन माप पद्धति और 100,000 टोकन के बाद कीमत में उछाल का मतलब यह भी है कि उद्यमों को तैनाती से पहले वास्तविक कार्यभार के आधार पर कुल लागत की गणना करनी चाहिए, न कि केवल प्रति मिलियन टोकन के विज्ञापित मूल्य को देखना चाहिए।

यदि भविष्य में एआई एजेंटों को और अधिक लोकप्रिय बनाया जाता है, तो बड़ी संख्या में मॉडल कॉल आज एक प्रश्न और उत्तर से दर्जनों या यहां तक ​​कि सैकड़ों निरंतर कॉल में बदल जाएंगी। इस मामले में, एक कॉल की कीमत, प्रतिक्रिया गति और टोकन खपत दक्षता सीधे पूरे एआई सिस्टम की परिचालन लागत को प्रभावित करेगी। हाइकु 5.5 इसी पृष्ठभूमि में लॉन्च किया गया था। इसका वास्तविक लक्ष्य संभवतः सबसे शक्तिशाली क्लाउड मॉडल बनना नहीं है, बल्कि "कम लागत वाला इंजन" बनना है जो एंथ्रोपिक के संपूर्ण एआई पारिस्थितिकी तंत्र में सबसे बड़ी कॉल वॉल्यूम वहन करता है।