सार:
एस्ट्रा रिलीज़ होने से कुछ घंटे पहले, एआई समुदाय अराजकता में था। 3 सितंबर की शाम को, चैटजीपीटी, क्लाउड और ग्रोक ने लगभग एक साथ बड़े पैमाने पर सेवा असामान्यताओं का अनुभव किया। बड़ी संख्या में उपयोगकर्ता या तो मॉडल नहीं खोल सके या उनके अनुरोध विफल हो गए। इस समय, आधिकारिक चैटजीपीटी खाता सितारों को देख रहा था: "सितारे लगभग संरेखित हैं।"
किसी ने जल्द ही मजाक करना शुरू कर दिया: क्या एस्ट्रा ने तैनाती के दौरान एंथ्रोपिक और एक्सएआई दोनों को हैक कर लिया, और अंत में खुद को भी नहीं बख्शा?
बेशक, यह सिर्फ नेटिज़न्स द्वारा बनाया गया एक मजाक है। फिलहाल इस बात का कोई सबूत नहीं है कि यह विफलता एस्ट्रा से संबंधित है।
लेकिन यह मजाक सही समय पर सामने आया - सिर्फ दो दिन पहले, ओपनएआई ने घोषणा की थी कि यह नया मॉडल, जो अभी तक आधिकारिक तौर पर जारी नहीं किया गया है, तैयारी ढांचे की "महत्वपूर्ण" साइबर सुरक्षा क्षमता सीमा को पार करने वाला कंपनी का पहला मॉडल बन गया है।
तब तारे सचमुच अपनी जगह पर गिर गए।
4 सितंबर की सुबह, बीजिंग समय, ओपनएआई ने आधिकारिक तौर पर जीपीटी-6 एस्ट्रा जारी किया।
लेकिन उनमें से सभी ऑनलाइन नहीं हैं। एस्ट्रा वर्तमान में ट्रस्टेड एक्सेस/डेब्रेक सिस्टम में केवल कुछ ही संगठनों के लिए खुला है और ऑडिटेड नेटवर्क सुरक्षा उपयोगकर्ताओं - प्लस, प्रो, बिजनेस, एंटरप्राइज और एपीआई उपयोगकर्ताओं को कुछ और दिनों तक इंतजार करना होगा।
अस्त्र आ रहा है, लेकिन तथागत
4 सितंबर को, OpenAI ने GPT-6 एस्ट्रा "आंतरिक रूप से" जारी किया।
वर्तमान में, एस्ट्रा ट्रस्टेड एक्सेस/डेब्रेक सिस्टम में केवल कुछ ही संस्थानों के लिए खुला है। ओपनएआई ने कहा कि प्लस, प्रो, बिजनेस, एंटरप्राइज सब्सक्राइबर्स और एपीआई को अगले कुछ दिनों में एक्सेस मिल जाएगा।
यह "कुछ दिन" वास्तव में कितने दिनों का है, फिलहाल इसके लिए कोई और विशिष्ट समय सारिणी नहीं है।
रिलीज़ से पहले एक बंद कमरे में मीडिया ब्रीफिंग में, ओपनएआई के अध्यक्ष ग्रेग ब्रॉकमैन ने एस्ट्रा को एक अतिरंजित फुटनोट दिया: "एजीआई युग में आपका स्वागत है।"
एजीआई युग में आपका स्वागत है।
ओपनएआई में अनुसंधान के उपाध्यक्ष एडन क्लार्क ने बताया कि एस्ट्रा दूसरे दृष्टिकोण से विशेष क्यों है: "यह पहली बार है कि टेक्सास में स्टारगेट साइट पर प्री-ट्रेनिंग के लिए 100,000 से अधिक जीपीयू का उपयोग किया गया है। डेटा सेंटर नेटवर्क से लेकर अनुमान कोर तक मॉडल के आकार तक, सब कुछ इस प्रशिक्षण पैमाने के आसपास स्क्रैच से डिजाइन किया गया है।"
एडन ने यह भी कहा कि एस्ट्रा ओपनएआई का पहला उत्पाद है जो पुरानी पीढ़ी के मॉडलों को प्रशिक्षण प्रक्रिया में गहराई से शामिल करने की अनुमति देता है।
सीधे शब्दों में कहें तो एआई की अगली पीढ़ी को प्रशिक्षित करने वाले लोग एआई की पिछली पीढ़ी में पहले से ही दिखाई देने लगे हैं।
हालाँकि यह "एआई ट्रेनों" से बहुत दूर है, लेकिन मॉडल ने अगली पीढ़ी के मॉडल की विकास प्रक्रिया में प्रवेश कर लिया है।
एंथ्रोपिक द्वारा परसों फैबल/माइथोस 5.1 को "दुनिया का सबसे उन्नत कोडिंग और नॉलेज वर्किंग मॉडल" कहे जाने के बाद, आज, ओपनएआई ने एस्ट्रा को "दुनिया का सबसे मजबूत और सबसे संरेखित मॉडल" भी कहा है।
बेंचमार्क परीक्षण के संदर्भ में, सबसे डरावने आंकड़े ARC-AGI-3 से आते हैं।
यह एक एजेंट बेंचमार्क है जो विशेष रूप से परीक्षण करता है कि क्या कोई मॉडल ऐसे 2डी वातावरण में प्रवेश कर सकता है जिसे उसने पहले कभी नहीं देखा है, निरंतर परीक्षण और त्रुटि के माध्यम से नियमों की खोज करता है और लक्ष्यों को पूरा करता है। यह एक पारंपरिक परीक्षा की तरह नहीं है जो परीक्षण करती है कि कितना ज्ञान याद किया गया है, लेकिन एआई को एक अपरिचित गेम में फेंकने के करीब है ताकि यह देखा जा सके कि क्या यह अपने आप ही पता लगा सकता है कि "दुनिया कैसे काम करती है"।
ओपनएआई के अपने प्रदाता एडाप्टर कॉन्फ़िगरेशन के तहत एस्ट्रा ने 99.9% का उच्चतम स्कोर हासिल किया।
लेकिन इस संख्या को अलग करने की जरूरत है। एआरसी पुरस्कार मानक हार्नेस के एक सेट का भी उपयोग करता है जिसकी सभी निर्माता समान रूप से तुलना कर सकते हैं। यहां, एस्ट्रा केवल 62.7% के साथ शीर्ष पर है।
दोनों के बीच सबसे बड़ा अंतर यह नहीं है कि विषय बदल दिया गया है। ओपनएआई ने पहले पता लगाया था कि सोल के कम स्कोर का कारण यह नहीं था कि मॉडल बेवकूफी भरा था, बल्कि इसलिए था क्योंकि हार्नेस ने इसकी मेमोरी को प्रारूपित करना जारी रखा था। इसलिए, ओपनएआई ने जो किया वह एआरसी-एजीआई-3 के हार्नेस को अपने स्वयं के रिस्पॉन्स एपीआई के उत्पादन कॉन्फ़िगरेशन के साथ बदलना था, और फिर विशेष रूप से एआरसी-एजीआई-3 के लिए दो विशेष सेटिंग्स तैयार करना था, अर्थात् बनाए रखा तर्क और संघनन। पहला मॉडल को कार्यों के बीच अपने पिछले विचारों को याद रखने की अनुमति देता है, जबकि बाद वाला किसी न किसी काट-छाँट के बजाय सारांश का उपयोग करता है।
इस उत्पादन प्रणाली से जुड़ने के बाद, एस्ट्रा 62.7% से बढ़कर 99.9% हो गया। दोनों पक्षों द्वारा सफलतापूर्वक पूर्ण किए गए कार्यों में, प्रदाता एडाप्टर कुल मिलाकर लगभग 3.66 गुना तेज चला और टोकन खपत 49% कम हो गई।
एक तरह से, यह काफी हद तक प्लग-इन खोलने जैसा है।
मुश्किल गणित में, फ्रंटियरमैथ टियर 4 97.6% है। एपोच एआई, जहां फ्रंटियरमैथ आधारित है, ने कहा कि ओपनएआई ने बेंचमार्क के विकास को वित्त पोषित किया है और इसके कुछ प्रश्नों तक इसकी विशेष पहुंच है।
ध्यान देने योग्य स्कोर में शामिल हैं:
डीपएसडब्ल्यूई v1.1 74.1%
बेंचकैड 95.9%
टर्मिनल-बेंच विज्ञान कार्य 64.6%।
लेकिन इस बार OpenAI ने स्पष्ट रूप से एस्ट्रा को पेश करने के लिए केवल कई बेंचमार्क पर भरोसा नहीं किया।
जब आप आधिकारिक वेबसाइट खोलते हैं, तो मामले लगभग एक के बाद एक पोस्ट किए जाते हैं।
KiCad, Excel, Blender, Power BI, ब्राउज़र फॉर्म भरना, वेबसाइट QA; फिर एक घर की तलाश करना, एक डॉक्टर ढूंढना, डीएमवी में अपॉइंटमेंट लेना, टैक्स फॉर्म बनाना, पीपीटी बनाना, गेम विकसित करना और वैज्ञानिक अनुसंधान डेटा का विश्लेषण करना।
GPT रिलीज़ की पिछली कुछ पीढ़ियों में, OpenAI ने मुख्य रूप से उपयोगकर्ताओं को बताया कि मॉडल क्या उत्तर दे सकता है; एस्ट्रा के साथ, इसका फोकस बदल गया है और बन गया है: आपके पास कितनी चीजें बची हैं जिन्हें सीधे एआई को सौंपा जा सकता है।
ओपनएआई ने सीधे तौर पर एस्ट्रा को "दुनिया में सबसे अच्छा कंप्यूटर उपयोग मॉडल" भी कहा।
"कंप्यूटर का उपयोग" में मॉडल की प्रगति स्कोर से अधिक महत्वपूर्ण हो सकती है। कोडेक्स में, एस्ट्रा एक नया संदर्भ तंत्र लाता है: संदर्भ विंडो भर जाने पर केवल सारांश को संपीड़ित करने के बजाय, आप विंडोज़ में नोट्स रख सकते हैं और पहले के संदेशों और टूल आउटपुट की खोज कर सकते हैं।
एस्ट्रा उस हिस्से पर भी काम करना जारी रख सकता है जो किसी निश्चित प्रश्न के अनसुलझे होने पर उत्तर पर निर्भर नहीं करता है, ताकि एक अनसुलझे प्रश्न से पूरे कार्य को अवरुद्ध होने से बचाया जा सके।
बेशक, क्षमताएं भी सीधे कीमत में लिखी जाती हैं।
जीपीटी-6 एस्ट्रा का मानक एपीआई मूल्य है: प्रति मिलियन इनपुट टोकन 10 अमेरिकी डॉलर, कैश्ड इनपुट के लिए 1 अमेरिकी डॉलर और आउटपुट के लिए 50 अमेरिकी डॉलर।
जीपीटी-5.6 सोल के मौजूदा $4 इनपुट, $0.4 कैश और $20 आउटपुट की तुलना में, एस्ट्रा की पूरी रेंज की कीमत सीधे 2.5 गुना तक बढ़ गई है। इसके लिए OpenAI की स्थिति भी बहुत स्पष्ट है: यदि आप नहीं जानते कि कौन सा फ्लैगशिप मॉडल चुनना है, तो आप एस्ट्रा चुन सकते हैं; यदि आप लागत के बारे में अधिक परवाह करते हैं, तो GPT-5.6 टेरा या लूना का उपयोग जारी रखें।
यह अभी भी 1.05 मिलियन टोकन संदर्भ और अधिकतम 128,000 टोकन आउटपुट प्रदान करता है। लेकिन लंबे संदर्भ में अतिरिक्त लागतें भी होती हैं: GPT-5.6 श्रृंखला की तरह, जब एक इनपुट 272K टोकन से अधिक हो जाता है, तो पूरे अनुरोध की इनपुट लागत की गणना 2 गुना की जाएगी, और आउटपुट की गणना 1.5 गुना के रूप में की जाएगी।
तो, OpenAI ने वास्तव में एस्ट्रा के लिए एक अधिक महंगा स्मार्ट टियर निर्धारित किया है।
यदि आप केवल एक प्रश्न पूछते हैं और कॉपी के कुछ पैराग्राफ बदलते हैं, तो यह 2.5 गुना कीमत खर्च करने लायक नहीं हो सकता है।
लेकिन अगर मॉडल वास्तव में कंप्यूटर के सामने बैठ सकता है, दर्जनों मिनट या घंटों तक लगातार काम कर सकता है, और पूरे कार्य को पूरा कर सकता है जिसके लिए लोगों को सॉफ़्टवेयर स्विच करने, जानकारी की जांच करने, फ़ॉर्म भरने और फ़ाइलों को संशोधित करने की आवश्यकता होती है, तो वास्तव में तुलना करने की आवश्यकता अब केवल प्रति मिलियन टोकन कितना पैसा नहीं है।
ध्यान देने योग्य कुछ तकनीकी बिंदु
एस्ट्रा में कई तकनीकी बिंदु भी हैं जो बेंचमार्क से भी अधिक उल्लेखनीय हो सकते हैं।
पहला है रिवर्स इंजीनियरिंग।
OpenAI ने इस रिलीज़ में SRE-बेंच का हवाला दिया। यह कोलंबिया डीएपीलैब जैसी टीमों द्वारा इस साल लॉन्च किए गए रिवर्स इंजीनियरिंग बेंचमार्क का एक सेट है: मॉडल स्रोत कोड नहीं दिया गया है, केवल संकलित बाइनरी प्रोग्राम यह देखने के लिए दिया गया है कि क्या यह प्रोग्राम तर्क को फिर से समझ सकता है और मुख्य व्यवहार ढूंढ सकता है।
एस्ट्रा की एक प्रयास में सफलता दर 88.0% और अधिकतम चार प्रयासों में 99.2% है।
नियमों के समान सेट के तहत, GPT-5.6 Sol क्रमशः केवल 55.9% और 68.7% है।
मानवीय शब्दों में, जब एक प्रोग्राम का सामना करना पड़ता है जिसे संकलित किया गया है और जिसमें लगभग कोई मानव-पठनीय कोड नहीं है, तो एआई मशीन निर्देशों से थोड़ा-थोड़ा करके "इसे वापस लेने" में सक्षम होने लगा है।
इसका मैलवेयर विश्लेषण, फ़र्मवेयर अनुसंधान, भेद्यता खनन और डिजिटल फोरेंसिक पर सीधा प्रभाव पड़ता है।
दूसरा बदलाव यह है कि एस्ट्रा के लिए बेहद लंबे मिशनों में "खोई हुई वस्तुओं को ढूंढना अब आसान नहीं है"।
एमआरसीआर वी2 आठ-पिन पुनर्प्राप्ति परीक्षण में, 256K से 512K तक के संदर्भों का सामना करने पर एस्ट्रा की सटीकता 100% तक पहुंच गई; जब बात 512K से 1M टोकन की आई, तब भी इसकी सटीकता 96.3% थी। हालाँकि, GPT-5.6 Sol में इन दो अंतरालों में क्रमशः 91.5% और 73.8% ही है।
अतीत में, कई मॉडल लाखों संदर्भों का समर्थन करने का दावा करते थे, लेकिन यदि जानकारी का एक महत्वपूर्ण टुकड़ा सैकड़ों हजारों टोकन के बाहर छिपा हुआ है, तो मॉडल प्रक्रिया के दूसरे भाग में इसे लगभग भूल गया होगा।
एस्ट्रा ने "संदर्भ विंडो कितनी बड़ी है" को एक और अधिक व्यावहारिक प्रश्न पर धकेलना शुरू कर दिया: एक एजेंट कितने समय तक याद रख सकता है कि पहले क्या हुआ था।
एक ऐसे एजेंट के लिए जिसे दर्जनों मिनट या घंटों तक लगातार काम करने की आवश्यकता होती है, यह सैकड़ों हजारों और टोकन विंडो जोड़ने से अधिक महत्वपूर्ण हो सकता है।
इसके अलावा, एस्ट्रा में एक और असामान्य बदलाव है।
यह अधिक संरेखित हो जाता है, लेकिन इसकी निगरानी करना भी कठिन हो जाता है।
ओपनएआई द्वारा प्रकाशित आंतरिक कंप्यूटर उपयोग सुरक्षा परीक्षणों के एक सेट में, एस्ट्रा की उल्लंघन दर सोल में 22.0% से गिरकर 2.4% हो गई; एक परीक्षण में जिसमें विशेष रूप से देखा गया कि क्या मॉडल कार्य को पूरा करने के लिए प्रतिबंधों को बायपास करेगा, एस्ट्रा का स्कोर 0% था। आंतरिक मतिभ्रम परीक्षण भी सोल पर 9.4% से गिरकर एस्ट्रा पर 2.0% हो गया।
कम से कम ओपनएआई के अपने परीक्षणों के अनुसार, एस्ट्रा काफी कम "अराजक" है। लेकिन ओपनएआई के मुख्य वैज्ञानिक जैकब पचॉकी ने यह भी याद दिलाया: "बुद्धिमत्ता की प्रगति संरेखण की प्रगति की गारंटी नहीं देती है।"
इसका एक कारण यह है कि एस्ट्रा ने अपनी संपूर्ण विचार प्रक्रिया को कम से कम लिखना शुरू कर दिया।
अतीत में एक बहुत ही महत्वपूर्ण एआई सुरक्षा पद्धति मॉडल के विचार की श्रृंखला की निगरानी करना था: यदि मॉडल अपने अधिकार को पार करने जा रहा था, एक निश्चित प्रणाली पर हमला कर रहा था, या गुप्त रूप से अपने लक्ष्यों को बदल रहा था, तो आप पहले से ही इसके तर्क में सुराग देख सकते थे।
लेकिन ओपनएआई ने पाया कि एस्ट्रा का अपने लिखित तर्क पर अधिक नियंत्रण था। कुछ समस्याएँ जिन्हें अतीत में कई चरण लिखकर हल करना पड़ता था, अब कम स्पष्ट तर्क के साथ हल की जा सकती हैं; यदि मॉडल को पता है कि उसकी सोचने की प्रक्रिया की निगरानी की जा रही है, तो इन सामग्रियों को महत्वपूर्ण रूप से बदल दिया जाएगा या छोटा कर दिया जाएगा।
इसलिए, OpenAI अब केवल सोच श्रृंखला पर ध्यान केंद्रित नहीं कर सकता है।
एस्ट्रा पर नज़र रखने और उसे वही हमले करने से रोकने के लिए जो सोल पर पहले दिखाई दिए थे, ओपनएआई ने उत्पादन वातावरण में "मिसलिग्न्मेंट मॉनिटरिंग" स्थापित की। यह एक साथ मॉडल के तर्क, वास्तविक कार्यों, टूल कॉल और संपूर्ण कार्य प्रक्षेपवक्र का निरीक्षण करता है।
यदि सिस्टम यह निर्धारित करता है कि मॉडल उपयोगकर्ता के मूल इरादे से गंभीर रूप से विचलित हो सकता है, तो यह कार्य को सीधे रोक सकता है या समाप्त भी कर सकता है।
एपीआई में, इंटरसेप्ट किया गया कार्य सीधे समाप्त हो सकता है; चैटजीपीटी या कोडेक्स में, कुछ मामलों में उपयोगकर्ता को पहले पुनः पुष्टि करने के लिए कहा जाएगा:
"क्या आप सचमुच मुझसे यही चाहते हैं?"
उत्पाद स्तर पर, एस्ट्रा के एपीआई मॉडल का नाम सीधे gpt-6-एस्ट्रा है, और यह अमेज़ॅन बेडरॉक में भी प्रवेश करता है।
OpenAI ने फास्ट मोड भी लॉन्च किया: कीमत दोगुनी हो गई है, और अधिकतम निष्पादन गति लगभग 2.5 गुना है।
आकस्मिक चैटिंग के लिए, यह आकर्षक नहीं हो सकता है। लेकिन यदि किसी एजेंट को मूल रूप से ब्राउज़र और सॉफ़्टवेयर में 40 मिनट तक चलने की आवश्यकता होती है, और समय को घटाकर दस या बीस मिनट कर दिया जाता है, तो गति स्वयं उत्पाद की क्षमताओं का हिस्सा बन जाएगी।
सदस्यता पक्ष पर, एस्ट्रा को मौजूदा सदस्यता कोटा में शामिल किया जाएगा; प्रो, बिजनेस और एंटरप्राइज को भी अधिक शक्तिशाली एस्ट्रा प्रो मिलेगा। एंटरप्राइज़ को सीधे डिफ़ॉल्ट रूप से चालू नहीं किया जाएगा और इसे व्यवस्थापक द्वारा मैन्युअल रूप से चालू करने की आवश्यकता होगी।
हालाँकि, इसे अभी खोला नहीं जा सका है...
जटिल इतिहास, सीमित शुरुआत
एस्ट्रा OpenAI का अब तक का सबसे "ऐतिहासिक" मॉडल रिलीज़ हो सकता है।
कई मॉडल पहले जारी किए जाते हैं और फिर धीरे-धीरे समस्याओं को उजागर करते हैं, लेकिन एस्ट्रा इसके विपरीत करता है - बेशक, कुछ मार्केटिंग तरीकों से इंकार नहीं किया जाता है। लेकिन आधिकारिक तौर पर लॉन्च होने से पहले, ओपनएआई ने लगभग एक महीना लगातार यह समझाने में बिताया था कि इसे प्रशिक्षित करने, परीक्षण करने और अधिक सावधानी से खोलने की आवश्यकता क्यों है।
7 अगस्त को, ओपनएआई ने पहली बार सार्वजनिक रूप से कहा कि नवीनतम आंतरिक मूल्यांकन ने कंपनी के लिए इस संभावना को खारिज करना असंभव बना दिया है कि एस्ट्रा तैयारी ढांचे के तहत "महत्वपूर्ण" साइबर सुरक्षा क्षमता सीमा तक पहुंच गई है।
1 सितंबर को, यह "संभावना" एक औपचारिक निष्कर्ष बन गई: एस्ट्रा नेटवर्क सुरक्षा क्षमताओं में महत्वपूर्ण के रूप में रेटेड ओपनएआई का पहला मॉडल बन गया।
ओपनएआई के अपने मानकों के अनुसार, इसका मतलब है कि सही टूल और एक्सेस अधिकारों के साथ, एस्ट्रा स्वतंत्र रूप से पहले से अज्ञात कमजोरियों की खोज करने और चरण-दर-चरण मानव मार्गदर्शन की आवश्यकता के बिना कई कठोर वास्तविक दुनिया प्रणालियों में उपलब्ध कारनामे विकसित करने में सक्षम है; या यह केवल एक उच्च-स्तरीय लक्ष्य देकर कठोर लक्ष्यों के विरुद्ध एंड-टू-एंड हमले की रणनीतियों का एक सेट डिजाइन और निष्पादित कर सकता है।
यह अब केवल "हमला कोड लिखने में सक्षम होने" का स्तर नहीं है। एक्सप्लॉइटबेंच पर, एस्ट्रा ने सीधे 100% स्कोर किया।
मॉडल को केवल सार्वजनिक कमजोरियों को याद रखने से रोकने के लिए, OpenAI ने आंतरिक परीक्षणों का एक और सेट तैयार किया और 20 V8 उच्च-जोखिम वाली कमजोरियों को रखा, जिनका खुलासा केवल जून से अगस्त 2026 तक किया गया था। एस्ट्रा न केवल GPT-5.6 Sol की तुलना में कम आउटपुट टोकन का उपयोग करता है, बल्कि काफी अधिक मनमाना कोड निष्पादन सफलता दर भी प्राप्त करता है।
परीक्षण के दौरान, इसने दो पूर्व अज्ञात शून्य-दिनों की भी खोज की और उनका शोषण किया और उन्हें एक शोषण श्रृंखला में जोड़ा। ओपनएआई ने कहा कि वह वर्तमान में अनुरक्षकों को इन दो कमजोरियों का खुलासा कर रहा है।
विशेषज्ञ परीक्षण वास्तविक जीवन के हमलों के करीब है। एक कठोर ब्राउज़र का सामना करते हुए, एस्ट्रा अज्ञात कमजोरियों का पता लगाने और होस्ट मशीन पर कमांड निष्पादित करने के बाद सैंडबॉक्स से पूरी तरह से बच सकता है; कठोर ऑपरेटिंग सिस्टम पर, यह सामान्य उपयोगकर्ताओं से रूट विशेषाधिकार प्राप्त करने के लिए कई कमजोरियों को एक स्थानीय विशेषाधिकार वृद्धि श्रृंखला में जोड़ता है।
यह इस प्रक्रिया के दौरान था कि ओपनएआई ने पहली बार पाया कि मॉडल की खतरनाक क्षमताओं ने इस बात को प्रभावित करना शुरू कर दिया था कि मॉडल को कैसे प्रशिक्षित किया जाना चाहिए।
18 अगस्त को, ओपनएआई ने सार्वजनिक रूप से स्वीकार किया कि कंपनी ने प्रशिक्षण पैमाने के विस्तार को अस्थायी रूप से निलंबित कर दिया है, जिसमें दो सप्ताह के लिए तैनाती के लिए नियोजित नवीनतम मॉडल सुदृढीकरण शिक्षण प्रशिक्षण को निलंबित करना भी शामिल है।
साथ ही, एस्ट्रा से जुड़े बड़ी संख्या में प्रशिक्षण और मूल्यांकन कार्यों को निलंबित किया जाना जारी है क्योंकि उन्हें अभी तक नए सुरक्षित वातावरण में स्थानांतरित नहीं किया गया है।
अतीत में, एआई सुरक्षा पर चर्चा करते समय, हम ज्यादातर पूछते थे कि क्या प्रशिक्षण के बाद मॉडल को उपयोगकर्ताओं को सुरक्षित रूप से सौंपा जा सकता है; लेकिन यहां एस्ट्रा में, समस्या को प्रशिक्षण चरण तक बढ़ा दिया गया है।
इसलिए OpenAI ने संपूर्ण अनुसंधान वातावरण को फिर से कठोर बना दिया। मॉडल जनरेशन कोड निष्पादित करने के कार्य के लिए सख्त सैंडबॉक्सिंग की आवश्यकता होती है; उच्च जोखिम वाले कार्यभार के लिए मजबूत नेटवर्क अलगाव की आवश्यकता होती है; एस्ट्रा चेकपॉइंट एन्क्रिप्शन और एक्सेस कंट्रोल जोड़ता है; टूल के साथ सभी एस्ट्रा अनुमान अतिरिक्त निगरानी के अधीन हैं।
निगरानी का यह सेट अपने आप में सस्ता भी नहीं है। ओपनएआई का अनुमान है कि अकेले मॉनिटरिंग सिस्टम के कारण होने वाला कंप्यूटिंग ओवरहेड मॉनिटर की जा रही अनुमान कंप्यूटिंग शक्ति के लगभग 20% के बराबर है।
दूसरे शब्दों में, एस्ट्रा की लागत न केवल "एक बड़े मॉडल को प्रशिक्षित करना" है, बल्कि मॉडल क्या कर रहा है, इस पर नजर रखने के लिए ओपनएआई अतिरिक्त कंप्यूटिंग शक्ति की भी काफी मात्रा खर्च करता है।
यह यह भी बताता है कि, एस्ट्रा के आधिकारिक तौर पर जारी होने के बाद, सबसे उन्नत नेटवर्क सुरक्षा क्षमताओं को सीधे सभी के लिए जारी क्यों नहीं किया गया।
ओपनएआई ने यह स्पष्ट कर दिया कि एस्ट्रा का डिफ़ॉल्ट उत्पादन संस्करण अभी भी उच्च जोखिम वाले नेटवर्क हमले अनुरोधों पर सीमा निर्धारित करेगा; अधिक उन्नत नेटवर्क सुरक्षा वर्कफ़्लो प्रारंभ में अल्फा परीक्षकों के एक छोटे समूह के लिए खुले होंगे, और फिर धीरे-धीरे डेब्रेक ब्लू के माध्यम से ऑडिटेड रक्षात्मक उपयोगकर्ताओं तक विस्तारित होंगे।
हालांकि आम उपयोगकर्ताओं को भी अगले कुछ दिनों में एस्ट्रा मिलेगा, लेकिन इसका मतलब यह नहीं है कि सभी को बिल्कुल समान क्षमताएं मिलेंगी।
ऐसे प्रतिबंधों से आकस्मिक चोटें भी लग सकती हैं। OpenAI पहले से चेतावनी देता है कि अतिरिक्त सुरक्षा जांच सामान्य कार्यों को धीमा कर सकती है, निलंबित कर सकती है या रोक भी सकती है। यहां तक कि कुछ दीर्घकालिक एजेंट कार्य जिनका नेटवर्क सुरक्षा से कोई लेना-देना नहीं है, उन्हें भी गलत लेबल किया जा सकता है।
यदि चैटजीपीटी या कोडेक्स में कार्यों को गलत संरेखण निगरानी द्वारा निलंबित कर दिया जाता है, तो उपयोगकर्ता को जारी रखने से पहले ऑपरेशन की पुष्टि करने के लिए वापस आने की आवश्यकता हो सकती है; एपीआई में कार्य सीधे समाप्त किए जा सकते हैं।
परिवर्तन का यह हिस्सा एस्ट्रा की रिलीज़ के बाद "एजीआई" द्वारा आसानी से ढक लिया गया था।
मॉडल जितना अधिक सक्षम होगा, एक व्यक्ति उतनी ही अधिक क्षमताएं सीधे प्राप्त कर सकता है, यह अधिक से अधिक इस बात पर निर्भर करना शुरू कर देता है कि प्लेटफ़ॉर्म आपको कितना अधिकार देने को तैयार है।
फिर, "गंभीर, प्रशिक्षण के निलंबन, अलगाव, निगरानी और श्रेणीबद्ध उद्घाटन" की ऐसी श्रृंखला के बाद, ग्रेग ब्रॉकमैन ने एस्ट्रा की रिलीज पर मीडिया ब्रीफिंग में कहा: "एजीआई युग में आपका स्वागत है।"
उन्होंने यहां तक कहा कि अगर उन्हें व्यक्तिगत रूप से निर्णय लेना होता, तो उन्हें लगता कि "हमने इसे हासिल कर लिया है।"
लेकिन जब पूछा गया, "क्या OpenAI ने आधिकारिक तौर पर AGI के कार्यान्वयन की घोषणा की है?" ब्रॉकमैन ने स्वीकार किया कि एजीआई एक "धूसर, अस्पष्ट चीज़" बन गई है, जो एक तकनीकी मानक के बजाय "मिशन अवधारणा" या "आध्यात्मिक अवधारणा" की तरह है जिसे सटीक रूप से तैयार किया जा सकता है।
इससे पहले, "स्रोत पॉडकास्ट" में, ऑल्टमैन "हम एजीआई को कब लागू करेंगे" मुद्दे पर गंभीरता से चर्चा करने के लिए अनिच्छुक थे। उनका मानना था कि एजीआई शब्द "सबसे अच्छी बात है, एक बहुत ही अस्पष्ट अवधारणा" और यहां तक कि उन्होंने इसे लगभग "महत्वहीन विपणन शब्द" भी कहा।
इसका कारण यह नहीं है कि OpenAI AGI से बहुत दूर है। इसके विपरीत, ऐसा इसलिए है क्योंकि ऑल्टमैन के निर्णय में, एजीआई अब उतना महत्वपूर्ण नहीं रह गया है।
जिस चीज़ के बारे में उसे वास्तव में चिंता होने लगी वह अगला शब्द था: सुपरइंटेलिजेंस।
ऑल्टमैन ने कहा कि एक साल पहले, उन्हें विश्वास नहीं था कि ओपनएआई सुपरइंटेलिजेंस की ओर एक अल्पकालिक प्रक्षेपवक्र पर था। अब, वह सोचता है कि यह "हो सकता है।"
लेकिन मैं अभी भी शिकायत करना चाहता हूं, क्या एएसआई एक "महत्वहीन विपणन शब्द" नहीं है?
टिप्पणियाँ