ओपनएआई का कहना है कि उसका नया एआई 'एस्ट्रा' मानव सहायता के बिना साइबर हमले कर सकता है

सार:

ओपनएआई ने कहा कि उसका आगामी एस्ट्रा मॉडल पहले से अज्ञात सॉफ़्टवेयर कमजोरियों की खोज कर सकता है और उन्हें शोषण कोड में बदल सकता है जो मानव चरण-दर-चरण मार्गदर्शन की आवश्यकता के बिना हमलों को अंजाम दे सकता है - यह दर्शाता है कि मॉडल ने साइबर सुरक्षा क्षमताओं में एक सीमा पार कर ली है जो पहले मुख्य रूप से शीर्ष हैकिंग टीमों का डोमेन था।

कंपनी ने मंगलवार को एक ब्लॉग पोस्ट में कहा कि एस्ट्रा उसके "तत्परता ढांचे" में "महत्वपूर्ण" स्तर की नेटवर्क क्षमताओं के रूप में वर्गीकृत पहला मॉडल है।

इस स्तर तक पहुंचने के लिए, मॉडल को मानवीय हस्तक्षेप के बिना पहले से अज्ञात सॉफ़्टवेयर कमजोरियों (यानी, शून्य-दिन की कमजोरियां) की खोज करने और कठोर वास्तविक प्रणालियों के खिलाफ प्रयोग करने योग्य हमलों को विकसित करने, या केवल उच्च-स्तरीय लक्ष्यों के आधार पर हमलों को डिजाइन और निष्पादित करने में सक्षम होना चाहिए।

परीक्षण में, एस्ट्रा ने एक बेंचमार्क परीक्षण में 100% स्कोर हासिल किया, जिसने ज्ञात कमजोरियों का फायदा उठाया और एक अन्य आंतरिक परीक्षण में हमले की श्रृंखला का निर्माण करते समय दो पूर्व अज्ञात कमजोरियों की खोज की।

यह देखने के लिए डिज़ाइन किए गए परीक्षण में कि क्या कोई मॉडल बेहद कठिन या असंभव हैकिंग कार्यों पर "धोखा" देगा, GPT-5.6 Sol में निषिद्ध शॉर्टकट लेने की अधिक संभावना थी, जबकि एस्ट्रा ने ऐसा नहीं किया, जबकि अभी भी कुछ कार्यों को कानूनी रूप से हल किया जा रहा था।

ओपनएआई ने यह भी कहा कि एस्ट्रा ने कठोर ब्राउज़र सैंडबॉक्स को सफलतापूर्वक तोड़ दिया और होस्ट कंप्यूटर पर कमांड निष्पादित किया; इसके अलावा, इसने रूट विशेषाधिकार प्राप्त करने के लिए ऑपरेटिंग सिस्टम में कई कमजोरियों की खोज की और उन्हें संयोजित किया।

बाद में कंपनी ने सुरक्षा सुरक्षा उपायों को जोड़ते हुए कुछ एस्ट्रा सुविधाओं के विकास में देरी की और शुरुआत में अपनी सबसे उन्नत साइबर सुरक्षा क्षमताओं को केवल चयनित परीक्षकों के लिए खोलने की योजना बनाई।

यह क्षमता क्रिप्टोकरेंसी क्षेत्र के लिए विशेष रूप से प्रासंगिक है, क्योंकि एक सॉफ्टवेयर बग को कुछ ही मिनटों में वास्तविक मुनाफे में बदला जा सकता है। रिपोर्टों के अनुसार, इस साल जून में एक विश्लेषण से पता चला कि तेजी से शक्तिशाली एआई मॉडल कोड खोजने, गलत कॉन्फ़िगरेशन की खोज करने और मशीन-स्पीड संचालन के लिए दिनों या हफ्तों तक हमलों को इकट्ठा करने की प्रक्रिया को संपीड़ित कर सकते हैं।

उस समय, सुरक्षा शोधकर्ताओं ने कहा कि बड़ा परिवर्तन आवश्यक रूप से पूरी तरह से नए प्रकार के हमले नहीं होंगे, बल्कि जिस गति से मौजूदा कमजोरियों का पता लगाया जाएगा और उनका फायदा उठाया जाएगा, वह काफी बढ़ जाएगी।

यह विकास यह भी दर्शाता है कि अत्याधुनिक मॉडल "सवालों का जवाब देने" और "कोड लिखने" से आगे बढ़ रहे हैं। इस साल जुलाई में, क्लाउड फैबल 5 नामक एक एआई सिस्टम ने 87 साल पुरानी गणितीय पहेली को सुलझाने में मदद की।