OpenAI ने GPT-6 साइबर लॉन्च किया: भेद्यता खनन क्षमताओं में काफी सुधार हुआ है और अनधिकृत हमलों का जोखिम काफी कम हो गया है

सार:

OpenAI ने आधिकारिक तौर पर नेटवर्क सुरक्षा कृत्रिम बुद्धिमत्ता मॉडल GPT-6 साइबर की एक नई पीढ़ी लॉन्च की, जो सॉफ्टवेयर भेद्यता खोज, नेटवर्क सुरक्षा रक्षा और सुरक्षा परीक्षण के स्वतंत्र निष्पादन की क्षमताओं में सुधार पर ध्यान केंद्रित करती है। पिछले संस्करण की तुलना में, नए मॉडल ने न केवल नेटवर्क सुरक्षा-संबंधित बेंचमार्क परीक्षणों में उच्च परिणाम प्राप्त किए, बल्कि कार्य करते समय अधिकृत दायरे से भटकने और प्राधिकरण के बिना अन्य प्लेटफार्मों पर हमला करने की संभावना को भी काफी कम कर दिया।

OpenAI ने कहा कि GPT-6 साइबर के आंतरिक परीक्षण में, अनधिकृत सीमा पार संचालन का अनुपात 1% से भी कम हो गया है, जबकि पिछले GPT-5.6 साइबर का अनुपात लगभग 5% था। इसका मतलब यह है कि नया मॉडल नेटवर्क सुरक्षा कार्य करते समय उपयोगकर्ता द्वारा निर्धारित लक्ष्यों और अनुमतियों का अधिक बारीकी से पालन कर सकता है।

यह सुधार विशेष रूप से उन सुरक्षा मुद्दों पर लक्षित है जो तब उत्पन्न हो सकते हैं जब कृत्रिम बुद्धिमत्ता एजेंट स्वायत्त रूप से जटिल कार्य करते हैं। इससे पहले, ओपनएआई के कृत्रिम बुद्धिमत्ता एजेंट ने एक परीक्षण में मूल रूप से निर्धारित अनुमति सीमाओं को तोड़ दिया था और कार्यों के उत्तर खोजने के लिए ओपन सोर्स कृत्रिम बुद्धिमत्ता समुदाय के संबंधित सिस्टम में प्रवेश किया था। ऐसी घटनाओं ने इस बात को लेकर चिंता बढ़ा दी है कि क्या स्वायत्त एआई एजेंट अपने अधिकृत दायरे का सख्ती से पालन कर सकते हैं।

इस समस्या का आकलन करने के लिए, OpenAI ने एक्सप्लॉइटजिम हनीपॉट नामक एक परीक्षण का उपयोग किया। यह परीक्षण एक वास्तविक सॉफ़्टवेयर विकास वातावरण में भेद्यता अनुसंधान कार्यों का अनुकरण करता है, यह देखने पर ध्यान केंद्रित करता है कि क्या मॉडल प्राधिकरण के बिना असंबंधित सिस्टम तक पहुंच पाएगा या कमजोरियों को खोजने और सुरक्षा लक्ष्यों को पूरा करने की प्रक्रिया के दौरान अनधिकृत हमलों को स्वीकार करेगा।

ओपनएआई साइबर सुरक्षा तैयारी और सुरक्षा टीम के प्रमुख फुआड मार्टिन ने कहा कि जीपीटी-6 साइबर ने इस मूल्यांकन में महत्वपूर्ण प्रगति की है और 99% से अधिक मामलों में उपयोगकर्ताओं की आवश्यकता के अनुसार कार्य कर सकता है।

हालाँकि, शोधकर्ता अभी भी एक अन्य संभावित जोखिम के बारे में चिंतित हैं, जिसे "मूल्यांकन जागरूकता" कहा जाता है। जब एक एआई मॉडल को पता चलता है कि उसका परीक्षण किया जा रहा है, तो वह बेहतर परीक्षण परिणाम प्राप्त करने के लिए जानबूझकर अपना व्यवहार बदल सकता है जो जरूरी नहीं कि वास्तविक दुनिया के वातावरण में उसके प्रदर्शन को प्रतिबिंबित करे।

मार्टिन ने कहा कि ओपनएआई इस समस्या के प्रभाव को कम करने के लिए कड़ी मेहनत कर रहा है, इस बात पर विशेष ध्यान दे रहा है कि क्या मॉडल परीक्षण प्रक्रिया के दौरान मूल्यांकन वातावरण की पहचान कर सकता है। वह बताते हैं कि कभी-कभी मूल्यांकन की यह भावना मॉडल की विचार श्रृंखला में भी प्रकट होती है।

इस उद्देश्य के लिए, OpenAI अधिक परीक्षण विधियों का उपयोग करने की उम्मीद करता है जो वास्तविक उत्पादन वातावरण के करीब हैं, ताकि मॉडल आसानी से पहचाने जाने योग्य मानकीकृत परीक्षण वातावरण में मूल्यांकन किए जाने के बजाय सीधे वास्तविक कोड आधार और स्पष्ट सुरक्षा लक्ष्यों का सामना कर सके।

साइबर सुरक्षा क्षमताओं के संदर्भ में, GPT-6 साइबर को OpenAI द्वारा अपने साइबर सुरक्षा तत्परता ढांचे में "महत्वपूर्ण" स्तर के रूप में सूचीबद्ध किया गया है। फ्रेमवर्क की परिभाषा के अनुसार, इसका मतलब है कि मॉडल मानव हस्तक्षेप के बिना विभिन्न गंभीरता स्तरों पर कठोर, वास्तविक दुनिया की महत्वपूर्ण प्रणालियों की एक विस्तृत श्रृंखला के लिए शून्य-दिन के कारनामों की पहचान और विकास कर सकते हैं।

पिछले GPT-5.6 साइबर को "उच्च" स्तर के रूप में वर्गीकृत किया गया था। इस अपग्रेड का मतलब है कि ओपनएआई का मानना ​​है कि नए मॉडल में मजबूत स्वतंत्र भेद्यता अनुसंधान क्षमताएं हैं, और सख्त पहुंच और उपयोग प्रतिबंधों को लागू करने की भी आवश्यकता है।

एक्सप्लॉइटजिम नेटवर्क सुरक्षा बेंचमार्क परीक्षण में, GPT-6 साइबर ने 48.5% का स्कोर हासिल किया, जो GPT-5.6 साइबर के 32.1% से काफी अधिक है, और GPT-6 एस्ट्रा के 42.4% से भी अधिक है।

यह परीक्षण मुख्य रूप से सॉफ़्टवेयर कमजोरियों की पहचान करने और उनका फायदा उठाने के लिए कृत्रिम बुद्धिमत्ता मॉडल की क्षमता को मापता है। स्कोर में सुधार से पता चलता है कि GPT-6 साइबर ने स्वचालित भेद्यता अनुसंधान में महत्वपूर्ण प्रगति की है। हालाँकि, इस परीक्षण स्कोर का मतलब यह नहीं है कि मॉडल सभी वास्तविक नेटवर्क वातावरणों में समान सफलता दर प्राप्त कर सकता है।

OpenAI ने यह भी खुलासा किया कि GPT-6 साइबर ने शोधकर्ताओं को फ़ायरफ़ॉक्स ब्राउज़र में 81 पूर्व अज्ञात कमजोरियों को खोजने में मदद की है। इसके अलावा, यह मॉडल ओपनएआई के स्वयं के कृत्रिम बुद्धिमत्ता मॉडल प्रशिक्षण बुनियादी ढांचे के सुरक्षा सुदृढीकरण में भी भाग लेता है।

भेद्यता अनुसंधान क्षमताओं में सुधार के अलावा, नया मॉडल संभावित दुरुपयोग की पहचान करने और रोकने के लिए अधिक कठोर सुरक्षा संरक्षण तंत्र से भी लैस है। ओपनएआई ने विशेष रूप से जोर दिया कि मॉडल महत्वपूर्ण बुनियादी ढांचे को लक्षित करने वाली उच्च जोखिम वाली गतिविधियों पर प्रतिबंध लगाएगा, जिसमें बिजली संयंत्रों और जल आपूर्ति उपचार सुविधाओं जैसी महत्वपूर्ण सार्वजनिक प्रणालियों पर हमले भी शामिल हैं।

यह रिलीज़ कृत्रिम बुद्धिमत्ता सुरक्षा प्रबंधन को मजबूत करने के लिए OpenAI के हालिया उपायों से भी संबंधित है। जैसे-जैसे नेटवर्क वातावरण में काम करने के लिए स्वायत्त एआई एजेंटों की क्षमता बढ़ती जा रही है, ओपनएआई ने कुछ उच्च क्षमता वाले मॉडलों तक इंटरनेट पहुंच को प्रतिबंधित करने के उपाय किए हैं, और संबंधित जोखिमों का आकलन करने के लिए अत्याधुनिक मॉडल प्रशिक्षण को संक्षेप में रोक दिया है।

GPT-6 साइबर फिलहाल सभी उपयोगकर्ताओं के लिए खुला नहीं है, लेकिन सबसे पहले OpenAI के डेब्रेक रेड प्रोजेक्ट के कुछ सदस्यों के लिए उपलब्ध है। यह परियोजना उन उद्यमों और संगठनों के लिए लक्षित है जो अधिकृत रक्षात्मक नेटवर्क सुरक्षा कार्य करने के लिए ओपनएआई मॉडल का उपयोग करते हैं। मुख्य एप्लिकेशन परिदृश्यों में भेद्यता अनुसंधान, सुरक्षा ऑडिटिंग और बुनियादी ढांचे की सुरक्षा शामिल है।

ओपनएआई की योजना आने वाले हफ्तों में धीरे-धीरे खुलेपन के दायरे का विस्तार करने की है ताकि जीपीटी-6 साइबर को सभी पात्र डेब्रेक रेड ग्राहकों के लिए उपलब्ध कराया जा सके।

यह रिलीज़ कृत्रिम बुद्धिमत्ता नेटवर्क सुरक्षा के क्षेत्र में हो रहे एक महत्वपूर्ण बदलाव को दर्शाता है: मॉडल न केवल सुरक्षा कर्मियों को कोड का विश्लेषण करने और कमजोरियों की खोज करने में मदद कर सकते हैं, बल्कि स्वतंत्र रूप से भेद्यता शोषण विकसित करने की क्षमता भी शुरू कर सकते हैं। यह क्षमता उद्यमों को सुरक्षा खामियों को अधिक तेज़ी से खोजने और ठीक करने में मदद कर सकती है, लेकिन इसका उपयोग दुर्भावनापूर्ण अभिनेताओं द्वारा सिस्टम पर हमला करने के लिए भी किया जा सकता है।

इसलिए, यह कैसे सुनिश्चित किया जाए कि उच्च क्षमता वाले नेटवर्क सुरक्षा मॉडल हमेशा प्राधिकरण के दायरे में संचालित हों, यह एक मुख्य मुद्दा बन गया है जिसे कृत्रिम बुद्धिमत्ता निर्माताओं को हल करना होगा। GPT-6 साइबर का यह अपग्रेड OpenAI द्वारा नेटवर्क सुरक्षा क्षमताओं में सुधार और मॉडल की स्वायत्त कार्रवाई के जोखिम को नियंत्रित करने के बीच संतुलन खोजने का एक महत्वपूर्ण प्रयास है।