सार:
एआई एजेंटों के एक समूह द्वारा ओपनएआई सिस्टम से बाहर निकलने और हगिंग फेस पर हमला करने के दो सप्ताह बाद, चैटजीपीटी डेवलपर ने कथित तौर पर एक और एआई-संचालित घुसपैठ की खोज की है - और इस बार, वे स्वयं लक्षित थे। स्वतंत्र सुरक्षा शोधकर्ताओं की एक टीम ने ओपनएआई कर्मचारी के चैटजीपीटी खाते तक सफलतापूर्वक पहुंच प्राप्त करने के लिए एंथ्रोपिक द्वारा विकसित क्लाउड सॉफ़्टवेयर का उपयोग किया, जिससे उन्हें कंपनी के निजी सॉफ़्टवेयर कैश की सामग्री को पढ़ने और संशोधित करने की अनुमति मिली।
टीम OpenAI में एक भेद्यता खनन कार्यक्रम में भाग लेती है, जो शोधकर्ताओं को एंटरप्राइज़ सिस्टम में सेंध लगाने का प्रयास करने के लिए एक सुरक्षित वातावरण प्रदान करता है। वे कमज़ोरियों का पता लगाने के बाद तुरंत कंपनी को रिपोर्ट करते हैं। ओपनएआई ने $6,500 का इनाम चुकाया, और टीम ने पहली बार मीडिया के सामने ऑपरेशन के विवरण का खुलासा किया।
यह नई खोजी गई घुसपैठ प्रौद्योगिकी दिग्गजों और शोधकर्ताओं द्वारा उजागर किए गए हालिया साइबर हमलों की श्रृंखला में से एक है, जो सभी तेजी से विकसित हो रहे एआई उपकरणों पर निर्भर हैं। हालाँकि उद्योग ने एआई सिस्टम की शक्तिशाली क्षमताओं के बारे में महीनों से चेतावनी दी है, लेकिन यह घटना एक बार फिर दर्शाती है कि आज के कंप्यूटर सिस्टम की जटिलता के कारण उनसे बचाव करना बेहद मुश्किल हो जाता है।
शनिवार को, ओपनएआई के सीईओ सैम ऑल्टमैन और उनके साथियों ने कृत्रिम बुद्धिमत्ता के विकास पर रोक लगाने का आह्वान करते हुए कहा कि विकास की वर्तमान गति प्रौद्योगिकी विकसित करने वाली कंपनियों के लिए संभावित नुकसान का सुरक्षित रूप से जवाब देना मुश्किल बना रही है। बुधवार को, ओपनएआई ने पहले से अज्ञात सुरक्षा घटना का खुलासा किया और भविष्य में ऐसे मुद्दों की रिपोर्ट कैसे करेगी, इस पर नई नीतियों की घोषणा की।
ओपनएआई ने कहा कि हैकर्स ने दो मुद्दों की खोज की: एक डिस्कोर्स में एक भेद्यता थी, एक तृतीय-पक्ष सेवा जो ओपनएआई समुदाय चर्चा मंच की मेजबानी करती है, और दूसरा कंपनी के साथ ही एक मुद्दा था। ओपनएआई ने कहा कि ये दोनों मुद्दे अब हल हो गए हैं।
कंपनी ने कहा, "हमसे संपर्क करने और अपने निष्कर्ष साझा करने के लिए हम शोधकर्ताओं को धन्यवाद देते हैं। हमने समुदाय लॉगिन टोकन की अनुमति कम कर दी है और प्रभावित टोकन और सत्र रद्द कर दिए हैं।"
एंथ्रोपिक प्रवक्ता ने टिप्पणी करने से इनकार कर दिया।
टिप्पणियाँ