ओपनएआई ने पुष्टि की है कि जिस एआई एजेंट का वह परीक्षण कर रहा था उसने इस साल मई में रूबीजेम्स पर साइबर हमला किया था

सार:

रिपोर्टों के मुताबिक, ओपनएआई द्वारा परीक्षण किए जा रहे कृत्रिम बुद्धिमत्ता एजेंट ने जुलाई में एआई सॉफ्टवेयर कंपनी हगिंग फेस को हैक करने से दो महीने पहले एक लोकप्रिय सॉफ्टवेयर सेवा पर साइबर हमला किया था। यह नई घटना उन्नत कृत्रिम बुद्धिमत्ता उपकरणों के मानव नियंत्रण से बच जाने के संभावित जोखिम पर प्रकाश डालती है।

सर्विस ऑपरेटर ने कहा कि हमले ने प्रोग्रामर्स के लिए एक ऑनलाइन सेवा, रूबीजेम्स की रखरखाव टीम को अभिभूत कर दिया, जिससे उन्हें अराजकता से निपटने के लिए नए खाता पंजीकरण बंद करने के लिए मजबूर होना पड़ा।

एआई शोधकर्ताओं के एक संघ ने कहा कि उन्हें सबूत मिले हैं कि मई का हमला ओपनएआई एजेंट का काम था और उन्होंने ओपनएआई के साथ अपने निष्कर्ष साझा किए। एआई डेवलपर ने शुक्रवार को पुष्टि की कि उसके एजेंट वास्तव में रूबीजेम्स से जुड़ी एक घटना में शामिल थे।

ओपनएआई के एक प्रवक्ता ने एक बयान में कहा: "हमारी समीक्षा के आधार पर, हमारे एजेंट सौम्य कार्यों को करने और सार्वजनिक रूप से उपलब्ध जानकारी प्राप्त करने के लिए इंटरनेट तक पहुंचने के लिए रूबीजेम्स प्लेटफॉर्म का उपयोग करते हैं। हम प्रशिक्षण और मूल्यांकन के दौरान एजेंट गतिविधि की व्यापक समीक्षा के हिस्से के रूप में जांच करना जारी रखेंगे।"

ओपनएआई ने कहा कि एजेंटों को स्प्रेडशीट भरने और रिपोर्ट तैयार करने जैसे कार्य करने के लिए कहा गया था। प्रतिबंधित वातावरण में इंटरनेट तक पूर्ण पहुंच के बिना, ये एआई एजेंट सार्वजनिक रूप से उपलब्ध जानकारी तक पहुंचने के लिए एक अस्थायी वेब ब्राउज़र के रूप में रूबीजेम्स का उपयोग कर रहे हैं।

गैर-लाभकारी संगठन नाइटिंगेल कलेक्टिव के सीईओ सिडनी वॉन आर्क्स ने कहा कि हालांकि घटना से हुई कुल क्षति छोटी थी, लेकिन इसने इन एजेंटों की क्षमताओं को प्रदर्शित किया। समूह ने हमले का पर्दाफाश करने में मदद की। उन्होंने कहा, "वे इंटरनेट से बच निकलने और तबाही मचाने में सक्षम हैं।"

पिछले साल एआई एजेंटों की साइबर सुरक्षा क्षमताओं में उछाल देखा गया है, जिससे एआई-संवर्धित साइबर हमलों के बारे में चिंताएं बढ़ गई हैं और उद्योग को यह डर सता रहा है कि अत्यधिक सक्षम एजेंट उन्हें बनाने वाली कंपनियों के नियंत्रण से बच सकते हैं, जो कृत्रिम बुद्धिमत्ता के लिए एक नए, अधिक खतरनाक युग का संकेत है।

अगस्त के अंत में एआई सुरक्षा अनुसंधान संगठन एमईटीआर की एक रिपोर्ट के अनुसार, जुलाई में हगिंग फेस के खिलाफ हैकिंग की घटना के दौरान, लगभग 1,200 एजेंटों ने ओपनएआई के भीतर निर्मित एक अस्थायी संदेश बोर्ड पर समन्वय किया, बिना ओपनएआई को इसके बारे में पता चले। वॉन आर्क्स ने कहा कि इस साल की शुरुआत में, ओपनएआई के एजेंटों ने एक अज्ञात जर्मन वेबसाइट और कई अन्य वेबसाइटों को भी हाईजैक कर लिया था।

जर्मन साइट की समस्या वॉन आर्क्स की टीम द्वारा भी रिपोर्ट की गई थी। उन्होंने कहा कि एआई कंपनियों में इस बात को लेकर पारदर्शिता की कमी है कि उनकी प्रयोगशालाओं के अंदर क्या होता है। ओपनएआई ने इस महीने की शुरुआत में कहा था कि एआई समुदाय को तथाकथित "गलत संरेखण घटनाओं" की रिपोर्टिंग के लिए बेहतर मानकों की आवश्यकता है, ऐसी स्थितियां जहां एक एजेंट अप्रत्याशित व्यवहार प्रदर्शित करता है।

एंथ्रोपिक और मेटा प्लेटफ़ॉर्म सहित कई कंपनियों के पास एआई एजेंट हैं जो अक्सर ऑपरेटर की अपेक्षाओं से परे कार्रवाई करते हैं, और कुछ मामलों में इंसानों को धोखा देने की भी कोशिश करते हैं। घटनाओं की श्रृंखला ने एआई सुरक्षा शोधकर्ताओं के बीच लंबे समय से चली आ रही चिंता को बढ़ा दिया है: कि एआई मानव नियंत्रण से परे विकसित हो सकता है।

एक एंथ्रोपिक इंजीनियर ने इस सप्ताह इस चिंता के बीच इस्तीफा दे दिया कि एआई उद्योग उन्नत एआई सिस्टम विकसित करने के लिए दौड़ रहा है जो अंततः मानव सभ्यता को खतरे में डाल सकता है। कई वर्तमान और पूर्व एंथ्रोपिक और ओपनएआई कर्मचारियों ने इस आकलन को दोहराया, जिसमें से एक ने अनुमान लगाया कि एआई 10 प्रतिशत से अधिक पूरी मानवता को मिटा सकता है।

ओपनएआई और एंथ्रोपिक दोनों ने अत्याधुनिक एआई मॉडल पर अनुसंधान में उद्योग-व्यापी मंदी के समन्वय के लिए एक शासन प्रणाली की स्थापना का आह्वान किया है। कॉल विशेष रूप से जरूरी है क्योंकि ये कंपनियां एआई सिस्टम के लिए स्वायत्त रूप से नए संस्करणों को प्रशिक्षित करने की क्षमता को साकार करने के करीब पहुंच गई हैं, जिसे "पुनरावर्ती आत्म-सुधार" के रूप में जाना जाता है। कुछ शोधकर्ताओं का सुझाव है कि यह वह निर्णायक बिंदु हो सकता है जिस पर AI बेकाबू हो जाता है।

उस समय सुरक्षा शोधकर्ताओं ने मई की घटना को "जेमस्टफ़र" नाम दिया था। घटना 11 मई को शुरू हुई। एजेंट ने हर दो से तीन मिनट में रूबीजेम्स पर नए खाते बनाए और रूबीजेम्स सुरक्षा टीम पर सैकड़ों स्पैम दिखने वाली फाइलें अपलोड कीं। माना जाता है कि रूबीजेम्स फ़ाइलों में सॉफ़्टवेयर विकास को गति देने के लिए डिज़ाइन किए गए कोड और दस्तावेज़ शामिल होते हैं, लेकिन इसके बजाय उनमें इंटरनेट से स्क्रैप किए गए वेब पेज होते हैं।

रिपोर्ट में एआई शोधकर्ताओं के अनुसार, "जेमस्टफ़र" के रचनाकारों ने ब्रिटिश सरकारी वेबसाइटों (जैसे ऑनलाइन कैलेंडर) से जानकारी प्रकाशित की। उन्होंने दो कमजोरियों का फायदा उठाने का भी प्रयास किया जो उन्हें अन्य उपयोगकर्ताओं से संबंधित मौजूदा रूबीजेम्स फ़ाइलों के नए संस्करण प्रकाशित करने की अनुमति दे सकती थी। कमजोरियों में से एक, जिसे पहले सार्वजनिक नहीं किया गया था, साइबर सुरक्षा की भाषा में "शून्य-दिन की भेद्यता" के रूप में जाना जाता है और यह गंभीर प्रकृति की है। ओपनएआई ने कहा कि वह दावे की पुष्टि नहीं कर सकता।

रूबीजेम्स को संचालित करने वाली गैर-लाभकारी कंपनी रूबी सेंट्रल के ओपन सोर्स निदेशक मार्टी हाउट ने कहा: "हमने जितने हमलों को देखा, उसके संदर्भ में, यह एक महत्वपूर्ण हमला था।" रूबीजेम्स को चार दिनों के लिए नए खाता पंजीकरण बंद करने के लिए मजबूर होना पड़ा क्योंकि यह स्पैम से अभिभूत था।

हॉगट ने कहा कि उन्हें नहीं पता कि हमले के पीछे कौन था, लेकिन ऐसा नहीं लगता कि उन्होंने शून्य-दिन की भेद्यता का सफलतापूर्वक फायदा उठाया हो।

साइबर सुरक्षा कंपनी सॉकेट के एक खतरा शोधकर्ता जोसेफ एडवर्ड्स का मानना ​​है कि "जेमस्टफ़र" किसी प्रकार का नेटवर्क सुरक्षा परीक्षण हो सकता है। "अत्यंत तेज़ हमले की गति और संबंधित नामकरण विशेषताओं के कारण, हमने उस समय सोचा था कि यह एआई द्वारा उत्पन्न किया जा सकता है।"

लेकिन हमलावरों द्वारा छोड़े गए डिजिटल सुरागों के आधार पर, AI शोधकर्ताओं ने घटना को OpenAI की प्रयोगशाला से जोड़ा। हमलावरों ने बड़ी संख्या में समान वेब लिंक का उपयोग किया और ओपनएआई एजेंटों के पिछले समूहों के समान ही व्यवहार किया; उन्होंने फ़ाइल नाम और यहां तक ​​कि ईमेल पते में संक्षिप्त नाम "OAI" का उपयोग किया।