पिछले हफ्ते, OpenAI के स्वायत्त आउट-ऑफ-कंट्रोल AI प्रोग्राम ने हगिंग फेस पर साइबर हमला किया। हगिंग फेस ने एआई से लड़ने के लिए एआई का इस्तेमाल किया और बचाव को पूरा करने के लिए एक और कृत्रिम बुद्धिमत्ता मॉडल को बुलाया। एआई द्वारा स्वायत्त हैकिंग की यह घटना विज्ञान कथा से भरी है और इस सप्ताह प्रौद्योगिकी क्षेत्र में सबसे गर्म विषय बन गई है। हगिंग फेस द्वारा हमलों का विरोध करने के लिए उपयोग किया जाने वाला एआई मॉडल चीन में निर्मित किया गया है और इसने व्यापक ध्यान भी आकर्षित किया है।
प्लेटफ़ॉर्म Z.ai द्वारा विकसित ओपन सोर्स वेटेड मॉडल GLM 5.2 का उपयोग करता है।
अंत में, इस चीनी मॉडल ने एक रक्षात्मक प्रभाव हासिल किया जिसे कई शीर्ष अमेरिकी एआई उत्पाद हासिल करने में विफल रहे।
एक लैपटॉप 17 अगस्त, 2023 को न्यूयॉर्क, यूएसए में हगिंग फेस वेबपेज प्रदर्शित करता है। NVIDIA ने उस समय घोषणा की थी कि वह एक लोकप्रिय AI मॉडल और डेटा सेट डेवलपमेंट प्लेटफॉर्म हगिंग फेस के साथ सहयोग पर पहुंच गया है, और अपनी वेबसाइट पर NVIDIA DGX क्लाउड पर आधारित प्रशिक्षण सेवाओं तक पहुंच प्राप्त कर ली है। कंप्यूटिंग कार्यों को होस्ट करने के लिए उपयोगकर्ता NVIDIA सर्वर को कॉल कर सकते हैं।
हमले की पूरी कहानी
पहले उजागर हुई घटना का विवरण: ओपनएआई ने मंगलवार को खुलासा किया कि सक्रिय उपयोग में इसका सबसे शक्तिशाली मॉडल, एक उच्च-प्रदर्शन मॉडल के साथ जोड़ा गया है जिसे जनता के लिए जारी नहीं किया गया है, सैंडबॉक्स परीक्षण वातावरण को छोड़ दिया, इंटरनेट से जुड़ा, और हगिंग फेस सर्वर पर अवैध रूप से आक्रमण करने के लिए सिस्टम कमजोरियों का फायदा उठाया।
ओपनएआई ने कहा कि एआई प्रोग्राम की घुसपैठ जानकारी चुराने, क्षमता आकलन में धोखाधड़ी करने का प्रयास और सफलतापूर्वक अवैध पहुंच हासिल करने के लिए थी।
घटना की शुरुआत में, हगिंग फेस हमले के स्रोत का पता लगाने में असमर्थ था। घटना के कुछ दिनों बाद, प्लेटफ़ॉर्म ने जांच के लिए OpenAI के साथ सहयोग किया।
हगिंग फेस के सीईओ क्लेमेंट डी लैंग ने पोस्ट किया
ओपनएआई के स्व-विकसित एआई प्रोग्राम द्वारा सक्रिय रूप से हमला किए जाने की खबर उजागर होने के बाद, पूरा एआई उद्योग हैरान रह गया। OpenAI ने इस सुरक्षा घटना को अभूतपूर्व बताया।
आपातकालीन पलटवार प्रक्रिया
हगिंग फेस में मशीन लर्निंग के प्रमुख यासिन गर्निट ने एक साक्षात्कार में कहा कि प्लेटफॉर्म ने शुरुआत में हमले के ट्रैफ़िक का विश्लेषण करने के लिए एंथ्रोपिक के फैबल 5 जैसे शीर्ष यूरोपीय और अमेरिकी अत्याधुनिक मॉडल का उपयोग करने की कोशिश की।
"यह समाधान काम नहीं करेगा। इन एआई में अंतर्निहित सुरक्षा रेलिंग हैं और यह अंतर नहीं कर सकते कि हम रक्षक हैं या हमलावर।" उन्होंने कहा कि यह विधि न केवल गणना करने में धीमी है, बल्कि अधिक महंगी भी है।
इन वाणिज्यिक प्रबंधित एआई के सुरक्षा सुरक्षा नियम समस्या निवारण निर्देशों को रोकते हैं, और सिस्टम यह अंतर नहीं कर सकता है कि ऑपरेटर नेटवर्क हमलावर है या आपातकालीन संचालन और रखरखाव कर्मी है।
गर्निट ने कहा: "इसलिए हगिंग फेस ने तुरंत समाधान बदल दिए और जोखिमों को तुरंत नियंत्रित करने के लिए इस मॉडल पर भरोसा करते हुए हमले के स्रोत का पता लगाने का विश्लेषण करने के लिए विजडम एआई के जीएलएम 5.2 को सक्षम किया।"
जीएलएम 5.2 को आधिकारिक तौर पर इस साल जून में जारी किया गया था और इसके लॉन्च के बाद से डेवलपर्स द्वारा इसकी व्यापक मांग की गई है।
एक ओपन सोर्स वेट मॉडल के रूप में, उद्यम इसे स्वतंत्र रूप से डाउनलोड, संशोधित और व्यावसायिक रूप से तैनात कर सकते हैं। सबसे महत्वपूर्ण बात स्थानीय निजीकरण तैनाती का समर्थन करना है।
हगिंग फेस ने इवेंट समीक्षा ब्लॉग में लिखा: "यह आश्वासन की दूसरी परत लाता है: हमले के डेटा और मॉडल से प्राप्त सभी खाता कुंजियाँ पूरी प्रक्रिया के दौरान हमारे इंट्रानेट वातावरण को नहीं छोड़तीं।"
गहरी उद्योग पृष्ठभूमि और नीतिगत विरोधाभास
चीन और संयुक्त राज्य अमेरिका के बीच कृत्रिम बुद्धिमत्ता में प्रतिस्पर्धा वर्तमान में तीव्र हो रही है, और अमेरिकी कानून निर्माता अमेरिकी कंपनियों द्वारा चीनी एआई मॉडल के उपयोग को नियंत्रित करने के लिए लगातार अध्ययन कर रहे हैं और प्रतिबंधात्मक उपाय पेश कर रहे हैं। चीनी एआई कंपनियों द्वारा विकसित मॉडलों पर प्रतिबंध लगाने की मांग बढ़ रही है, और संयुक्त राज्य अमेरिका चीनी एआई उपकरणों पर अमेरिकी प्रौद्योगिकी कंपनियों से सिस्टम डेटा चोरी करने का भी आरोप लगाता है।
हालाँकि, OpenAI और हगिंग फेस के बीच की इस घटना से पता चला कि मॉडल चाहे किसी भी देश में निर्मित हो, उच्च-प्रदर्शन वाले ओपन सोर्स और ओपन सोर्स वेट मॉडल के उपयोग को जबरन प्रतिबंधित करने में बड़ी व्यावहारिक बाधाएँ हैं।
हगिंग फेस ने निष्कर्ष निकाला: "जिस एआई ने हमला शुरू किया वह किसी भी उपयोग नियमों के अधीन नहीं है, लेकिन हमने शुरू में जिस बड़े प्रबंधित मॉडल का चयन किया था वह सुरक्षा रेलिंग द्वारा प्रतिबंधित था और सामान्य साक्ष्य संग्रह नहीं कर सका। नेटवर्क रक्षा के लिए वास्तविक जीवन के सबक: उच्च प्रदर्शन वाले मॉडल तैयार करना सुनिश्चित करें जिन्हें स्थानीय स्तर पर तैनात किया जा सकता है और आपात स्थिति की तैयारी के लिए पहले से ही सुरक्षा सत्यापित किया गया हो।"
उन कंपनियों के लिए जो अपना स्वयं का एआई विकसित नहीं करते हैं, एकमात्र उपलब्ध समाधान ओपन सोर्स/ओपन सोर्स वेट मॉडल हैं। इस स्तर पर, शीर्ष व्यापक क्षमताओं वाले इनमें से अधिकांश मॉडल चीन से आते हैं। यदि संयुक्त राज्य अमेरिका चीनी एआई मॉडल के उपयोग को प्रतिबंधित करने पर जोर देता है, तो संयुक्त राज्य अमेरिका को स्व-विकसित ओपन सोर्स एआई की कमियों को दूर करने की आवश्यकता होगी, और संबंधित विकल्पों में भारी अनिश्चितता है।
दुनिया धीरे-धीरे एक ऐसे युग में प्रवेश कर रही है जहां एआई सक्रिय रूप से साइबर हमले शुरू करता है। मजबूत प्रदर्शन, स्थिरता और विश्वसनीयता के साथ एआई मॉडल का उपयोग करने की क्षमता नेटवर्क सुरक्षा रक्षा के लिए महत्वपूर्ण है।