सार:
ओपनएआई ने बुधवार को एक तकनीकी रिपोर्ट जारी की जिसमें बताया गया कि कैसे इसके कृत्रिम बुद्धिमत्ता मॉडल ने पिछले महीने हगिंग फेस को सफलतापूर्वक हैक किया, एक ऐसी घटना जिसने प्रौद्योगिकी उद्योग में शोधकर्ताओं और अधिकारियों को चौंका दिया। 37 पेज की रिपोर्ट में घुसपैठ से पहले और उसके दौरान आकलन की एक श्रृंखला में ओपनएआई मॉडल द्वारा की गई कार्रवाइयों का विवरण दिया गया है, जिसे ओपनएआई ने "अभूतपूर्व साइबर सुरक्षा घटना" के रूप में वर्णित किया है। कंपनी ने इस तरह की घटनाओं को दोबारा होने से रोकने के लिए उठाए गए कदमों के बारे में भी बताया, जिसमें इसकी सुरक्षा और अलगाव, निगरानी, मॉडल व्यवहार और घटना प्रतिक्रिया क्षमताओं में सुधार शामिल है।
'यह घटना दर्शाती है कि स्वायत्त एजेंट एक साथ काम करने, उत्पादन पर्यावरण सुरक्षा नियंत्रण से बचने और कठोर उत्पादन परिवेश पर सफलतापूर्वक हमला करने में सक्षम हैं। यह संगठनों को अपने अपडेट करने की आवश्यकता पर प्रकाश डालता है। उभरते खतरे के परिदृश्य का जवाब देने के लिए सुरक्षा नीतियां, नियंत्रण और प्रतिक्रिया क्षमताएं, ”ओपनएआई ने रिपोर्ट में कहा।
21 जुलाई को, OpenAI ने खुलासा किया कि उसके मॉडलों (GPT-5.6 Sol और एक आंतरिक अनुसंधान मॉडल सहित) के संयोजन ने एक ओपन सोर्स डेवलपर प्लेटफ़ॉर्म संचालित करने वाली AI कंपनी हगिंग फेस पर अनुचित तरीके से आक्रमण किया।
एजेंट के रूप में चल रहे ये मॉडल, बेहद सीमित इंटरनेट पहुंच के साथ एक अलग परीक्षण वातावरण से बच गए। इन एजेंटों ने कमजोरियों की एक श्रृंखला बनाकर खुले नेटवर्क में प्रवेश किया और अंततः हगिंग फेस तक पहुंच प्राप्त की। ओपनएआई ने बुधवार को कहा कि एजेंटों ने ऑनलाइन उत्तर खोजकर मूल्यांकन के माध्यम से "धोखाधड़ी" करने का प्रयास किया, जिसे "रिवॉर्ड हैकिंग" के रूप में जाना जाता है।
रिपोर्ट के अनुसार, OpenAI ने निर्धारित किया कि उसके केवल-आंतरिक उपयोग वाले अनुसंधान मॉडल ने घटना में "सबसे व्यापक पुष्टि भूमिका निभाई"। ओपनएआई ने 25 जुलाई को इस मॉडल और इसके डेरिवेटिव के लिए सभी प्रशिक्षण और अनुमान गतिविधियों को रोक दिया।
ओपनएआई ने कहा, "ओपनएआई के मॉडल को फिर से सक्षम करने का काम कार्यभार-विशिष्ट आधार पर किया जाता है और यह प्रतिबंधित वातावरण, नेटवर्क, संकेत, निगरानी और समीक्षा जैसे सुरक्षात्मक उपायों के अधीन है।"
ओपनएआई ने पिछले महीने GPT-5.6 Sol जारी किया था, जो कंपनी द्वारा व्यावसायिक रूप से पेश किया गया सबसे शक्तिशाली मॉडल है। लेकिन ओपनएआई ने कहा कि हगिंग फेस घुसपैठ में शामिल संस्करण बाहरी उपयोगकर्ताओं के लिए सुलभ संस्करण से अलग है क्योंकि यह रनटाइम पर मानक सुरक्षा गार्ड और क्लासिफायर को हटा देता है।
हगिंग फेस घटना ने प्रौद्योगिकी उद्योग को झटका दिया, ज़स्केलर के मुख्य सूचना सुरक्षा अधिकारी सैम करी ने चेतावनी दी कि "पेंडोरा का पिटारा खुल गया है।" यह उल्लंघन इस महीने की शुरुआत में ब्लैक हैट साइबर सुरक्षा सम्मेलन का भी एक प्रमुख फोकस था, खासकर एंथ्रोपिक और मेटा सहित अन्य कंपनियों द्वारा इसी तरह की घटनाओं का खुलासा करने के बाद।
हगिंग फेस घुसपैठ ने वाशिंगटन में सांसदों को भी चिंतित कर दिया। प्रतिनिधि टेड लियू, डी-कैलिफ़ोर्निया, और नथानिएल मोरन, आर-टेक्सास, ने एआई आपातकालीन शटडाउन अधिनियम की घोषणा करते समय हमले का उल्लेख किया, जिसके लिए एआई कंपनियों को अपने मॉडलों को बंद करने, सीमित करने या रोकने की क्षमता बनाए रखने की आवश्यकता होगी।
हगिंग फेस के सीईओ क्लेमेंट डेलांग्यू ने इस महीने की शुरुआत में कहा था कि एआई साइबर सुरक्षा को "बहुत गंभीरता से" लिया जाना चाहिए। उन्होंने कहा कि यह उन व्यवसायों के लिए "अवसर पैदा करता है" जो हमलावरों से बचने के लिए प्रौद्योगिकी का लाभ उठा सकते हैं।
"अगर हम इसे अच्छी तरह से करते हैं, तो हम वास्तव में एक ऐसी दुनिया में पहुंच सकते हैं जहां एआई दुनिया को सुरक्षित बनाता है और सिर्फ नई समस्याएं पैदा करने के बजाय कई साइबर सुरक्षा समस्याओं को हल करता है," डेलांगु ने कहा।
टिप्पणियाँ