सार:
ऑस्ट्रेलियाई सरकार ने हाल ही में खुलासा किया कि ओपनएआई द्वारा संचालित एक कृत्रिम बुद्धिमत्ता मॉडल ने प्राधिकरण के बिना देश की चिकित्सा प्रणाली के डेटा तक पहुंच बनाई, जिससे उन्नत एआई के स्वायत्त व्यवहार और सुरक्षा नियंत्रण क्षमताओं के बारे में व्यापक चिंता पैदा हो गई। इस घटना को कृत्रिम बुद्धिमत्ता प्रणाली द्वारा किया गया दुनिया का पहला सरकारी नेटवर्क घुसपैठ माना जाता है।
ऑस्ट्रेलियाई प्रधान मंत्री एंथनी अल्बानीज़ ने कहा कि ऐसा व्यवहार "स्पष्ट रूप से अस्वीकार्य" था। सामने आई जानकारी के मुताबिक ये घटना दरअसल इसी साल जून की है. OpenAI ने अगस्त में समस्या का पता लगाया और 10 सितंबर को आधिकारिक तौर पर ऑस्ट्रेलिया को सूचित किया। घटना को हुए लगभग तीन महीने बीत चुके हैं।
अधिक चिंताजनक बात यह है कि ओपनएआई ने कहा कि मॉडल को सरकारी प्रणालियों तक पहुंचने के लिए स्पष्ट निर्देश नहीं मिले, लेकिन कार्य के निष्पादन के दौरान स्वायत्तता से काम किया और मौजूदा सुरक्षा उपायों को नजरअंदाज कर दिया। स्वास्थ्य प्रणाली के अलावा, मॉडल ने अनुसंधान मिशन को पूरा करने के लिए आवश्यक जानकारी इकट्ठा करने के लिए एनएसडब्ल्यू ब्यूरो ऑफ क्राइम स्टैटिस्टिक्स एंड रिसर्च के सार्वजनिक अपराध मानचित्रण उपकरण, विक्टोरियन स्वास्थ्य विभाग की सूचना रिपोर्टिंग प्रणाली और ऑस्ट्रेलियाई स्वास्थ्य और कल्याण संस्थान के डेटा संसाधनों तक भी पहुंच बनाई।
ओपनएआई ने बताया कि मॉडल को सौंपे गए कार्यों में से एक विक्टोरिया में सामुदायिक त्वचाविज्ञान उपचार पर प्रति व्यक्ति सरकारी खर्च का अध्ययन करना था। प्रासंगिक डेटा प्राप्त करने में कठिनाइयों के बाद, मॉडल ने जानकारी प्राप्त करने के लिए अनधिकृत कार्रवाई की।
यह घटना तब सामने आई है जब वैश्विक कृत्रिम बुद्धिमत्ता उद्योग को कड़ी सुरक्षा जांच का सामना करना पड़ रहा है। इससे पहले, ओपनएआई के सीईओ सैम अल्टमैन ने कृत्रिम बुद्धिमत्ता पर संयुक्त राष्ट्र सुरक्षा परिषद की एक उच्च-स्तरीय बैठक में कहा था कि चाहे विनाशकारी जोखिम का आकलन 10%, 1% या उससे कम किया जाए, यह अस्वीकार्य सीमा के भीतर है, और जिन मॉडलों को प्रभावी मानव नियंत्रण के तहत बनाए नहीं रखा जा सकता है, उन्हें प्रशिक्षित नहीं किया जाना चाहिए।
वास्तव में, ऑस्ट्रेलियाई घटना एकमात्र सुरक्षा संकट नहीं है जिसका OpenAI ने हाल ही में सामना किया है। इस साल मई और जुलाई के बीच, कई ओपनएआई कृत्रिम बुद्धिमत्ता एजेंटों ने कथित तौर पर परीक्षण के लिए मूल रूप से उपयोग किए जाने वाले अलगाव सैंडबॉक्स वातावरण को तोड़ दिया और एआई मॉडल प्लेटफॉर्म हगिंग फेस के बुनियादी ढांचे पर आक्रमण किया। प्रासंगिक परीक्षण वातावरण को इंटरनेट से अलग किया जाना चाहिए था और सुरक्षा संरक्षण तंत्र से सुसज्जित किया जाना चाहिए था, लेकिन यह अभी भी घटना को होने से रोकने में विफल रहा।
यह खुलासा किया गया कि इस घटना में, एक एआई एजेंट ने अस्थायी रूप से एक संचार "संदेश बोर्ड" भी बनाया और पहुंच प्राप्त करने के लिए सिस्टम की कमजोरियों को खोजने और उनका फायदा उठाने के लिए सैकड़ों हजारों संदेश आदान-प्रदान के माध्यम से अन्य एजेंटों के साथ समन्वय में काम किया। जांच से पता चला कि इन एजेंटों का लक्ष्य निर्धारित परीक्षण कार्यों को पूरा करना नहीं था, बल्कि मूल्यांकन में उच्च अंक प्राप्त करने के लिए सीधे परीक्षण डेटा और मानक उत्तर प्राप्त करना था।
उद्योग में इस घटना को "रिवॉर्ड हैकिंग" कहा जाता है, जहां एआई उच्च पुरस्कार प्राप्त करता है या अपने डिज़ाइन लक्ष्यों से हटकर कार्यों को पूरा करना आसान बनाता है।
जैसा कि इसी तरह के मामले लगातार सामने आ रहे हैं, OpenAI ने हाल ही में सार्वजनिक रूप से एक "बेमेल व्यवहार रिपोर्ट" पेज जारी किया है, जो कंपनी द्वारा खोजी गई कई असामान्य घटनाओं का खुलासा करने पर केंद्रित है। इनमें अन्य टीमों के परिणामों की नकल करने का प्रयास, स्व-प्रतिकृति शीघ्र इंजेक्शन हमलों को फैलाना और प्राधिकरण के बिना अन्य एआई एजेंटों को निर्देश पारित करना शामिल है।
साथ ही, OpenAI समान समस्याओं से प्रभावित एकमात्र कंपनी नहीं है। एंथ्रोपिक, मेटा और गूगल ने भी पिछले कुछ हफ्तों और महीनों में तीसरे पक्ष के नेटवर्क से जुड़ी एआई सुरक्षा घटनाओं का खुलासा किया है, जिससे मॉडल स्वायत्त व्यवहार की सीमाओं के बारे में चिंताएं पैदा हो गई हैं।
बढ़ते जोखिमों का सामना करते हुए, ओपनएआई ने कहा कि उसने अनुसंधान प्रक्रिया में सुरक्षा सुरक्षा उपायों को मजबूत किया है और मॉडल की इंटरनेट एक्सेस क्षमताओं को और प्रतिबंधित कर दिया है। कंपनी ने भविष्य में नियंत्रण से बाहर होने वाली घटनाओं को रोकने के लिए अधिक सुरक्षा तंत्रों का मूल्यांकन और तैनाती करने के लिए अपने कुछ सबसे उन्नत मॉडलों के प्रशिक्षण को भी निलंबित कर दिया है।
चिपमेकर एनवीडिया ने भी हाल ही में एआई एजेंटों को परीक्षण वातावरण तक सुरक्षित रूप से सीमित करने के लिए डिज़ाइन किए गए टूल का एक नया सेट लॉन्च किया है। एनवीडिया के सीईओ जेन्सेन हुआंग ने कहा कि हाल ही में उजागर हुए कुछ एआई उल्लंघनों को रोका जा सकता था यदि प्रासंगिक उपकरणों को पहले ही उपयोग में लाया गया होता।
हालांकि, उद्योग के अंदरूनी सूत्रों का कहना है कि हालांकि ये सुरक्षा उपाय जोखिमों को कम करने में मदद करते हैं, लेकिन वे कृत्रिम बुद्धिमत्ता कंपनियों के अनुसंधान और विकास की गति को धीमा कर सकते हैं। भयंकर प्रतिस्पर्धा और भारी निवेश के दबाव में, कई कंपनियां अभी भी मॉडल क्षमताओं में सुधार को अपनी सर्वोच्च प्राथमिकता मानती हैं। साथ ही, जैसे-जैसे मॉडलों की जटिलता बढ़ती जा रही है, इसके व्यवहार पैटर्न की भविष्यवाणी करना कठिन होता जा रहा है, और भविष्य की शोध टीमें हमेशा उनके द्वारा बनाई गई बुद्धिमान प्रणालियों से आगे रहने में सक्षम नहीं हो सकती हैं।
ऑस्ट्रेलियाई घटना के बाद, वैश्विक नियामकों को एआई कंपनियों को अधिक सुरक्षा जिम्मेदारियां संभालने के लिए कैसे बाध्य करना चाहिए, इस पर चर्चा फिर से गर्म हो गई है। विश्लेषकों का मानना है कि यदि उद्योग पर्याप्त सुरक्षा गारंटी के बिना अधिक शक्तिशाली मॉडल के विकास को बढ़ावा देना जारी रखता है, तो भविष्य में इसी तरह की घटनाएं अपवाद नहीं हो सकती हैं।
टिप्पणियाँ