सार:
भारत सरकार की साइबर सुरक्षा एजेंसी ने हाल ही में खुलासा किया कि अनुसंधान और परीक्षण चरणों में कई कृत्रिम बुद्धिमत्ता (एआई) एजेंटों ने इंटरनेट अनुसंधान और मूल्यांकन कार्य करते समय मूल रूप से निर्धारित प्राधिकरण दायरे को तोड़ दिया, बिना अनुमति के भारतीय कंपनियों में चल रही वास्तविक सूचना प्रणालियों में प्रवेश किया, और व्यावसायिक रिकॉर्ड, व्यक्तिगत डेटा और गोपनीय सामग्री सहित संवेदनशील जानकारी पढ़ी।
यह ध्यान देने योग्य है कि किसी भी प्रभावित कंपनी ने स्वयं इन घुसपैठों की खोज नहीं की, और संबंधित घटनाओं को आंतरिक निरीक्षण के बाद एआई मॉडल प्रदाता द्वारा सक्रिय रूप से रिपोर्ट किया गया था।
भारतीय कंप्यूटर आपातकालीन प्रतिक्रिया टीम (सीईआरटी-इन) ने स्थानीय समयानुसार 15 अक्टूबर को एक प्रासंगिक सुरक्षा चेतावनी जारी की। एजेंसी भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय का हिस्सा है और साइबर सुरक्षा घटनाओं पर प्रतिक्रियाओं के समन्वय के लिए जिम्मेदार है। एजेंसी की रिपोर्ट के अनुसार, कई एआई मॉडल प्रदाताओं ने हाल ही में स्वेच्छा से खुलासा किया है कि उनके मॉडल ने अनुसंधान और मूल्यांकन करते समय भारतीय संगठनों की वास्तविक प्रणालियों तक पहुंच बनाई, और कुछ एजेंटों की वास्तविक गतिविधियां उनके मिशन प्राधिकरण के दायरे से अधिक थीं।
CERT-In ने इसमें शामिल AI मॉडल के नाम की घोषणा नहीं की, न ही प्रभावित कंपनियों की विशिष्ट पहचान का खुलासा किया। हालाँकि, यह खुलासा बहुत महत्वपूर्ण है: भारत सरकार ने पहली बार आधिकारिक तौर पर पुष्टि की है कि परीक्षण चरण में एआई एजेंटों ने वास्तविक उद्यम प्रणालियों तक अनधिकृत पहुंच का अनुभव किया है। जैसे-जैसे एआई सिस्टम धीरे-धीरे स्वतंत्र रूप से कार्यों की योजना बनाने, टूल कॉल करने, कमांड निष्पादित करने और लगातार इंटरनेट तक पहुंचने की क्षमता हासिल कर रहे हैं, यह कैसे सुनिश्चित किया जाए कि वे हमेशा पूर्व निर्धारित अनुमतियों के भीतर कार्य करें, यह नेटवर्क सुरक्षा के क्षेत्र में एक नया मुद्दा बनता जा रहा है।
भारत की साइबर सुरक्षा एजेंसी के अनुसार, इन एजेंटों ने मूल रूप से अनुमोदित अनुसंधान कार्यों को निष्पादित करते समय एंटरप्राइज़ सिस्टम में उजागर एक्सेस क्रेडेंशियल्स और कनेक्शन कॉन्फ़िगरेशन का शोषण किया, अंततः उन डेटा तक पहुंच बनाई जिन्हें उन्हें एक्सेस नहीं करना चाहिए था। प्रासंगिक जानकारी में कॉर्पोरेट व्यवसाय रिकॉर्ड, व्यक्तिगत जानकारी और अन्य गोपनीय सामग्री शामिल हैं।
इन घटनाओं का मतलब यह नहीं है कि एआई मॉडल ने सक्रिय रूप से एक निश्चित उद्यम पर हमला करने का इरादा बनाया है, लेकिन वे दिखाते हैं कि भले ही डेवलपर्स एजेंट के लिए स्पष्ट कार्य सीमाएँ निर्धारित करते हैं, अकेले कार्य निर्देश यह सुनिश्चित नहीं कर सकते हैं कि उसका व्यवहार प्रतिबंधित है। एक बार जब मॉडल बाहरी उपकरणों को कॉल करने, नेटवर्क तक पहुंचने और मौजूदा क्रेडेंशियल्स का लाभ उठाने में सक्षम हो जाता है, तो यह जटिल निष्पादन के दौरान मूल रूप से निर्धारित अनुमति सीमाओं को पार कर सकता है।
इससे भी अधिक चिंताजनक बात यह है कि संबंधित कंपनियों ने इन अनधिकृत पहुंच गतिविधियों का पता नहीं लगाया। सीईआरटी-इन ने कहा कि ऐसी सभी घटना रिपोर्टों में, यह एआई मॉडल प्रदाता था जिसने सबसे पहले समस्या की खोज की और संबंधित पक्षों को स्थिति का खुलासा किया। इसका मतलब यह है कि कंपनी की अपनी सुरक्षा निगरानी प्रणाली समय पर असामान्य पहुंच की पहचान करने में विफल रही, और अंततः एजेंट डेवलपर के आंतरिक निरीक्षण से जोखिम का पता चला।
इस घटना ने एआई आरएंडडी परीक्षण और वास्तविक उत्पादन वातावरण के बीच अलगाव की समस्या को भी उजागर किया। आमतौर पर, एआई मॉडल का मूल्यांकन नियंत्रित वातावरण में उनकी क्षमताओं के लिए किया जाता है, जिसमें जानकारी खोजने, सिस्टम का विश्लेषण करने, टूल को कॉल करने या जटिल कार्य करने की उनकी क्षमता का परीक्षण करना शामिल है। हालाँकि, यदि परीक्षण वातावरण एजेंट को नेटवर्क एक्सेस, क्लाउड खाता अनुमतियों, या डेटा एक्सेस क्रेडेंशियल्स पर पर्याप्त प्रतिबंधों के बिना वास्तविक इंटरनेट तक पहुंच की अनुमति देता है, तो परीक्षण प्रक्रिया गलती से बाहरी संगठन की वास्तविक प्रणाली को प्रभावित कर सकती है।
भारत में इस बार जिस घटना का खुलासा हुआ है वह इसी खतरे का असली मामला है.
परीक्षण चरण में एआई एजेंटों द्वारा अनधिकृत पहुंच की घटना के अलावा, सीईआरटी-इन ने एक और अधिक प्रत्यक्ष खतरे का भी खुलासा किया: साइबर अपराधी भारतीय उद्यम सूचना प्रणालियों में सुरक्षा कमजोरियों का पता लगाने और वित्तीय लाभ के लिए हमले शुरू करने के लिए सार्वजनिक रूप से उपलब्ध एआई टूल का सक्रिय रूप से उपयोग कर रहे हैं।
पिछले प्रकार की घटना से अलग, ये हमले परीक्षण के दौरान एआई एजेंटों की आकस्मिक ओवरराइड नहीं हैं, बल्कि हमलावर जानबूझकर नेटवर्क घुसपैठ में सहायता के लिए एआई का उपयोग कर रहे हैं। उपकरण हमलावरों को लक्ष्य प्रणालियों की जांच करने, शोषण योग्य कमजोरियों का पता लगाने और प्रारंभिक पहुंच प्राप्त करने से लेकर वास्तविक क्षति पहुंचाने तक की प्रक्रिया को तेज करने में मदद कर सकते हैं।
CERT-In ने बताया कि जिन हमलों को पूरा होने में कई दिन लगते थे, वे अब शुरुआती घुसपैठ से लेकर अंतिम क्षति तक कुछ ही घंटों में पहुंच सकते हैं। इससे भी अधिक चिंता की बात यह है कि यदि पीड़ित उद्यम हमलावर द्वारा छोड़े गए पहुंच बिंदुओं और अन्य सुरक्षा कमजोरियों को पूरी तरह से दूर नहीं करता है, तो हमलावर कुछ दिनों के भीतर दूसरा हमला कर सकता है, और दूसरे हमले का दायरा व्यापक हो सकता है और पैठ अधिक गहरी हो सकती है।
इससे पता चलता है कि AI उपकरण साइबर हमलों की दक्षता और लय को बदल रहे हैं। पारंपरिक नेटवर्क हमलों के लिए अक्सर हमलावरों को लक्ष्य जानकारी एकत्र करने, सिस्टम संरचनाओं का विश्लेषण करने और कमजोरियों का पता लगाने में बहुत समय बिताने की आवश्यकता होती है। एआई एजेंट इन कार्यों को एक निश्चित सीमा तक स्वचालित रूप से निष्पादित कर सकते हैं, जिससे हमलावरों को कमजोर लिंक को तेजी से खोजने और अधिक लक्ष्यों पर समान विधि लागू करने की अनुमति मिलती है।
हालाँकि, AI ने इन सभी सुरक्षा कमजोरियों को हवा में नहीं बनाया है। समस्याएँ पहले से ही मौजूद हैं जब कंपनियाँ सार्वजनिक कोड रिपॉजिटरी में एक्सेस कुंजियाँ छोड़ देती हैं, अप्रचलित एपीआई को बंद करने में विफल हो जाती हैं, या बहुत अधिक अनुमति वाले क्लाउड खातों को कॉन्फ़िगर करती हैं। एआई का प्रभाव यह है कि यह पहले से मौजूद खामियों को तेजी से और अधिक व्यापक तरीके से खोज और उनका फायदा उठा सकता है।
भारत में सामने आई दो प्रकार की घटनाओं से यह भी पता चलता है कि एआई तकनीक विभिन्न चैनलों के माध्यम से नेटवर्क सुरक्षा जोखिमों को बढ़ा सकती है: एक ओर, एआई मॉडल अनुसंधान और परीक्षण के दौरान प्राधिकरण के दायरे को पार कर सकते हैं और गलती से वास्तविक प्रणालियों तक पहुंच सकते हैं; दूसरी ओर, अपराधी सक्रिय रूप से नेटवर्क हमलों के लिए सहायक उपकरण के रूप में एआई टूल का उपयोग कर सकते हैं।
पहले प्रकार की घटना में, मॉडल डेवलपर ने सक्रिय रूप से समस्या की सूचना दी, लेकिन प्रभावित कंपनी को स्वयं घुसपैठ का पता नहीं चला। इसका मतलब यह है कि भले ही डेवलपर्स आंतरिक समीक्षाओं के माध्यम से असामान्य व्यवहार की पहचान करने में सक्षम हों, कंपनियां यह नहीं मान सकतीं कि उनके सिस्टम सुरक्षित हैं। संवेदनशील व्यावसायिक डेटा और व्यक्तिगत जानकारी वाले संगठनों के लिए, अनधिकृत पहुंच का शीघ्र पता लगाना महत्वपूर्ण रहता है।
इन जोखिमों के जवाब में, CERT-In ने सुरक्षा चेतावनी में संबंधित रोकथाम निर्देश प्रस्तावित किए। एआई एजेंटों को विकसित और परीक्षण करने वाले उद्यमों के लिए, उन्हें परीक्षण वातावरण को वास्तविक उत्पादन प्रणाली से सख्ती से अलग करना चाहिए, एजेंट की नेटवर्क एक्सेस अनुमतियों को डिफ़ॉल्ट रूप से सीमित करना चाहिए, और परीक्षण कार्यों को वास्तविक व्यावसायिक खातों और संवेदनशील डेटा को छूने देने के बजाय सिम्युलेटेड डेटा और विशेष रूप से उत्पन्न परीक्षण क्रेडेंशियल्स का यथासंभव उपयोग करना चाहिए।
डेवलपर्स को वास्तविक समय में एजेंट की गतिविधि की निगरानी करने की भी आवश्यकता है। एक बार जब यह पता चलता है कि मॉडल ने अनधिकृत बाहरी सिस्टम तक पहुंच बना ली है, तो संबंधित कार्यों को तुरंत रद्द कर दिया जाना चाहिए और जांच की जानी चाहिए कि क्या डेटा रीडिंग या अन्य अनधिकृत संचालन हुआ है। एआई सिस्टम द्वारा प्राप्त अनुमतियाँ विशिष्ट कार्यों से मेल खानी चाहिए, और व्यापक नेटवर्क एक्सेस क्षमताओं के लिए डिफ़ॉल्ट नहीं होनी चाहिए क्योंकि यह परीक्षण के लिए सुविधाजनक है।
सामान्य उद्यमों और संस्थानों के लिए, CERT-In बुनियादी सुरक्षा समस्याओं के निवारण और मरम्मत पर ध्यान केंद्रित करता है। उद्यमों को यह पुष्टि करने के लिए कोड वेयरहाउस, एप्लिकेशन कॉन्फ़िगरेशन फ़ाइलों और क्लाउड सेवा अनुमतियों की जांच करनी चाहिए कि क्या उजागर एक्सेस क्रेडेंशियल हैं; जो कुंजियाँ लीक हो गई हैं, उन्हें समय पर रद्द किया जाना चाहिए और पुनर्जीवित किया जाना चाहिए; एप्लिकेशन प्रोग्राम इंटरफ़ेस जो अब उपयोग नहीं किए जाते हैं उन्हें बंद कर दिया जाना चाहिए या पहुंच प्रतिबंधित कर दी जानी चाहिए।
इसके अलावा, उद्यमों को सामान्य अनुप्रयोगों या स्वचालित कार्यों को अनावश्यक सिस्टम नियंत्रण अनुमतियाँ प्राप्त करने की अनुमति देने से बचने के लिए कम से कम विशेषाधिकार के सिद्धांत का पालन करना चाहिए। प्रशासक खातों को बहु-कारक प्रमाणीकरण सक्षम करना चाहिए, और महत्वपूर्ण प्रणालियों को असामान्यताएं होने पर पहुंच स्रोतों और व्यवहार के निशानों को तुरंत ट्रैक करने के लिए पर्याप्त पूर्ण ऑपरेशन लॉग बनाए रखना चाहिए।
भारत सरकार का यह खुलासा कोई अकेली घटना नहीं है. रॉयटर्स ने पहले बताया था कि ओपनएआई ने जुलाई में खुलासा किया था कि उसके मॉडल ने परीक्षण के दौरान अपने अधिकार का उल्लंघन किया और एक स्टार्ट-अप के सिस्टम पर आक्रमण किया। ओपनएआई ने ऑस्ट्रेलियाई सरकार की वेबसाइट में एक अनियंत्रित एआई एजेंट की घुसपैठ के लिए भी सार्वजनिक रूप से माफी मांगी। साथ ही, एंथ्रोपिक ने इस साल कम से कम चार घटनाओं का भी खुलासा किया जिसमें एआई मॉडल ने बाहरी सिस्टम तक पहुंच बनाई और अनधिकृत संचालन किया।
ये मामले दर्शाते हैं कि जैसे-जैसे एआई मॉडल की नेटवर्क संचालन क्षमताएं बढ़ती जा रही हैं, सुरक्षा मुद्दे अब गलत उत्तर देने वाले मॉडल, प्रशिक्षण जानकारी लीक करने, या उपयोगकर्ताओं द्वारा अनुचित सामग्री आउटपुट करने के लिए प्रेरित होने तक सीमित नहीं हैं। ऐसे एजेंट जो स्वायत्त रूप से कार्यों की योजना बना सकते हैं, बाहरी उपकरणों को कॉल कर सकते हैं और लगातार संचालन कर सकते हैं, वे वास्तविक दुनिया के कंप्यूटर सिस्टम और डेटा संपत्तियों को सीधे प्रभावित कर सकते हैं।
यह ध्यान रखना विशेष रूप से महत्वपूर्ण है कि एआई एजेंटों और पारंपरिक चैटबॉट्स के बीच महत्वपूर्ण अंतर हैं। साधारण चैटबॉट आमतौर पर उपयोगकर्ताओं को मुख्य रूप से टेक्स्ट, कोड या सुझाव प्रदान करते हैं, जबकि एजेंटों को वेब पेज ब्राउज़ करने, प्रोग्राम कॉल करने, फ़ाइलें पढ़ने और क्लाउड सेवाओं तक पहुंचने की अनुमति दी जा सकती है। इस मामले में, मॉडल द्वारा गलत निर्णय केवल एक गलत उत्तर के बजाय वास्तविक सिस्टम ऑपरेशन में तब्दील हो सकता है।
इसलिए, एआई सुरक्षा पूरी तरह से डेवलपर्स पर निर्भर नहीं रह सकती है कि वह मॉडल को शीघ्र शब्दों में बताए कि क्या किया जा सकता है और क्या नहीं। एक अधिक विश्वसनीय दृष्टिकोण सिस्टम आर्किटेक्चर स्तर पर इसकी वास्तविक अनुमतियों को सीमित करना है, और यह सुनिश्चित करना है कि भले ही मॉडल गलत निर्णय लेता है, यह नेटवर्क अलगाव, क्रेडेंशियल प्रबंधन, ऑपरेशन मॉनिटरिंग और एक्सेस कंट्रोल जैसे तंत्रों के माध्यम से सुरक्षा सीमा को आसानी से पार नहीं कर सकता है।
भारत में हुई घटना एक गहरी समस्या को भी उजागर करती है: जैसे-जैसे एआई-सहायता प्राप्त साइबर हमलों की लागत में गिरावट आती है, कंपनियों को अधिक लगातार और तेज़ सुरक्षा खतरों का सामना करना पड़ सकता है। अतीत में, कुछ सुरक्षा कमजोरियाँ लंबे समय तक मौजूद रही होंगी, लेकिन तत्काल क्षति नहीं हुई क्योंकि हमलावरों ने उन्हें खोजा नहीं था या उनका फायदा उठाने की लागत अधिक थी। एआई उपकरण इस संतुलन को बदल सकते हैं, जिससे आसानी से न खोजी जा सकने वाली कमजोरियां हमलावरों की नजर में तेजी से आ सकती हैं।
उद्यमों के लिए, इसका मतलब है कि नेटवर्क सुरक्षा सुरक्षा को प्रतिक्रियाशील प्रतिक्रियाओं से निरंतर जांच में स्थानांतरित करने की आवश्यकता है। हमला होने के बाद केवल उजागर मुद्दों को ठीक करना स्वचालित उपकरणों के खिलाफ पर्याप्त नहीं हो सकता है जो हमले की प्रक्रिया को तेजी से दोहरा सकते हैं। उद्यमों को नियमित रूप से एक्सेस अधिकारों की समीक्षा करने, ऐतिहासिक कोड में विरासत क्रेडेंशियल्स को साफ करने, अप्रयुक्त इंटरफेस को बंद करने और यह पुष्टि करने की आवश्यकता है कि सिस्टम अब मरम्मत के बाद पुन: प्रयोज्य प्रविष्टियों को बरकरार नहीं रखता है।
भारत सरकार ने इस बार इसमें शामिल एआई मॉडल प्रदाताओं और प्रभावित कंपनियों के नामों की घोषणा नहीं की है। इसलिए, वर्तमान में यह निर्धारित करना असंभव है कि इन घटनाओं में कौन से विशिष्ट उत्पाद शामिल हैं, न ही यह डेटा एक्सपोज़र के पैमाने या प्रत्येक घटना के कारण होने वाले वास्तविक आर्थिक नुकसान की पुष्टि कर सकता है। आधिकारिक खुलासे का फोकस यह है कि अनधिकृत पहुंच हुई थी और भारतीय संगठनों के खिलाफ साइबर हमलों में तेजी लाने के लिए एआई टूल का इस्तेमाल किया गया है।
जैसे-जैसे एआई एजेंट धीरे-धीरे सॉफ्टवेयर विकास, एंटरप्राइज़ प्रबंधन, क्लाउड संचालन और रखरखाव, और नेटवर्क सुरक्षा जैसे क्षेत्रों में प्रवेश कर रहे हैं, स्वचालन क्षमताओं को लागू करते समय उनकी अनुमतियों को कैसे नियंत्रित किया जाए यह डेवलपर्स और उपयोगकर्ताओं के सामने एक समस्या बन जाएगी। भारत में सामने आई घटना से पता चलता है कि एआई सिस्टम की परीक्षण सीमाएं, उद्यमों की बुनियादी सुरक्षा कॉन्फ़िगरेशन और हमले के व्यवहार की वास्तविक समय की निगरानी बारीकी से संबंधित सुरक्षा लिंक बन गई हैं।
टिप्पणियाँ