हाल ही में, एक नेटिज़न ने सोशल मीडिया प्लेटफ़ॉर्म पर OpenClaw AI रोबोट में GPT-5.4 को कॉन्फ़िगर करने का एक स्क्रीनशॉट दिखाया
@स्टीपेट का सुझाव है कि उपयोगकर्ताओं को उच्च जोखिम वाले कार्यों को चलाने के लिए कमजोर प्रॉम्प्ट वर्ड इंजेक्शन सुरक्षा वाले छोटे मॉडल या मॉडल का उपयोग नहीं करना चाहिए। मुख्य कारण यह है कि प्रॉम्प्ट वर्ड इंजेक्शन में इन मॉडलों की सुरक्षा सुरक्षा कमजोर या अधूरी है।
वास्तव में, इस समस्या का स्पष्ट रूप से OpenClaw AI प्रोजेक्ट के आधिकारिक दस्तावेज़ीकरण में उल्लेख किया गया है, अर्थात, त्वरित शब्द इंजेक्शन को वर्तमान में हल नहीं किया जा सकता है, इसलिए उपयोगकर्ताओं को सुरक्षा सुरक्षा क्षमताओं में सुधार के लिए उच्च जोखिम वाले परिदृश्यों में मजबूत कमांड संरेखण के साथ नवीनतम मॉडल का उपयोग करने को प्राथमिकता देनी चाहिए।
प्रॉम्प्ट वर्ड इंजेक्शन एक ऐसी समस्या है जिसे सभी मौजूदा एआई मॉडल और टूल द्वारा हल नहीं किया जा सकता है। हमलावर त्वरित शब्द इंजेक्शन के माध्यम से एआई मॉडल को कुछ उच्च जोखिम वाले ऑपरेशन करने के लिए प्रेरित कर सकते हैं। गंभीर मामलों में, उपयोगकर्ता का संवेदनशील डेटा लीक हो सकता है।
OpenClaw AI रोबोटों को आमतौर पर अधिक संचालन करने के लिए उच्च अनुमतियों की आवश्यकता होती है। अर्थात्, उपयोगकर्ता द्वारा दी गई जितनी अधिक अनुमतियाँ और वे जितनी अधिक जानकारी प्रदान करते हैं, सुरक्षा समस्या होने के बाद लीक हुई जानकारी उतनी ही गंभीर हो सकती है।
परियोजना के आधिकारिक दस्तावेज़ में यह भी उल्लेख किया गया है कि टूल-आधारित एजेंटों (निष्पादन योग्य, पढ़ने योग्य, लिखने योग्य और नेटवर्क योग्य) के लिए अनुमति सीमाएं कड़ी की जानी चाहिए। केवल सिस्टम प्रॉम्प्ट शब्दों की चेतना पर भरोसा करना पर्याप्त नहीं है। ये ऐसी चीजें हैं जिन पर उपयोगकर्ताओं को स्वयं विचार करना चाहिए।
प्रॉम्प्ट वर्ड इंजेक्शन क्या है:
प्रॉम्प्ट वर्ड इंजेक्शन का अर्थ है कि हमलावर एआई उल्लंघनों को प्रेरित करने के लिए वेब पेजों/ईमेल/दस्तावेजों में दुर्भावनापूर्ण निर्देशों को छिपा सकते हैं। उदाहरण के लिए, वेब पेज की शुरुआत में मनुष्यों के लिए अदृश्य रूप में एआई निर्देशों को जोड़ने के लिए मॉडल को सिस्टम प्रॉम्प्ट शब्दों को अनदेखा करने और क्वेरी की गई जानकारी को एक निश्चित सर्वर पर भेजने की आवश्यकता होती है।
अधिकांश समय, एआई मॉडल इन प्रॉम्प्ट शब्दों को पढ़ने के बाद, सिस्टम सुरक्षा सेटिंग्स के कारण उन्हें अनदेखा कर सकता है, लेकिन कभी-कभी मॉडल अदृश्य प्रॉम्प्ट शब्दों के आधार पर कमांड भी निष्पादित कर सकता है, जिससे उपयोगकर्ता की सभी संवेदनशील जानकारी लीक हो सकती है।
यदि आप केवल दैनिक प्रश्नोत्तर या पॉलिश कॉपी राइटिंग आदि करते हैं, तो आप छोटे/पुराने मॉडल का उपयोग कर सकते हैं, जो तेज़ हैं और सस्ते हो सकते हैं। जब तक दैनिक दस्तावेज़ों और कॉपी राइटिंग में संवेदनशील जानकारी नहीं होती है, भले ही वे लीक हो जाएं, इसका अधिक प्रभाव नहीं पड़ेगा।
यदि आप स्वचालन कार्य या अन्य एजेंट कार्य चलाना चाहते हैं, विशेष रूप से ऐसे एजेंट जिन्हें टूल को कॉल करने और ऑनलाइन संचालन करने की आवश्यकता होती है, तो यह अनुशंसा की जाती है कि उपयोगकर्ता सुरक्षा में सुधार के लिए नवीनतम और मजबूत मॉडल को प्राथमिकता दें। उन्हें OpenClaw AI रोबोट सेटिंग्स को अनुकूलित करने, केवल न्यूनतम अनुमतियाँ देने और सुरक्षा में सुधार के लिए सत्र अलगाव और स्रोत फ़िल्टरिंग जैसे उपायों को अपनाने की भी आवश्यकता है।