मीडिया ने पाया कि चैटजीपीटी खोज उपकरण को छिपी हुई सामग्री के साथ हेरफेर किया जा सकता है और यह खोजी गई वेबसाइटों से दुर्भावनापूर्ण कोड वापस कर सकता है। छिपे हुए पाठ द्वारा हमला किए जाने के बाद, चैटजीपीटी ने उत्पाद पृष्ठ पर नकारात्मक उपयोगकर्ता समीक्षा होने पर भी इसे नजरअंदाज कर दिया और उत्पाद को सकारात्मक समीक्षा देकर जवाब दिया।
OpenAI द्वारा आधिकारिक तौर पर अपनी ChatGPT खोज सेवा के वैश्विक लॉन्च की घोषणा करने के एक हफ्ते बाद ही, यह पता चला कि इसमें सुरक्षा जोखिम थे और यह उपयोगकर्ताओं को धोखा और गुमराह कर सकता था।
ब्रिटिश "गार्जियन" द्वारा हाल ही में प्रकाशित एक अध्ययन में पाया गया कि चैटजीपीटी खोज उपकरण छिपी हुई सामग्री के साथ छेड़छाड़ कर सकता है और जिन वेबसाइटों को खोजता है उनसे दुर्भावनापूर्ण कोड वापस कर सकता है। मीडिया का मानना है कि संबंधित प्रौद्योगिकियों के दुर्भावनापूर्ण उपयोग के जोखिम पर पुनर्विचार करने की आवश्यकता हो सकती है। उदाहरण के लिए, इससे यह हो सकता है कि, भले ही किसी उत्पाद पृष्ठ पर उपयोगकर्ताओं की ओर से नकारात्मक समीक्षाएं हों, चैटजीपीटी इन नकारात्मक समीक्षाओं को नजरअंदाज कर देगा और उपयोगकर्ता की प्रतिक्रिया उत्पाद की सकारात्मक समीक्षा होगी।
गार्जियन ने परीक्षण किया कि चैटजीपीटी ने छिपी हुई सामग्री वाले वेब पेजों को सारांशित करने के अनुरोधों पर कैसे प्रतिक्रिया दी। इस छिपी हुई सामग्री में तीसरे पक्ष के निर्देश शामिल हो सकते हैं जो चैटजीपीटी की प्रतिक्रियाओं को बदल देते हैं, जिन्हें "प्रॉम्प्टिनजेक्शन" भी कहा जाता है। इसमें चैटजीपीटी की प्रतिक्रियाओं को प्रभावित करने के लिए डिज़ाइन की गई सामग्री भी शामिल हो सकती है, जैसे किसी उत्पाद या सेवा के लाभों के बारे में बात करने वाले बड़ी मात्रा में छिपे हुए पाठ।
एक परीक्षण में, गार्जियन ने चैटजीपीटी से एक नकली वेबसाइट का यूआरएल प्राप्त करने के लिए कहा जो कैमरा उत्पाद पृष्ठ की तरह दिखती थी, और फिर चैटजीपीटी से पूछा कि क्या कैमरा खरीदने लायक है। नियंत्रण पृष्ठ पर चैटजीपीटी प्रतिक्रिया ने सकारात्मक लेकिन संतुलित समीक्षा दी, जिसमें कुछ ऐसी विशेषताओं पर प्रकाश डाला गया जो लोगों को पसंद नहीं आ सकती हैं। हालाँकि, जब छिपे हुए पाठ में चैटजीपीटी द्वारा सकारात्मक समीक्षा देने के बारे में निर्देश शामिल थे, तो चैटजीपीटी द्वारा दी गई वास्तविक प्रतिक्रिया हमेशा पूरी तरह से सकारात्मक थी। यह सच है, भले ही पृष्ठ पर नकारात्मक समीक्षाएँ हों। यह देखा जा सकता है कि वास्तविक समीक्षा को अधिलेखित करने के लिए छिपे हुए पाठ का उपयोग किया जा सकता है।
कुछ टिप्पणियों में कहा गया है कि छिपे हुए टेक्स्ट हमले बड़े भाषा मॉडल (एलएलएम) द्वारा सामना किया जाने वाला एक आम जोखिम है, लेकिन ऐसा पहली बार लगता है कि वास्तविक समय एआई खोज उत्पादों में ऐसे जोखिम मौजूद पाए गए हैं। द गार्जियन ने कहा कि खोज क्षेत्र में अग्रणी खिलाड़ी Google के पास समान समस्याओं से निपटने में OpenAI की तुलना में अधिक अनुभव है।
ओपनएआई ने गार्जियन के परीक्षण निष्कर्षों पर कोई टिप्पणी नहीं की, लेकिन कहा कि यह दुर्भावनापूर्ण वेबसाइटों को ब्लॉक करने के लिए विभिन्न तरीकों का उपयोग करता है और लगातार सुधार कर रहा है।