जेनरेटिव एआई और बड़े भाषा मॉडल के आगमन के बाद से, कुछ लोगों ने चेतावनी दी है कि एआई द्वारा उत्पन्न आउटपुट अंततः बाद के एआई द्वारा उत्पन्न आउटपुट को प्रभावित कर सकता है, जिससे एक खतरनाक फीडबैक लूप बन सकता है। अब हमारे पास ऐसा एक दस्तावेजी मामला है, जो उभरते प्रौद्योगिकी क्षेत्र में जोखिमों को और उजागर करता है।
एक कृत्रिम बुद्धिमत्ता चैटबॉट द्वारा झूठी जानकारी को मतिभ्रम करने का वर्णन करने की कोशिश करते समय, एक शोधकर्ता ने अनजाने में खोज परिणामों की रैंकिंग को प्रभावित कर दिया, जिससे दूसरे चैटबॉट को मतिभ्रम हो गया। यह घटना अतिरिक्त सुरक्षा उपायों की आवश्यकता को दर्शाती है क्योंकि एआई-उन्नत खोज इंजन अधिक लोकप्रिय हो गए हैं।
सूचना विज्ञान शोधकर्ता डेनियल एस. ग्रिफिन ने इस साल की शुरुआत में अपने ब्लॉग पर गलत जानकारी प्रदान करने वाले चैटबॉट्स के दो उदाहरण पोस्ट किए थे, जिनमें प्रभावशाली कंप्यूटर वैज्ञानिक क्लाउड ई. शैनन शामिल थे। ग्रिफ़िन ने एक अस्वीकरण भी शामिल किया जिसमें कहा गया था कि मशीन खोजकर्ताओं को जानकारी को अनुक्रमित करने से रोकने के लिए चैटबॉट द्वारा प्रदान की गई जानकारी झूठी थी, लेकिन यह पर्याप्त नहीं था।
ग्रिफ़िन को अंततः पता चला कि माइक्रोसॉफ्ट के बिंग और गूगल बार्ड सहित कई चैटबॉट्स ने उसके भ्रामक संदेशों को वास्तविक संदेश समझ लिया और उन्हें खोज परिणामों में उच्च स्थान दिया। जब शैनन के बारे में विशिष्ट प्रश्न पूछे गए, तो बॉट्स ने ग्रिफिन की चेतावनियों पर एक सुसंगत लेकिन झूठी कहानी गढ़ी, जिसके लिए शैनन को एक पेपर का श्रेय दिया गया, जिसे शैनन ने कभी नहीं लिखा था। इससे भी अधिक चिंता की बात यह है कि बिंग और बार्ड के खोज परिणामों ने यह संकेत नहीं दिया कि उनका स्रोत एलएलएम था।
यह स्थिति वैसी ही है जब लोग स्रोतों को संदर्भ से बाहर या संदर्भ से बाहर उद्धृत करते हैं, जिससे गलत शोध होता है। ग्रिफिन का मामला भयानक पैमाने पर ऐसी त्रुटियों को स्वचालित रूप से ठीक करने के लिए जेनरेटिव एआई मॉडल की क्षमता को प्रदर्शित करता है।
माइक्रोसॉफ्ट ने बाद में बिंग में त्रुटि को सुधारा, यह मानते हुए कि ऑनलाइन अपेक्षाकृत कम मानव-लिखित सामग्री वाले विषयों से निपटने के दौरान समस्या उत्पन्न होने की अधिक संभावना थी। इस मिसाल के खतरनाक होने का एक और कारण यह है कि यह खोज परिणामों को प्रभावित करके गलत सूचना फैलाने के लिए जानबूझकर एलएलएम का फायदा उठाने के लिए बुरे कलाकारों के लिए एक सैद्धांतिक खाका प्रदान करता है। खोज परिणामों में शीर्ष रैंकिंग हासिल करने के लिए हैकरों को धोखाधड़ी वाली वेबसाइटों में बदलाव करके मैलवेयर फैलाने के लिए जाना जाता है।
यह भेद्यता जून में एक चेतावनी के साथ मेल खाती है कि जैसे ही अधिक एलएलएम-जनित सामग्री वेब पर उपलब्ध होगी, इसका उपयोग भविष्य के एलएलएम को प्रशिक्षित करने के लिए किया जाएगा। परिणामी फीडबैक लूप "मॉडल पतन" नामक घटना में एआई मॉडल की गुणवत्ता और विश्वसनीयता को काफी कमजोर कर सकता है।
एआई का उपयोग करने वाली कंपनियों को यह सुनिश्चित करना चाहिए कि मानव-निर्मित सामग्री को प्राथमिकता देने के लिए प्रशिक्षण जारी रहे। अल्पसंख्यक समूहों द्वारा उत्पादित कम दिखाई देने वाली जानकारी और सामग्रियों को संरक्षित करने से इस समस्या का समाधान करने में मदद मिल सकती है।