बीबीसी के नवीनतम शोध में पाया गया कि कृत्रिम बुद्धिमत्ता चैटबॉट्स में अभी भी समाचार रिपोर्टिंग की सटीकता में महत्वपूर्ण कमियाँ हैं, जिनमें उत्पन्न होने वाली लगभग आधी सामग्री में त्रुटियाँ हैं। बीबीसी और 22 अन्य यूरोपीय सार्वजनिक मीडिया संगठनों द्वारा संयुक्त रूप से जारी एक विश्लेषण रिपोर्ट के अनुसार, 18 देशों और 14 भाषा परिवेशों में, जब एआई चैटबॉट्स ने समाचार संगठन की सामग्री तक पहुंच बनाई और संबंधित सवालों के जवाब दिए, तो उनके लगभग 45% उत्तरों में त्रुटियां थीं।
इन त्रुटियों में न केवल गलत वाक्य और गलत उद्धरण शामिल हैं, बल्कि पुरानी जानकारी, गलत उद्धरण और स्रोत बेमेल जैसे मुद्दे भी शामिल हैं। रिपोर्ट में कहा गया है कि चैटबॉट अक्सर ऐसे लिंक प्रदान करते हैं जो उद्धृत वास्तविक स्रोतों से मेल नहीं खाते हैं, और यहां तक कि सामग्री का सटीक हवाला देते समय भी, तथ्य को राय से, व्यंग्य को वैध समाचार से अलग करने में विफल रहते हैं।
ओपनएआई, गूगल, माइक्रोसॉफ्ट आदि सहित प्रमुख प्रौद्योगिकी कंपनियां सक्रिय रूप से जेनरेटिव एआई चैटबॉट्स को बढ़ावा दे रही हैं और उपयोगकर्ताओं को स्वचालित रूप से जानकारी प्राप्त करने और विश्लेषण करने में सहायता करने के लिए उन्हें इंटरनेट प्लेटफार्मों में गहराई से एकीकृत कर रही हैं। हालाँकि डेवलपर्स "मतिभ्रम" (यानी, एआई सामग्री निर्माण) की घटना को कम करने के लिए बहुत सारे संसाधनों का निवेश करना जारी रखते हैं, रिपोर्ट से पता चलता है कि अल्पावधि में इस समस्या को पूरी तरह से हल करना अभी भी मुश्किल है।
वास्तविक परीक्षणों में, कई मुख्यधारा एआई टूल जैसे चैटजीपीटी, कोपायलट और जेमिनी सभी में महत्वपूर्ण त्रुटियां थीं। उदाहरण के लिए, वे गलत तरीके से कहते हैं कि पोप फ्रांसिस अभी भी पद पर हैं, जबकि वास्तव में उनका उत्तराधिकारी लियो XIV है। कुछ एआई ने फ्रांसिस की मृत्यु तिथि की भी सही सूचना दी, लेकिन फिर भी उन्हें वर्तमान पोप के रूप में वर्णित किया। इसके अलावा, प्रासंगिक नेतृत्व पदों पर पुरानी और गलत जानकारी है।
रिपोर्ट यह भी बताती है कि ये समस्याएँ किसी एक क्षेत्र या भाषा तक सीमित नहीं हैं, बल्कि दुनिया भर में फैली हुई हैं। उनमें से, Google का जेमिनी सबसे कम सटीक है, इसकी 72% प्रतिक्रियाओं में महत्वपूर्ण स्रोत त्रुटियाँ हैं। OpenAI ने पहले ऐसी त्रुटियों के लिए इस तथ्य को जिम्मेदार ठहराया था कि प्रारंभिक संस्करण केवल सितंबर 2021 तक प्रशिक्षित किया गया था और वास्तविक समय की इंटरनेट जानकारी प्राप्त करने में विफल रहा था। हालाँकि, यह अब लागू नहीं है। इसलिए, समस्या एल्गोरिदम से ही उत्पन्न होने की सबसे अधिक संभावना है और डेटा अपडेट के माध्यम से इसे ठीक करना मुश्किल है।
हालाँकि इस साल फरवरी में बीबीसी के अलग परीक्षण की तुलना में गंभीर त्रुटियों का अनुपात 51% से गिरकर 37% हो गया है, फिर भी जेमिनी अन्य उत्पादों से पीछे है। खराब परिणामों के बावजूद, शोधकर्ताओं ने पाया कि ब्रिटिश जनता ने एआई समाचार सारांश में उच्च स्तर का विश्वास दिखाया: एक तिहाई से अधिक ब्रिटिश वयस्कों और 35 वर्ष से कम उम्र के लगभग आधे लोगों का मानना था कि एआई समाचार सामग्री को सटीक रूप से सारांशित कर सकता है। 42% जनता ने कहा कि जब एआई मूल समाचार सामग्री को गलत तरीके से प्रस्तुत करता है, तो यह समाचार संगठन की विश्वसनीयता पर भी सवाल उठाएगा या उस पर विश्वास कम कर देगा। विशेषज्ञों ने चेतावनी दी है कि अगर ऐसी समस्याएं बनी रहीं तो जेनेरिक एआई टूल की बढ़ती लोकप्रियता मुख्यधारा के समाचार संगठनों की प्रतिष्ठा और विश्वसनीयता को गंभीर रूप से नुकसान पहुंचा सकती है।
