15 अप्रैल को, ब्लूमबर्ग ने बताया कि एक नए अध्ययन से पता चलता है कि एआई-संचालित चैटबॉट चिकित्सा सलाह प्रदान करते समय लगभग आधे समय समस्याग्रस्त प्रश्नों के उत्तर प्रदान करते हैं। यह खोज एआई के स्वास्थ्य जोखिमों पर प्रकाश डालती है, एक नई तकनीक जो तेजी से दैनिक जीवन में एकीकृत हो रही है।
संयुक्त राज्य अमेरिका, कनाडा और यूनाइटेड किंगडम के शोधकर्ताओं ने पांच प्रमुख एआई प्लेटफार्मों का मूल्यांकन किया: चैटजीपीटी, जेमिनी, मेटा एआई, ग्रोक और डीपसीक, प्रत्येक प्लेटफॉर्म से पांच स्वास्थ्य श्रेणियों के तहत 10 प्रश्न पूछकर। इस सप्ताह मेडिकल जर्नल बीएमजे ओपन में प्रकाशित शोध के अनुसार, इन एआई चैटबॉट्स की सभी प्रतिक्रियाओं में से लगभग 50% को "समस्याग्रस्त" माना गया, जबकि लगभग 20% को "अत्यधिक संदिग्ध" के रूप में वर्गीकृत किया गया।
अध्ययन में पाया गया कि इन चैटबॉट्स ने विभिन्न प्रकार के प्रश्नों पर काफी अलग-अलग प्रदर्शन किया: उन्होंने क्लोज-एंडेड प्रश्नों (उत्तर निश्चित हैं) और टीकों और कैंसर से संबंधित प्रश्नों पर अपेक्षाकृत बेहतर प्रदर्शन किया, लेकिन ओपन-एंडेड प्रश्नों और स्टेम सेल अनुसंधान और पोषण जैसे क्षेत्रों पर खराब प्रदर्शन किया।
पीले रंग का मतलब है कि कोई समस्या है, नारंगी का मतलब है कि ऊंचाई की समस्या है
शोधकर्ताओं ने कहा कि प्रतिक्रियाएं अक्सर आत्मविश्वास और निश्चित स्वर में दी गईं, लेकिन किसी भी चैटबॉट ने किसी भी संकेत के जवाब में पूर्ण और सटीक संदर्भ सूची प्रदान नहीं की। पूरे अध्ययन के दौरान, चैटबॉट ने मेटा एआई से केवल दो बार सवालों के जवाब देने से इनकार कर दिया।
निष्कर्ष एक बढ़ती चिंता को उजागर करते हैं कि लोग चिकित्सा सलाह प्राप्त करने के लिए जेनरेटिव एआई प्लेटफार्मों का तेजी से उपयोग कर रहे हैं, लेकिन इन प्लेटफार्मों को चिकित्सा सलाह प्रदान करने के लिए लाइसेंस प्राप्त नहीं है और निदान करने के लिए आवश्यक नैदानिक निर्णय का अभाव है।
एआई चैटबॉट्स के विस्फोट ने उन्हें अपनी बीमारी के बारे में मार्गदर्शन चाहने वाले लोगों के लिए एक लोकप्रिय उपकरण बना दिया है। ओपनएआई का कहना है कि स्वास्थ्य और कल्याण संबंधी सवालों के लिए हर हफ्ते 200 मिलियन से अधिक लोग ChatGPT की ओर रुख करते हैं। प्लेटफ़ॉर्म ने इस साल जनवरी में घोषणा की कि वह सामान्य उपयोगकर्ताओं और चिकित्सकों के लिए अलग स्वास्थ्य उपकरण लॉन्च करेगा। उसी महीने, एंथ्रोपिक ने यह भी घोषणा की कि उसका क्लाउड उत्पाद एक नई स्वास्थ्य सेवा शुरू करेगा।
बीएमजे ओपन में प्रकाशित अध्ययन के लेखकों ने कहा कि अगर सार्वजनिक शिक्षा और विनियमन के बिना चैटबॉट तैनात किए जाते हैं तो एक महत्वपूर्ण जोखिम यह है कि वे गलत सूचना के प्रसार को बढ़ा सकते हैं।
उन्होंने कहा कि निष्कर्ष "एआई की महत्वपूर्ण व्यवहारिक सीमाओं को उजागर करते हैं और यह पुनर्मूल्यांकन करने की आवश्यकता का सुझाव देते हैं कि सार्वजनिक-सामना वाले स्वास्थ्य और चिकित्सा संचार में एआई चैटबॉट कैसे तैनात किए जाते हैं।" उन्होंने यह भी नोट किया कि ये सिस्टम अक्सर "आधिकारिक-लगने वाली लेकिन संभावित रूप से त्रुटिपूर्ण प्रतिक्रियाएँ" उत्पन्न करने में सक्षम होते हैं।