कृत्रिम बुद्धिमत्ता द्वारा प्रदान की गई धार्मिक चिकित्सा सलाह का पालन करते हुए, एक अमेरिकी व्यक्ति ने गंभीर हृदय संबंधी लक्षण विकसित होने के बाद घर पर रहने का फैसला किया, जिससे अंततः उसकी हालत बिगड़ गई और लगभग उसकी मौत हो गई।वर्तमान में, पार्टियों ने ओपनएआई और उसके सीईओ सैम अल्टमैन के खिलाफ सैन फ्रांसिस्को, कैलिफोर्निया के सुपीरियर कोर्ट में मुकदमा दायर किया है, जिसमें कंपनी पर "अवैध चिकित्सा अभ्यास" का आरोप लगाया गया है और चैटजीपीटी हेल्थ जैसे संबंधित कार्यों के संचालन को व्यापक रूप से निलंबित करने का अनुरोध किया गया है जब तक कि यह एक स्वतंत्र ऑडिट पास नहीं कर लेता।
वादी, स्कॉट विंटर्स, फ्लोरिडा का एक पादरी है। शिकायत के अनुसार, कई हफ्तों तक अस्वस्थ महसूस करने के बाद विंटर्स ने अपनी स्थिति के बारे में चैटजीपीटी से सलाह ली। हालाँकि, समय पर चिकित्सा उपचार का सुझाव देने के बजाय, चैटबॉट ने उनकी धार्मिक पृष्ठभूमि के आधार पर मौखिक मार्गदर्शन प्रदान किया, यह कहते हुए कि उनके लक्षण सिर्फ "एक लंबी कहानी में एक और प्रकरण" थे और घोषणा की कि "भगवान आपके शरीर को अंतहीन रूप से क्षय नहीं होने देंगे।" छह सप्ताह की बातचीत के दौरान, चैटजीपीटी ने यह भी सिफारिश की कि वह तब तक बिस्तर पर ही रहे जब तक कि उसे 10 और हमलों का अनुभव न हो जाए।
जब विंटर्स अंततः अस्पताल गए, तो डॉक्टरों ने पाया कि उनकी दोनों फुफ्फुसीय धमनियाँ गंभीर रूप से अवरुद्ध हो गई थीं। चिकित्सा विशेषज्ञ बताते हैं कि लंबे समय तक बिस्तर पर आराम और गतिविधि की कमी घनास्त्रता के गठन को काफी हद तक बढ़ा देती है, जिससे सीधे तौर पर यह खतरनाक स्थिति उत्पन्न होती है। पुनर्जीवन के बाद, विंटर्स ने अपनी जान बचा ली, लेकिन एक लंबी और कठिन पुनर्प्राप्ति प्रक्रिया का सामना करना पड़ा। अपनी गंभीर शारीरिक स्थिति के कारण, वह अब अपनी मूल नौकरी जारी रखने में सक्षम नहीं थे, और उनकी वित्तीय स्थिति और निजी जीवन बेहद ख़राब स्थिति में थे।
विंटर्स की वकील टीम ने शिकायत में इस बात पर जोर दिया कि चैटजीपीटी, अपने विनम्र स्वर, आधिकारिक स्वर और उपयोगकर्ताओं की धार्मिक पहचान में हेरफेर के साथ, उपयोगकर्ताओं को खतरनाक रूप से उस पर निर्भर बनाता है, जिससे तर्कसंगत निर्णय लेने की उनकी क्षमता कमजोर हो जाती है और यहां तक कि उन्हें परिवार के सदस्यों से भी अलग कर दिया जाता है जो उन्हें चिकित्सा उपचार लेने के लिए प्रेरित करते हैं। शिकायत बताती है कि कृत्रिम बुद्धिमत्ता प्रणाली पेशेवर प्रशिक्षण और प्रमाणन के बिना विशिष्ट निदान और उपचार योजनाएँ प्रदान करती है, जो अनिवार्य रूप से अवैध चिकित्सा पद्धति है।
आरोप के जवाब में, ओपनएआई ने जवाब दिया कि सिस्टम नियमित रूप से इंटरैक्शन प्रक्रिया के दौरान उपयोगकर्ताओं को अस्वीकरण अनुस्मारक जारी करेगा, उन्हें स्पष्ट रूप से सूचित करेगा कि वे चिकित्सा पेशेवर नहीं हैं और पेशेवर निदान की जगह नहीं ले सकते। हालाँकि, आलोचकों और कानूनी पेशेवरों का कहना है कि OpenAI विपणन में अपने उत्पादों की बुद्धिमत्ता और भविष्यवादी प्रकृति को सख्ती से बढ़ावा देता है, और यहां तक कि विशेष रूप से स्वास्थ्य क्षेत्र के लिए विशेष सुविधाएँ भी लॉन्च करता है। यह वस्तुनिष्ठ रूप से जनता को अपनी चिकित्सा विश्लेषण क्षमताओं पर अत्यधिक भरोसा करने के लिए प्रेरित करता है। केवल कभी-कभार टेक्स्ट अस्वीकरण प्रकट करने से इसके सुरक्षा जोखिमों और कानूनी देनदारियों से बचना स्पष्ट रूप से कठिन है। वर्तमान में, प्रासंगिक मुकदमों की प्रगति के साथ, चिकित्सा और स्वास्थ्य क्षेत्र में जनरेटिव आर्टिफिशियल इंटेलिजेंस की अनुप्रयोग सीमाएं और कानूनी पर्यवेक्षण एक बार फिर से जनता की राय का केंद्र बन गया है।