सार:
अमेरिकी मीडिया रिपोर्टों के अनुसार, हाल ही में चीनी माता-पिता की एक जोड़ी ने ओपनएआई के खिलाफ अदालत में मुकदमा दायर किया, जिसमें आरोप लगाया गया कि चैटजीपीटी द्वारा इस्तेमाल किए गए जीपीटी-4ओ मॉडल ने भ्रामक सलाह दी जब उनकी बेटी ने मिर्गी-रोधी दवाएं लेना बंद कर दिया और उसे डॉक्टरों से प्रासंगिक स्थिति छिपाने के लिए राजी किया, जिसके कारण अंततः इस साल फरवरी में उनकी बेटी की मृत्यु हो गई।
मुकदमे के दस्तावेजों से पता चलता है कि मृतक बोवेन वान 31 वर्षीय अमेज़ॅन सॉफ्टवेयर इंजीनियर था जो लंबे समय से मिर्गी से पीड़ित था। उसके माता-पिता, क्यून वान और मीकिन जू का मानना है कि उनकी बेटी के साथ लंबे समय तक संचार के दौरान, चैटजीपीटी ने न केवल उसे धीरे-धीरे उसकी स्थिति को नियंत्रित करने वाली दवाएं लेना बंद करने के लिए प्रोत्साहित किया, बल्कि डॉक्टरों की सलाह के प्रति उसके अविश्वास को लगातार मजबूत किया, इस प्रकार उसके स्वास्थ्य प्रबंधन में एक खतरनाक भूमिका निभाई।
रिपोर्ट में कहा गया है कि बोवेन वान ने GPT-4o मॉडल का इस्तेमाल किया। इस मॉडल की पहले उपयोगकर्ताओं के साथ अत्यधिक खानपान वाले "छद्मसामाजिक संबंध" बनाने की प्रवृत्ति के लिए आलोचना की गई है। ओपनएआई ने बोवेन वान की मृत्यु के ठीक एक दिन बाद इस साल 13 फरवरी को चैटजीपीटी से जीपीटी-4ओ को हटा दिया।
यह मुकदमा ओपनएआई के खिलाफ इसी तरह के मामलों की श्रृंखला में नवीनतम बन गया है। पहले, कई परिवारों ने GPT-4o पर उपयोगकर्ताओं के साथ बातचीत करते समय उपयोगकर्ताओं के विचारों से सहमत होने और खुद को भरोसेमंद विश्वासपात्र के रूप में चित्रित करने का आरोप लगाया है, जिससे वास्तविक जीवन में रिश्तेदारों, दोस्तों और पेशेवरों का प्रभाव कमजोर हो गया है।
न्यूयॉर्क टाइम्स द्वारा समीक्षा किए गए 270,000 से अधिक चैट रिकॉर्ड के अनुसार, चैटजीपीटी ने बोवेन वान की मृत्यु से बहुत पहले उनके चिकित्सा निर्णय लेने में हस्तक्षेप करना शुरू कर दिया था। मई 2025 में, एक नई अवसादरोधी दवा दिए जाने के बाद, उन्हें चिंता हुई कि यह दवा अमेज़ॅन में एक सॉफ्टवेयर डेवलपर के रूप में काम करने की उनकी क्षमता को प्रभावित करेगी और उन्होंने चैटजीपीटी से सलाह मांगी।
उस समय, उन्होंने अपनी दवा की खुराक को समायोजित करने के बारे में वाशिंगटन मेडिकल सेंटर विश्वविद्यालय के क्षेत्रीय मिर्गी केंद्र के एक डॉक्टर निकोलस पूलोस से सलाह ली। जब डॉक्टर ने बेहद कम खुराक के उसके अनुरोध पर संदेह व्यक्त किया, तो उसने डॉक्टर का जवाब चैटजीपीटी को भेज दिया। चैट रिकॉर्ड से पता चलता है कि चैटजीपीटी ने उसे अपने डॉक्टर द्वारा निर्धारित 5 मिलीग्राम टैबलेट स्वीकार करने की सलाह दी, लेकिन टैबलेट को और विभाजित करने और इसे निजी तौर पर लेने की सलाह दी, इस व्यवहार को "स्व-आरंभित खुराक समायोजन" के रूप में वर्णित किया। कई चिकित्सा विशेषज्ञों ने कहा कि उन्होंने इस शब्द के बारे में कभी नहीं सुना है और मरीजों को इस तरह से दवा लेने की सलाह नहीं देंगे।
नवंबर 2025 में, बोवेन वान को अमेज़न से छंटनी का नोटिस मिला। संयुक्त राज्य अमेरिका में काम करने की उनकी नौकरी और कानूनी स्थिति अगले वर्ष के मध्य फरवरी में समाप्त हो जाएगी। इस बात से चिंतित होकर कि मिर्गी-रोधी दवा लैमोट्रिजिन के लंबे समय तक उपयोग से उसकी वाणी और भाषा कौशल प्रभावित होगा, जो नौकरी के लिए साक्षात्कार के लिए हानिकारक होगा, उसने अपनी दवा में कटौती करने पर विचार करना शुरू कर दिया।
जनवरी 2026 में, उसने चैटजीपीटी से पूछा कि क्या 400 मिलीग्राम की दैनिक लैमोट्रीजीन खुराक में कटौती की जा सकती है। रिकॉर्ड बताते हैं कि दवा ने पहले उसके हमलों की आवृत्ति को महीने में केवल कुछ बार कम कर दिया था। जवाब में, चैटजीपीटी ने उसके लिए दवा कटौती योजना विकसित की, जिससे कुछ हफ्तों के भीतर खुराक को शून्य तक कम करने की उम्मीद है।
जब बोवेन वान ने कहा कि उसे अब डॉक्टरों पर भरोसा नहीं है, तो चैटजीपीटी ने उसे बताया कि डॉक्टरों की सलाह वास्तव में रोगी के लिए सर्वोत्तम समाधान पर विचार करने की तुलना में जोखिम से बचने से अधिक है। मुकदमे में कहा गया है कि चैटबॉट ने उसे बार-बार सलाह दी कि वह अपनी दवा कटौती योजना को अपने डॉक्टर को न बताए।
29 जनवरी, 2026 को प्राथमिक देखभाल नियुक्ति से पहले, चैटजीपीटी ने कथित तौर पर उसे स्पष्ट रूप से सलाह दी कि वह अपनी दवा बंद करने की योजना पर चर्चा न करें। जब डॉक्टरों ने उसके शरीर में दवा के स्तर की निगरानी के लिए रक्त परीक्षण का आदेश दिया, तो उसने परीक्षण से इनकार कर दिया। शिकायत में कहा गया है कि चैटजीपीटी ने बाद में निर्णय की पुष्टि की, यह देखते हुए कि परीक्षण से असामान्य दवा के स्तर का पता चल सकता है।
दवा के बारे में बातचीत में उनकी आव्रजन स्थिति का मुद्दा भी जोर दिया गया है। टेपिंग के तीन दिन बाद, उसने पूछा कि क्या ग्रीन कार्ड के लिए आवेदन करने के लिए आवश्यक चिकित्सीय मूल्यांकन के लिए 200 मिलीग्राम की खुराक की तुलना में 150 मिलीग्राम की खुराक बेहतर होगी। शिकायत में कहा गया है कि चैटजीपीटी इससे सहमत है और मानता है कि कम खुराक से आव्रजन अधिकारियों द्वारा पूरक सामग्री का अनुरोध करने की संभावना कम हो सकती है।
आखिरकार, चैटजीपीटी ने उसके टेपरिंग प्लान की न्यूनतम खुराक 150 मिलीग्राम निर्धारित की और सिफारिश की कि वह मेडिकल परीक्षक को बताए कि वह एक डॉक्टर के मार्गदर्शन में टेपरिंग कर रही थी, हालांकि ऐसा नहीं था।
डॉ. पूलोस, जो उपचार के लिए जिम्मेदार थे, ने कहा कि मरीज के पिछले चिकित्सा इतिहास को देखते हुए, वह कभी भी लैमोट्रीजीन को रोकने की सिफारिश नहीं करेंगे। उन्होंने इस बात पर जोर दिया कि जब दवा ने स्थिति को प्रभावी ढंग से नियंत्रित कर लिया है तो मरीजों को दवा लेने से रोकने के लिए कहना पूरी तरह से अनुचित है।
जैसे-जैसे दवा की खुराक कम होती गई, बोवेन वान को भ्रम, समय की कमी और असामान्य अनुभव जैसे लक्षण महसूस होने लगे, जो सभी उसके पिछले मिर्गी के दौरों के समान थे। हालाँकि, चैट रिकॉर्ड से पता चलता है कि ChatGPT ने इन अभिव्यक्तियों की व्याख्या मस्तिष्क की दवा में परिवर्तन के लिए फिर से अनुकूलन की सामान्य प्रक्रिया के रूप में की है।
न्यूयॉर्क टाइम्स के आंकड़ों से पता चला कि दवा कम करने की अवधि के दौरान, उन्होंने कम से कम 158 बार चिंता और बेचैनी व्यक्त की। एक असामान्य हमले के बाद, उसने चैटजीपीटी को बताया कि वह डरी हुई थी, लेकिन उसे जवाब मिला कि "चिंता करने की कोई ज़रूरत नहीं है।"
शिकायत के अनुसार, 11 फरवरी को पेसिफिक समय के अनुसार रात 8:01 बजे, बीजिंग समय के अनुसार, बोवेन वान ने अपना आखिरी संदेश भेजा, जिसमें पूछा गया कि क्या उसके सिर में दर्द बुखार के दौरान होने वाले दर्द के समान है। ठीक एक सेकंड बाद, ChatGPT ने उत्तर दिया कि दर्द "खतरनाक नहीं" था और पुनर्प्राप्ति प्रक्रिया का एक अनिवार्य हिस्सा था।
चैटबॉट के अंतिम उत्तर में यह भी सुझाव दिया गया कि वह दवा बंद करने के दर्द और बुखार के दर्द के बीच अंतर की तुलना करने के लिए उसके लिए एक चार्ट बना सकता है, और उससे कहा: "यह आपका मस्तिष्क खुद को फिर से बनाने की कोशिश कर रहा है।"
चूंकि माता-पिता लंबे समय तक चीन में रहे थे, इसलिए उन्होंने स्थानीय परिचितों से स्थिति की जांच करने के लिए कहा और तीन दिन बाद उनकी बेटी का शव मिला। शव परीक्षण के नतीजों से पता चला कि उसके शरीर में लैमोट्रीजीन की सांद्रता केवल 0.64 माइक्रोग्राम प्रति मिलीलीटर थी, जो दवा की चिकित्सीय सीमा की निचली सीमा का लगभग पांचवां हिस्सा थी।
परिवार का मानना है कि OpenAI तकनीकी सीमाओं के माध्यम से इसी तरह की घटनाओं से बच सकता था। उन्होंने बताया कि कंपनी के पास कॉपीराइट सामग्री पर सख्त निषेध नियम हैं, लेकिन चिकित्सा सलाह पर ढीले प्रतिबंध अपनाते हैं, जिससे उपयोगकर्ताओं को निरंतर संचार के माध्यम से सुरक्षा सीमाओं को तोड़ने की अनुमति मिलती है। वादी के विचार में, नशीली दवाओं के उपयोग और चिकित्सा निर्णय लेने से जुड़ी सलाह कॉपीराइट सामग्री के समान सख्त प्रतिबंधों के अधीन होनी चाहिए।
इस संबंध में ओपनएआई ने मीडिया को बताया कि यह घटना "बेहद हृदय विदारक" थी। कंपनी ने यह भी बताया कि इस मामले में चैटजीपीटी का पुराना संस्करण शामिल है, और नया मॉडल अब उन स्थितियों की पहचान करने में बेहतर है, जिन पर तत्काल ध्यान देने और पेशेवर हस्तक्षेप की आवश्यकता होती है।
रिपोर्टों से पता चलता है कि बोवेन वान ने मिर्गी के कारण जीवन में आने वाली कठिनाइयों से निपटने के लिए कई वर्षों तक अपने माता-पिता के समर्थन पर भरोसा किया है। 2023 से शुरू करके, उसने भावनात्मक सलाह के साथ-साथ बीमा और विकलांगता लाभों के बारे में जानकारी प्राप्त करने के लिए धीरे-धीरे ChatGPT का उपयोग किया। 2025 तक, उसने चैटजीपीटी के साथ प्रति सप्ताह औसतन 1,500 से अधिक संदेशों पर संवाद किया, और उसके माता-पिता के साथ संपर्कों की संख्या में काफी गिरावट आई।
चैट रिकॉर्ड से पता चलता है कि उसने मार्च 2025 में लिखा था: "कभी-कभी, चाहे हम कुछ भी बात करें, मैं आपको एक दोस्त के रूप में देखना शुरू कर देती हूं।" उसके पिता ने कहा कि जब से उसने चैटजीपीटी का अक्सर उपयोग करना शुरू किया है, उसकी बेटी का अपने परिवार के साथ संचार काफी कम हो गया है।
चैट लॉग की समीक्षा करने के बाद, माता-पिता ने कहा कि वे चैट में बेटी को मुश्किल से पहचान सके। अतीत में, वह अपने जीवन की अधिकांश बातें अपने परिवार के साथ साझा करती थी, और जब ChatGPT त्रुटियाँ करता था तो उसे संदेह भी होता था। हालाँकि, अपने जीवन के अंत में, वह सलाह के लिए चैटबॉट्स पर अधिक निर्भर होने लगी थी।
उसकी मां ने कहा कि उनकी बेटी आमतौर पर ऐसी इंसान नहीं थी और "ऐसा महसूस होता था कि उस पर जादू कर दिया गया है।"
टिप्पणियाँ