सार:
11 फरवरी, 2026 को रात 8:01 बजे, बोवेन वान ने चैटजीपीटी से सिरदर्द के बारे में पूछा। वह यह पुष्टि करना चाहती थी कि जो दर्द उसे महसूस हुआ वह बुखार के दर्द जैसा था या नहीं। ChatGPT ने उससे कहा: "यह खतरनाक नहीं है, यह पुनर्प्राप्ति के लिए एक आवश्यक संरचना है।"
चैटजीपीटी को यह उसका आखिरी संदेश था। कुछ ही समय बाद, बोवेन वान अपने सिएटल निवास में मृत पाए गए। फोरेंसिक डेटा ने मौत का कारण मिर्गी से अचानक मौत (एसयूडीईपी) के रूप में वर्गीकृत किया है।
चार महीने पहले, बोवेन वान को खबर मिली कि उसे अमेज़न से निकाला जा रहा है।
चीन के जियांग्सू की एक 31 वर्षीय महिला, जो संयुक्त राज्य अमेरिका में मशीन लर्निंग सॉफ्टवेयर इंजीनियर के रूप में काम करती है, ने अपनी नौकरी खो दी, उसका अमेरिकी कार्य वीजा कुछ महीनों में समाप्त हो जाएगा, और उसे दर्द का भी सामना करना पड़ रहा है।
वह मिर्गी से पीड़ित है और अपनी स्थिति को नियंत्रित करने के लिए उसे लंबे समय तक लैमोट्रिजिन लेने की जरूरत है। वह चिंतित है कि दवा उसकी भाषा अभिव्यक्ति और सोच प्रदर्शन को प्रभावित करेगी, जो बदले में उसके अगले नौकरी साक्षात्कार को प्रभावित करेगी।
बोवेन वान चैटजीपीटी को अपने दर्द और भ्रम के बारे में बताते थे और सलाह मांगते थे कि क्या दवा उनकी सोच को प्रभावित करेगी, क्या खुराक कम की जा सकती है, और क्या दवा कम करने के बाद असुविधा ठीक है।
चैटजीपीटी ने उनका समर्थन किया और एक मिर्गी-विरोधी दवा टेपरिंग योजना विकसित की।
ChatGPT के साथ 270,000 वार्तालाप रिकॉर्ड
बोवेन ने अमेज़ॅन में मशीन लर्निंग सॉफ्टवेयर इंजीनियर के रूप में काम करने में कुछ समय बिताया। उसे हमेशा मिर्गी की समस्या रहती है, इसलिए अपनी स्थिति को नियंत्रित करने के लिए वह लैमोट्रिजिन लेती है।
उनके लिए यह सिर्फ एक शारीरिक समस्या नहीं है, बल्कि काम और जीवन से भी इसका गहरा संबंध है।
एरिज़ोना स्टेट यूनिवर्सिटी के स्नातक समारोह में बोवेन वान
नवंबर 2025 में, उसे अमेज़न से एक नोटिस मिला कि उसे नौकरी से निकाला जाने वाला है। उसे डर था कि लंबे समय तक दवा लेने से उसकी भाषा और सोच कौशल के विकास में बाधा आएगी और तकनीकी साक्षात्कार में उसका प्रदर्शन खराब हो जाएगा। उन्होंने एक बार चैटजीपीटी से पूछा था कि क्या दवा की खुराक कम करने से ग्रीन कार्ड आवेदन के लिए आवश्यक चिकित्सा परीक्षा पर असर पड़ेगा।
जब उसकी नौकरी, स्वास्थ्य और आव्रजन स्थिति के बारे में अनिश्चितताएं थीं, तो चैट जीपीटी के साथ उसका संचार अधिक से अधिक हो गया।
न्यूयॉर्क टाइम्स ने बताया कि बोवेन के माता-पिता ने उसके और चैटजीपीटी के बीच 270,000 से अधिक वार्तालाप देखे। रिपोर्ट में बताया गया है कि 2025 में वह चैटजीपीटी को प्रति सप्ताह औसतन 1,500 से अधिक संदेश भेजेगी।
यह डेटा का एक बहुत ही आश्चर्यजनक सेट है।
चैटजीपीटी का उपयोग न केवल जरूरत पड़ने पर जानकारी पूछने के लिए एक उपकरण के रूप में किया जाएगा, बल्कि यह उसके जीवन की कई छोटी और निजी चीजों में भी शामिल होगा। वह किस बारे में चिंतित है, वह क्या करने की योजना बना रही है, भविष्य के बारे में उसके विचार और कुछ मुद्दे जिन्हें तुरंत सत्यापित नहीं किया जा सकता है, उन्हें मॉडल के साथ संचार में लाया जाएगा।
यह एक क्लिनिक में जाने जैसा है और इससे पहले कि डॉक्टर आपसे पूछे, मेज पर एक मेडिकल रिकॉर्ड होता है जिसमें आपकी दीर्घकालिक परेशानियों, जीवन में बदलाव और व्यक्तिगत चिंताओं का दस्तावेजीकरण होता है।
डॉक्टरों को "देखने, सुनने, पूछने और समझने" की ज़रूरत नहीं है। सब कुछ पहले से ही स्पष्ट है. इससे पहले कि आपके पास अपने विचारों को सुलझाने का समय हो, चैटजीपीटी पिछले इतिहास में जुड़ा हो सकता है।
बोवेन ने ChatGPT के साथ अनेक वार्तालाप एकत्रित किए हैं। जब कोई मॉडल समय के साथ उपयोगकर्ता की स्वास्थ्य संबंधी चिंताओं, व्यावसायिक तनाव, आव्रजन संबंधी चिंताओं और भविष्य की योजनाओं के संपर्क में आता है, तो यह ऐसे उत्तर देने की संभावना रखता है जो उपयोगकर्ता की व्यक्तिगत स्थिति के लिए अधिक प्रासंगिक होते हैं।
इसके अलावा, बोवेन द्वारा उपयोग किया जाने वाला मॉडल GPT-4o है, जिसने पहले OpenAI का ध्यान आकर्षित किया है क्योंकि यह दर्शकों की ज़रूरतों को बहुत अधिक पूरा करता है।
OpenAI ने 29 अप्रैल, 2025 को अपने आधिकारिक नोट में यह स्पष्ट कर दिया कि क्योंकि अपडेटेड GPT-4o उपयोगकर्ताओं के लिए बहुत आकर्षक और आकर्षक था, इसलिए कंपनी ने अपडेट को वापस ले लिया, जिससे ChatGPT उपयोगकर्ता अधिक संतुलित व्यवहार के साथ पुराने संस्करण पर वापस लौट सकते हैं।
अत्यधिक प्रशंसा के अलावा, यह उपयोगकर्ताओं के अनुचित संदेह के साथ-साथ क्रोध को भी बढ़ाएगा और आवेगपूर्ण व्यवहार को गलत पहचान देगा।
"चाटुकारिता" की इस समस्या पर कई बार चर्चा की गई है। जब कृत्रिम बुद्धिमत्ता आपके निर्देशों का बहुत आसानी से पालन करती है, तो यह जोखिमों के प्रति लोगों की धारणा को बदल सकती है।
158 बार चिंतित हुए लेकिन रुके नहीं
बोवेन की मुलाकात को जो बात परेशान करने वाली है, वह सिर्फ यह नहीं है कि यह एक साधारण प्रश्नोत्तर है।
द न्यूयॉर्क टाइम्स द्वारा प्रकाशित चैट ट्रांस्क्रिप्ट के अनुसार, उसने 158 बार नशीली दवाओं के उपयोग में कटौती करने का उल्लेख किया है।
यह 158 वार्तालाप ओपनएआई बैकएंड में जोखिम नियंत्रण संकेतों को ट्रिगर करेंगे या नहीं, यह फिलहाल स्पष्ट नहीं है।
मई 2025 की शुरुआत में, बोवेन ने पहले ही पूछा था कि क्या नई निर्धारित अवसादरोधी दवाएं उनके प्रोग्रामिंग कार्य को प्रभावित करेंगी। चैटजीपीटी ने उन्हें ड्रेसिंग परिवर्तन और खुराक समायोजन के बारे में अपने डॉक्टर के साथ चर्चा को सुलझाने में मदद की।
जब कोई डॉक्टर वांछित खुराक के बारे में सवाल करता है, तो बोवेन डॉक्टर का जवाब ChatGPT को भेजता है।
शिकायत के अनुसार, उसके बाद, ChatGPT ने सुझाव दिया कि वह गोलियाँ खरीदने के लिए फार्मेसी में जाएँ और फिर खाने के लिए गोलियों को छोटे टुकड़ों में काट लें, इस विधि को "स्व-समायोजित खुराक" कहा जाता है।
चैटजीपीटी मरीजों को चिकित्सा शब्दावली समझने, उनकी स्थितियों को व्यवस्थित करने और डॉक्टर की अगली यात्रा के लिए तैयार करने में मदद कर सकता है। लेकिन जब यह उपयोगकर्ताओं को डॉक्टरों के निर्णयों को दरकिनार करने में मदद कर सकता है और उपयोगकर्ताओं को स्वयं निर्देशित दवाओं को संशोधित करने की अनुमति दे सकता है, तो स्थिति अलग हो जाती है।
जनवरी 2026 तक हालात और भी बदतर होंगे.
शिकायत और संबंधित रिपोर्टों के अनुसार, जब वह नशीली दवाओं का उपयोग कम कर रही थी, तो बोवेन भ्रमित हो गई और उसे समय का ज्ञान नहीं रहा, जैसे कि वह किसी दूसरी दुनिया में थी। चैटजीपीटी ने लगातार इस घटना के लिए उसके मस्तिष्क द्वारा दवा की खुराक को समायोजित करने को जिम्मेदार ठहराया, और उससे कहा, "आपको बिल्कुल भी चिंता करने की ज़रूरत नहीं है।"
11 फरवरी की शाम को, बोवेन हमेशा की तरह अपने सिर में दर्द के बारे में पूछने के लिए आया। चैटजीपीटी द्वारा दिया गया उत्तर है "दर्द शरीर की स्व-उपचार प्रक्रिया का एक हिस्सा है।"
अगले दिन बोवेन मृत पाया गया।
शव परीक्षण के समय उसके रक्त में लैमोट्रीजीन का स्तर लगभग 0.64 माइक्रोग्राम प्रति मिलीलीटर था, जो निचली चिकित्सीय संदर्भ सीमा का पांचवां हिस्सा है।
अकेले रक्त दवा का स्तर मृत्यु के सभी कारणों की व्याख्या नहीं कर सकता है, और वे यह साबित नहीं कर सकते हैं कि एआई सिफारिशों के कारण मृत्यु हुई है। लेकिन शिकायत में अन्य आरोपों को देखते हुए, दवा कटौती प्रक्रिया के दौरान सामने आने वाले जोखिम इस मामले में विवाद का एक प्रमुख मुद्दा बन गए हैं।
क्या AI जीवन का भार सहन कर सकता है
मस्क ने सार्वजनिक रूप से OpenAI पर एक से अधिक बार आरोप लगाया है। उन्होंने 2023 में एक खुले पत्र पर हस्ताक्षर किए, जिसमें कहा गया था कि "ग्रोक के कारण कोई भी आत्महत्या नहीं करेगा, लेकिन चैटजीपीटी के कारण कुछ लोग आत्महत्या करेंगे।"
हालाँकि ज़िम्मेदारी का निर्धारण अभी तक निर्धारित नहीं किया गया है, यह पहली बार नहीं है कि इसी तरह की त्रासदी हुई है।
2025 में, 16 वर्षीय एडम राइन के माता-पिता ने OpenAI के खिलाफ मुकदमा दायर किया। उन्होंने चैटजीपीटी पर अपने बेटे के साथ दीर्घकालिक संबंधों के दौरान आत्महत्या के जोखिम को अच्छी तरह से नहीं संभालने का आरोप लगाया।
आरोप यह है कि कुछ बातचीत में चैटजीपीटी ने खतरनाक जानकारी दी और स्थिति को प्रभावी ढंग से बढ़ने से रोकने में विफल रहा।
दूसरी ओर, OpenAI ने संबंधित आरोपों के लिए अलग-अलग स्पष्टीकरण भी प्रदान किए हैं। उदाहरण के लिए, प्रासंगिक चैट रिकॉर्ड को पूरी पृष्ठभूमि के साथ समझने की आवश्यकता है, और ऐसा कहा जाता है कि चैटजीपीटी ने संकट सहायता संसाधन प्रदान किए हैं। मॉडल के व्यवहार, उस समय उपयोगकर्ता की स्थिति और उन इंटरैक्शन और अंतिम त्रासदी के बीच संबंध के बारे में स्पष्ट असहमति थी।
वास्तविक जवाबदेही प्रक्रिया में, चैटजीपीटी जैसे एआई में आम तौर पर स्वतंत्र कानूनी व्यक्तित्व नहीं होता है, लेकिन इसका मतलब यह नहीं है कि होने वाली क्षति को जिम्मेदार नहीं ठहराया जा सकता है। वर्तमान कानून और नियम डेवलपर्स और ऑपरेटरों के अवैध व्यवहार को प्रतिबंधित करने के लिए उत्पाद दायित्व, लापरवाही दायित्व, उपभोक्ता अधिकार संरक्षण और अन्य तरीकों का भी उपयोग कर सकते हैं।
एआई कंपनियां अक्सर जवाबदेही के केंद्र में होती हैं क्योंकि वे मॉडल प्रशिक्षण, उत्पाद डिजाइन, सुरक्षा परीक्षण और जोखिम नियंत्रण जैसे महत्वपूर्ण पहलुओं को नियंत्रित करती हैं।
लेकिन क्या कंपनी को ज़िम्मेदारी उठानी चाहिए, इसके लिए केवल दुर्घटना की आवश्यकता नहीं है। कठिनाई यह आंकने में है कि क्या जोखिमों का उचित अनुमान लगाया जा सकता है, क्या उत्पाद के साथ कोई समस्या है, क्या कंपनी ने सुरक्षा संरक्षण में अच्छा काम किया है, और क्या इन कारकों और अंतिम नुकसान के बीच कानूनी रूप से मान्यता प्राप्त संबंध है।
"जिम्मेदारी कौन उठाता है? प्लेटफ़ॉर्म इकोसिस्टम में एआई एजेंट आचरण के लिए कानूनी दायित्व आवंटन" का प्रस्ताव है कि जिम्मेदारियों को केवल डेवलपर्स या उपयोगकर्ताओं को सभी जिम्मेदारियां सौंपने के बजाय सिस्टम की स्वायत्तता की डिग्री, व्यवहार की भविष्यवाणी और जोखिमों को नियंत्रित करने के लिए सभी पक्षों की क्षमता के आधार पर गतिशील रूप से आवंटित किया जाना चाहिए।
2024 में, एक अमेरिकी मां ने अपने 14 वर्षीय बेटे के लिए कैरेक्टर.एआई और गूगल के खिलाफ मुकदमा दायर किया, जिसमें दावा किया गया कि उसके बेटे के साथ एआई के दीर्घकालिक संचार के कारण उसके बेटे की आत्महत्या हुई।
मई 2025 में, अदालत इस आधार पर मामले को जल्दी खारिज करने के प्रतिवादी के अनुरोध पर सहमत नहीं हुई कि प्रासंगिक दावों का बचाव केवल बोलने की स्वतंत्रता के आधार पर नहीं किया जा सकता है और मुकदमे की शुरुआत में उन्हें बाहर रखा गया था।
ओपनएआई कार्रवाई नहीं कर रहा है, लेकिन यह काफी व्यापक है, और इसने संवेदनशील बातचीत और मानसिक स्वास्थ्य जोखिमों को संबोधित करने के लिए क्रमिक रूप से सुधारों की घोषणा की है। अक्टूबर 2025 में, OpenAI ने यह भी कहा कि कंपनी ने प्रासंगिक स्थितियों में मॉडल की प्रतिक्रिया को बेहतर बनाने के लिए नैदानिक अनुभव वाले 170 से अधिक मानसिक स्वास्थ्य विशेषज्ञों के साथ काम किया।
बोवेन घटना के बारे में ओपनएआई के प्रवक्ता ड्रू पुसाटेरी ने मीडिया को बताया, "यह बेहद हृदयविदारक स्थिति है, और हम प्रभावित सभी लोगों के प्रति अपनी संवेदना व्यक्त करते हैं।"
आज, ओपन एआई ने पांच मूलभूत मूल्यों के आसपास विनिर्देश में मार्गदर्शक सिद्धांतों को पुनर्गठित करते हुए नए मॉडल मूल्यों की घोषणा की:
मानव इरादे के लिए सही
,नुकसान को कम करें
,ईमानदारी और पारदर्शिता
,मानवीय स्वायत्तता
औरदेखभाल
.उनमें से एक है नुकसान को कम करना, जिसका अर्थ है दुर्गम सुरक्षा सीमाओं का पालन करना और मॉडल के कार्यों के संभावित परिणामों पर विचार करना। हालाँकि, आत्महत्या जैसी वास्तविक क्षति होने के बाद कैसे जवाबदेह ठहराया जाए, दंडित किया जाए और कैसे समायोजित किया जाए, इस पर कोई प्रतिक्रिया नहीं है।
वर्तमान में, अधिकांश देशों में दायित्व नियमों का एक सेट नहीं है जो एआई से होने वाले नुकसान की सभी घटनाओं पर लागू हो सके। विशिष्ट मामलों में यह निर्धारित किया जाना चाहिए कि उत्पाद दायित्व, लापरवाही दायित्व और उपभोक्ता अधिकार संरक्षण जैसे नियम राज्य कानूनों, उत्पाद के उपयोग के उद्देश्य, वास्तविक साक्ष्य और प्रासंगिक कानूनी संबंधों के आधार पर लागू होते हैं या नहीं।
क्या मॉडल ने चिकित्सा सलाह की सीमा पार की, उत्पाद को खतरनाक प्रतिक्रियाओं को कैसे रोकना चाहिए था, और बोवेन की मौत में उन प्रतिक्रियाओं ने क्या भूमिका निभाई, यह सब मामले में अभी तक स्पष्ट नहीं किया गया है।
बोवेन और चैटजीपीटी के बीच आखिरी बातचीत में, एआई द्वारा सिरदर्द की व्याख्या करने के बाद, उसने सुझाव दिया कि वह बुखार के दौरान दर्द के साथ दवा बंद करने के बाद दर्द की तुलना करने के लिए उसके लिए एक और तस्वीर खींच सकता है।
इसने पूछा: क्या आप यह चाहते हैं?
टिप्पणियाँ