ओपनएआई कंपनी ने हाल ही में डेटा जारी किया है जिसमें दिखाया गया है कि हर हफ्ते चैटजीपीटी के साथ संचार करते समय दस लाख से अधिक उपयोगकर्ता आत्महत्या के विषय पर चर्चा करते हैं। कंपनी द्वारा जारी नए आंकड़ों के अनुसार, लगभग 0.15% सक्रिय चैटजीपीटी उपयोगकर्ता हर हफ्ते "स्पष्ट आत्महत्या योजनाओं या इरादों" के साथ बातचीत करते हैं। इस तथ्य के आधार पर कि चैटजीपीटी के 800 मिलियन से अधिक साप्ताहिक सक्रिय उपयोगकर्ता हैं, संबंधित वार्तालापों की संख्या दस लाख से अधिक हो गई है।
ओपनएआई ने बताया कि उपयोगकर्ताओं का एक समान अनुपात चैटजीपीटी पर उच्च भावनात्मक निर्भरता दिखाता है, जिसमें हर हफ्ते "सैकड़ों हजारों" मनोविकृति या उन्माद के लक्षण दिखाते हैं। कंपनी ने इस बात पर जोर दिया कि हालांकि इस तरह की चरम बातचीत "बेहद दुर्लभ" है, फिर भी वे हर हफ्ते हजारों उपयोगकर्ताओं को प्रभावित करती हैं।
यह सूचना प्रकटीकरण मानसिक स्वास्थ्य में संवेदनशील विषयों पर प्रतिक्रिया देने की एआई की क्षमता में सुधार करने के लिए ओपनएआई की एक पहल है। कंपनी ने कहा कि चैटजीपीटी के नवीनतम संस्करण के विकास के दौरान 170 से अधिक मानसिक स्वास्थ्य विशेषज्ञों से परामर्श लिया गया। इन विशेषज्ञों ने कहा कि चैटजीपीटी का नवीनतम संस्करण प्रासंगिक प्रतिक्रियाओं में "पुराने संस्करण की तुलना में अधिक उपयुक्त और सुसंगत" है। मानसिक स्वास्थ्य के मुद्दों पर एआई के प्रभाव पर हाल ही में कई रिपोर्टें आई हैं। कुछ अध्ययनों से पता चला है कि एआई चैटबॉट उपयोगकर्ताओं को खतरनाक विश्वास रखने और यहां तक कि भ्रमपूर्ण सोच को बढ़ावा देने के लिए प्रोत्साहित कर सकते हैं।
मानसिक स्वास्थ्य मुद्दे OpenAI के लिए एक मुख्य चुनौती बन गए हैं। इस साल की शुरुआत में, OpenAI ने कंपनी के खिलाफ मुकदमा दायर किया क्योंकि एक 16 वर्षीय लड़के के माता-पिता ने चैटजीपीटी के साथ आत्महत्या से संबंधित सामग्री संचारित करने के बाद अंततः अपना जीवन समाप्त करने का फैसला किया। कैलिफ़ोर्निया और डेलावेयर के अटॉर्नी जनरल ने भी OpenAI को चेतावनी दी कि उसे किशोर उपयोगकर्ताओं के लिए सुरक्षा उपायों को मजबूत करने की आवश्यकता है।
इस महीने की शुरुआत में, ओपनएआई के सीईओ सैम ऑल्टमैन ने सोशल प्लेटफॉर्म पर कहा था कि कंपनी "गंभीर मानसिक स्वास्थ्य मुद्दों को कम करने में सक्षम है।" हालाँकि, प्रासंगिक विशिष्ट उपायों को सार्वजनिक नहीं किया गया है। इस सप्ताह जारी आंकड़े उस प्रतिबद्धता का समर्थन करते प्रतीत होते हैं और समस्या की व्यापक प्रकृति को दर्शाते हैं। ऑल्टमैन ने यह भी खुलासा किया कि कंपनी कुछ प्रतिबंधों में ढील देगी, जिसमें वयस्क उपयोगकर्ताओं को कामुक सामग्री के लिए एआई के साथ संवाद करने की अनुमति देना भी शामिल है।
आधिकारिक डेटा से पता चलता है कि GPT-5 का नवीनतम संस्करण पिछले संस्करण की तुलना में मानसिक स्वास्थ्य की प्रतिक्रियाओं में वांछित परिणाम प्राप्त करने की लगभग 65% अधिक संभावना है; आत्महत्या के विषय पर प्रतिक्रियाओं के मूल्यांकन में, GPT-5 के नए संस्करण की अनुपालन दर 91% है, जबकि पुराने संस्करण की अनुपालन दर 77% है। GPT-5 के नए संस्करण ने लंबी बातचीत के दौरान अपनी सुरक्षा सुरक्षा को भी मजबूत किया है, जिससे लंबी बातचीत के दौरान पुराने संस्करण की कम सुरक्षा की कमियों को पूरा किया गया है।
इसके अलावा, ओपनएआई ने एक नया मूल्यांकन मानक भी लॉन्च किया है जो भावनात्मक निर्भरता और गैर-आत्मघाती मानसिक स्वास्थ्य संकटों को एआई मॉडल सुरक्षा बेंचमार्क में शामिल करता है। कंपनी ने अधिक अभिभावकीय पर्यवेक्षण उपकरण भी लॉन्च किए हैं और कम उम्र के उपयोगकर्ताओं की स्वचालित रूप से पहचान करने और उन्हें सख्त सुरक्षा उपाय प्रदान करने के लिए सिस्टम विकसित कर रही है।
हालाँकि GPT-5 ने अपने पूर्ववर्ती की तुलना में सुरक्षा में सुधार किया है, OpenAI अभी भी लाखों भुगतान करने वाले उपयोगकर्ताओं के लिए पुराने और कम सुरक्षित AI मॉडल खोल रहा है। वर्तमान आंकड़ों से देखते हुए, कुछ मानसिक स्वास्थ्य जोखिम अभी भी मौजूद हैं, और यह अभी भी अज्ञात है कि क्या समस्या को पूरी तरह से हल किया जा सकता है।