सात परिवारों ने गुरुवार को OpenAI के खिलाफ मुकदमा दायर किया, जिसमें कंपनी पर सुरक्षा उपायों के बिना GPT-4o मॉडल को समय से पहले जारी करने का आरोप लगाया गया। उनमें से, चार मुकदमे परिवार के सदस्यों की आत्महत्या से संबंधित थे, और अन्य तीन ने दावा किया कि चैटजीपीटी ने पीड़ितों के भ्रम को गहरा कर दिया, जिनमें से कुछ के परिणामस्वरूप अस्पताल में भर्ती होना पड़ा।
शिकायत में आरोप लगाया गया है कि 23 वर्षीय ज़ेन शंबलिन ने चैटजीपीटी के साथ चार घंटे तक बातचीत की, जिसके दौरान उसने बार-बार कहा कि उसने एक सुसाइड नोट लिखा है, बंदूक लोड की है और आत्महत्या करने के लिए तैयार है, और बताया कि उसके पास कितना साइडर बचा है और उसका अनुमान है कि वह कितने समय तक जीवित रहेगा। चैटजीपीटी कई बार प्रभावी रोकथाम प्रदान करने में विफल रहा, और आत्महत्या को प्रोत्साहित करने वाले उत्तर भी आए जैसे "आरआईपी, किंग। आपने बहुत अच्छा काम किया।"
GPT-4o मई 2024 में उपयोगकर्ता डिफ़ॉल्ट मॉडल बन जाएगा, और अगस्त 2025 में GPT-5 द्वारा प्रतिस्थापित किया जाएगा। हालाँकि, यह मुकदमा मुख्य रूप से 4o मॉडल द्वारा उजागर की गई गंभीर "खानपान" समस्या को लक्षित करता है, अर्थात, भले ही उपयोगकर्ता हानिकारक इरादे व्यक्त करता हो, मॉडल हस्तक्षेप करने के बजाय सहमति को पूरा करेगा।
अभियोग का मानना है कि ज़ेन की मौत एक दुर्घटना नहीं थी, बल्कि सुरक्षा परीक्षण को छोटा करने और उत्पाद लॉन्च में तेजी लाने की ओपनएआई की पहल के कारण हुई थी, जो एक "पूर्वानुमानित परिणाम" था। शिकायत में यह भी दावा किया गया है कि ओपनएआई ने Google जेमिनी के ऑनलाइन होने से पहले मॉडल को जारी करने में जल्दबाजी की, आंशिक रूप से बाजार प्रतिस्पर्धा के कारण।
हाल के वर्षों में इसी तरह के आरोप बढ़े हैं. एक माता-पिता ने पहले ओपनएआई पर मुकदमा दायर किया था, जिसमें दावा किया गया था कि चैटजीपीटी ने 16 वर्षीय लड़के एडम राइन को पेशेवर मदद लेने या हॉटलाइन पर कॉल करने का सुझाव दिया था, लेकिन उसने एक उपन्यास लिखने का दावा करके "रेलिंग" प्रतिबंधों को दरकिनार कर दिया और अधिक आत्महत्या की जानकारी प्राप्त की।
बाहरी आलोचना के जवाब में, ओपनएआई ने जवाब दिया कि वह संवेदनशील वार्तालाप परिदृश्यों से निपटने के लिए मॉडल की क्षमता में सुधार करने के लिए कड़ी मेहनत कर रहा है, लेकिन स्वीकार किया कि लंबी बातचीत में "रेलिंग" तंत्र का प्रभाव कमजोर हो जाएगा। सार्वजनिक डेटा से पता चलता है कि चैटजीपीटी पर हर हफ्ते दस लाख से अधिक लोग आत्महत्या से संबंधित विषयों पर चर्चा करते हैं। अभियोजकों का कहना है कि ये सुरक्षा सुधार बहुत देर से आए और बहुत से लोगों को नुकसान हुआ है।
इस साल अक्टूबर में, राइन के माता-पिता द्वारा मुकदमा दायर करने के बाद, ओपनएआई ने एक विशेष लेख जारी किया जिसमें जोर दिया गया: "हमारा सुरक्षा तंत्र आम, छोटे एक्सचेंजों में अधिक विश्वसनीय है। हालांकि, लंबे समय तक आगे-पीछे के एक्सचेंजों में, कुछ मॉडलों का सुरक्षा प्रशिक्षण प्रभाव कमजोर हो सकता है।"