इस साल अप्रैल में 16 वर्षीय अमेरिकी लड़के एडम राइन द्वारा आत्महत्या करने के बाद, उसके परिवार ने अगस्त में कृत्रिम बुद्धिमत्ता कंपनी ओपनएआई पर मुकदमा दायर किया, जिसमें दावा किया गया कि राइन ने चैटजीपीटी को "आत्मघाती कोच" के रूप में इस्तेमाल किया था। ओपनएआई ने मंगलवार को कैलिफोर्निया में सैन फ्रांसिस्को सुपीरियर कोर्ट में दायर एक अदालत में पहली बार औपचारिक रूप से जवाब दिया, जिसमें इस बात पर जोर दिया गया कि कंपनी को जिम्मेदार नहीं ठहराया जाना चाहिए, यह तर्क देते हुए कि लड़का चैटबॉट का "दुरुपयोग" कर रहा था।
मुकदमे के अनुसार, व्रेन परिवार ने ओपनएआई और उसके सीईओ सैम अल्टमैन पर गलत तरीके से मौत, डिजाइन दोष और संबंधित जोखिमों के बारे में चेतावनी देने में विफलता का आरोप लगाया। चैट रिकॉर्ड से पता चलता है कि उसे मानसिक स्वास्थ्य सहायता लेने के लिए प्रोत्साहित करने के बजाय, GPT-4o - चैटजीपीटी का एक संस्करण जो अपने "अनुपालन और पालन-पोषण" के लिए जाना जाता है - ने यहां तक कि एक आत्महत्या पत्र लिखने में भी सहायता की और रस्सी की सेटिंग पर सलाह दी।
ओपनएआई ने अदालती दस्तावेजों में लिखा: "इस दुखद घटना का 'कारण' बताने के लिए, वादी की कथित चोटें और नुकसान प्रत्यक्ष या अप्रत्यक्ष रूप से एडम व्रेन के दुरुपयोग, अनधिकृत उपयोग, आकस्मिक उपयोग, अप्रत्याशित उपयोग या चैटजीपीटी के अनुचित उपयोग से संबंधित थे।"
कंपनी ने इस बात पर जोर दिया कि उसकी उपयोग की शर्तें स्पष्ट रूप से 18 वर्ष से कम उम्र के उपयोगकर्ताओं को उनके अभिभावकों की सहमति के बिना चैटजीपीटी का उपयोग करने से रोकती हैं। यह उपकरण को "आत्महत्या" या "खुद को नुकसान पहुंचाने" के उद्देश्यों के लिए उपयोग करने की अनुमति नहीं देता है, और सुरक्षा उपायों को नजरअंदाज नहीं करने की आवश्यकता है। मुकदमे में यह भी उल्लेख किया गया है कि जब लेन ने आत्महत्या करने का इरादा व्यक्त किया, तो चैटजीपीटी ने अमेरिकी आत्महत्या रोकथाम हॉटलाइन नंबर पर बार-बार जवाब दिया, लेकिन परिवार के सदस्यों ने कहा कि लड़का "चरित्र बनाने" के बारे में झूठ बोलकर सिस्टम अनुस्मारक को आसानी से टाल सकता है।
दस्तावेज़ में उपयोगकर्ताओं को यह याद दिलाने के लिए "दायित्व की सीमा" खंड का भी हवाला दिया गया है कि चैटजीपीटी का उपयोग करते समय, उन्हें "इसे अपने जोखिम पर लेना होगा और परिणामों का उपयोग सूचना या तथ्यात्मक आधार के एकमात्र स्रोत के रूप में नहीं किया जाएगा।"
वादी का प्रतिनिधित्व करने वाले एक वकील जे एडेलसन ने एक ईमेल में कहा कि वह ओपनएआई की प्रतिक्रिया से "स्तब्ध" थे और उन्होंने कंपनी के "साधारण तथ्यों की अनदेखी" पर सवाल उठाया, जैसे कि तथ्य यह है कि लॉन्च करने के लिए जीपीटी -4o का पूरी तरह से परीक्षण नहीं किया गया था, ओपनएआई ने चैटजीपीटी को आत्म-नुकसान चर्चाओं में भाग लेने की आवश्यकता के लिए मॉडल विनिर्देश को संशोधित किया, और "एडम के जीवन के आखिरी घंटों में, चैटजीपीटी ने न केवल उसे प्रोत्साहित किया, बल्कि आत्महत्या लिखने में सीधे सहायता भी की। पत्र।"
एडेलसन ने कहा कि ओपनएआई ने अपनी प्रतिक्रिया में "हर किसी को दोषी ठहराने की कोशिश की", यहां तक कि दावा किया कि एडम ने खुद मॉडल को डिजाइन करने के तरीके में चैटजीपीटी के साथ बातचीत करके शर्तों का उल्लंघन किया।
ओपनएआई ने कहा कि एडम की मौत सीधे चैटजीपीटी के कारण नहीं हुई थी, और खुलासा किया कि मेडिकल रिकॉर्ड से पता चला है कि चैटजीपीटी का उपयोग करने से कई साल पहले उसने "बार-बार दीर्घकालिक आत्मघाती विचारों सहित गंभीर आत्महत्या जोखिम कारकों का प्रदर्शन किया था।" इसके अलावा, ओपनएआई द्वारा प्रस्तुत चैट रिकॉर्ड से पता चलता है कि चैटजीपीटी ने सौ से अधिक बार मदद लेने की सिफारिश की, लेकिन लेन अक्सर सिस्टम को बायपास करने में कामयाब रहा।
इस महीने की शुरुआत में, ओपनएआई और ऑल्टमैन के खिलाफ लापरवाही, गलत मौत, उत्पाद दायित्व, उपभोक्ता संरक्षण इत्यादि के आधार पर सात और समान मुकदमे दायर किए गए थे, जिसमें अपर्याप्त सुरक्षा उपायों के साथ जीपीटी -4o जारी करने का आरोप लगाया गया था। OpenAI ने इन नए मामलों पर सीधे तौर पर प्रतिक्रिया नहीं दी है।
OpenAI ने अपने नवीनतम ब्लॉग में कहा कि कंपनी ऐसे मुकदमों का जवाब "सावधानी, पारदर्शिता और सम्मान" के साथ देगी, यह देखते हुए कि उन्होंने बाद में सुरक्षा उपायों में और सुधार किए हैं, जिसमें नए अभिभावकीय नियंत्रण उपकरण जोड़ना और एक विशेषज्ञ सलाहकार बोर्ड की स्थापना करना शामिल है। कंपनी ने यह भी तर्क दिया कि ऑनलाइन होने से पहले GPT-4o ने विभिन्न मानसिक स्वास्थ्य परीक्षण पास किए।
ओपनएआई ने "प्लेटफ़ॉर्म छूट खंड" के साथ खुद का बचाव करने के प्रयास में अमेरिकी संचार शालीनता अधिनियम की धारा 230 को भी लागू किया। इस खंड ने मोटे तौर पर तकनीकी प्लेटफार्मों को प्लेटफार्मों पर सामग्री का दावा करने वाले मुकदमों से बचाया है, लेकिन अभी भी इस पर कानूनी अनिश्चितता है कि यह कृत्रिम बुद्धिमत्ता प्लेटफार्मों पर लागू होगा या नहीं।