सार:
6 नवंबर को, रॉयटर्स के अनुसार, एक अमेरिकी लड़की के माता-पिता ने Google और उसकी मूल कंपनी अल्फाबेट पर मुकदमा दायर किया है, जिसमें उनकी 13 वर्षीय बेटी पर स्कूल द्वारा जारी क्रोमबुक के माध्यम से जेमिनी का उपयोग करने और कई महीनों तक चली बातचीत में आत्महत्या और अंतिम संस्कार की योजना बनाने का आरोप लगाया गया है। शिकायत में आरोप लगाया गया है कि जेमिनी लड़की को समय पर वास्तविक जीवन के सहायता चैनलों का मार्गदर्शन करने में विफल रहे और उसकी मानसिक स्थिति को छिपाने में उसकी मदद की।
मूल शिकायत
शिकायत में लड़की के छद्म नाम के रूप में "एम्मा" का उपयोग किया गया है। 2025 की शरद ऋतु में उसे अपने Chromebook पर Google खोज के माध्यम से जेमिनी एआई मोड का पता चला, जो शुरू में ज्यादातर सीखने के प्रश्न पूछती थी। वादी ने कहा कि जैसे-जैसे उपयोग की आवृत्ति बढ़ी, एम्मा ने पारिवारिक संबंधों, मनोवैज्ञानिक तनाव और आत्म-नुकसान जैसे मुद्दों के बारे में मिथुन को बताना शुरू कर दिया; मार्च 2026 तक, उसने हर महीने जेमिनी के साथ हजारों संदेशों का आदान-प्रदान किया।
लड़की के माता-पिता ने कहा कि उन्हें नहीं पता था कि स्कूल का कंप्यूटर जेमिनी तक पहुंच सकता है। परिवार को उनकी स्थिति के बारे में तब तक पता नहीं था जब तक कि स्कूल के निगरानी सॉफ़्टवेयर ने एम्मा द्वारा लिखित अंतिम संस्कार योजना दस्तावेज़ की खोज नहीं की और अलर्ट जारी नहीं किया। शिकायत के अनुसार, लड़की की मां ने अपने स्कूल खाते में लॉग इन किया और पाया कि उनकी बेटी एक सुसाइड नोट लिख रही थी, और उसके पिता ने हस्तक्षेप किया।
वादी का मानना है कि Google ने स्कूलों और अभिभावकों को प्रासंगिक जोखिमों के बारे में पूरी तरह से सूचित किए बिना जेमिनी को खोज, ChromeOS और शैक्षिक उत्पादों में एकीकृत किया, जिससे नाबालिगों को पर्यवेक्षण के बिना लंबे समय तक AI का उपयोग करने की अनुमति मिली। शिकायत में यह भी आरोप लगाया गया है कि Google ने माता-पिता को छात्र खातों में संपूर्ण AI वार्तालाप रिकॉर्ड प्रदान नहीं किया, जिससे माता-पिता के लिए अपने बच्चों के उपयोग को समझना अधिक कठिन हो गया।
मामला शुरू में कैलिफ़ोर्निया में सांता क्लारा काउंटी सुपीरियर कोर्ट में दायर किया गया था और बाद में Google द्वारा इसे संघीय अदालत में स्थानांतरित कर दिया गया था। वादी ने उत्पाद डिज़ाइन दोष, चेतावनियाँ प्रदान करने में विफलता, लापरवाही और धोखाधड़ीपूर्ण छिपाव सहित कई दावे किए, और Google पर कैलिफोर्निया के "कंपेनियन चैटबॉट कानून" का उल्लंघन करने का आरोप लगाया और वित्तीय मुआवजे और निषेधाज्ञा राहत का अनुरोध किया।
Google के प्रवक्ता जोस कास्टानेडा ने कहा कि कंपनी आरोपों की समीक्षा कर रही है। Google ने कहा कि उसने युवा उपयोगकर्ताओं के लिए आपातकालीन सहायता और विश्वसनीय संसाधनों तक पहुंच सुनिश्चित करने के लिए चिकित्सा पेशेवरों और अकादमिक विशेषज्ञों के साथ काम किया है।
Google ने इस सप्ताह यह भी घोषणा की कि जेमिनी को स्कूली छात्र खातों में डिफ़ॉल्ट रूप से बंद कर दिया जाएगा, और स्कूल प्रशासक यह निर्णय ले सकते हैं कि इसे फिर से सक्षम करना है या नहीं। हालाँकि, यदि स्कूल चाहता है कि छात्र Google खोज का उपयोग जारी रखें, तो उसे अभी भी AI-जनित सारांश जैसे खोज कार्यों को स्वीकार करना होगा।
टिप्पणियाँ