सार:
संयुक्त राज्य अमेरिका के फ्लोरिडा के ली काउंटी में एक 30 वर्षीय महिला को टेक्स्ट के माध्यम से हिंसा की धमकी देने के संदेह में गिरफ्तार किया गया था। पुलिस ने कहा कि बोनिता स्प्रिंग्स निवासी कार्ली मिशेल हेलर ने एंथ्रोपिक के स्वामित्व वाले चैटबॉट क्लाउड पर बातचीत में ली काउंटी शेरिफ कार्यालय के खिलाफ गोली मारने की धमकी लिखी। एंथ्रोपिक की सुरक्षा प्रणाली प्रासंगिक सामग्री को चिह्नित करती है, जिसकी मैन्युअल रूप से समीक्षा की जाती है और कानून प्रवर्तन को सूचित किया जाता है। हेलर ने जांचकर्ताओं को बताया कि उसने क्लाउड को "डायरी" के रूप में इस्तेमाल किया।
स्थानीय मीडिया द्वारा उद्धृत गिरफ्तारी रिपोर्ट के अनुसार, हेलर ने 26 सितंबर की सुबह एक बातचीत में लिखा था कि वह "अभी किसी को गोली मारने के लिए शेरिफ कार्यालय जा रही थी।" अगले दिन सुबह-सुबह, उसने यह भी कहा कि उसे उस दिन एक नई बंदूक मिली थी और लिखा था, "यह आखिरी मौका है, मेरे पास बहुत हो चुका है।" रिपोर्ट प्राप्त होने के बाद, पुलिस ने बोनिता स्प्रिंग्स में डीन स्ट्रीट पर उसके आवास पर प्रतिनियुक्तियों को भेजा, जहां उसे बिना किसी घटना के हिरासत में लिया गया और बाद में ली काउंटी शेरिफ कार्यालय की खुफिया इकाई द्वारा जांच की गई। वह वर्तमान में हिंसा की लिखित धमकियों के एक मामले का सामना कर रही है और अभी तक दोषी नहीं पाई गई है।
फ्लोरिडा कानून में प्रावधान है कि जान से मारने की धमकी देना, शारीरिक नुकसान पहुंचाना, बड़े पैमाने पर गोलीबारी करना, या लिखित या इलेक्ट्रॉनिक रिकॉर्ड में आतंक का कार्य करना जिसे अन्य लोग देख सकते हैं, दूसरे दर्जे का अपराध माना जा सकता है। हालाँकि, क्या इस मामले में बातचीत कानून की लागू शर्तों को पूरा करती है और क्या अभियोजक किसी अपराध के गठन को साबित कर सकता है या नहीं, यह अभी भी न्यायिक प्रक्रियाओं द्वारा निर्धारित किया जाना चाहिए। स्थानीय कानूनी विश्लेषकों ने बताया कि अभियोजक प्रासंगिक पाठ की व्याख्या प्रत्यक्ष धमकी के रूप में कर सकते हैं, लेकिन मामला विवाद से रहित नहीं है और इसमें मुक्त भाषण की सीमाएं भी शामिल हैं।
एंथ्रोपिक की आधिकारिक नीति में कहा गया है कि यदि कंपनी का मानना है कि एक आपातकालीन स्थिति मौजूद है जिसके परिणामस्वरूप आसन्न शारीरिक क्षति या मृत्यु हो सकती है और सूचना का समय पर प्रावधान खतरे को टाल सकता है, तो यह सामान्य कानूनी प्रक्रिया के बिना सरकार को उपयोगकर्ता की जानकारी का खुलासा कर सकता है। कंपनी ने पहले भी सार्वजनिक रूप से कहा है कि क्लाउड के ऑनलाइन होने के बाद, वह हानिकारक सामग्री की खोज करने और उपयोग नीतियों को लागू करने के लिए एक स्वचालित पहचान प्रणाली और मैन्युअल समीक्षा का उपयोग करेगी। इस घटना में, पुलिस रिपोर्टिंग प्रक्रिया यह थी कि सिस्टम ने पहले घटना को चिह्नित किया, फिर मैन्युअल रूप से इसकी समीक्षा की, और फिर कानून प्रवर्तन से संपर्क किया।
इस मामले ने एक बार फिर चैटबॉट्स में गोपनीयता की सीमाओं के बारे में चिंताएं बढ़ा दी हैं। उपयोगकर्ता चैट विंडो को एक निजी डायरी के रूप में मानते हैं, इसका मतलब यह नहीं है कि सामग्री केवल उपयोगकर्ता द्वारा देखी जाएगी; प्लेटफ़ॉर्म सुरक्षा नीतियों के अनुसार बातचीत की समीक्षा कर सकता है और आपात स्थिति में कानून प्रवर्तन एजेंसियों को जानकारी भी प्रदान कर सकता है। माइक्रोसॉफ्ट के कोपायलट छवि संपादक के बारे में हालिया रिपोर्टों में यह भी बताया गया है कि मानव समीक्षक उपयोगकर्ता के संकेत शब्द, अपलोड की गई तस्वीरें और उत्पन्न परिणाम देख सकते हैं, लेकिन प्रासंगिक समीक्षा का उपयोग मुख्य रूप से आउटपुट गुणवत्ता का मूल्यांकन करने के लिए किया जाता है।
टेकस्पॉट ने यह भी बताया कि ओपनएआई और उसके सीईओ सैम अल्टमैन पर ब्रिटिश कोलंबिया, कनाडा में सामूहिक गोलीबारी को लेकर मुकदमा चल रहा है। मुकदमे में आरोप लगाया गया कि कंपनी घटना को रोकने के लिए उपाय कर सकती थी; फ्लोरिडा राज्य ने पहले भी 2025 फ्लोरिडा स्टेट यूनिवर्सिटी शूटिंग से संबंधित चोटों के लिए ओपनएआई और ऑल्टमैन पर मुकदमा दायर किया था। इनमें से कोई भी मुकदमा आरोप अदालत के दायित्व के निष्कर्ष के बराबर नहीं है, जो उपयोगकर्ता सुरक्षा, गोपनीयता और वास्तविक जीवन में नुकसान की रोकथाम के संदर्भ में एआई कंपनियों द्वारा सामना किए जाने वाले कानूनी विवादों को उजागर करता है।
टिप्पणियाँ