सार:
एंड-टू-एंड एन्क्रिप्टेड मैसेजिंग ऐप सिग्नल ने शुक्रवार को घोषणा की कि वह एआई एजेंटों को उपयोगकर्ताओं की निजी चैट पढ़ने से रोकने के लिए मोबाइल फोन पर स्क्रीनशॉट तक पहुंच सीमित कर देगा। कंपनी ने चेतावनी दी कि उपभोक्ता उपकरणों में कृत्रिम बुद्धिमत्ता को गहराई से समाहित करने की प्रौद्योगिकी उद्योग की प्रवृत्ति उपयोगकर्ता की गोपनीयता की रक्षा करने की उसकी क्षमता को कमजोर कर रही है।

निजता समर्थकों द्वारा सिग्नल को लंबे समय से सुरक्षित संचार में अग्रणी माना जाता रहा है। कंपनी ने कहा कि इस बार पेश किए गए नए सुरक्षा उपाय अधूरे हैं और उसने ऐप्पल, गूगल की मूल कंपनी अल्फाबेट और माइक्रोसॉफ्ट जैसे ऑपरेटिंग सिस्टम प्रदाताओं से एआई एजेंटों को संवेदनशील डेटा तक पहुंचने से रोकने के लिए एप्लिकेशन डेवलपर्स को अधिक विशिष्ट और प्रभावी साधन प्रदान करने का आह्वान किया है।
सिग्नल को इन कंपनियों को यह भी बताने की आवश्यकता है कि उनके एआई एजेंट कैसे काम करते हैं, जिससे डेवलपर्स को यह मूल्यांकन करने की अनुमति मिलती है कि ये प्रोग्राम किस डेटा तक पहुंच रहे हैं और तदनुसार अपने सिस्टम को समायोजित कर सकते हैं। यह कदम गोपनीयता-केंद्रित ऐप्स और बड़ी तकनीकी कंपनियों के बीच बढ़ते झगड़े को दर्शाता है। उत्तरार्द्ध एआई एजेंटों को लॉन्च करने की होड़ में हैं जो उपयोगकर्ता की स्क्रीन की सामग्री को देख सकते हैं और तदनुसार उपयोगकर्ता की ओर से कार्रवाई कर सकते हैं।
सिग्नल ने विशेष रूप से बताया कि ऑपरेटिंग सिस्टम में सीधे निर्मित AI क्षमताएं, जैसे कि Apple की सिरी AI और Google की जेमिनी इंटेलिजेंस, विशेष रूप से चिंताजनक हैं क्योंकि वे उपयोगकर्ता उपकरणों के साथ बेहद गहराई से एकीकृत हैं। कंपनी ने कहा कि ऑपरेटिंग सिस्टम सिग्नल और अन्य अनुप्रयोगों के लिए एक चलने वाला वातावरण प्रदान करता है, और इन "एजेंट एआई" का एकीकरण इस वातावरण को गोपनीयता सुरक्षा के लिए तेजी से प्रतिकूल बना रहा है। सिग्नल ने रॉयटर्स को दिए गए एक ब्लॉग पोस्ट में कहा कि इससे कंपनी और अपने मिशन को जिम्मेदारी से पूरा करने की क्षमता के लिए "अस्तित्व संबंधी खतरा" पैदा हो गया है।
एआई एजेंटों को सिग्नल संदेशों को स्कैन करने से रोकने के लिए, सेवा नई सेटिंग्स ला रही है जो मोबाइल फोन पर स्क्रीनशॉट तक पहुंच को अवरुद्ध करती है और इन प्रतिबंधों को डिफ़ॉल्ट रूप से चालू कर देगी। जब सिग्नल स्क्रीनशॉट प्रयास का पता लगाता है, या एआई सहायक स्क्रीन तक पहुंचने का प्रयास करता है, तो उपयोगकर्ता को एक पॉप-अप प्रॉम्प्ट प्राप्त होगा और वह चुन सकता है कि डिवाइस की स्थितियों के आधार पर प्रतिबंध हटाना है या नहीं।
सिग्नल ने पिछले साल माइक्रोसॉफ्ट के रिकॉल एआई को विंडोज सिस्टम पर स्क्रीनशॉट लेने से रोक दिया था। कंपनी का कहना है कि वह Apple के macOS सिस्टम पर विश्वसनीय रूप से समान सुरक्षा प्रदान नहीं कर सकती है।
एआई एजेंट जो उपयोगकर्ताओं की ओर से संचालन कर सकते हैं उन्हें एआई प्रौद्योगिकी की अगली प्रमुख लहर के रूप में प्रचारित किया जाता है। वे अलग-अलग एप्लिकेशन से प्रासंगिक जानकारी निकाल सकते हैं और उपयोगकर्ताओं को चरण-दर-चरण निर्देश जारी करने की आवश्यकता के बिना ईमेल का जवाब देना, अपॉइंटमेंट लेना और ऑनलाइन खरीदारी जैसे समय बचाने वाले कार्यों को पूरा कर सकते हैं। हालाँकि, यह क्षमता उन सुरक्षा तंत्रों को भी बायपास कर सकती है जो सिग्नल जैसे अनुप्रयोगों ने अपने लिए बनाए हैं।
रॉयटर्स ने इस सप्ताह की शुरुआत में रिपोर्ट दी थी कि मेटा का म्यूज़ एआई एजेंट अपने आधिकारिक "कनेक्टर" टूल को बायपास करने और Google के एंड्रॉइड सिस्टम पर चलने वाले ऐप्पल कंप्यूटर और फोन पर सिग्नल संदेशों तक पहुंचने में सक्षम था। दोनों ही मामलों में, म्यूज़ ने उस समय दी गई व्यापक ऑपरेटिंग सिस्टम-स्तरीय अनुमतियों का लाभ उठाया, जब ऐप को शुरू में संदेश प्राप्त करने और उन अनुमतियों का उपयोग उन तरीकों से करने के लिए किया गया था, जिनकी उपयोगकर्ता ने उम्मीद नहीं की होगी।
उदाहरण के लिए, Apple के macOS सिस्टम पर, Muse कंप्यूटर एक्सेसिबिलिटी और स्क्रीनशॉट टूल के संयोजन का उपयोग करता है, विकलांग लोगों के लिए Apple की सेटिंग्स का पुन: उपयोग करता है, सिग्नल इंटरफ़ेस पर नेविगेट करता है, स्क्रीनशॉट चैट सामग्री, छवियों से टेक्स्ट निकालता है, और Muse ऐप के भीतर संदेशों को पुन: उत्पन्न करता है। इस सप्ताह Apple द्वारा जारी एक सिस्टम अपडेट प्रभावी रूप से इस विशिष्ट पथ को अवरुद्ध करता है, लेकिन यह AI एजेंटों के लिए अनुमतियों का एक नया सेट भी पेश करता है जो समान क्षमताएं प्रदान करता है और अधिक उपयोगकर्ता चेतावनियों के साथ आता है।
रॉयटर्स की रिपोर्ट के जवाब में, मेटा ने कहा कि एआई एजेंट को उपयोगकर्ता की ओर से कार्यों को पूरा करने के लिए उपयोगकर्ता के कंप्यूटर को देखने और संचालित करने की आवश्यकता है; म्यूज़ केवल उपयोगकर्ता द्वारा स्पष्ट रूप से दी गई अनुमतियों के माध्यम से अन्य एप्लिकेशन तक पहुंच सकता है।
सिग्नल ने कहा कि डेवलपर्स के पास एप्लिकेशन के लिए एआई असिस्टेंट की डेटा प्रोसेसिंग प्रक्रिया से पूरी तरह बाहर निकलने का एक सीधा रास्ता होना चाहिए, खासकर स्क्रीन रीडिंग, नोटिफिकेशन और फाइल सिस्टम एक्सेस जैसे पहलुओं में। एक गैर-लाभकारी फाउंडेशन के स्वामित्व वाली सेवा के रूप में, सिग्नल अपने स्वयं के सर्वर पर संग्रहीत डेटा को सीमित करके, विज्ञापनों की सेवा से इनकार करके और एंड-टू-एंड एन्क्रिप्शन प्रदान करके उपयोगकर्ताओं को एक सुरक्षित मैसेजिंग अनुभव का वादा करता है; इसका मतलब है कि कंपनी अपने ऐप के भीतर उपयोगकर्ताओं की बातचीत तक पहुंच और पढ़ नहीं सकती है।
सिग्नल ने बताया कि उपयोगकर्ता की स्क्रीन को स्कैन करने में सक्षम एआई सिस्टम सिग्नल के सुरक्षित वातावरण से संदेश निकाल सकता है और उन्हें एजेंट द्वारा उपयोग किए जाने वाले अन्य सर्वरों तक पहुंचा सकता है, जिससे उपरोक्त सुरक्षा तंत्र नष्ट हो जाता है।
टिप्पणियाँ