सार:
Apple ने हाल ही में घोषणा की है कि उसने अपने ऐप स्टोर समीक्षा दिशानिर्देशों को अपडेट किया है और कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न अनैच्छिक निजी छवियों के खिलाफ सख्त प्रबंधन उपाय करेगा। पहले, प्लेटफ़ॉर्म नियमों ने स्पष्ट यौन सामग्री पर प्रतिबंध लगा दिया था, और नवीनतम नियमों में डेवलपर्स को एआई द्वारा उत्पन्न ऐसी गहरी नकली सामग्री को सक्रिय रूप से रोकने, निगरानी करने और हटाने की आवश्यकता होती है। यदि डेवलपर्स प्रभावी उपाय करने में विफल रहते हैं, तो प्रासंगिक एप्लिकेशन को ऐप स्टोर से हटाया जा सकता है।
अद्यतन 1.2 क्लॉज में, Apple स्पष्ट रूप से पहली बार AI सामग्री निर्माण से संबंधित एप्लिकेशन श्रेणियों का नाम देता है। माना जाता है कि यह कदम कुछ जेनेरिक एआई उत्पादों से संबंधित है, जिसमें चैटबॉट सेवाएं भी शामिल हैं, जो नग्नता और कामुक डीपफेक सामग्री उत्पन्न करने के लिए विवाद का कारण बनी हैं। इससे पहले, ऐप्पल ने प्रासंगिक डेवलपर्स को चेतावनी दी थी कि यदि संबंधित ऐप्स नग्न डीपफेक छवियों के निर्माण की अनुमति देना जारी रखते हैं, तो उन्हें ऐप स्टोर से हटाए जाने का जोखिम होगा। इसके बाद, कंपनी ने संबंधित सुरक्षा संरक्षण तंत्र जोड़ा और एक अद्यतन संस्करण जारी करने के लिए ऐप्पल की मंजूरी प्राप्त की।
उसी समय, ऐप्पल ने 2.5.19 नंबर वाली एक नई समीक्षा गाइडलाइन जोड़ी है, जिसमें इस बात पर जोर दिया गया है कि डेवलपर्स को नई सुविधाओं को जोड़ने की अनुमति नहीं है, जिन्हें ऐप द्वारा समीक्षा पारित करने के बाद समीक्षा चरण के दौरान प्रकट नहीं किया गया था। ऐप्पल ने विशेष रूप से तथाकथित "न्यूडिफिकेशन ऐप्स" का उल्लेख किया है, जो ऐसे ऐप्स हैं जो कृत्रिम बुद्धिमत्ता का उपयोग करके वास्तविक लोगों की नकली तस्वीरों को नग्न या अश्लील चित्र बनाते हैं। Apple का मानना है कि कुछ डेवलपर्स समीक्षा अवधि के दौरान अपने एप्लिकेशन के वास्तविक उद्देश्य को छिपा सकते हैं और संबंधित कार्यों को सक्षम करने से पहले एप्लिकेशन को ऑनलाइन जाने के लिए स्वीकृत होने तक प्रतीक्षा कर सकते हैं।
नए नियमों के अनुसार, छिपे हुए या अज्ञात कार्यों वाले किसी भी एप्लिकेशन को अलमारियों से प्रतिबंधित कर दिया जाएगा, जिसमें ऐसे एप्लिकेशन भी शामिल हैं जो समीक्षा चरण के दौरान जानबूझकर अपने उद्देश्य को छिपाते हैं और फिर अनुमोदन के बाद हानिकारक क्षमताओं को खोलते हैं। ऐप्पल ने बताया कि इस प्रकार का अभ्यास एक विशिष्ट "चारा-और-स्विच" व्यवहार है, और "अनड्रेसिंग" फ़ंक्शन इस प्रकार के उल्लंघन का एक प्रतिनिधि मामला है।
एआई-जनित सामग्री पर नियमों के अलावा, ऐप्पल ने मानव तस्करी और बाल शोषण पर मूल एप्लिकेशन प्रतिबंध को वैकल्पिक एप्लिकेशन वितरण चैनलों तक बढ़ाने के लिए समीक्षा दिशानिर्देशों के भाग 5 को भी संशोधित किया है। इसका मतलब यह है कि ऐप्स समान सामग्री सुरक्षा आवश्यकताओं के अधीन हैं, चाहे वे आधिकारिक ऐप स्टोर या अन्य अनुमत वितरण विधियों के माध्यम से उपलब्ध कराए गए हों।
डेवलपर्स के लिए अपनी घोषणा में, Apple ने इस बात पर जोर दिया कि कंपनी इन नियमों का उल्लंघन करने वाले ऐप्स और डेवलपर्स के लिए ऐप्स को शेल्फ से हटाने और डेवलपर योग्यता समाप्त करने जैसे दंडात्मक कदम उठाने में संकोच नहीं करेगी।
इस नियम अपडेट से पता चलता है कि जैसे-जैसे जेनेरिक आर्टिफिशियल इंटेलिजेंस उपकरण तेजी से लोकप्रिय हो रहे हैं, ऐप्पल डीप फेक, गैर-सहमति वाली निजी छवि निर्माण और संबंधित दुरुपयोगों पर अपनी निगरानी को और मजबूत कर रहा है ताकि गोपनीयता को परेशान करने, शोषण करने या आक्रमण करने के लिए एआई तकनीक के जोखिम को कम किया जा सके।
नियमों का पूरा पाठ पढ़ें:
https://developer.apple.com/app-store/review/guidelines/
टिप्पणियाँ