जैसे-जैसे एआई-जनरेटेड तकनीक अधिक व्यापक होती जाएगी, Google एंड्रॉइड ऐप्स को आपत्तिजनक एआई-जेनरेटेड सामग्री की रिपोर्ट करने का एक तरीका प्रदान करने और नए मॉडरेशन नियमों का अनुपालन करने की आवश्यकता शुरू कर देगा कि किस प्रकार की एआई-जेनरेट की गई सामग्री स्वीकार्य है।
सामग्री तैयार करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करने वाले ऐप्स को Google के Play Store पर उपलब्ध रहने के लिए अगले साल की शुरुआत में आपत्तिजनक सामग्री को चिह्नित करने या रिपोर्ट करने के लिए एक बटन जोड़ना होगा।
Google रिपोर्टिंग प्रक्रिया को यथासंभव सरल बनाना चाहता है ताकि उपयोगकर्ता मौजूदा इन-ऐप रिपोर्टिंग प्रणाली के समान, ऐप छोड़े बिना रिपोर्ट कर सकें।
कंपनी ने कहा कि उसकी एआई-जनरेटेड सामग्री नीति एआई चैटबॉट्स, एआई-जनरेटेड छवियों का उपयोग करने वाले ऐप्स और वास्तविक लोगों से आवाज या वीडियो सामग्री बनाने के लिए एआई का उपयोग करने वाले ऐप्स को कवर करती है। ऐसे ऐप्स जो AI-जनित सामग्री होस्ट करते हैं, ऐसे ऐप्स जो केवल किताबों जैसी सामग्री को सारांशित करने के लिए AI का उपयोग करते हैं, और उत्पादकता ऐप्स जो AI को एक सुविधा के रूप में उपयोग करते हैं, नई नीति के अधीन नहीं होंगे।
Google के विचार में, समस्याग्रस्त AI सामग्री में गैर-सहमति वाली डीपफेक यौन सामग्री, धोखाधड़ी के लिए उपयोग की जाने वाली वास्तविक-व्यक्ति रिकॉर्डिंग, झूठी या भ्रामक चुनाव सामग्री, AI-जनित एप्लिकेशन "मुख्य रूप से यौन इच्छा को संतुष्ट करने के उद्देश्य से" और दुर्भावनापूर्ण कोड का निर्माण शामिल है।
अपनी घोषणा में, Google ने स्वीकार किया कि AI पीढ़ी "एक तेजी से बढ़ती एप्लिकेशन श्रेणी है", जिससे यह आभास होता है कि Google अपनी AI नीतियों पर फिर से विचार कर सकता है क्योंकि प्रौद्योगिकी का विकास जारी है।
एआई-जनरेटेड सामग्री के आसपास नए नियमों के अलावा, Google ने अपनी प्ले स्टोर फोटो और वीडियो अनुमति नीतियों को भी कड़ा कर दिया है, जिससे यह सीमित हो जाएगा कि कितने ऐप्स डेटा तक पहुंच सकते हैं।
कंपनी ने कहा, "किसी उपयोगकर्ता के डिवाइस पर फ़ोटो और वीडियो को उपयोगकर्ता का संवेदनशील व्यक्तिगत डेटा माना जाता है और इसे सबसे सख्त गोपनीयता सर्वोत्तम प्रथाओं के साथ व्यवहार किया जाना चाहिए।" "यह संवेदनशील जानकारी उपयोगकर्ताओं को लीक करने वालों या शोषण के लिए आसान लक्ष्य बना सकती है, इसलिए ऐसी पहुंच को कम करने से डेवलपर्स पर ऐसे संवेदनशील डेटा को संभालने के बोझ से बचने में मदद मिलती है।"
केवल जिन ऐप्स को फ़ोटो और वीडियो तक व्यापक पहुंच की आवश्यकता होती है, उन्हें सामान्य अनुमतियां मिलती रहेंगी, जबकि मीडिया फ़ाइलों के सीमित उपयोग वाले ऐप्स को फोटो पिकर का उपयोग करने की आवश्यकता होगी।