अक्टूबर 2024 में, Xiaomi के सीईओ "लेई जून" के बड़ी संख्या में डबिंग वीडियो लघु वीडियो प्लेटफॉर्म पर दिखाई दिए, और विभिन्न डबिंग नकल और स्पूफ वीडियो एक के बाद एक सामने आए। दरअसल, इन वीडियो में आवाजें खुद लेई जून की नहीं हैं, बल्कि एआई द्वारा डब की गई हैं।उद्यमी लेई जून को धोखा देने से लेकर एआई द्वारा अपने लिए सामान बेचने के लिए डॉ. झांग वेनहोंग के ऑडियो और वीडियो बनाने तक, ऐसे अपराधी भी हैं जो धोखाधड़ी करने के लिए वीडियो को गहराई से संश्लेषित करने के लिए एआई का उपयोग करते हैं।
पिछले वर्ष में, एआई डीप सिंथेसिस ऑडियो और वीडियो उल्लंघन की घटना अधिक से अधिक गंभीर हो गई है।
हाल ही में, सीसीटीवी न्यूज़ ने एआई-संश्लेषित सेलिब्रिटी ऑडियो और वीडियो की अराजकता को उजागर किया।
पहले, कुछ नेटिज़न्स ने अपने लिए ट्रैफ़िक प्राप्त करने के लिए एआई द्वारा निर्मित एंडी लाउ की आवाज़ का उपयोग किया था। एंडी लाउ फिल्म कंपनी ने नेटिज़न्स को एंडी लाउ की आवाज गढ़ने के एआई भाषण संश्लेषण प्रौद्योगिकी घोटाले में न फंसने की याद दिलाने के लिए एक तत्काल बयान भी जारी किया।
सीसीटीवी न्यूज की जांच में पाया गया कि ऑडियो और वीडियो के एआई गहन संश्लेषण को हासिल करना मुश्किल नहीं है, यहां तक कि कुछ शॉपिंग प्लेटफॉर्म पर भी,एआई डीप सिंथेसिस तकनीक कई ऑनलाइन स्टोरों के लिए लाभ कमाने वाला उपकरण बन गई है। सेलिब्रिटी ऑडियो और वीडियो के एआई गहन संश्लेषण को अनुकूलित करने में केवल दसियों युआन का खर्च आता है।
विशेषज्ञों ने कहा,प्रासंगिक कानून और नियम स्पष्ट रूप से निर्धारित करते हैं कि प्राधिकरण के बिना अन्य लोगों की जानकारी का गहन संश्लेषण, उत्पादन और जारी करना निषिद्ध है।
ऑनलाइन स्टोर जो सेलिब्रिटी वीडियो बनाने के लिए गहन एआई संश्लेषण के आदेश प्राप्त करते हैं, वे पहले से ही उल्लंघन कर रहे हैं और उन्हें संबंधित कानूनी जिम्मेदारियां उठानी चाहिए।
इसके अलावा, न केवल मशहूर हस्तियां, बल्कि आम लोग और यहां तक कि एनिमेटेड छवियां, यदि वे व्यक्ति या कॉपीराइट स्वामी की सहमति के बिना अपने ऑडियो और वीडियो को संश्लेषित करने के लिए एआई का उपयोग करते हैं, तो इसे भी उल्लंघन के रूप में आंका जा सकता है और उन्हें कानूनी जिम्मेदारी उठानी चाहिए।