कंपनी ने मंगलवार को अपनी वेबसाइट पर एक घोषणा में खुलासा किया कि यूट्यूब सितारों और उनकी टीमों को प्लेटफॉर्म से एआई-जनित सामग्री और डीपफेक वीडियो की पहचान करने और हटाने में मदद करने के लिए मनोरंजन उद्योग में अपनी नई "समानता पहचान" तकनीक का विस्तार कर रहा है।
यह टूल YouTube के मौजूदा कंटेंट आईडी सिस्टम के समान काम करता है, जो उपयोगकर्ताओं द्वारा वीडियो अपलोड करने पर स्वचालित रूप से कॉपीराइट सामग्री का पता लगाता है, जिससे कॉपीराइट मालिकों के लिए वीडियो को हटाने का अनुरोध करना या विज्ञापन साझा करने में भाग लेना आसान हो जाता है। पोर्ट्रेट पहचान नकली चेहरों की पहचान करने पर केंद्रित है और इसका उद्देश्य रचनाकारों और अन्य सार्वजनिक हस्तियों को बिना अनुमति के उनकी पहचान का शोषण करने से बचाना है - उदाहरण के लिए, धोखाधड़ी वाले विज्ञापन के लिए सेलिब्रिटी पोर्ट्रेट का उपयोग किया जा रहा है, एक समस्या जो हाल के वर्षों में तेजी से आम हो गई है।
YouTube की तकनीक को शुरुआत में पिछले साल एक पायलट कार्यक्रम के रूप में रचनाकारों के एक चुनिंदा समूह के लिए उपलब्ध कराया गया था, और तब से धीरे-धीरे इसका विस्तार किया गया है। इस वसंत में, YouTube ने एआई डीपफेक के दुरुपयोग से निपटने में मदद करने के लिए राजनेताओं, सरकारी अधिकारियों और पत्रकारों को शामिल करने के लिए अपने कवरेज का विस्तार किया। अब, कंपनी ने घोषणा की है कि इस टूल को मनोरंजन उद्योग के प्रतिभागियों तक बढ़ाया जाएगा, जिसमें प्रतिभा एजेंसियां, कलाकार प्रबंधन कंपनियां और उनके द्वारा प्रतिनिधित्व किए जाने वाले सेलिब्रिटी कलाकार शामिल हैं। कई प्रमुख हॉलीवुड एजेंसियां - जिनमें सीएए, यूटीए, डब्लूएमई और अनटाइटल्ड मैनेजमेंट शामिल हैं - फीडबैक प्रदान करने और नए टूल को बेहतर बनाने में शामिल रही हैं।
यह ध्यान देने योग्य है कि समानता पहचान उपकरण का उपयोग करने के लिए कलाकार के पास YouTube चैनल होना आवश्यक नहीं है। पर्दे के पीछे, सिस्टम पंजीकृत प्रतिभागियों के चेहरे की जानकारी के साथ किसी भी मिलान का पता लगाने के लिए प्लेटफ़ॉर्म पर एआई-जनरेटेड सामग्री को स्कैन करता है। एक बार मेल खाने वाली सामग्री मिल जाने पर, उपयोगकर्ता YouTube की गोपनीयता नीति के अनुसार निष्कासन अनुरोध शुरू करना चुन सकता है, कॉपीराइट निष्कासन अनुरोध सबमिट कर सकता है, या कोई कार्रवाई नहीं करने का निर्णय ले सकता है। हालाँकि, मंच ने इस बात पर भी जोर दिया कि सभी प्रासंगिक वीडियो नहीं हटाए जाएंगे क्योंकि इसके नियम अभी भी एक निश्चित सीमा तक पैरोडी और व्यंग्य की अनुमति देते हैं।
यूट्यूब ने कहा कि भविष्य में ऑडियो आयाम का समर्थन करने के लिए इस तकनीक का भी विस्तार किया जाएगा, जिसका अर्थ है कि भविष्य में अनधिकृत एआई-संश्लेषित ध्वनियों और अन्य सामग्री की पहचान और प्रसंस्करण करने की उम्मीद है। जैसे-जैसे उत्पाद विकसित होता है, यूट्यूब संघीय स्तर पर अधिक प्रणालीगत सुरक्षा की भी वकालत कर रहा है, वर्तमान में अमेरिकी कांग्रेस में चर्चा में चल रहे "नो फेक एक्ट" का समर्थन कर रहा है। विधेयक का उद्देश्य कृत्रिम बुद्धिमत्ता तकनीक का उपयोग करके व्यक्तिगत आवाज़ों और दृश्य चित्रों के अनधिकृत पुनरुत्पादन को विनियमित करना और सार्वजनिक हस्तियों और आम उपयोगकर्ताओं के लिए स्पष्ट कानूनी सीमाएँ प्रदान करना है।
वर्तमान में, YouTube ने यह खुलासा नहीं किया है कि टूल ने अब तक कितने AI डीपफेक सामग्री हटाने के अनुरोधों को संसाधित किया है। हालाँकि, कंपनी ने मार्च में कहा था कि पोर्ट्रेट डिटेक्शन टूल द्वारा ट्रिगर किए गए टेकडाउन की संख्या अभी भी "बहुत कम" थी। जैसे-जैसे एआई-जनित तकनीक मनोरंजन और विज्ञापन उद्योगों में अपनी पैठ बढ़ा रही है, रचनाकारों, राजनेताओं से लेकर फिल्म और टेलीविजन सितारों तक अधिक से अधिक सार्वजनिक हस्तियां, अपनी समानताओं और आवाजों के दुरुपयोग के जोखिम से निपटने के लिए मंच-स्तरीय तकनीकी साधनों पर भरोसा करना शुरू कर रही हैं।