जैसे-जैसे अधिक निर्माता कलात्मक अभिव्यक्ति के लिए कृत्रिम बुद्धिमत्ता की ओर रुख कर रहे हैं, सामग्री निर्माण में कृत्रिम बुद्धिमत्ता की भागीदारी में पारदर्शिता पर भी व्यापक जोर दिया जा रहा है। इस समस्या को हल करने के लिए, टिकटॉक ने आज घोषणा की कि वह एक नया टूल लॉन्च करेगा जो रचनाकारों को एआई-जनरेटेड सामग्री को एनोटेट करने की अनुमति देगा, और एआई-जनरेटेड सामग्री को स्वचालित रूप से एनोटेट करने के अन्य तरीकों का परीक्षण शुरू करेगा।
कंपनी ने कहा कि उसका मानना है कि एआई टैग की शुरूआत जरूरी थी क्योंकि एआई सामग्री दर्शकों को भ्रमित या भ्रमित कर सकती है। बेशक, टिकटॉक ने सिंथेटिक मीडिया पर अपनी नीति को अपडेट किया है, जिससे दर्शकों को वीडियो के अंदर और बाहर को स्पष्ट करने और भ्रामक जानकारी के प्रसार को रोकने में मदद करने के लिए यथार्थवादी छवियों, ऑडियो या वीडियो (जैसे गहरे नकली) वाले कृत्रिम बुद्धिमत्ता सामग्री को लेबल करने की आवश्यकता होती है। टिकटॉक की नीतियां उसे जीवंत कृत्रिम बुद्धिमत्ता की अज्ञात छवियों को हटाने की अनुमति देती हैं।
हालाँकि, चरम मामलों के अलावा जहां AI का उपयोग जानबूझकर उपयोगकर्ताओं को गुमराह करने के लिए किया जाता है, कुछ AI-जनित सामग्री प्रामाणिक या गलत दिखने के बीच डगमगा सकती है। इस ग्रे क्षेत्र में, अंतिम उपयोगकर्ता आम तौर पर अधिक पारदर्शिता की सराहना करेंगे ताकि वे बता सकें कि जो सामग्री वे देख रहे हैं उसे कृत्रिम बुद्धिमत्ता का उपयोग करके भारी रूप से संपादित किया गया है या बनाया गया है।
टिकटॉक अब एक नया टूल लॉन्च कर रहा है जो न केवल रचनाकारों के लिए सिंथेटिक मीडिया पर मौजूदा नीतियों का अनुपालन करना आसान बना देगा, बल्कि किसी भी अन्य सामग्री को भी चिह्नित करेगा जो पूरी तरह से एआई का उपयोग करके उत्पन्न किया गया है या एआई द्वारा भारी रूप से संपादित किया गया है। क्रिएटर्स वीडियो अपलोड करते समय टूल का उपयोग कर सकते हैं, और टिकटॉक नहीं चाहता कि क्रिएटर्स वापस जाएं और अपने पिछले वीडियो को फिर से टैग करें।
जब कोई निर्माता नए टूल का उपयोग करता है, तो टिकटॉक वीडियो के उपयोगकर्ता नाम के तहत एक संदेश प्रदर्शित करेगा जिसमें कहा जाएगा कि निर्माता ने वीडियो को एआई-जनरेटेड के रूप में चिह्नित किया है। हालाँकि, टिकटॉक कृत्रिम बुद्धिमत्ता सामग्री को लेबल करने में विफल रहने पर रचनाकारों को दंडित नहीं करेगा जो मौजूदा सिंथेटिक मीडिया नीतियों के अंतर्गत नहीं आते हैं।
इसके अलावा, टिकटॉक ने यह भी कहा कि वह कृत्रिम बुद्धिमत्ता सामग्री का स्वचालित रूप से पता लगाने और लेबल करने के लिए एक विधि विकसित कर रहा है। इस सप्ताह, टिकटॉक एक "एआई जनरेटेड" लेबल का परीक्षण शुरू करेगा जो अंततः एआई का उपयोग करके संपादित या निर्मित की गई किसी भी सामग्री पर लागू होगा।
कंपनी ने इस बारे में विशिष्ट विवरण देने से इनकार कर दिया कि उसकी तकनीक संभावित एआई सामग्री को कैसे देखेगी, यह देखते हुए कि उन विवरणों को साझा करने से खराब अभिनेता इसकी पहचान क्षमताओं को बायपास कर सकते हैं। हालांकि, टिकटॉक ने कहा कि वह अलग-अलग एआई डिटेक्शन मॉडल का परीक्षण करेगा और एक उद्गम साझेदारी का "मूल्यांकन" कर रहा है, जिसका उद्देश्य सामग्री में एआई टैग को एम्बेड करके प्लेटफॉर्म को एआई का बेहतर पता लगाने में मदद करना है।
हाल के महीनों में, OpenAI और Google दोनों ने अपनी स्वयं की AI पहचान क्षमताओं की घोषणा की है, और AI को लेबल करना बड़े प्लेटफार्मों के बीच एक आम बात बन रही है। ऐसा प्रतीत होता है कि इंस्टाग्राम कृत्रिम बुद्धिमत्ता का उपयोग करके बनाई या संपादित सामग्री को उजागर करने के लिए एक फीचर पर भी काम कर रहा है। यूरोपीय संघ दुष्प्रचार से निपटने के लिए प्लेटफार्मों पर कृत्रिम बुद्धिमत्ता सामग्री को एक सामान्य नियम के रूप में लेबल करने पर जोर दे रहा है।
पारदर्शिता बढ़ाने के लिए, टिकटॉक अब उन सभी विशेष प्रभावों का भी नाम बदल देगा जो नाम में "एआई" को स्पष्ट रूप से इंगित करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करते हैं। यह कुछ ऐसा है जिसका खुलासा करने से उसने पहले इनकार कर दिया था। वास्तव में, जब टिकटॉक का "बोल्डग्लैमर" फ़िल्टर उपयोगकर्ताओं के चेहरे बदलने की अपनी शानदार तकनीक के लिए लोकप्रिय हो गया, तो कुछ लोगों को संदेह हुआ कि फ़िल्टर AR (संवर्धित वास्तविकता तकनीक) का नहीं, बल्कि AI का उपयोग करता है। हालाँकि, टिकटोक ने उस समय मीडिया की पूछताछ का जवाब देने से इनकार कर दिया था कि क्या उत्पाद कृत्रिम बुद्धिमत्ता था।
नए लेबल परिवर्तन के साथ, उपयोगकर्ता अब एक नज़र में यह निर्धारित कर सकते हैं कि कौन से टिकटॉक फ़िल्टर AI का उपयोग करते हैं। कंपनी ने कहा कि इफ़ेक्ट हाउस क्रिएटर्स के लिए उसके अद्यतन दिशानिर्देशों के लिए उन्हें भी ऐसा करने की आवश्यकता होगी।
टिकटॉक ने नोट किया कि नए एआई टैग विकसित करते समय, उसने अपने सुरक्षा सलाहकार बोर्ड और मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी के डॉ. डेविड जी. रैंड सहित उद्योग विशेषज्ञों से परामर्श किया, जिनके शोध ने विभिन्न प्रकार के एआई टैगों पर उपयोगकर्ता की प्रतिक्रियाओं की जांच की। इस उद्देश्य से, टिकटॉक को उम्मीद है कि "कृत्रिम बुद्धिमत्ता पीढ़ी" शब्द को लोगों के विभिन्न समूहों द्वारा व्यापक रूप से समझा जा सकता है।
आने वाले हफ्तों में, टिकटॉक उपयोगकर्ताओं को कृत्रिम बुद्धिमत्ता को बेहतर ढंग से समझने में मदद करने के लिए शैक्षिक वीडियो और अन्य मीडिया साक्षरता संसाधन भी लॉन्च करेगा।
ये अपडेट मीडिया में कृत्रिम बुद्धिमत्ता के आसपास टिकटोक की अन्य पहलों का अनुसरण करते हैं, जिसमें सिंथेटिक मीडिया के लिए एआई की जिम्मेदार प्रथाओं पर साझेदारी में शामिल होने की फरवरी की प्रतिबद्धता भी शामिल है, जो कृत्रिम बुद्धिमत्ता में पारदर्शिता और जिम्मेदार नवाचार के लिए सर्वोत्तम प्रथाओं का एक उद्योग कोड है। इस साल अगस्त में, कंपनी ने कृत्रिम बुद्धिमत्ता के ऑनलाइन विकास पर युवाओं के विचारों को समझने के लिए उनके साथ एक गोलमेज सम्मेलन की मेजबानी करने के लिए गैर-लाभकारी संगठन डिजिटल मोमेंट के साथ भी साझेदारी की।
एआई टैग आज से शुरू हो रहे हैं, लेकिन रोलआउट पूरा होने तक आप उन्हें तुरंत नहीं देख पाएंगे।