मेटा ओवरसाइट कमेटी ने हाल ही में एक निर्णय जारी कर कंपनियों से युद्ध, आपदा और चुनाव जैसी उच्च जोखिम वाली स्थितियों में एआई-जनित सामग्री और गहरे नकली वीडियो के तेजी से प्रसार से निपटने के लिए नियामक नियमों को जल्द से जल्द सख्त और स्पष्ट करने का आह्वान किया। एजेंसी ने बताया कि मेटा में वर्तमान में बड़े पैमाने पर एआई-जनित सामग्री को लेबल करने और पहचानने में स्पष्ट कमियां हैं, खासकर संघर्ष और संकट के समय में, और यह दोष जनता को गुमराह कर सकता है।
यह आलोचना एक फर्जी वीडियो से उपजी है जो पिछले साल मेटा प्लेटफॉर्म पर सामने आया था। एआई-जनरेटेड वीडियो का उद्देश्य इजरायली शहर हाइफ़ा में इमारत को हुए नुकसान की फुटेज दिखाना है और इसे फिलीपींस में एक उपयोगकर्ता द्वारा समाचार स्रोत के रूप में पोस्ट किया गया था। कई उपयोगकर्ताओं ने वीडियो की रिपोर्ट की, लेकिन प्लेटफ़ॉर्म ने न तो आंतरिक समीक्षा की और न ही तीसरे पक्ष के तथ्य-जाँच तंत्र को चालू किया। वीडियो लंबे समय से ऑनलाइन था लेकिन इसे "उच्च जोखिम वाली एआई सामग्री" के रूप में चिह्नित नहीं किया गया था। जब तक निरीक्षण समिति ने हस्तक्षेप नहीं किया तब तक इस पर ध्यान आकर्षित नहीं हुआ।
ओवरसाइट समिति की भूमिका वैश्विक स्तर पर उपयोगकर्ताओं और समुदाय के साथ मेटा के व्यवहार में सुधार करना है। समिति का मानना है कि इस मामले ने फेसबुक, इंस्टाग्राम और थ्रेड्स जैसे प्लेटफार्मों पर मेटा की एआई सामग्री प्रशासन प्रणाली के साथ प्रणालीगत समस्याओं को उजागर किया है, जो उपयोगकर्ताओं के स्वैच्छिक प्रकटीकरण या आंतरिक "अपग्रेड" प्रक्रियाओं पर बहुत अधिक निर्भर करता है और एआई सामग्री की खतरनाक गति और पैमाने पर फैलने की वर्तमान वास्तविकता से मेल नहीं खा सकता है, खासकर युद्धों, आपदाओं और अत्यधिक राजनीतिक रूप से संवेदनशील घटनाओं के दौरान।
वर्तमान में, एआई-जनित सामग्री की मेटा लेबलिंग काफी हद तक इस बात पर निर्भर करती है कि क्या निर्माता एआई के उपयोग की स्व-घोषणा करता है, या क्या सामग्री को आंतरिक रूप से एक विशेष समीक्षा प्रक्रिया में आगे बढ़ाया गया है। ओवरसाइट कमेटी ने बताया कि यह दृष्टिकोण इंटरनेट पर गहरे नकली और सिंथेटिक मीडिया के प्रसार से निपटने के लिए पर्याप्त नहीं है, और उपयोगकर्ताओं को तुरंत यह याद दिलाना मुश्किल है कि सामग्री कैसे उत्पन्न होती है और संभावित रूप से भ्रामक होती है।
अपनी नवीनतम सिफारिशों में, ओवरसाइट बोर्ड ने मेटा से गलत सूचना नीति प्रतिक्रियाओं के खंडित पैचवर्क पर भरोसा करने के बजाय एआई-जनरेटेड सामग्री के लिए सामुदायिक मानकों का एक अलग सेट विकसित करने के लिए कहा। समिति इस बात की वकालत करती है कि एआई-जनरेटेड छवियों, वीडियो और ऑडियो के नियमों को एक स्पष्ट ढांचे में एकीकृत किया जाना चाहिए ताकि प्लेटफ़ॉर्म उच्च जोखिम वाले परिदृश्यों में अधिक सुसंगत और पारदर्शी हस्तक्षेप कर सकें।
समिति ने यह भी सिफारिश की कि मेटा सार्वजनिक सुरक्षा, जनमत और चुनावों को प्रभावित करने वाली सामग्री को प्रमुखता से लेबल करने के लिए "उच्च जोखिम वाले एआई" लेबल का अधिक बार उपयोग करे। साथ ही, कंपनियों को छवियों, वीडियो और ऑडियो जैसे कई मीडिया रूपों को कवर करने के लिए स्वचालित पहचान प्रणालियों की क्षमताओं में और सुधार करने की आवश्यकता है, और उपयोगकर्ताओं को उन विशिष्ट दंडों को स्पष्ट रूप से समझाना होगा जो डिजिटल संश्लेषण या छेड़छाड़ की गई सामग्री का खुलासा करने में विफल रहेंगे।
तकनीकी नींव के संदर्भ में, ओवरसाइट कमेटी ने कंटेंट क्रेडेंशियल्स उद्योग ढांचे का नाम दिया और माना कि मेटा को इस तंत्र को अधिक सक्रिय रूप से और समान रूप से अपनाना चाहिए। इस ढांचे का उद्देश्य सामग्री के स्रोत को इंगित करने के लिए सामग्री में मेटाडेटा संलग्न करके सामग्री ट्रैसेबिलिटी और पारदर्शिता में सुधार करना है और क्या एआई उपकरण का उपयोग किया जाता है। समिति चिंतित है कि मेटा वर्तमान में ऐसे मानकों को लागू करने में असंगत है, जिसमें अपने स्वयं के एआई टूल द्वारा उत्पन्न सामग्री की लेबलिंग भी शामिल है।
ओवरसाइट बोर्ड ने पहले मेटा के "मीडिया में हेराफेरी" नियमों की बहुत भ्रामक और दायरे में बहुत संकीर्ण होने के कारण आलोचना की है, "क्या सामग्री भ्रामक है" के बजाय "क्या एआई का उपयोग किया जाता है" पर बहुत अधिक ध्यान केंद्रित किया गया है। दबाव में, मेटा ने प्रासंगिक लेबलिंग प्रणाली को समायोजित किया और मूल "एआई से निर्मित (एआई द्वारा निर्मित)" लेबल को व्यापक "एआई जानकारी (एआई जानकारी)" लेबल से बदल दिया। हालाँकि, इस बदलाव ने बाहरी दुनिया के संदेह को भी आकर्षित किया है। ऐसा माना जाता है कि नया लेबल प्रॉम्प्ट बहुत सामान्य है और पर्याप्त ध्यान आकर्षित करने वाला नहीं है, और उपयोगकर्ता मुख्य जानकारी को आसानी से अनदेखा कर सकते हैं।
वर्तमान अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प के उद्घाटन की पूर्व संध्या पर, मेटा के सीईओ मार्क जुकरबर्ग ने घोषणा की कि कंपनी की मौजूदा तृतीय-पक्ष तथ्य-जाँच साझेदारी "बहुत राजनीतिक रूप से पक्षपाती" हो गई है और प्लेटफ़ॉर्म में उपयोगकर्ताओं के विश्वास को कम कर दिया है, और इसे सामुदायिक नोट्स तंत्र द्वारा प्रतिस्थापित किया जाएगा। इस समायोजन का मतलब है कि प्लेटफ़ॉर्म गलत सूचना को पहचानने और सही करने में उपयोगकर्ता समुदाय द्वारा सहज लेबलिंग और त्रुटि सुधार पर निर्भर करेगा। डीप फेक और एआई सामग्री के तेजी से प्रसार के संदर्भ में, इस रणनीति ने इसकी प्रभावशीलता के बारे में निरंतर बहस भी शुरू कर दी है।