आने वाले महीनों में दुनिया भर में चुनाव आते ही मेटा फेसबुक, इंस्टाग्राम और थ्रेड्स पर अपलोड की गई एआई-जनरेटेड तस्वीरों को एनोटेट करना शुरू कर देगा। कंपनी उन उपयोगकर्ताओं को दंडित करना भी शुरू कर देगी जो यह खुलासा नहीं करेंगे कि वास्तविक जीवन के वीडियो या ऑडियो कृत्रिम बुद्धिमत्ता द्वारा निर्मित किए गए थे या नहीं।
मेटा के वैश्विक मामलों के अध्यक्ष निक क्लेग ने एक साक्षात्कार में कहा कि इन उपायों का उद्देश्य प्रौद्योगिकी उद्योग को "प्रोत्साहित" करना है क्योंकि कृत्रिम बुद्धिमत्ता से उत्पन्न मीडिया के लिए सच और झूठ के बीच अंतर करना कठिन होता जा रहा है। व्हाइट हाउस कंपनियों पर एआई-जनित सामग्री को वॉटरमार्क करने के लिए कड़ी मेहनत कर रहा है। इस बीच, क्लेग ने कहा, मेटा सिंथेटिक मीडिया का पता लगाने के लिए उपकरण विकसित कर रहा है, भले ही इसके निर्माण में कृत्रिम बुद्धिमत्ता की भूमिका को अस्पष्ट करने के लिए इसके मेटाडेटा के साथ छेड़छाड़ की गई हो।
मेटा पहले से ही अपने स्वयं के इमेजिनएआई जनरेटर का उपयोग करके उत्पन्न छवियों पर "इमेजिन्ड विद एआई" वॉटरमार्क डालता है, और कंपनी Google, ओपनएआई, माइक्रोसॉफ्ट, एडोब, मिडजॉर्नी और शटरस्टॉक के टूल का उपयोग करके उत्पन्न एआई तस्वीरों पर उसी वॉटरमार्क को लागू करना शुरू कर देगी। क्लेग ने कहा कि एआई-जनरेटेड वीडियो और ऑडियो की पहचान के लिए मानक स्थापित करने में उद्योग अन्य उद्योगों से काफी पीछे है। हालाँकि मेटा इस बात को लेकर अत्यधिक सतर्क रहता है कि इस प्रकार के मीडिया का उपयोग धोखा देने के लिए कैसे किया जा सकता है, कंपनी अपने दम पर सब कुछ नहीं पकड़ सकती है।
उन्होंने कहा: "हम उन लोगों के प्रति अत्यधिक सतर्क रहेंगे जो चिंतित हैं कि वीडियो, ऑडियो सामग्री चुनाव से पहले महत्वपूर्ण राजनीतिक मुद्दों पर जनता को धोखा देने के लिए डिज़ाइन की गई है। क्या मुझे लगता है कि यह संभव है कि चाहे कितनी भी जल्दी पता चल जाए या जल्दी से लेबल कर दिया जाए, फिर भी हम पर बेवजह श्रृंखला से बाहर होने का आरोप लगाया जाएगा? हाँ, मुझे लगता है कि यह संभव है, यदि बहुत संभावना नहीं है।"
मेटा मौजूदा सामग्री प्रामाणिकता पहलों को आगे बढ़ाने के लिए पार्टनरशिप फॉर आर्टिफिशियल इंटेलिजेंस जैसे संगठनों के साथ काम कर रहा है। Adobe ने हाल ही में एक सामग्री क्रेडेंशियल सिस्टम जारी किया है जो छवि मेटाडेटा में सामग्री उद्गम जानकारी को शामिल करता है। छवियों के लिए SynthID वॉटरमार्किंग का बीटा संस्करण जारी करने के बाद, Google ने इसे ऑडियो फ़ाइलों तक विस्तारित किया है।
क्लेग ने कहा कि मेटा जल्द ही उपयोगकर्ताओं से कृत्रिम बुद्धिमत्ता का उपयोग करके निर्मित फोटोरिअलिस्टिक वीडियो या ऑडियो वाले पोस्ट का खुलासा करने के लिए कहना शुरू कर देगा। यदि उपयोगकर्ता खुलासा नहीं करते हैं, तो उन्होंने कहा, "उन्हें चेतावनियों से लेकर अपमानजनक पोस्ट हटाने तक के दंड के अधीन किया जाएगा।"
राजनेताओं के एआई-जनित वायरल पोस्ट के पहले से ही कई उदाहरण हैं, लेकिन क्लेग ने चुनावी वर्ष में मेटा के मंच पर इस घटना के हावी होने की संभावना को कम करके आंका। उन्होंने कहा, "मुझे नहीं लगता कि हम जल्द ही पूरी तरह से सिंथेटिक, राजनीतिक रूप से महत्वपूर्ण वीडियो या ऑडियो देखने जा रहे हैं।" "मुझे नहीं लगता कि यह उस तरह से होने वाला है।"
मेटा ने सामुदायिक मानकों के लिए प्रशिक्षित बड़े भाषा मॉडल (एलएलएम) के उपयोग का आंतरिक परीक्षण भी शुरू कर दिया है, उन्होंने इसे हजारों मानव समीक्षकों के लिए एक कुशल "ट्राइएज तंत्र" प्रदान करने वाला बताया। उन्होंने कहा, "यह सुनिश्चित करने का यह एक बहुत प्रभावी और काफी सटीक तरीका प्रतीत होता है कि हमारे मानव समीक्षकों को रिपोर्ट की जा रही सामग्री वास्तव में उस तरह का एज केस है जिसके लिए मानवीय निर्णय की आवश्यकता होती है।"