शैक्षणिक कागजात तैयार करने से लेकर कलाकारों की साहित्यिक चोरी तक, जेनरेटिव एआई में अच्छी तरह से प्रलेखित गलतियों का अच्छा हिस्सा है। अब, यह राज्य प्रभाव अभियानों में फिर से उभरता हुआ प्रतीत हो रहा है। मैसाचुसेट्स स्थित खतरा खुफिया फर्म रिकॉर्डेडफ्यूचर की एक नई रिपोर्ट के अनुसार, नवीनतम अभियान को वाणिज्यिक कृत्रिम बुद्धिमत्ता भाषण पीढ़ी के उत्पादों द्वारा "संभवतः" सहायता प्राप्त थी, जिसमें लोकप्रिय स्टार्टअप इलेवनलैब्स की सार्वजनिक रूप से जारी तकनीक भी शामिल थी।
रिपोर्ट में यूक्रेन के लिए यूरोपीय समर्थन को कम करने के उद्देश्य से रूस से जुड़े अभियान का वर्णन किया गया है, जिसे यह "हत्या ऑपरेशन" कहता है जो झूठे या भ्रामक "समाचार" वीडियो में कृत्रिम बुद्धिमत्ता से उत्पन्न वॉयसओवर का प्रमुखता से उपयोग करता है।
वीडियो को यूरोपीय दर्शकों पर लक्षित किया गया था और अन्य विषयों के अलावा, भ्रष्टाचार के लिए यूक्रेनी राजनेताओं पर हमला किया गया था या यूक्रेन को सैन्य सहायता की उपयोगिता पर सवाल उठाया गया था।
रिपोर्ट में कहा गया है कि इसकी "अत्यधिक संभावना" है कि वीडियो रचनाकारों ने अपनी सामग्री को अधिक वैध दिखाने के लिए एलेवेनलैब्स की तकनीक सहित भाषण-उत्पन्न करने वाली कृत्रिम बुद्धिमत्ता का उपयोग किया है। इसका परीक्षण करने के लिए, रिकॉर्डेडफ्यूचर के शोधकर्ताओं ने क्लिप को इलेवनलैब्स के अपने एआई स्पीच क्लासिफायरियर को सबमिट किया, जो किसी को भी "यह पता लगाने की अनुमति देता है कि क्या इलेवनलैब्स के साथ एक ऑडियो क्लिप बनाई गई थी," और एक मैच मिला;
इलेवनलैब्स ने टिप्पणी के अनुरोध का जवाब नहीं दिया। जबकि रिकॉर्डेडफ्यूचर ने नोट किया कि कई वाणिज्यिक एआई भाषण पीढ़ी उपकरण का उपयोग किया जा सकता है, इसने इलेवनलैब्स के अलावा अन्य का नाम नहीं लिया।
प्रभाव आंदोलन के स्वयं के मास्टरमाइंडों ने अनजाने में कृत्रिम बुद्धिमत्ता भाषण निर्माण की उपयोगिता का प्रदर्शन किया जब उन्होंने जल्दबाजी में "अचूक रूसी लहजे" के साथ वास्तविक व्यक्ति की आवाज वाले कई वीडियो जारी किए। इसके विपरीत, एआई-जनरेटेड डबिंग विभिन्न यूरोपीय भाषाओं, जैसे अंग्रेजी, फ्रेंच, जर्मन और पोलिश में, बिना किसी विदेशी लहजे के थी।
रिकॉर्डेडफ्यूचर के अनुसार, एआई भ्रामक स्निपेट्स को पूरे यूरोप में कई भाषाओं, जैसे अंग्रेजी, जर्मन, फ्रेंच, पोलिश और तुर्की (सभी इलेवनलैब्स द्वारा समर्थित) में तुरंत पोस्ट करने की अनुमति देता है।
रिकॉर्डेडफ्यूचर ने इस गतिविधि के लिए रूस स्थित संगठन सोशलडिजाइनएजेंसी को दोषी ठहराया, जिसे अमेरिकी सरकार ने मार्च में "60 से अधिक वेबसाइटों का एक नेटवर्क संचालित करने के लिए मंजूरी दे दी थी, जो वास्तविक यूरोपीय समाचार संगठनों का प्रतिरूपण करती थीं और फिर इन नकली साइटों की भ्रामक सामग्री को बढ़ाने के लिए नकली सोशल मीडिया खातों का उपयोग करती थीं।" विदेश विभाग ने उस समय कहा था कि यह सब "रूसी सरकार की ओर से" किया जा रहा था।
रिकॉर्डेडफ्यूचर ने निष्कर्ष निकाला कि यूरोपीय जनमत पर अभियान का समग्र प्रभाव न्यूनतम था।
ब्लूमबर्ग के अनुसार, वॉयस धोखाधड़ी का पता लगाने वाली कंपनी ने निष्कर्ष निकाला कि यह पहली बार नहीं है कि इलेवनलैब्स के उत्पादों पर दुरुपयोग का आरोप लगाया गया है। वॉयस धोखाधड़ी का पता लगाने वाली एक कंपनी ने निष्कर्ष निकाला है कि उसकी तकनीक ने जनवरी 2024 के प्राथमिक चुनाव के दौरान अमेरिकी राष्ट्रपति जो बिडेन का प्रतिरूपण करने वाले एक रोबोकॉल में भूमिका निभाई थी, जिसमें मतदाताओं से वोट देने के लिए बाहर नहीं जाने का आग्रह किया गया था। जवाब में, इलेवनलैब्स ने कहा कि उसने नई सुरक्षा सुविधाएँ जारी की हैं, जैसे राजनेताओं की आवाज़ को स्वचालित रूप से अवरुद्ध करना।
इलेवनलैब्स "अनधिकृत, हानिकारक, या भ्रामक जालसाजी" को प्रतिबंधित करता है, यह कहते हुए कि यह इसे लागू करने के लिए विभिन्न प्रकार के उपकरणों का उपयोग करता है, जैसे स्वचालित और मानव समीक्षा;
2022 में अपनी स्थापना के बाद से इलेवनलैब्स ने विस्फोटक वृद्धि का अनुभव किया है। कंपनी का आरओई हाल ही में बढ़कर $80 मिलियन हो गया है, जो एक साल पहले के $25 मिलियन से कम था, और जल्द ही इसका मूल्य $3 बिलियन हो सकता है। इसके निवेशकों में आंद्रेसेन होरोविट्ज़ और जीथब के पूर्व सीईओ नेट फ्रीडमैन शामिल हैं।