पिछले महीने के प्राथमिक चुनाव के बाद अमेरिकी राष्ट्रपति जो बिडेन की आवाज़ की तरह डिज़ाइन किया गया एक संदेश देखा गया जिसमें न्यू हैम्पशायर के निवासियों को वोट न देने के लिए कहा गया था, संघीय संचार आयोग (एफसीसी) रोबोकॉल के लिए कृत्रिम बुद्धिमत्ता से उत्पन्न आवाज़ों का उपयोग करना अवैध बनाने की दिशा में आगे बढ़ रहा है। एजेंसी को चिंता है कि ऑडियो डीपफेक तकनीक का इस्तेमाल "सेलिब्रिटी, राजनीतिक उम्मीदवारों और करीबी रिश्तेदारों" की आवाज़ की नकल करके उपभोक्ताओं को भ्रमित करने और धोखा देने के लिए किया जा रहा है।
एफसीसी अध्यक्ष जेसिका रोसेनवर्सेल का प्रस्ताव टेलीफोन उपभोक्ता संरक्षण अधिनियम (टीसीपीए) के तहत पिकअप कॉल करने के लिए कृत्रिम बुद्धिमत्ता से उत्पन्न आवाजों का उपयोग करना अवैध बना देगा।
1991 का टीसीपीए कानून टेलीमार्केटिंग, स्वचालित टेलीफोन डायलिंग सिस्टम और कृत्रिम या पूर्व-रिकॉर्ड किए गए ध्वनि संदेशों के उपयोग को प्रतिबंधित करता है। कानून में टेलीमार्केटर्स को उपभोक्ताओं को वॉयस कॉल करने से पहले उपभोक्ताओं की लिखित सहमति प्राप्त करने की भी आवश्यकता है। एफसीसी चाहता है कि एआई-जनरेटेड ध्वनियां भी उन मानकों का पालन करें। उम्मीद है कि समिति के पांच सदस्य आने वाले हफ्तों में प्रस्ताव पर मतदान करेंगे।
रोसेनवर्सेल ने एक बयान में कहा, "एआई-जनरेटेड वॉयस क्लोन और छवियां पहले से ही भ्रम के बीज बो रही हैं, उपभोक्ताओं को यह सोचने पर मजबूर कर रही हैं कि घोटाले और धोखाधड़ी वैध हैं।" "कोई फर्क नहीं पड़ता कि आप किस सेलिब्रिटी या राजनेता को पसंद करते हैं या आपके रिश्तेदारों के साथ आपके संबंध कैसे हैं, जब वे मदद के लिए कॉल करते हैं तो इन फर्जी कॉलों द्वारा हम सभी को निशाना बनाए जाने की संभावना होती है।"
भाषण धोखाधड़ी का पता लगाने वाली कंपनी पिंड्रोप ने 39-सेकंड के फर्जी संदेश का विश्लेषण किया, जो ऐसा लग रहा था जैसे बिडेन ने न्यू हैम्पशायर के निवासियों को वोट न देने के लिए कहा हो और पाया कि इसे इलेवनलैब्स के टेक्स्ट-टू-स्पीच इंजन का उपयोग करके बनाया गया था। स्टार्टअप दो दर्जन से अधिक भाषाओं की ध्वनियों को दोहराने के लिए कृत्रिम बुद्धिमत्ता सॉफ्टवेयर का उपयोग करता है।
ब्लूमबर्ग के अनुसार, इलेवनलैब्स ने पुष्टि की कि उसके सॉफ़्टवेयर का उपयोग न्यू हैम्पशायर घटना में किया गया था और जिम्मेदार खाते पर प्रतिबंध लगा दिया। न्यू हैम्पशायर अटॉर्नी जनरल के कार्यालय ने बिडेन का रूप धारण करने वाले लोगों के फोन कॉल की जांच की घोषणा की है।
एफसीसी के एक प्रवक्ता ने कहा कि कानून में संभावित बदलाव से राज्य के अटॉर्नी जनरल को उपभोक्ताओं की सुरक्षा करते हुए कृत्रिम बुद्धिमत्ता का उपयोग करके वॉयस कॉल स्कैमर्स पर नकेल कसने की नई शक्तियां मिलेंगी।
एफसीसी वर्षों से रोबोकॉल से लड़ रहा है। दिसंबर 2022 में, संघीय संचार आयोग ने एक अवैध बहुराष्ट्रीय रोबोकॉल ऑपरेशन के खिलाफ 300 मिलियन डॉलर के जुर्माने का प्रस्ताव रखा, जिसने 2021 में तीन महीने की अवधि में 500 मिलियन से अधिक फोन नंबरों पर 5 बिलियन से अधिक रोबोकॉल किए। 2020 में, ब्यूरो ने भ्रामक रोबोकॉल के लिए 225 मिलियन डॉलर का जुर्माना भी लगाया।
परिवार के सदस्यों की आवाज़ उठाना अपराधियों के लिए पीड़ितों से पैसे चुराने का एक सामान्य साधन बन गया है। जैसे-जैसे एआई-जनित तकनीक अधिक सुलभ, सस्ती और अधिक विश्वसनीय होती जा रही है, यह अपराध बढ़ता जा रहा है।