विशेषज्ञों ने हाल ही में चेतावनी दी है कि रीयल-टाइम वॉयस डीप जालसाजी तकनीक परिपक्व हो गई है और नए नेटवर्क सुरक्षा जोखिम ला रही है। ओपन सोर्स एआई टूल और किफायती हार्डवेयर की व्यापक उपलब्धता के साथ, हमलावर वास्तविक समय की बातचीत में किसी की आवाज को छिपाने और उसकी नकल करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग कर सकते हैं, पिछली तकनीकी सीमाओं को तोड़ते हुए जो केवल पूर्व-रिकॉर्ड की गई सामग्री को संभाल सकते हैं या लंबे प्रसंस्करण समय की आवश्यकता होती है।
साइबर सिक्योरिटी फर्म एनसीसी ग्रुप के नए शोध से पता चलता है कि एआई वॉयस मॉडल को एक साधारण लैपटॉप या स्मार्टफोन के साथ जोड़कर, उच्च गुणवत्ता वाली वास्तविक समय की आवाज की नकल केवल आधे सेकंड की देरी से हासिल की जा सकती है। ऑपरेटर सरल ऑपरेशन के साथ कस्टम वेब इंटरफ़ेस पर वॉयस क्लोनिंग शुरू कर सकते हैं। इस "डीपफेक वॉयस फ़िशिंग" हमले की विधि को कम कॉन्फ़िगरेशन वाले ग्राफिक्स कार्ड के साथ पूरा किया जा सकता है, और यहां तक कि एक साधारण डिवाइस के माइक्रोफ़ोन का उपयोग यथार्थवादी पर्याप्त प्रभाव प्राप्त करने के लिए किया जा सकता है।
पिछली वॉयस डीप जालसाजी तकनीक को आमतौर पर वॉयस डेटा को प्रशिक्षित करने के लिए लंबे समय की आवश्यकता होती है, यह केवल पूर्व-रिकॉर्ड किए गए क्लिप उत्पन्न कर सकती है, और वास्तविक समय की बातचीत के लिए उपयुक्त नहीं है। यह सफलता आवाज की नकल प्रक्रिया में रुकावटों और अनुत्तरदायीता को पूरी तरह से समाप्त कर देती है, जिससे हमले की दक्षता और छिपाव में काफी सुधार होता है। एनसीसी समूह के सुरक्षा सलाहकारों ने वास्तविक परीक्षणों में पाया कि कॉलर आईडी स्पूफिंग के साथ संयुक्त होने पर, इस प्रकार का हमला लगभग हर बार लक्ष्य को धोखा दे सकता है, और फोन वॉयस सत्यापन प्रतिरूपण का जोखिम काफी बढ़ जाता है।
हालाँकि वास्तविक समय की वॉयस डीप जालसाजी अधिक से अधिक यथार्थवादी होती जा रही है, वास्तविक समय के वीडियो डीप जालसाजी के समान स्तर पर अभी भी तकनीकी बाधाएँ हैं, जैसे कि चेहरे के भाव और आवाज का सिंक से बाहर होना, जिनका पता लगाना आसान है। उदाहरण के लिए, विशेषज्ञों ने कहा कि एक कंपनी को एआई नकली वीडियो द्वारा भी धोखा दिया गया था और गलत पते पर लैपटॉप भेजा गया था, जिससे पता चलता है कि अकेले ऑडियो और वीडियो कॉल अब पहचान सत्यापन सुरक्षा सुनिश्चित नहीं कर सकते हैं।
जैसे-जैसे कृत्रिम बुद्धिमत्ता उपकरण अधिक लोकप्रिय होते जा रहे हैं, विशेषज्ञ डीपफेक के कारण होने वाले सामाजिक इंजीनियरिंग हमलों को रोकने के लिए अधिक परिष्कृत दूरस्थ सत्यापन विधियों की मांग कर रहे हैं, जैसे संचार में अद्वितीय संरचित सिग्नल या गुप्त कोड जोड़ना। अन्यथा, व्यक्तियों और संगठनों दोनों को एआई नकली धोखाधड़ी के उच्च जोखिम का सामना करना पड़ेगा।