सार:
11 सितंबर को, एंथ्रोपिक ने नवीनतम एआई दुरुपयोग रिपोर्ट जारी की जिसमें कहा गया कि ऐप डेवलपमेंट स्टूडियो ने 20 से अधिक डेटिंग ऐप्स को विकसित और संचालित करने के लिए क्लाउड का उपयोग किया। प्लेटफ़ॉर्म का दावा है कि सभी उपयोगकर्ता वास्तविक लोग हैं, लेकिन सामान्य उपयोगकर्ताओं द्वारा प्राप्त लगभग 75% मैच AI वर्ण हैं।
एंथ्रोपिक ने कहा कि अप्रैल 2026 में दो सप्ताह की अवलोकन अवधि के दौरान, डेटिंग सॉफ़्टवेयर के इस बैच ने 4,700 से अधिक एआई वर्ण चलाए, कम से कम 25,000 विभिन्न उपयोगकर्ताओं के साथ चैट की, और कुल लगभग 2.36 मिलियन संदेश भेजे। प्रभावित लोग मुख्य रूप से अमेरिकी उपयोगकर्ता हैं, लेकिन रिपोर्ट में उनकी उम्र, लिंग और विशिष्ट हानि राशि का खुलासा नहीं किया गया है।
इन यूजर्स के लिए यह तय करना मुश्किल है कि जिस व्यक्ति से वे चैट कर रहे हैं वह असली है या नकली। प्लेटफ़ॉर्म लगभग 3 AI वर्णों और 1 वास्तविक व्यक्ति के अनुपात में सामग्री प्रदर्शित करता है। क्लाउड एक साथ हजारों वार्तालापों को बनाए रखने के लिए ज़िम्मेदार है, और जब उपयोगकर्ता वीडियो कॉल, फ़ोटो या सोशल अकाउंट का अनुसरण करने के लिए कहते हैं तो संदेह को कम करने के लिए मानव अंशकालिक कार्यकर्ता मौजूद होते हैं।
मानव अंशकालिक श्रमिकों को भी एआई द्वारा सहायता प्रदान की जाती है। सिस्टम प्रत्येक संदेश के लिए 3 वैकल्पिक प्रतिक्रियाएँ उत्पन्न करेगा, और अंशकालिक श्रमिकों को भेजने के लिए उनमें से केवल एक को चुनना होगा। उन्हें चैट संदेशों, वीडियो कॉल और सोशल प्लेटफ़ॉर्म चेक-इन की संख्या के अनुसार भुगतान किया जाता है, और कम निकासी सीमा तक पहुंचने के बाद इसका निपटान किया जा सकता है।
एआई द्वारा पूरी तरह से नियंत्रित खातों के लिए, ऑपरेटर को क्लाउड से यह स्वीकार करने की आवश्यकता नहीं है कि वह एक रोबोट है। यदि उपयोगकर्ता वीडियो या फोटो अनुरोध करता है, तो एआई इसे टालने के कारण ढूंढेगा और पूर्व निर्धारित चरणों के अनुसार रिश्ते को धीरे-धीरे आगे बढ़ाएगा। बैकएंड नकली लाइक, विज़िटर रिकॉर्ड और पहले से रिकॉर्ड किए गए वीडियो भी बनाता है, और उन उपयोगकर्ताओं को चिह्नित करता है जिन्हें संदेह होना शुरू हो गया है कि वे रोबोट हैं।
उपयोगकर्ताओं को प्लेटफ़ॉर्म पर चैट करने और मैच करने के लिए क्रेडिट का उपभोग करने की आवश्यकता होती है। उपयोग करने के बाद, उन्हें रिचार्ज करने के लिए इन-ऐप वर्चुअल मुद्रा खरीदनी होगी। यह मॉडल हाल ही में चीनी इंटरनेट पर संदर्भित "बेंग लाओटौ" घोटाले के समान है। वे दोनों पुरुषों को भुगतान करने के लिए प्रोत्साहित करने के लिए नकली महिला व्यक्तित्व और निरंतर चैटिंग का उपयोग करते हैं।
रिपोर्ट में यह भी बताया गया है कि कुछ यादृच्छिक बातचीत में, कुछ उपयोगकर्ताओं ने खुलासा किया कि वे गंभीर बीमारियों से पीड़ित थे या अत्यधिक दर्द में थे। क्लाउड के आंतरिक तर्क ने संभावित नुकसान की पहचान की है, लेकिन वह बातचीत से बाहर निकले बिना काल्पनिक पहचान के तहत चैट करना जारी रखता है।
ऐप स्टोर समीक्षा से बचने के लिए, ऑपरेटर ने सॉफ़्टवेयर के लिए एक विशेष इंटरफ़ेस भी डिज़ाइन किया है जो केवल समीक्षा अवधि के दौरान सक्षम होता है। समान ऐप्स की पहचान करने के लिए Apple और Google द्वारा उपयोग किए जाने वाले पहचान तंत्र से बचने के लिए 20 से अधिक ऐप्स ने विभिन्न प्रोग्राम क्लास नामों का उपयोग किया। तृतीय-पक्ष भुगतान प्लेटफ़ॉर्म के प्रवेश को सर्वर द्वारा दूर से भी नियंत्रित किया जा सकता है और समीक्षा अवधि के दौरान अस्थायी रूप से छिपाया जा सकता है।
एंथ्रोपिक द्वारा प्रकट किए गए प्रासंगिक डेटिंग सॉफ़्टवेयर ब्रांडों में डोरा, डोनी, रोमी, लूमा, जोविया, किरा, ग्रेचैट, हेवेन, नालो और लोविया आदि शामिल हैं। कंपनी ने प्रासंगिक खातों पर प्रतिबंध लगा दिया है और ऐप्पल और Google को ऐप पहचान और समीक्षा धोखाधड़ी की जानकारी प्रदान की है।
इस बात पर जोर दिया जाना चाहिए कि उपरोक्त निष्कर्ष एंथ्रोपिक के एकतरफा खुलासे से हैं और अभी तक किसी स्वतंत्र तीसरे पक्ष द्वारा सत्यापित नहीं किए गए हैं। रिपोर्ट में शामिल एप्लिकेशन स्टूडियो के नाम का खुलासा नहीं किया गया, न ही यह खुलासा किया गया कि उपयोगकर्ताओं ने मामले की रिपोर्ट की थी या धोखाधड़ी की गई वास्तविक राशि की जानकारी दी थी।
टिप्पणियाँ