सार:
पिछले दो दिनों में, मैंने एक विशेष रूप से दिलचस्प समाचार देखा। ऑस्ट्रेलिया में Apate.ai नाम की एक कंपनी है, जिसका नाम ग्रीक पौराणिक कथाओं में धोखे की देवी के नाम पर रखा गया है। इस कंपनी ने जो किया वह विशेष रूप से अपमानजनक है। उन्होंने 350,000 एआई बनाए। और हर दिन इन 350,000 AI का मुख्य काम लोगों से झूठ बोलना है।
यह सिर्फ इतना है कि जिस लक्ष्य को वे धोखा देते हैं वह थोड़ा विशेष है।
वे घोटालेबाजों में माहिर हैं।
हां, वह वैसा ही झूठा है जैसा आप सोचते हैं।
प्रत्येक एआई एक सामान्य व्यक्ति, बूढ़ा या जवान, पुरुष या महिला होने का दिखावा करेगा। यहां तक कि उनके उच्चारण भी अलग-अलग हैं, वे कई भाषाएं बोल सकते हैं और यहां तक कि उनका अपना व्यक्तित्व भी है।
घोटाले वाले कॉल, फ़िशिंग वेबसाइट, निवेश घोटाले, आदि। जब तक उन्हें कोई घोटालेबाज मिलता है, वे वहां एआई भेजने, पीड़ित होने का नाटक करने और घोटालेबाज के साथ चैट करने का एक तरीका ढूंढ लेंगे।
सबसे महत्वपूर्ण बात यह है कि इन AI में एक बहुत ही अजीब सामान्य विशेषता है, यानी इन्हें धोखा देना बहुत आसान है।
घोटालेबाज ने पैसे ट्रांसफर करने के लिए कहा और कहा कि इससे कोई समस्या नहीं होगी।
घोटालेबाज ने मुझसे वेबसाइट खोलने के लिए कहा, और उसने कहा कि यह ठीक है।
घोटालेबाज ने मुझसे अपना बैंक कार्ड नंबर भरने के लिए कहा, लेकिन उसने कहा हां, कोई बात नहीं।
फिर जब निष्पादन चरण की बात आती है, तो आप अचानक मूर्खतापूर्ण व्यवहार करना शुरू कर देंगे।
उफ़, मैंने अपना बैंक कार्ड कहाँ रखा है?
उफ़, यह कौन सा पासवर्ड है?
ओह, मैं बूढ़ा हूं और मेरी आंखें ठीक से काम नहीं कर रही हैं। छोटे भाई, क्या आप इसे फिर से कह सकते हैं?
घोटालेबाज से अचानक बात करें, कुछ फ़ोन कॉल दो घंटे से अधिक समय तक भी चल सकती हैं...
झूठा लगभग ढह गया।
लेकिन फोन के दूसरी तरफ मौजूद बुढ़िया बहुत विनम्र थी।
"क्षमा करें, युवक, कृपया मुझे फिर से सिखाएं।"
एपेट के अनुसार, उनके एआई ने 2.5 मिलियन बार स्कैमर्स के साथ चैट की है, और अभी भी हर दिन एक ही समय में हजारों स्कैमर्स के साथ चैट कर रहा है।
कुल मिलाकर, घोटालेबाज को लगभग 17 साल लग गए।
ख़ैर, 17 साल...
ऑस्ट्रेलिया के टेलीकॉम ऑपरेटर टीपीजी ने लगभग 590,000 संदिग्ध कॉलों का जवाब देने के लिए उन्हें सीधे अपाटे के एआई में स्थानांतरित कर दिया है। परिणामस्वरूप, ऑस्ट्रेलिया के कॉमनवेल्थ बैंक ने सार्वजनिक रूप से रिपोर्ट किए गए धोखाधड़ी के नुकसान को 76% तक कम कर दिया है।
सबसे मज़ेदार बात यह है कि समय-समय पर, घोटालेबाजों को इन एआई द्वारा इस हद तक घसीटा जाता है कि वे गिर जाएं और फोन पर शाप दें।
आपाटे को न केवल गुस्सा नहीं आया, बल्कि उसने इन शाप शब्दों को अपने वित्तपोषण रोड शो सामग्री में भी शामिल किया। उनके सह-संस्थापक ने कहा कि अपाटे शायद दुनिया की एकमात्र कंपनी है जो उपयोगकर्ताओं द्वारा उसके उत्पादों की आलोचना करने पर जश्न मनाती है।
इस सबका मूल कुछ साल पहले एक पारिवारिक पिकनिक था।
अपाटे के संस्थापक डाली काफ़र हैं। वह उस दिन अपने परिवार को पिकनिक के लिए बाहर ले गया, और तभी उसे एक अजीब फोन आया। यह फ़ोन कॉल बहुत ही घटिया थी और किसी घोटालेबाज की तरह लग रही थी।
लेकिन उसने हार नहीं मानी, क्योंकि बच्चों को खुश करने के लिए, उसने अमूर्तता में संलग्न होना शुरू कर दिया, एक मूर्ख परी के वश में होने का नाटक किया, और बहुत सहयोगी था, बस झूठे वाक्य के साथ बातें कर रहा था।
ये बातचीत 44 मिनट तक चली और फिर पूरा परिवार जोर-जोर से हंसने लगा.
हँसने के बाद काफ़र को अचानक कुछ एहसास हुआ।
इन 44 मिनटों के दौरान, घोटालेबाज उससे लाइन पर चैट करता रहा और उसके पास दूसरों को कॉल करने का समय नहीं था। मूल रूप से, अकेले रहने वाले एक बूढ़े व्यक्ति को यह कॉल प्राप्त हो सकती है, और उसे आखिरी पेंशन राशि से धोखा दिया जा सकता है जो उसके अस्तित्व का समर्थन कर सकता है।
बेशक, कीमत यह है कि वह भी 44 मिनट के लिए अंदर आ गया।
तो, उस पल, उनके पास एक नया विचार आया, और उन्होंने खुद से एक सवाल पूछा, क्या यह मामला एआई पर छोड़ा जा सकता है।
क्योंकि काफ़र मूल रूप से सिडनी में मैक्वेरी विश्वविद्यालय में नेटवर्क सुरक्षा अनुसंधान कर रहे थे, उन्होंने और उनके सहयोगियों ने स्कैम कॉल का अध्ययन करने में विशेषज्ञता हासिल करना शुरू कर दिया और स्कैमर्स के शब्दों को थोड़ा-थोड़ा करके नष्ट करने के लिए एआई का उपयोग किया। 2024 में यह विचार अपेट बन गया।
पिकनिक पर 44 मिनट संरक्षकता में बदल गए, जिसमें कुल 17 साल लगे।
अगर इस दुनिया में कोई एक चीज है जिससे मैं बेहद नफरत करता हूं, तो वह धोखाधड़ी ही होगी।
मेरा मानना है कि बहुत से लोग मेरे जैसा ही सोचते हैं।
लेकिन अब, एआई कुछ ऐसा बदलता दिख रहा है जो अतीत में विशेष रूप से अनुचित था, जो कि बुराई करने और बुराई को रोकने के बीच की लागत है।
हाल ही में, मैं उत्तरी म्यांमार में दूरसंचार धोखाधड़ी के बारे में एक वृत्तचित्र देख रहा था। मुझे वास्तव में महसूस हुआ कि हर कोई आम लोगों को धोखा देने से रोकने के लिए कड़ी मेहनत कर रहा था।
लेकिन धोखाधड़ी के बारे में एक बहुत ही घृणित बात यह है कि इसकी लागत संरचना स्वाभाविक रूप से घोटालेबाजों के लिए फायदेमंद है।
उदाहरण के लिए, एक झूठा व्यक्ति एक दिन में सैकड़ों लोगों को कॉल कर सकता है। इससे कोई फर्क नहीं पड़ता, भले ही पहले कुछ सौ लोग फांसी लगा लें, क्योंकि यह एक जुआ है, लेकिन जब तक एक व्यक्ति को अंत में धोखा दिया जाता है, वह बहुत सारा पैसा कमा सकता है।
लेकिन आम लोगों के लिए, आपको पहले हज़ार बार धोखा नहीं दिया गया होगा।
केवल हजारों में से पहली बार, मैं एक ऐसे झूठे व्यक्ति से मिला जो विशेष रूप से अभिनय में अच्छा था, उस दिन मेरा मूड खराब था, और मुझे अपनी कमजोरी का सामना करना पड़ा।
इसका मतलब यह हो सकता है कि आपकी जीवनभर की बचत ख़त्म हो जाएगी।
झूठे लोग अनगिनत बार असफल हो सकते हैं, लेकिन दुख की बात है कि आपके और मेरे जैसे सामान्य लोगों को कभी-कभी एक बार भी असफल होने का मौका नहीं मिलता है।
इसलिए हमारे देश, हमारे पूरे समाज ने अनगिनत काम किए हैं और आम लोगों की सतर्कता बढ़ाने के तरीके खोजने की कोशिश कर रहा है।
अब जब AI आ गया है, तो घोटालेबाज बुराई करने की लागत को कम करने के लिए प्रौद्योगिकी का उपयोग कर सकते हैं।
तो फिर हम दूसरों की सुरक्षा की लागत को कम करने के लिए उसी तकनीक का उपयोग क्यों नहीं कर सकते?
इस साल अगस्त में, अपाटे को सीड राउंड फाइनेंसिंग में 8.15 मिलियन अमेरिकी डॉलर प्राप्त हुए। हालाँकि वे संपूर्ण एआई तरंग में छोटे प्रतीत होते हैं, फिर भी मैं उनसे विस्मय में रहूँगा। इसके अलावा, उनके पास वास्तव में बैंक और टेलीकॉम ऑपरेटर जैसे ग्राहक आने लगे हैं जो वास्तव में भुगतान करने को तैयार हैं।
एक बार जब सद्भावना काम करना जारी रख सकती है, उसकी नकल की जा सकती है और उसे बढ़ाया जा सकता है, तो मुझे लगता है कि इससे उत्पन्न होने वाली शक्ति एक व्यक्ति की क्षमता से कहीं अधिक हो सकती है।
क्या संयोग है.
जिस समय अपाटे घटना लोकप्रिय हुई, ठीक उसी समय चीन में भी कुछ ऐसी ही घटना घट रही थी।
यह AI Xiaohai है जिसने हाल ही में बहुत शोर मचाया है।
मेरा मानना है कि बहुत से लोग यह जानते हैं, इसलिए मैं आपको एक संक्षिप्त सारांश दूंगा।
शायद, ऐसे लोगों का एक समूह है जो AI का उपयोग करके कुछ गोरे दिखने वाले लड़कों को बैच-जेनरेट करते हैं और हर दिन कैमरे पर "आंटी" चिल्लाते हैं।
आगे-पीछे होने का मतलब है कि आज मेरे पिता बीमार हैं, कल मुझे धमकाया जाएगा, और परसों मेरे पास पैसे की कमी होगी। वैसे भी, मैं दुःख सहता रहूँगा।
अंत में, कुछ मध्यम आयु वर्ग की और बुजुर्ग महिलाओं को उस पर दया आ गई और उन्होंने उसकी खिड़की से उच्च-कमीशन वाले उत्पाद खरीदे। कुछ कमीशन तो 55% तक भी थे। ये शायद ऐसा ही एक पैटर्न था.
सबसे अपमानजनक बात यह है कि एक 79 वर्षीय बुजुर्ग महिला है जो फोन पर वास्तव में जिओ हाई में विश्वास करती थी। उसने अकेले ट्रेन का टिकट खरीदा और उसे ढूंढने के लिए शांक्सी की ओर भागी।
क्योंकि ज़ियाओहाई ने उससे कहा था कि वे खुबानी के फूल देखने जा सकते हैं और साथ में मोरेल तोड़ सकते हैं।
लेकिन बुढ़िया को यह भी नहीं पता था कि शांक्सी पहुंचने के बाद उसे कहां जाना है।
वह केवल यह जानती थी कि ज़ियाओहाई वहां थी।
बाद में, पुलिस को पता चला कि कुछ गड़बड़ है और उससे इसके बारे में पूछा गया। आख़िरकार, उन्होंने उसके परिवार से संपर्क किया और उसे वापस ले गए।
फिर, इस घटना के उजागर होने के तुरंत बाद, चीन में युवाओं के एक समूह ने अपने जादू और बुद्धि से लड़ने के लिए एआई का उपयोग शुरू करने का फैसला किया।
उनमें से एक 19 वर्षीय कॉलेज छात्र था जिसका नाम ज़ियाओझोउ था।
उसने पाया कि उसके दोस्त के घर पर एक बूढ़े व्यक्ति ने उसकी खिड़की से कई चीजें खरीदी थीं क्योंकि उसे जिओ हाई के लिए खेद महसूस हुआ था।
इसलिए ज़ियाओझोउ ने एक विशेष रूप से दिलचस्प तरीका सोचा, क्योंकि बूढ़ा व्यक्ति ज़ियाओहाई में विश्वास करता था।
बता दें कि ज़ियाओहाई ने बूढ़े व्यक्ति को खुद बताया कि वह झूठा है, इसलिए उसने 30 सेकंड का वीडियो बनाने के लिए एआई का भी इस्तेमाल किया।
यह अभी भी वही जिओ हाई का चेहरा है, लेकिन इस बार, जिओ हाई एक हवेली में रहने वाली और सूट पहनने वाली एक अमीर दूसरी पीढ़ी में बदल गई है।
यह ज़ियाओझोउ के साथ बीजिंग न्यूज़ के साक्षात्कार का स्क्रीनशॉट है।
इस वीडियो में, ज़ियाओहाई के सफेद बालों वाले पिता दौड़कर आए और उन्हें सलाह दी कि वह उन मौसी और माताओं से दोबारा झूठ न बोलें।
परिणामस्वरूप, ज़ियाओहाई ने अपनी बात से मुंह मोड़ लिया और कहा कि उसे उन चाचियों की बिल्कुल भी परवाह नहीं है। जब तक वह चिल्लाता वे लोग आकर पैसे दे देते।
आखिरकार, उसने अपने पिता को बाहर निकाल दिया।
इस वीडियो के पोस्ट होने के बाद, वास्तव में इसे केवल कुछ दर्जन लाइक्स मिले थे, लेकिन ज़ियाओझोउ के दोस्त ने वीडियो को घर के बुजुर्गों को दिखाया।
वह बूढ़ा आदमी जो ज़ियाओहाई के लिए चीज़ें खरीदता था, पढ़ने के बाद बोला:
"ओह, ऐसा क्यों है।"
"मैं फिर कभी उससे कुछ नहीं खरीदूंगा।"
ऐसे ही एक 30 सेकेंड के वीडियो ने सचमुच एक बूढ़े आदमी को अपना फैसला बदलने पर मजबूर कर दिया.
बाद में, अधिक से अधिक युवा लोग संक्रमित हुए और प्रेरित होकर इसमें शामिल होने लगे।
कुछ लोगों ने जिओ हाई को जेल जाने के लिए कहा, कुछ ने जिओ हाई को धूम्रपान और शराब पीने के लिए कहा, और अन्य ने उसे सोने की चेन पहनने और हवेली में पैसे गिनने के लिए कहा।
कुछ लोगों ने जिओहाई को जेल की वर्दी पहनने, जेल की लोहे की सलाखों को पकड़ने और कैमरे के सामने यह स्वीकार करने के लिए भी कहा कि वह झूठा था।
इस तरह एक अद्भुत एआई टकराव शुरू हुआ।
बीजिंग न्यूज़ के साथ एक साक्षात्कार में ज़ियाओझोउ ने जो कहा वह मुझे विशेष रूप से पसंद है।
"दयालु लोगों को धोखा नहीं देना चाहिए।"
मुझे लगता है कि इतना सरल वाक्य, किसी भी भव्य तथाकथित एआई घोषणापत्र से अधिक शक्तिशाली है।
इन दो कहानियों, अपाटे और ज़ियाओझोउ की कहानी को पढ़ने के बाद, मैं वास्तव में भावुक हो गया। इसके अलावा, इसने एआई युग में एक बहुत ही विशेष बदलाव को पूरी तरह से प्रदर्शित किया।
अतीत में, यदि कोई सामान्य व्यक्ति कोई अच्छा काम करना चाहता, तो वह ऐसा नहीं कर पाता।
अब, आखिरकार उनके पास अपनी सद्भावना बढ़ाने के लिए एआई और प्रौद्योगिकी का उपयोग करने का अवसर है।
बहुत समय पहले, मैंने एक 17 वर्षीय पुरुष हाई स्कूल छात्र के बारे में एक लेख लिखा था जिसने एआई होने का नाटक किया था और अपने उत्तरों से पूरे बी स्टेशन को ठीक कर दिया था। वे सभी सामान्य लेकिन महान लोग हैं।
हर दिन हम चर्चा करते हैं कि मॉडल कितना स्मार्ट है, इसने कौन से बेंचमार्क तोड़े हैं, और यह कितने ऐसे कार्य पूरे कर सकता है जो अतीत में केवल मनुष्य ही कर सकते थे।
बेशक ये महत्वपूर्ण हैं।
लेकिन मुझे लगता है कि इन तेजी से शक्तिशाली एआई के पीछे, लोगों के प्रति शुद्ध दयालुता अक्सर और भी अधिक मूल्यवान होती है।
एआई का भविष्य जो मैं सबसे ज्यादा देखना चाहता हूं वह शायद यही है।
प्रौद्योगिकी की वास्तव में कोई स्थिति नहीं है।
एआई जिस चीज़ को बढ़ावा दे रहा है वह कभी भी केवल मानवीय क्षमताएं नहीं है।
यह लोगों की पसंद को भी बढ़ा रहा है।
मुझे उम्मीद है कि भविष्य में एक दिन, हम मानव जाति की सबसे पुरानी और सरल दयालुता की रक्षा के लिए सबसे उन्नत तकनीक का उपयोग कर सकते हैं।
मैं उन लोगों के लिए भी आशा करता हूं जो दयालु हैं।
कभी भी अपनी दयालुता के कारण ऐसा नहीं करना चाहिए।
और फिर से चोट लगना।
टिप्पणियाँ