तूफान हेलेन 26 सितंबर को फ्लोरिडा से संयुक्त राज्य अमेरिका में पहुंचा और दक्षिणी संयुक्त राज्य अमेरिका के कई राज्यों और स्थानों को प्रभावित किया। इससे अब तक 230 से ज्यादा लोगों की मौत हो चुकी है। 2005 में कैटरीना तूफान के बाद से हेलेन संयुक्त राज्य अमेरिका में सबसे ज्यादा मौत वाला तूफान बन गया है। साथ ही, एक एआई-जनरेटेड तस्वीर ने भी सोशल मीडिया पर हंगामा मचा दिया, यहां तक कि अगले महीने चुनाव से पहले दोनों पार्टियों के बीच "लाल-नीले रंग का टकराव" भी शुरू हो गया।
तूफान के प्रभाव से अधिक गंभीर तस्वीर क्या हो सकती है? रिपब्लिकन नेशनल कमेटी फॉर हरिकेन रेस्क्यू या अफ्रीकन वल्चर की सदस्य और वीमेन फॉर ट्रंप की सह-संस्थापक एमी क्रेमर ने ट्वीट किया
ऐसी तस्वीरें जो किसी एक पीड़ित पर केंद्रित होती हैं, जिसमें एक मासूम लड़की को किसी आपदा से बचना होता है, लोगों की सहानुभूति जगाना बहुत आसान होता है, जैसे "हंग्री सूडान", जहां पतली छोटी लड़की को एक गिद्ध घूर रहा है, "नेपालम गर्ल" जिसने वियतनाम युद्ध के दौरान आग लगाने वाले बमों से बचा लिया, अनगिनत युवाओं की युद्ध-विरोधी भावनाओं को जगाया, और "बड़ी आंखों वाली लड़की" ने भी होप प्रोजेक्ट को गहराई से पढ़ा। लोगों के दिल. इसलिए, "तूफान के दौरान पिल्ला को गले लगाती लड़की" की यह तस्वीर सोशल मीडिया पर व्यापक रूप से साझा की गई है।
लेकिन भावना को ध्यान से देखने पर पता चला कि छोटी लड़की के हाथ और पैर बेहद चिकने थे और उसकी त्वचा के रंग से मेल नहीं खा रहे थे। उसके बालों की बनावट भी बहुत अजीब थी और उसके अंगूठे के जोड़ों पर भी अजीब उभार थे। हां, यह फोटो AI-जनरेटेड इमेज है।
यह AI ट्रेस अधिक मोटा है, लेकिन यह इसे लाखों व्यूज प्राप्त करने से नहीं रोकता है｜चित्र स्रोत: X
टिप्पणी क्षेत्र में किसी द्वारा "नकली तस्वीर" के रूप में इंगित किए जाने के बाद, क्रेमर ने सीधे एक संदेश पोस्ट किया जिसमें कहा गया था, "हां, मुझे नहीं पता कि यह तस्वीर कहां से आई है। ईमानदारी से कहूं तो, इससे कोई फर्क नहीं पड़ता कि यह कहां से आई है। यह मेरे दिमाग में हमेशा के लिए बैठ गई है। कुछ लोग इस तस्वीर से अधिक अनुभवी हैं।" "यह उस आघात और दर्द का प्रतीक है जिससे लोग इस समय गुज़र रहे हैं।" दूसरे शब्दों में, वह जानती थी कि छवि नकली थी, लेकिन उसने इसकी परवाह नहीं की क्योंकि उसका उद्देश्य "एआई गर्ल" के प्रति सहानुभूति व्यक्त करना नहीं था, बल्कि तूफान हेलेन का जवाब देने में सत्तारूढ़ पार्टी की विफलता पर हमला करना था। क्योंकि इसी तरह की एआई तस्वीरें दूर-दराज़ राजनेता लौरा लूमर, रिपब्लिकन केओएल और ट्रम्प समर्थकों बज़ पैटरसन और जुआनिता ब्रॉडड्रिक द्वारा भी अग्रेषित की गई हैं, कैप्शन के साथ "हमारी सरकार ने हमें फिर से विफल कर दिया है" या "शासकों ने उन्हें छोड़ दिया है।" इनमें से प्रत्येक ट्वीट को लाखों की संख्या में साझा किया गया है।
फैलाना सिर्फ जिम्मेदारी से बचने के लिए है｜ छवि स्रोत: एक्स
एआई फर्जी तस्वीरें पार्टियों के बीच आपसी संयम का एक राजनीतिक उपकरण बन गई हैं। इस तस्वीर के साथ, विभिन्न षड्यंत्र के सिद्धांत और फर्जी खबरें फैलाई गईं, जैसे "संघीय आपातकालीन प्रबंधन एजेंसी आपदा पीड़ितों की संपत्ति को जब्त करने की तैयारी कर रही है" और "अधिकारी रिपब्लिकन-समर्थक राज्यों में मौसम को नियंत्रित कर रहे हैं (तूफान से प्रभावित राज्य ज्यादातर रिपब्लिकन-समर्थक (लाल राज्य) हैं)। तदनुसार, निवासियों की मदद करने के लिए बाढ़ का सामना करने वाले ट्रम्प की एक तस्वीर भी फेसबुक पर प्रसारित की गई थी, जिसे निश्चित रूप से एआई द्वारा संश्लेषित किया गया था। पोस्ट को अधिक से अधिक साझा किया गया था दो दिनों में 160,000 बार।
छवि स्रोत: पोलिटिफ़ैक्ट
टेलर स्विफ्ट द्वारा सार्वजनिक रूप से डेमोक्रेटिक राष्ट्रपति पद के उम्मीदवार हैरिस के लिए समर्थन व्यक्त करने के बाद ट्रम्प ने खुद भी हाल ही में अपने एक्स पर "स्विफ्टीज़फॉरट्रम्प" (ट्रम्प का समर्थन करने वाले टेलर प्रशंसक) पोस्ट किया था। संलग्न तस्वीरें एआई द्वारा तैयार की गई सभी नकली तस्वीरें थीं।
छवि स्रोत:एक्स
यह पहली बार नहीं है कि ट्रम्प ने नकली एआई तस्वीरें पोस्ट की हैं। मस्क द्वारा समर्थित उम्मीदवार के रूप में, ट्रम्प के लिए एआई सामग्री को अलग करने की क्षमता नहीं होना असंभव है। आख़िरकार, कुछ समय पहले उन्होंने अपना और मस्क का एक साथ नृत्य करते हुए एक डीपफ़ेकएआई सिंथेटिक वीडियो भी जारी किया था। हालाँकि, खंडित सोशल मीडिया प्लेटफ़ॉर्म पर, राजनेताओं को इसकी परवाह नहीं है कि जानकारी सही है या गलत। चाहे वह वास्तविक फोटो हो या एआई-जनरेटेड फोटो, जब तक इसका प्रसार प्रभाव होता है, गति बनाना सामाजिक प्लेटफार्मों पर राजनीतिक प्रचार का प्राथमिक उद्देश्य है। अवधारणात्मक प्रभाव वस्तुनिष्ठ तथ्यों का स्थान ले लेते हैं। "अफवाहें फैलाने से केवल आपका मुंह खुलता है, और उनका खंडन करने से आपके पैर टूट जाएंगे" का संचार सिद्धांत एआई युग में और अधिक हिंसक रूप से गूंज रहा है। AI कचरा कौन बना रहा है? लेकिन स्रोत का पता लगाने पर, इन नकली एआई सामग्री को किसने तैयार किया, और इसे विभिन्न सोशल मीडिया पर व्यापक रूप से कैसे फैलाया जा सकता है, और इसे एक-एक करके कैसे धोखा दिया जा सकता है? "हस्तनिर्मित, पसंद करने के लिए आप सभी का धन्यवाद" टेक्स्ट वाली इस तस्वीर को फेसबुक पर 870,000 लाइक और 35,000 टिप्पणियां मिलीं। हालाँकि, यह AI द्वारा तैयार की गई एक नकली तस्वीर है। एआई को भेजी गई मूल तस्वीर लकड़ी पर नक्काशी करने वाले कलाकार माइकल जोन्स और उसके असली लकड़ी पर नक्काशी करने वाले कुत्ते की थी। जोन्स की मूल पोस्ट को केवल 1,063 लाइक और 110 टिप्पणियां मिलीं, जो नकली एआई पोस्ट से बहुत दूर थी।
वहीं, फेसबुक पर अलग-अलग नस्ल, लिंग और कुत्तों की नस्लों की ऐसी ही तस्वीरें भी घूम रही हैं। वे सभी जोन्स की तस्वीर से आते हैं। इसका मतलब यह है कि कोई भी एआई का उपयोग करके हर घंटे सैकड़ों नकली और वास्तविक छवियां बना सकता है, और फिर उन्हें तुरंत सोशल प्लेटफॉर्म पर प्रकाशित कर सकता है। हमेशा कुछ ऐसे होते हैं जो अच्छा ट्रैफ़िक और एक्सपोज़र प्राप्त कर सकते हैं। इनमें फेसबुक सबसे ज्यादा प्रभावित क्षेत्र है।
पिछले साल के अंत में, प्रौद्योगिकी वेबसाइट 404मीडिया के एक रिपोर्टर ने पाया कि मेटा के फेसबुक पर पोस्ट की संख्या जो स्पष्ट रूप से एआई-जनरेटेड सामग्री थी, बढ़ गई थी, और यह मेटा के थ्रेड्स में भी फैल गई थी।
फेसबुक का "पहली नजर में नकली" छवि डेटा आश्चर्यजनक रूप से अच्छा है｜छवि स्रोत: फेसबुक
फेसबुक सबसे ज्यादा प्रभावित क्यों है? कारण सरल है: प्लेटफ़ॉर्म के एल्गोरिथमीकरण ने उपयोगकर्ताओं की उम्र बढ़ने के साथ गति पकड़ ली है। हाल ही में एक कमाई कॉल में, मेटा के सीईओ जुकरबर्ग ने विश्लेषकों को बताया कि टिकटॉक जैसे प्लेटफार्मों में बदलावों को बनाए रखने के लिए, फेसबुक ने उपयोगकर्ता एल्गोरिदम के लिए अनुशंसित पोस्ट की संख्या दोगुनी कर दी है, अनुशंसित पोस्ट अब लगभग 30% उपयोगकर्ता होमपेज के लिए जिम्मेदार हैं। हालाँकि, OBERLO सर्वेक्षण एजेंसी के आंकड़ों के अनुसार, 25 वर्ष से अधिक आयु के फेसबुक उपयोगकर्ता 77.4% हैं, जिनमें से 35 वर्ष से अधिक आयु के उपयोगकर्ता 46.6% हैं। बड़ी संख्या में मध्यम आयु वर्ग और बुजुर्ग लोगों के लिए, जो इंटरनेट-पूर्व युग में पैदा हुए थे और केवल मध्य आयु में सोशल मीडिया और स्मार्टफोन का उपयोग करना शुरू कर सकते हैं, यह समझना मुश्किल है कि एआई क्या है, एआई सामग्री की पहचान करना तो दूर की बात है।
स्टैनफोर्ड इंटरनेट लैब द्वारा अगस्त में प्रकाशित पेपर "कैसे स्पैम और स्कैमर्स फेसबुक पर दर्शकों को बढ़ाने के लिए एआई-जेनरेटेड छवियों का उपयोग करते हैं" परीक्षणों में यह भी पाया गया कि एआई के साथ बनाई गई छवियों को कुल मिलाकर सैकड़ों लाखों इंप्रेशन प्राप्त हुए। एआई-जनरेटेड ग्राफिक पोस्ट आमतौर पर सुर्खियां बटोरने वाली और ध्यान खींचने वाली तस्वीरें होती हैं। उदाहरण के लिए, एक टूटे हुए पैर वाले बच्चे के हाथ में "हैप्पी बर्थडे टू मी" लिखा हुआ एक बच्चा हो सकता है, जिसे 70,000 लाइक और 3,000 टिप्पणियाँ मिल सकती हैं। उपयोगकर्ता टिप्पणियाँ यह भी दिखा सकती हैं कि वे इस बात से अनभिज्ञ थे कि छवि AI द्वारा बनाई गई थी।
इसके अलावा, एल्गोरिदम अनुशंसा एक उर्ध्व सर्पिल की तरह है। शोधकर्ताओं ने पाया है कि कुछ एआई-जनरेटेड कंटेंट पोस्ट पर क्लिक करने के बाद, भले ही कोई फॉलोअर्स या लाइक न हों, भविष्य में अधिक से अधिक एआई पोस्ट आपके होमपेज पर भेज दिए जाएंगे। कुछ लाइव उपयोगकर्ताओं ने रेडिट पर टिप्पणी की है कि "फेसबुक एक अंतहीन मिडजर्नीएआई फोटो वॉल बन गया है।"
एआई पर एक नज़र बहुत सारा ट्रैफ़िक ला सकती है｜ छवि स्रोत: 404
ट्रैफ़िक को धोखा देने के अलावा, AI नकली तस्वीरें पैसे भी ठगना चाहती हैं। उदाहरण के लिए, ऊपर दिखाए गए लकड़ी पर नक्काशी वाले कुत्ते की तरह, पोस्ट में "उसी प्रकार के लकड़ी के उत्पाद खरीदने" का लिंक शामिल हो सकता है। वास्तव में, ये उत्पाद मौजूद नहीं हैं, या दर्शकों को अन्य विज्ञापन वेबसाइटों की ओर निर्देशित किया जा सकता है, जैसे कि ऊपर सबसे लोकप्रिय लकड़ी पर नक्काशीदार कुत्ते की पोस्ट। जब आप टिप्पणी क्षेत्र पर क्लिक करते हैं, तो आपको शीर्ष पर पिन किया गया पालतू जानवरों की आपूर्ति के लिए एक बिक्री लिंक मिलेगा। इससे भी अधिक विरोधाभासी बात यह है कि कई तस्वीरें MetaAI का उपयोग करके तैयार की गई होंगी। MetaAI का एक उद्देश्य फ़ोटो को वास्तविक दिखाना है। हालाँकि, इन तस्वीरों ने अपने उपयोगकर्ताओं को धोखा दिया और यह विरोधाभास एक यातायात चक्र में बदल गया। एआई-जनरेटेड स्पैम सामग्री न केवल "उम्र बढ़ने" वाले फेसबुक को प्रभावित करती है, बल्कि यहां तक कि Quora, "झिहु का अमेरिकी संस्करण" जो कभी अपनी उच्च-गुणवत्ता वाली टेक्स्ट सामग्री के लिए प्रसिद्ध थी, को एआई-जनित सामग्री की सामुदायिक सामग्री की गुणवत्ता को कम करने की वर्तमान स्थिति का सामना करना पड़ता है। इससे भी बुरी बात यह है कि कई एआई-जनरेटेड तस्वीरें अब वास्तविकता से मजबूती से जुड़ी हुई हैं। उदाहरण के लिए, तूफान हेलेन अभी तक कम नहीं हुआ है, लेकिन नकली एआई चित्रों की खोज के बाद, प्रत्येक उपयोगकर्ता हर तस्वीर की प्रामाणिकता पर सवाल उठाएगा, भले ही वह वास्तविकता पर आधारित वास्तविक तस्वीर हो। बड़ी मात्रा में नकली सामग्री से कमजोर होने के बाद, उन्हें अपनी बेगुनाही साबित करने के लिए "असली और नकली मंकी किंग" की दुविधा का सामना करना पड़ेगा। फ़िलिस्तीनी-इज़राइल संघर्ष, अमेरिकी चुनाव, ब्राज़ीलियाई बाढ़, तूफान हेलेन... ये वास्तविक प्राकृतिक और मानव निर्मित आपदाएँ हैं जो वास्तविक जीवन में घटित हुई हैं। एक सामग्री समुदाय में जो खंडित, संक्षिप्त, ग्राफिक और पाठ-आधारित है, और उच्च समयबद्धता पर केंद्रित है, युद्ध पत्रकारों की वास्तविक जीवन की तस्वीरों को एआई द्वारा उत्पन्न नकली तस्वीरों के रूप में उतने दृश्य नहीं मिल सकते हैं। ये सामग्रियाँ अक्सर उन वृद्ध लोगों पर लक्षित होती हैं जिन पर पहले से संदेह नहीं होता, जो करुणावश अपनी पसंद और रीट्वीट का योगदान करते हैं, लेकिन अनजाने में एल्गोरिथम के भागीदार बन जाते हैं। इन एआई का पोषण मूल लेकिन अदृश्य कलाकारों पर आधारित है। मेटा जैसी महत्वपूर्ण जिम्मेदारियों वाले एक सामाजिक मंच के रूप में, यह एआई के आत्म-विरोधाभासी युद्ध में फंस गया है: उपयोगकर्ता गलत जानकारी और स्पैम जानकारी उत्पन्न करने और इसे मेटा प्लेटफ़ॉर्म पर प्रकाशित करने के लिए मेटा के एआई टूल का उपयोग करते हैं, जबकि मेटा की एआई टीम को यह पहचानने के लिए प्रौद्योगिकी का उपयोग करने की आवश्यकता है कि कौन सी तस्वीरें वास्तविक हैं और कौन सी एआई द्वारा उत्पन्न की गई हैं। विडंबना दिलचस्प है - एआई पीढ़ी की प्रौद्योगिकी टीम जितनी अधिक उन्नत होगी, समीक्षा और पहचान टीम के लिए यह उतना ही कठिन होगा। ऐसे समय में जब इंटरनेट पर स्पैम की बाढ़ आ गई है, एआई जेनरेशन टूल के जन्म ने निस्संदेह एक बार फिर इंटरनेट स्पैम की प्रगति को तेज कर दिया है। यदि इस चुनौती को हल नहीं किया जा सकता है, तो यह केवल उपयोगकर्ता और प्लेटफ़ॉर्म नहीं होंगे, बल्कि हर कोई "सिस्टम में फंस जाएगा"।