चैटजीपीटी एक सेकंड में निजी रहस्य उजागर कर देता है और "खाली कमरा" परीक्षण इंटरनेट पर वायरल हो जाता है

सार:

एआई आपको इतनी अच्छी तरह से समझता है, यह लगभग डरावना है! पिछले कुछ दिनों में,

एक "खाली कमरा" प्रयोग फिर से लोकप्रिय हो गया है

, इंटरनेट पर लाखों लोगों को देखने के लिए आकर्षित कर रहा है। नेटिज़न जैकब स्ज़िमज़ुक ने भी इस प्रवृत्ति का अनुसरण किया और इसका परीक्षण किया। उसने लापरवाही से चार नंगी दीवारों वाले एक भूरे रंग के कच्चे घर की तस्वीर चैटजीपीटी पर फेंक दी, और केवल एक पंक्ति टाइप की: "

इस कमरे को उस जानकारी से भरें जो आप मेरे बारे में जानते हैं

".

केवल दस सेकंड में, मूल रूप से खाली कमरा तुरंत

व्यक्तिगत गोपनीयता

से भरे "पैनोरमिक मॉनिटरिंग रूम" में तब्दील हो गया। .

सबसे आश्चर्यजनक चीज़ कंप्यूटर डेस्क पर मौजूद विवरण है। वास्तव में कांच के जार में एक बग "सिल्वरफिश" है।

उन्हें यह समझने में काफी समय लगा कि उन्होंने एक साल पहले इस छोटे से बग की तस्वीर ली थी और पूछा था कि चैटजीपीटी क्या है। यहां तक ​​कि इस तरह का आकस्मिक प्रश्न जो लंबे समय से भुला दिया गया था, एआई द्वारा नोटबुक में लिखा गया था।

हर दिन एआई के साथ चैट करना और यह जानना एक बात है कि यह डेटा जमा करेगा।

लेकिन जब ये टुकड़े एक बड़ी हाई-डेफिनिशन तस्वीर में बदल जाते हैं और हमारी आंखों के सामने स्पष्ट रूप से प्रदर्शित होते हैं, तब भी यह लोगों को स्तब्ध महसूस कराता है।

"खाली कमरे" की एक तस्वीर पूरे इंटरनेट पर छा गई

जल्द ही, दुनिया भर के नेटिज़न्स शांत नहीं बैठ सके। किसी ने परिणाम पोस्ट किए और उन्हें "काफी सटीक" बताया

.

किसी ने शीघ्र शब्द के बाद "लेकिन इसे अतिरंजित बनाओ" जोड़ा, और कमरा सीधे एक बड़े चरित्र प्रदर्शनी हॉल में बदल गया।

किसी और को एक दलदल और दो बिल्लियाँ मिलीं।

विश्लेषक पैट्रिक मूरहेड ने बस कई मॉडलों पर समीक्षाओं का एक दौर आयोजित किया, और निष्कर्ष सीधा था: सबसे अच्छा चैटजीपीटी है, और सबसे खराब क्लाउड है।

इस संबंध में, एक नेटिज़न ने इसे शानदार ढंग से संक्षेप में प्रस्तुत किया। एआई सबसे सस्ता डेकोरेटर है जो आपको मिल सकता है, और यह जासूसी करना भी पसंद करता है।

चैटजीपीटी आपको इतनी अच्छी तरह से क्यों समझता है?

96% वार्तालाप मेमोरी, ChatGPT इसे स्वयं सहेजता है

दरअसल, यह कोई रहस्य नहीं है।

कमरे में मौजूद हर चीज़ लगभग वही है जो आप बातचीत करते समय अपने मुंह से निकल गए थे।

इसके पीछे बिल्कुल

ChatGPT

की "मेमोरी" है समारोह। सीधे शब्दों में कहें तो, इसके दो मुख्य कार्य हैं——

पहला "सेव्ड मेमोरी" है, जो आपके नाम, प्राथमिकताओं और लक्ष्यों जैसी स्पष्ट जानकारी को याद रखता है;

दूसरा "संदर्भ चैट इतिहास" है, जो आपकी पिछली बातचीत की बड़ी संख्या से उपयोगी संदर्भ निकाल सकता है।

इस साल, एसीएम वेब कॉन्फ्रेंस 2026 के लिए चुने गए एक पेपर ने कुछ ऐसा किया जो पहले किसी ने नहीं किया था।

मैक्स प्लैंक इंस्टीट्यूट, रूहर यूनिवर्सिटी बोचुम और अन्य संस्थानों के शोधकर्ताओं ने 80 वास्तविक चैटजीपीटी उपयोगकर्ताओं को पाया, उनसे ईयू जीडीपीआर के अनुसार अपना डेटा निर्यात करने के लिए कहा, और फिर अपने चैट रिकॉर्ड दान कर दिए।

आप कैसे जानते हैं कि एआई ने गुप्त रूप से क्या याद किया है? इसके बाद, शोधकर्ता एक चतुर विचार लेकर आए।

चैटजीपीटी के पास यादें लिखने के लिए समर्पित एक छोटा उपकरण है, जो आपके साथ रखे गए नोटपैड के बराबर है। हर बार जब आप लिखेंगे, तो पृष्ठभूमि में "मॉडल सेट संदर्भ अद्यतन (मॉडल संदर्भ अद्यतन)" रिकॉर्ड की एक पंक्ति छोड़ दी जाएगी।

शोधकर्ता ने पाठ की इस पंक्ति को यह देखने के लिए वापस लिया कि उपयोगकर्ता ने कौन सा वाक्य बनाया जिसने एआई को लिखने पर मजबूर किया।

इस तरह, उन्होंने 1,058 वार्तालापों और 65 लोगों के बीच टकराव के 20,000 से अधिक दौरों से 2,050 यादें निकालीं।

पेपर इन यादों को एक नाम देता है, जिसे "एल्गोरिदमिक सेल्फ-पोर्ट्रेट" कहा जाता है।

परिणामस्वरूप निकाले गए डेटा के तीन सेट लोगों को ठंडक पहुंचा सकते हैं।

सबसे पहले, 96% यादें ChatGPT द्वारा ही गुप्त रूप से सहेजी जाती हैं।

कैसे बताएं कि उपयोगकर्ता ने इसे याद रखने के लिए कहने की पहल की है? शोधकर्ताओं ने विशेष रूप से उस वाक्य में "याद रखें" और "भूल जाओ" जैसे शब्दों की खोज की जो स्मृति को ट्रिगर करते हैं।

परिणामस्वरूप, 2050 यादों में से केवल 84 का मिलान किया गया। गणना के अनुसार, एआई द्वारा आपके बारे में सहेजी गई प्रत्येक 24 जानकारी में से केवल 1 जानकारी आपके सिर से आती है।

दूसरा, 52% यादें आपके लिए गुप्त रूप से "मनोवैज्ञानिक प्रोफ़ाइलिंग" हैं।

शोधकर्ताओं ने मनोविज्ञान से "मन के सिद्धांत" की रूपरेखा उधार ली और इन सामग्रियों को इच्छाओं, इरादों, भावनाओं और विश्वासों जैसी श्रेणियों में विभाजित किया।

उनमें से, "इच्छाएँ" हावी हैं, जो 73% हैं; इरादे 16%, भावनाएँ 14% और विश्वास 11% हैं।

स्पष्ट रूप से कहें तो, AI को इसकी परवाह नहीं है कि आप आज खुश हैं या नहीं। यह वास्तव में यह पता लगाना चाहता है कि आप दीर्घावधि में क्या चाहते हैं और आप आगे क्या करने की योजना बना रहे हैं। यह आपके अस्थायी सुख-दुख के बजाय यह देखना चाहता है कि आप किस तरह के व्यक्ति हैं।

तीसरा, जितना आप सोचते हैं उससे अधिक संवेदनशील गोपनीयता रिकॉर्ड की जाती है।

28% यादें ईयू जीडीपीआर द्वारा मान्यता प्राप्त व्यक्तिगत गोपनीयता से संबंधित हैं, और 41% यादों में विशिष्ट नाम अकेले दिखाई देते हैं।

जो बात और भी अतिरंजित है वह यह है कि 7% ने सीधे स्वास्थ्य स्थिति, धार्मिक विश्वास और राजनीतिक झुकाव जैसी "उच्च जोखिम वाली लाल रेखाओं" में कदम रखा, जिनमें से स्वास्थ्य गोपनीयता 60% से अधिक थी।

यदि इसे सभी तक फैलाया जाता, तो 91% लोगों का व्यक्तिगत डेटा संग्रहीत होता, और आधे से अधिक (54%) लोगों के पास अत्यधिक संवेदनशील गोपनीयता रिकॉर्ड दर्ज होते।

पेपर सीधे तौर पर बताता है कि यह स्पष्ट रूप से ओपनएआई की "संवेदनशील जानकारी को सक्रिय रूप से सहेज नहीं करने" की सार्वजनिक प्रतिबद्धता के विपरीत है।

पेपर ने एक अधिक विस्तृत और भयानक प्रयोग भी किया।

शोधकर्ताओं ने चैटजीपीटी मेमोरी एक्सट्रैक्टर को "कॉपी" करने के लिए जेम्मा और जीपीटी-ओएसएस जैसे ओपन सोर्स मॉडल का उपयोग किया और छह छवियां सीखीं।

फिर उन्होंने परिकल्पना की कि यदि AI उपयोगकर्ता द्वारा कहे गए प्रत्येक वाक्य की स्मृति पुनः प्राप्त कर ले तो क्या होगा?

उत्तर यह है कि संवेदनशील डेटा का अनुपात 28% से बढ़कर 31%~35% हो जाएगा, और मनोवैज्ञानिक चित्रों का अनुपात 52% से बढ़कर 55%~59% हो जाएगा।

आपको पता होना चाहिए कि चैटजीपीटी का पुराना संस्करण सिर्फ एक "नोट" है।

ड्रीमिंग आगे जो करने जा रहा है, वह पृष्ठभूमि में आपके चैट इतिहास को पढ़ना है।

यह "सपना देखना" निकला, AI बार-बार व्यक्तिगत चित्रों को फिर से लिखता है

इस साल जून में, OpenAI ने ChatGPT को अपनी मेमोरी में बड़ा बदलाव दिया और इसे एक रहस्यमय नाम दिया - ड्रीमिंग।

स्पष्ट रूप से कहें तो, जैसे जब कोई व्यक्ति सोता है, तो मस्तिष्क स्वचालित रूप से दिन के अनुभवों को छांटता है, चैटजीपीटी भी चुपचाप पृष्ठभूमि में चैटिंग के दिनों की "समीक्षा" करेगा, लगातार आपके बारे में अपनी समझ को ताज़ा करेगा।

उदाहरण के लिए, आपने कहा था "मैं जुलाई में सिंगापुर जाऊंगा"। एक बार दिन बीत जाने के बाद, यह स्मृति स्वचालित रूप से "मैं जुलाई 2026 में सिंगापुर गया था" के रूप में फिर से लिखी जाएगी।

ओपनएआई ने आंतरिक परीक्षण किए हैं और पाया है कि यह नया तंत्र इसकी रिकॉर्ड सटीकता को बढ़ाता है:

2024 में 41.5% और 2025 में 67.9% से, आज यह सीधे वी3 संस्करण के 82.8% तक पहुंच गया है।

इससे भी अधिक क्रूर बात यह है कि बैकएंड कंप्यूटिंग पावर की लागत को उसके मूल मूल्य के पांचवें हिस्से तक घटा दिया गया है।

लेकिन यह सोचना वास्तव में डरावना है कि चैटजीपीटी वार्तालाप को हटाने से उसमें से निकाली गई यादें नहीं हटेंगी।

इनमें से सबसे चिंताजनक बात दरअसल आपकी स्वास्थ्य गोपनीयता है।

सितंबर में, arXiv पर प्रकाशित एक पेपर ने 1,057 उपयोगकर्ताओं के लगभग 180,000 चैट रिकॉर्ड की जांच की और पाया कि बातचीत के पांचवें (21.31%) से अधिक ने व्यक्तिगत स्वास्थ्य मुद्दों पर चर्चा की।

इससे भी अधिक चिंता की बात यह है कि इसमें 95% से अधिक व्यक्तिगत चित्र भी एआई द्वारा गुप्त रूप से रिकॉर्ड किए गए थे जबकि उपयोगकर्ता ध्यान नहीं दे रहा था।

यह अनुपात लगभग पिछले पेपर में मापे गए 96% के समान ही है।

जब एआई "मस्तिष्क को पूरक करता है" और पृष्ठभूमि में यादों को मर्ज करता है, तो आपके अस्थायी लक्षणों को एक स्थायी "मेडिकल रिकॉर्ड लेबल" में जोड़ना बहुत आसान होता है।

उदाहरण के लिए, यदि आपने यूं ही कह दिया कि एक दिन आपको सिरदर्द है, तो एआई की नज़र में आप "माइग्रेन के मरीज़" बन गए होंगे।

"दूसरा मस्तिष्क"?

हम हमेशा सोचते हैं कि हम एक "दूसरे मस्तिष्क" को प्रशिक्षित कर रहे हैं जो अधिक से अधिक समझदार बनता जा रहा है।

जब तक गोपनीयता से भरे कमरे की तस्वीर मेरे सामने नहीं आई, मैं चौंक गया: हजारों बातचीत के बाद, यह पता चला कि केवल हम ही थे जिनसे हमारे तुरुप के पत्ते छीन लिए गए थे।

एल्गोरिदम की नज़र में, तथाकथित सहानुभूति कभी नहीं होती, केवल "संदर्भ" होता है जिसकी स्पष्ट कीमत होती है।