सार:
अगस्त में स्पेसएक्स कृत्रिम बुद्धिमत्ता विभाग द्वारा एक व्यक्तिगत एआई एजेंट उत्पाद ग्रोक बॉट लॉन्च करने से कुछ हफ्ते पहले, कर्सर के इंजीनियरों ने एक संभावित भेद्यता की खोज की थी। उस समय, स्पेसएक्स एक एआई कोड स्टार्टअप, कर्सर का अधिग्रहण कर रहा था, और कर्सर द्वारा ग्रोक बॉट विकसित किया गया था। विकास प्रक्रिया के दौरान, सभी कर्सर कर्मचारियों ने परीक्षण और दैनिक कार्य के लिए इस उपकरण का बड़े पैमाने पर उपयोग किया।
जुलाई के अंत में, इंजीनियरों ने चिंता जताई कि कर्सर ने आंतरिक परीक्षण द्वारा उत्पन्न डेटा भेजा हो सकता है, जिसमें ग्राहकों, आपूर्तिकर्ताओं और व्यापार भागीदारों की गोपनीय जानकारी स्पेसएक्स के कृत्रिम बुद्धिमत्ता विभाग को हो सकती है। मीडिया द्वारा समीक्षा की गई आंतरिक संचार के अनुसार, एक कर्सर वकील ने चेतावनी दी कि एक बार बाहरी लोगों को पता चला कि कंपनी मॉडल प्रशिक्षण के लिए डेटा का उपयोग करती है, तो इससे "विश्वास का गंभीर संकट" पैदा हो सकता है।
मीडिया और परियोजना से परिचित दो लोगों द्वारा समीक्षा किए गए आंतरिक दस्तावेजों के अनुसार, कर्सर ने तुरंत यह पता लगाने के लिए एक आंतरिक जांच शुरू की कि कौन सा संवेदनशील डेटा, यदि कोई है, स्पेसएक्स की कृत्रिम बुद्धिमत्ता इकाई को भेजा गया था, जिसे अब स्पेसएक्स एसआई के रूप में जाना जाता है। इस आंतरिक जांच का निष्कर्ष स्पष्ट नहीं है, लेकिन कंपनी ने यह सुनिश्चित करने के लिए कदम उठाए हैं कि बाद के मॉडल प्रशिक्षण में अब कर्मचारी के उपयोग से उत्पन्न डेटा शामिल नहीं होगा।
यह घटना एआई अनुसंधान और विकास कंपनियों के सामने आने वाली चुनौती को उजागर करती है, जो ग्रोक बॉट जैसे एजेंट टूल के अधिक लोकप्रिय होने के कारण तेजी से प्रमुख हो गई है। इस प्रकार के एजेंट को उच्च अनुमतियाँ देने के लिए डिज़ाइन किया गया है और यह कार्यों को स्वायत्त रूप से पूरा करने के लिए उपयोगकर्ता के कंप्यूटर पर विभिन्न फ़ाइलों और अनुप्रयोगों को पार कर सकता है।
लेकिन स्वतंत्रता की यह उच्च डिग्री नए सुरक्षा जोखिम लाती है, जिसमें प्रशिक्षण के लिए मॉडल को अनजाने में संवेदनशील जानकारी प्रदान करना भी शामिल है। सामान्य तौर पर, प्रमुख एआई कंपनियों ने कहा है कि वे मॉडल प्रशिक्षण आयोजित करने के लिए जीमेल और गूगल क्लाउड डिस्क जैसे इंटरनेट टूल से प्राप्त डेटा का उपयोग नहीं करेंगे। उदाहरण के लिए, ग्रोक बॉट की सेवा की शर्तों में, स्पेसएक्स एसआई का कहना है कि कंपनी मॉडलों को प्रशिक्षित करने के लिए Google क्लाउड डिस्क डेटा का उपयोग नहीं करेगी, और उपयोगकर्ता इस उद्देश्य के लिए अपने स्वयं के डेटा को साझा करने से इनकार करना चुन सकते हैं।
ग्रोक बॉट-संबंधित डेटा जांच एकमात्र डेटा सुरक्षा घटना नहीं है जिसका कर्सर ने सामना किया है। मीडिया द्वारा समीक्षा की गई आंतरिक संचार से पता चला कि इस गर्मी में, कंपनी के कर्मचारियों ने आंतरिक उपयोग के लिए बनाई गई सार्वजनिक रूप से सुलभ वेबसाइट के माध्यम से गलती से कुछ ग्राहक जानकारी लीक कर दी।
स्पेसएक्स एसआई ने टिप्पणी के अनुरोध का जवाब नहीं दिया।
अगस्त के मध्य में स्पेसएक्स द्वारा कर्सर का $60 बिलियन का अधिग्रहण पूरा करने से पहले ही, कर्सर अपने व्यवसाय का विस्तार कर रहा था और अब कोडिंग टूल तक सीमित नहीं था। अधिग्रहण पूरा होने के बाद, ग्रोक बॉट, एक हर मौसम में काम करने वाला एआई सहयोग सहायक, जो विभिन्न कार्यों को संभाल सकता है, आकर्षक उद्यम-स्तरीय एआई उपकरण बाजार के लिए प्रतिस्पर्धा में स्पेसएक्स एसआई का मुख्य उत्पाद बन गया है।
मामले से परिचित दो लोगों ने खुलासा किया कि ग्रोक बॉट के शुरुआती संस्करण को अनुकूलित करने के लिए, कर्सर ने एजेंट का उपयोग करने के उपयोगकर्ता व्यवहार रिकॉर्ड एकत्र करते हुए कंपनी, स्पेसएक्स एसआई कर्मचारियों और बाहरी व्यक्तियों और कंपनियों के लिए उत्पाद का परीक्षण करने की व्यवस्था की। कर्सर इस डेटा का उपयोग एआई मॉडल को प्रशिक्षित करने के लिए कर सकता है, जिससे मॉडल को यह सीखने की अनुमति मिलती है कि एजेंट कार्य कैसे करता है, जिसमें कार्य के दौरान किए गए संचालन और पुनर्प्राप्त की गई जानकारी शामिल है।
कर्सर के पूर्व विकास प्रमुख रोमेन उगार्टे ने एक पॉडकास्ट साक्षात्कार में उल्लेख किया कि जून के आसपास, कर्सर के आंतरिक कर्मचारी ग्रोक बॉट का उपयोग करने वाले पहले व्यक्ति थे, फिर इसका कोडनेम सैंड था। उत्पाद तेजी से कंपनी के भीतर लोकप्रिय हो गया, कर्मचारियों ने इसका उपयोग बिक्री, भर्ती, अनुसंधान और अन्य कार्यों को संभालने के लिए किया। वे अक्सर कंपनी के सिस्टम तक पहुंचने के लिए सॉफ़्टवेयर को अधिकृत करते थे, जिससे उन्हें स्वतंत्र रूप से काम करने की अनुमति मिलती थी। मामले से परिचित लोगों ने कहा कि इसका मतलब यह है कि कर्मचारी एजेंट का उपयोग उन परिदृश्यों में करेंगे जहां वे बाहरी ग्राहकों के साथ बातचीत कर रहे हैं और संभावित उम्मीदवारों का साक्षात्कार ले रहे हैं, संभावित रूप से बिक्री वार्तालाप, ग्राहक फ़ाइलों और भर्ती संचार में संवेदनशील जानकारी को उजागर कर रहे हैं।
लेकिन जुलाई में, कर्सर द्वारा ग्रोक बॉट जारी करने से कुछ समय पहले, कुछ इंजीनियरों ने स्लैक घटना रिपोर्टिंग चैनल पर चेतावनी दी: कंपनी द्वारा सैंड के आंतरिक उपयोग परिदृश्यों से एकत्र किए गए प्रशिक्षण डेटा में गोपनीय जानकारी हो सकती है, और डेटा के इस बैच को स्पेसएक्स एसआई में स्थानांतरित किया जा सकता है।
अपनी जांच के हिस्से के रूप में, कर्सर ने आंतरिक संचार और मामले से परिचित लोगों के आधार पर प्रशिक्षण डेटा सेट में शामिल उपयोगकर्ताओं की श्रेणी की समीक्षा की। मामले से परिचित एक व्यक्ति ने कहा कि कुछ कर्सर कर्मचारियों ने सैंड में लॉग इन करने के लिए व्यक्तिगत ईमेल का उपयोग किया, जिससे कंपनी के लिए ऐसे उपयोगकर्ताओं की पहचान करना और उनके डेटा को बाद के प्रशिक्षण से हटाना मुश्किल हो गया।
इसके लिए, कर्सर ने प्रतिबंध लगाए हैं: कर्मचारियों को सैंड में लॉग इन करने के लिए कंपनी के ईमेल का उपयोग करना होगा, और भविष्य के प्रशिक्षण में कर्सर कर्मचारियों द्वारा उत्पन्न किसी भी डेटा को शामिल नहीं करने का निर्णय लिया है।
कर्सर के वकील ने कंपनी के स्लैक चैनल पर लिखा: "कानूनी दृष्टिकोण से, सैंड एक सामान्य उपकरण है, और इसके डेटा सेट में ग्राहकों, भागीदारों, आपूर्तिकर्ताओं आदि के बारे में गोपनीय जानकारी होती है। कड़ाई से बोलते हुए, हमारे पास मॉडल प्रशिक्षण के लिए इस डेटा का उपयोग करने का कानूनी अधिकार नहीं है।"
यह पहली बार नहीं है कि कर्सर को उपयोगकर्ता डेटा के गलत प्रबंधन के कारण हुई गड़बड़ी को साफ़ करना पड़ा है।
मीडिया द्वारा समीक्षा की गई आंतरिक संचार से पता चला है कि इस साल की शुरुआत में एक ऐसी घटना घटी थी जिसकी रिपोर्ट नहीं की गई थी: कर्सर बिक्री और विपणन कर्मियों ने गलती से ग्राहकों की जानकारी इंटरनेट पर उजागर कर दी थी। समस्या उन वेबसाइटों में थी, जिन्हें टीम ने वेबसाइट डेवलपमेंट प्लेटफ़ॉर्म वर्सेल के आधार पर बनाया था, जिनका उपयोग बिक्री और विपणन टीमों द्वारा मौजूदा ग्राहकों और संभावित ग्राहकों के साथ संबंध बनाए रखने के लिए किया गया था।
दस्तावेज़ दिखाते हैं कि वेबसाइटों में से एक का उपयोग वेरिज़ोन के साथ ग्राहक डॉकिंग को प्रबंधित करने के लिए किया जाता है। वेबसाइट में वेरिज़ॉन के तकनीकी प्रबंधन के हिस्से का एक संगठनात्मक चार्ट शामिल है, जिसमें वेरिज़ॉन के आंतरिक कर्सर टूल के कई मुख्य उपयोगकर्ताओं, उत्पाद की खपत की मात्रा और प्रत्येक उपयोगकर्ता के ईमेल पते को सूचीबद्ध किया गया है।
कर्सर के आंतरिक संचार रिकॉर्ड से पता चलता है कि हालांकि वेरिज़ोन-संबंधित वेबसाइट में एक पासवर्ड है, पासवर्ड, सभी ग्राहक जानकारी के साथ, सीधे अंतर्निहित कोड में लिखा गया था। कोड देखने वाला कोई भी इंटरनेट उपयोगकर्ता पासवर्ड और ग्राहक जानकारी प्राप्त कर सकता है।
आंतरिक संचार से यह भी पता चलता है कि कंपनी को बॉश और कूपा जैसी अन्य कंपनियों के डेटा के साथ समान समस्याओं का सामना करना पड़ा है। भेद्यता का पता चलने के बाद, कर्सर इंजीनियरों ने तत्काल संबंधित वेबसाइट को ऑफ़लाइन कर दिया। उन्होंने इस अंतहीन समस्या पर चर्चा करने के लिए समर्पित स्लैक चैनल को एक लंबा नाम भी दिया: "बड़ी संख्या में जीटीएम वेबसाइटों ने ग्राहक/आंतरिक डेटा लीक किया" (जीटीएम का मतलब गो टू मार्केट है)।
बॉश ने कर्सर को पूछताछ के लिए भेजा, कूपा ने टिप्पणी करने से इनकार कर दिया, वेरिज़ॉन ने साक्षात्कार अनुरोधों का जवाब नहीं दिया और वर्सेल ने टिप्पणी करने से इनकार कर दिया।
कर्सर को स्पेसएक्स एसआई में विलय करने से बहुत पहले, एयरोस्पेस कंपनी के एआई विभाग को इसी तरह की डेटा सुरक्षा घटनाओं का सामना करना पड़ा था। मार्च 2025 में, एक स्पेसएक्स एसआई कर्मचारी ने गलती से सार्वजनिक GitHub कोड रिपॉजिटरी में एक परीक्षण स्क्रिप्ट अपलोड कर दी, जिससे ग्रोक एप्लिकेशन प्रोग्राम इंटरफ़ेस कुंजी लीक हो गई। बाहरी लोग उस xAI मॉडल तक पहुंचने के लिए कुंजी का उपयोग कर सकते हैं जिसे जनता के लिए जारी नहीं किया गया है।
इस गर्मी में, एक शोधकर्ता ने पाया कि स्पेसएक्स का डेवलपर टूल ग्रोक बिल्ड स्पेसएक्स के Google क्लाउड स्टोरेज पर संपूर्ण गिट कोड रिपॉजिटरी अपलोड करेगा, जो संभावित रूप से मालिकाना स्रोत कोड या पहचान क्रेडेंशियल्स को लीक कर देगा, जिसे डेवलपर्स का सार्वजनिक करने का कोई इरादा नहीं था। जवाब में, xAI ने वेयरहाउस अपलोड फ़ंक्शन को बंद कर दिया और टूल को ओपन सोर्स बना दिया। एलोन मस्क ने एक्स प्लेटफॉर्म पर पोस्ट किया: "स्पेसएक्स एआई पर पहले अपलोड किए गए सभी उपयोगकर्ता डेटा को पूरी तरह से हटा दिया जाएगा।"
टिप्पणियाँ