23 जून की खबर के अनुसार, मेटा ने एक आंतरिक एआई प्रशिक्षण परियोजना को अनिश्चित काल के लिए निलंबित कर दिया है। प्रोजेक्ट एआई को सॉफ्टवेयर संचालित करना सीखने के लिए प्रशिक्षित करने के लिए कर्मचारियों के कार्य कंप्यूटर पर कीबोर्ड इनपुट, माउस संचालन और स्क्रीन सामग्री को रिकॉर्ड करता है; निलंबन का कारण यह था कि प्रोजेक्ट डेटा तक पहुंच अधिकार गलत तरीके से कॉन्फ़िगर किए गए थे, और लगभग 45,000 डेटा टेबल एक बार मेटा आंतरिक कर्मियों के लिए खुले थे।
WIRED और बिजनेस इनसाइडर ने आंतरिक अनुमति घटना पर अलग से रिपोर्ट दी। मेटा के आंतरिक सुरक्षा नोटिस के अनुसार, विचाराधीन डेटा मॉडल कैपेबिलिटी इनिशिएटिव (एमसीआई) से संबंधित है, जिसमें कर्मचारियों के कार्य कंप्यूटरों पर संचालन के निशान, साथ ही संवेदनशील सामग्री जैसे "पूर्ण एआई संकेत और प्रतिलेख, निजी बातचीत, कार्मिक और प्रदर्शन डेटा शामिल हैं।" WIRED की रिपोर्ट में उल्लिखित डेटा में मुख्य रूप से मेटा के अमेरिकी कर्मचारियों से संबंधित कंपनी उपकरण शामिल हैं।
मेटा प्रवक्ता ट्रेसी क्लेटन ने पुष्टि की कि कंपनी सुरक्षा घटना की जांच कर रही है और कहा कि जांच आगे बढ़ने तक एमसीआई को अनिश्चित काल के लिए निलंबित कर दिया गया है। उन्होंने इस बात पर भी जोर दिया कि मेटा के पास "वर्तमान में कोई संकेत नहीं है कि डेटा को कर्मचारियों द्वारा अनुचित तरीके से एक्सेस किया गया है।" हालाँकि, यह जांच के वर्तमान चरण में केवल एक बयान है और अंतिम निष्कर्ष के बराबर नहीं है।
1,600 कर्मचारी जिन जोखिमों को लेकर चिंतित थे, वे सच साबित हुए।
एमसीआई को एआई सिस्टम के प्रशिक्षण के लिए कंप्यूटर पर कर्मचारी कार्य व्यवहार डेटा एकत्र करने के लक्ष्य के साथ इस साल अप्रैल में लॉन्च किया गया था। मेटा के सीईओ मार्क जुकरबर्ग ने पहले आंतरिक बैठकों में इस विचार को समझाया था: एआई मॉडल यह देखकर सीख सकते हैं कि अच्छे कर्मचारी कैसे काम करते हैं, और मेटा कर्मचारी इस तरह के डेटा का उत्पादन करने के लिए विशेष रूप से काम पर रखे गए आउटसोर्स कर्मियों की तुलना में उच्च गुणवत्ता वाले नमूने प्रदान करने के लिए बेहतर अनुकूल हैं।
इस स्पष्टीकरण से अधिकांश कर्मचारी आश्वस्त नहीं हुए। मई में, 1,600 से अधिक मेटा कर्मचारियों ने इस कंप्यूटर व्यवहार ट्रैकिंग को समाप्त करने के लिए एक आंतरिक याचिका पर हस्ताक्षर किए। याचिका में कहा गया है कि इस तरह के डेटा को इकट्ठा करने से डेटा उल्लंघन और अनधिकृत प्रकटीकरण सहित सुरक्षा और नियामक जोखिम पैदा होते हैं।
मेटा के मुख्य प्रौद्योगिकी अधिकारी एंड्रयू बोसवर्थ ने पहले कर्मचारियों को बताया था कि कंपनी के अन्य संवेदनशील डेटा सेटों के समान सुरक्षा मानकों, भंडारण प्रणालियों और पहुंच नियंत्रणों का उपयोग करके एमसीआई डेटा प्रबंधन को "सख्ती से नियंत्रित" किया जाता है। लेकिन इस घटना के बाद, बोसवर्थ ने स्वीकार किया कि परियोजना का वास्तविक कार्यान्वयन गोपनीयता समीक्षा दस्तावेज़ में सूचीबद्ध मानकों को पूरा नहीं करता है। उन्होंने एक आंतरिक पोस्ट में कहा कि समस्या गलत तरीके से कॉन्फ़िगर की गई एक्सेस कंट्रोल सूची में है और कंपनी को इसका कारण पता लगाने और डेटा एक्सेस पथ का पता लगाने की आवश्यकता है।
यह कोई बाहरी हमला नहीं है, लेकिन आंतरिक अनुमतियाँ ठीक से लॉक नहीं हैं।
इस घटना को मेटा द्वारा आंतरिक रूप से SEV2 के रूप में वर्गीकृत किया गया था। रिपोर्ट में स्पष्टीकरण के अनुसार, मेटा की आंतरिक गंभीरता का स्तर 0 से 5 के बीच है, जिसमें 0 सबसे गंभीर है और एसईवी 2 उच्च स्तर है। WIRED द्वारा देखे गए आंतरिक पोस्ट से पता चलता है कि घटना को "बंद" के रूप में चिह्नित किया गया है, जिसका अर्थ है कि अनुमति समस्या को ठीक कर दिया गया है, लेकिन मेटा ने अभी तक सार्वजनिक रूप से विशिष्ट सुधार और पूर्ण समयरेखा नहीं बताई है।
कर्मचारियों के लिए, विवाद का मुद्दा सिर्फ यह नहीं है कि क्या किसी ने वास्तव में अन्य लोगों का डेटा देखा है, बल्कि यह है कि कंपनी ने पहले संवेदनशील डेटा सेट को "सख्ती से नियंत्रित" करने का वादा किया है, और वास्तव में एक्सेस अनुमतियों के साथ कुछ मुद्दे हैं जो बहुत व्यापक हैं। एक कर्मचारी ने आंतरिक मंच पर लिखा कि उसे दुर्भावनापूर्ण पहुंच का कोई सबूत नहीं मिला, लेकिन वह "क्रोधित" था कि डेटा को वादे के अनुसार लॉक नहीं किया गया था। बिजनेसइनसाइडर ने यह भी बताया कि आंतरिक कर्मचारियों ने परियोजना और इस घटना पर कड़ी प्रतिक्रिया व्यक्त की।
यह घटना मेटा के सामने आने वाली दीर्घकालिक नियामक बाधाओं को भी छूती है। मेटा अमेरिकी संघीय व्यापार आयोग (एफटीसी) के सहमति आदेश के अधीन है, जिसके लिए कंपनी को 2040 तक डेटा उल्लंघनों को रोकने के लिए प्रक्रियाओं को बनाए रखने की आवश्यकता है। WIRED ने यह भी उल्लेख किया है कि मेटा ने कुछ गोपनीयता और सुरक्षा समीक्षा कार्यों में एआई को शामिल करना शुरू कर दिया है; हालाँकि, फिलहाल इस बात का कोई सबूत नहीं है कि एआई इस एमसीआई अनुमति कॉन्फ़िगरेशन त्रुटि में शामिल था।
एआई स्प्रिंट कंपनियों के भीतर विश्वास की कीमत पर असर डाल रहा है
एमसीआई कोई पृथक परियोजना नहीं है। मेटा ने इस साल मार्च में एक नई "एप्लाइड एआई" (एप्लाइड एआई) टीम बनाई, जिसमें एआई मॉडल में सुधार के लक्ष्य के साथ लगभग 6,500 कर्मचारियों को प्रासंगिक पदों पर नियुक्त किया गया। बिजनेस इनसाइडर ने बताया कि कुछ कर्मचारियों को लगा कि उन्हें जो प्रोजेक्ट सौंपे गए थे वे तुच्छ थे और उनका मनोबल गिरा हुआ था; बोसवर्थ ने पिछले सप्ताह एआई पुनर्गठन के दौरान संचार मुद्दों के लिए कर्मचारियों से माफी मांगी और संचार में सुधार और कुछ कार्यालय लाभ बहाल करने का वादा किया।
इस बार एमसीआई को निलंबित कर दिया गया है, एआई की ओर मेटा के स्प्रिंट की आंतरिक लागत अधिक ठोस रूप से उजागर हुई है। कंपनी कह सकती है कि उसे अब तक अनुचित पहुंच का कोई संकेत नहीं मिला है, लेकिन जब तक इस प्रकार का डेटा गलती से खोला गया है, तब तक कर्मचारियों का "अपने स्वयं के कार्य व्यवहार के साथ एआई को प्रशिक्षित करने" में विश्वास को केवल आंतरिक वादों के साथ सुधारना मुश्किल होगा। कर्मचारी न केवल एआई प्रशिक्षण डेटा के प्रदाता हैं, बल्कि गोपनीयता और सुरक्षा जोखिमों के प्रत्यक्ष वाहक भी हैं। यह दोहरी पहचान ही इस घटना के बारे में असल में चुभती है।