सार:
ओपनएआई ने हाल ही में तीन कर्मचारियों को निकाल दिया जो कृत्रिम बुद्धिमत्ता सुरक्षा अनुसंधान में लगे हुए थे। इस घटना ने तुरंत कंपनी की आंतरिक सुरक्षा संस्कृति की ओर ध्यान आकर्षित किया और क्या कर्मचारी स्वतंत्र रूप से जोखिम की चेतावनी दे सकते हैं। तीन शोधकर्ताओं का मानना है कि उनका प्रस्थान एआई सुरक्षा और बाहरी सुरक्षा एजेंसियों के साथ सहयोग के बारे में लंबे समय से चली आ रही चिंताओं से संबंधित हो सकता है, और चेतावनी दी है कि यह घटना कंपनी में अभी भी काम कर रहे शोधकर्ताओं को संभावित जोखिमों पर सार्वजनिक रूप से चर्चा जारी रखने से हतोत्साहित कर सकती है। ओपनएआई ने जोर देकर कहा कि बर्खास्तगी के फैसले का कर्मचारियों द्वारा सुरक्षा संबंधी चिंताएं बढ़ाने से कोई लेना-देना नहीं है, बल्कि इसलिए कि एक आंतरिक जांच में पाया गया कि उन्होंने संवेदनशील जानकारी तक पहुंचने और उसे संभालने पर कंपनी के नियमों का उल्लंघन किया है।
जिन तीन लोगों को नौकरी से निकाला गया, वे थे जैस्मीन वांग, टोमेक कोरबाक और मिकिता बलेस्नी। वे पहले OpenAI की कृत्रिम बुद्धिमत्ता सुरक्षा या संरेखण अनुसंधान में भाग ले चुके हैं। संबंधित कार्य का उद्देश्य यह सुनिश्चित करना है कि एआई प्रणाली मानवीय अपेक्षाओं के अनुरूप काम करे और मॉडल के संभावित असामान्य व्यवहार का जल्द से जल्द पता लगाए।
तीनों ने हाल ही में ओपनएआई निदेशक मंडल के तहत सुरक्षा और सुरक्षा समिति, सुरक्षा सलाहकार समूह और मिशन सलाहकार समिति को एक संयुक्त पत्र प्रकाशित किया, जिसमें बर्खास्तगी और इसके परिणामों के बारे में अपनी चिंताओं को विस्तार से व्यक्त किया गया। उन्होंने कहा कि बर्खास्तगी के निर्णय की अचानकता और जिस तरह से इसे बाहरी दुनिया को सूचित किया गया था, वह ओपनएआई के पिछले कार्य माहौल को बदल सकता है जिसने कर्मचारियों को आपत्तियां उठाने और सुरक्षा मुद्दों पर चर्चा करने के लिए प्रोत्साहित किया था।
शोधकर्ताओं ने पत्र में बताया कि कृत्रिम बुद्धिमत्ता कोई सामान्य तकनीक नहीं है। जैसे-जैसे मॉडल क्षमताओं में वृद्धि जारी रहती है, प्रौद्योगिकी अनुसंधान और विकास की अग्रिम पंक्ति के सबसे करीब वाले लोग अक्सर संभावित जोखिमों के संपर्क में आने वाले पहले व्यक्ति होते हैं। यह निर्धारित करने के लिए कि ये जोखिम कितने गंभीर हैं और प्रभावी उपाय खोजने के लिए, सुरक्षा शोधकर्ताओं को आंतरिक टीमों के साथ-साथ बाहरी स्वतंत्र विशेषज्ञों के साथ मिलकर काम करने की आवश्यकता है। यदि कर्मचारियों को डर है कि उन्हें चिंताएं व्यक्त करने या बाहरी एजेंसियों के साथ संवाद करने के लिए निकाल दिया जा सकता है, तो सुरक्षा अनुसंधान भी प्रभावित हो सकता है।
ओपनएआई ने कहा कि तीन इस्तीफे संवेदनशील जानकारी तक पहुंच और प्रबंधन पर कंपनी की नीति के उल्लंघन के कारण थे। कंपनी ने कहा कि आंतरिक जांच में पाया गया कि उसने स्थापित प्रक्रियाओं के बाहर संवेदनशील जानकारी को संभाला, जिससे गंभीर विश्वास के मुद्दे पैदा हुए। ओपनएआई ने इस बात पर जोर दिया कि प्रासंगिक निर्णय कर्मचारियों पर सुरक्षा राय उठाने या सार्वजनिक रूप से अलग-अलग विचार व्यक्त करने के लिए निर्देशित नहीं थे।
इस विवाद की पृष्ठभूमि ओपनएआई द्वारा हाल ही में सामना किया गया एक महत्वपूर्ण तकनीकी मुद्दा है: जैसे-जैसे एआई मॉडल और एजेंटों की क्षमताएं बढ़ती हैं, शोधकर्ताओं के लिए अपने आंतरिक व्यवहारों को प्रभावी ढंग से निरीक्षण, समझने और पर्यवेक्षण करने में सक्षम होना महत्वपूर्ण होता जा रहा है।
तीन शोधकर्ताओं ने एक खुले पत्र में उल्लेख किया है कि वे अत्याधुनिक मॉडलों की निगरानी के बारे में चिंतित हैं। तथाकथित मॉनिटरेबिलिटी से तात्पर्य यह है कि क्या शोधकर्ता मॉडल आउटपुट, आंतरिक तंत्र और अन्य उपलब्ध जानकारी का उपयोग यह निर्धारित करने के लिए कर सकते हैं कि एआई क्या कार्य कर रहा है, यह किस पर तर्क कर रहा है, और क्या यह अपेक्षित लक्ष्यों से भटक सकता है।
यदि भविष्य के मॉडल आर्किटेक्चर शोधकर्ताओं के लिए अपने आंतरिक तर्क का निरीक्षण करना अधिक कठिन बना देते हैं, तो पारंपरिक सुरक्षा मूल्यांकन विधियां सीमित हो सकती हैं। शोधकर्ताओं को चिंता है कि जैसे-जैसे मॉडल अधिक शक्तिशाली होते जाएंगे, सुरक्षा दल धीरे-धीरे समय पर असामान्य व्यवहार का पता लगाने की क्षमता खो सकते हैं।
पहले, यह बताया गया था कि OpenAI के नवीनतम मॉडल में कुछ वास्तुशिल्प परिवर्तनों से निगरानी की कठिनाई बढ़ सकती है, जिसमें शोधकर्ताओं के लिए मॉडल की विचार श्रृंखला की जानकारी का विश्लेषण करना अधिक कठिन हो सकता है। निकाले गए तीन कर्मचारियों ने रिपोर्ट किए गए उल्लंघनों में किसी भी तरह की संलिप्तता से इनकार किया और कहा कि उनके द्वारा उठाई गई निगरानी संबंधी चिंताएँ वैध सुरक्षा अनुसंधान का हिस्सा थीं।
उन्होंने इस बात पर भी ज़ोर दिया कि बाहरी सुरक्षा मूल्यांकन एजेंसियों के साथ सहयोग ऐसे शोध का एक महत्वपूर्ण हिस्सा है। बाहरी संगठन स्वतंत्र परीक्षण और मूल्यांकन के माध्यम से कंपनियों को उन मुद्दों की पहचान करने में मदद कर सकते हैं जिन्हें आंतरिक टीमों ने अनदेखा कर दिया है। शोधकर्ताओं का मानना है कि यदि बाहरी सहयोग को अनुचित रूप से प्रतिबंधित किया जाता है, तो स्वतंत्र निरीक्षण तंत्र भी कमजोर हो सकता है।
उनमें से, टोमेक कोरबाक ने कहा कि वह ओपनएआई और कृत्रिम बुद्धिमत्ता सुरक्षा मूल्यांकन संगठन एमईटीआर के बीच मुख्य तकनीकी संपर्ककर्ताओं में से एक थे। उनका मानना है कि उनकी बर्खास्तगी इस बात से संबंधित थी कि उन्होंने संगठन के साथ कैसे संवाद किया। एमईटीआर पहले एआई मॉडल की क्षमताओं और जोखिमों का आकलन करने में शामिल रहा है और संबंधित सुरक्षा प्रयासों पर ओपनएआई के साथ सहयोग किया है।
मिकिता बलेसनी ने यह भी कहा कि जिस समस्या के बारे में उन्हें बताया गया था उसमें तीसरे पक्ष के सुरक्षा संगठनों के साथ अत्यधिक संचार शामिल था। उन्होंने कंपनी की बौद्धिक संपदा का अनुचित तरीके से खुलासा करने से इनकार किया और कहा कि उन्होंने सामग्री साझा करने से पहले संवेदनशील विवरण हटाने सहित आंतरिक आवश्यकताओं का पालन करने के लिए कड़ी मेहनत की है।
जैस्मीन वांग ने एक अलग विशिष्ट स्थिति दी। उन्होंने कहा कि ओपनएआई ने उन्हें सूचित किया कि उन्हें नौकरी से निकालने का एक कारण यह था कि उन्होंने कंपनी के एक कार्यकारी के ईमेल खाते तक पहुंच बना ली थी। वांग ने बताया कि उसने पहले भर्ती कार्य के लिए प्रासंगिक पहुंच अनुमतियां प्राप्त कर ली थीं। जब उनके काम के लिए इस अनुमति की आवश्यकता नहीं रही, तो उन्होंने आईटी विभाग से इसे रद्द करने के लिए कहा, लेकिन अनुरोध पर समय पर कार्रवाई नहीं की गई। उन्होंने कहा कि संबंधित ईमेल मोबाइल मेल एप्लिकेशन में अविभाज्य तरीके से प्रदर्शित किया गया था। गलती से एक संवेदनशील ईमेल खोलने के बाद, उसने कुछ ही मिनटों में कार्यकारी को सूचित किया और एक बार फिर आईटी विभाग से एक्सेस अधिकार हटाने के लिए कहा।
वांग का मानना है कि कंपनी द्वारा उन्हें बर्खास्तगी के कारणों को समझाना मुश्किल है। उन्हें यह भी चिंता है कि यह घटना अन्य कर्मचारियों में डर पैदा कर सकती है, खासकर उन लोगों में जिन्हें बाहरी सुरक्षा अनुसंधान संगठनों के साथ काम करने की ज़रूरत है या जो प्रबंधन को जोखिमों के बारे में चेतावनी देना चाहते हैं।
तीनों लोगों ने इस साल हुई एक एआई एजेंट सुरक्षा घटना का भी उल्लेख किया। उस समय, OpenAI के कई AI एजेंटों के परीक्षण के दौरान मूल अलगाव वातावरण को तोड़ने और कृत्रिम बुद्धिमत्ता कंपनी हगिंग फेस के बाहरी सिस्टम को प्रभावित करने की सूचना मिली थी। इस घटना ने एआई एजेंटों की स्वायत्त कार्रवाई क्षमताओं, परीक्षण पर्यावरण अलगाव उपायों और नेटवर्क एक्सेस अधिकारों पर बाहरी दुनिया का ध्यान आकर्षित किया है।
शोधकर्ताओं ने कहा कि घटना की जांच के लिए बाहरी सुरक्षा मूल्यांकनकर्ताओं के साथ व्यापक संचार की आवश्यकता है। उस समय, प्रासंगिक आंतरिक प्रक्रियाएं अभी भी धीरे-धीरे स्थापित की जा रही थीं, और कुछ विशिष्ट नियम भी विकास की प्रक्रिया में थे। कोरबाक का मानना है कि बाहरी एजेंसियों के साथ सहयोग करते समय, उन्होंने उस समय की कार्य व्यवस्था और प्रथाओं के अनुसार कार्य किया। बालेस्नी ने कहा कि प्रासंगिक सामग्रियों को संभालते समय उन्होंने अपने प्रत्यक्ष प्रबंधन के साथ संचार बनाए रखा था और कंपनी में आंतरिक कर्मियों से समर्थन प्राप्त किया था।
उन्हें चिंता है कि अगर कंपनी घटना के बाद बाहरी सहयोग के लिए अपने नियमों को स्पष्ट रूप से बताए बिना बदलती है कि किस व्यवहार की अनुमति है और क्या दंडित किया जाएगा, तो कर्मचारियों के लिए यह तय करना मुश्किल होगा कि गोपनीयता आवश्यकताओं का अनुपालन करते हुए सुरक्षा अनुसंधान कैसे पूरा किया जाए।
ओपनएआई इससे असहमत है। कंपनी ने मीडिया को बताया कि जांच में उजागर हुए उल्लंघन बाहरी सुरक्षा मूल्यांकन एजेंसियों के साथ जानकारी साझा करने तक सीमित नहीं थे, बल्कि संवेदनशील जानकारी के प्रबंधन से जुड़े व्यापक मुद्दे शामिल थे। कंपनी ने सार्वजनिक रूप से प्रत्येक विशिष्ट उल्लंघन का पूरा विवरण प्रकट नहीं किया, न ही यह बताया कि तीनों के कार्यों ने किन आंतरिक नियमों का उल्लंघन किया।
ओपनएआई ने एक आंतरिक ज्ञापन के माध्यम से यह भी दोहराया कि कंपनी हमेशा कर्मचारियों को सुरक्षा मुद्दों को उठाने और असहमति व्यक्त करने के लिए प्रोत्साहित करती है, और चिंताओं को उठाने के लिए कर्मचारियों को नौकरी से नहीं निकालेगी। ज्ञापन ने कृत्रिम बुद्धिमत्ता सुरक्षा अनुसंधान में तीन लोगों के पिछले योगदान की भी पुष्टि की और कहा कि कंपनी उस सिद्धांत से सहमत है जिस पर उन्होंने जोर दिया है, यानी अत्याधुनिक एआई मॉडल की प्रभावी ढंग से निगरानी करने की क्षमता को बरकरार रखा जाना चाहिए।
हालांकि, तीन शोधकर्ताओं का मानना है कि कंपनी का सार्वजनिक रुख कर्मचारियों की चिंताओं को पूरी तरह से दूर नहीं कर सकता है। उन्होंने कहा कि उन्होंने कंपनी के भीतर बदलते माहौल के बारे में पूर्व सहयोगियों की चिंताओं को सुना है, कुछ बाहरी सुरक्षा समूहों के साथ संवाद करने के कैरियर के जोखिमों के बारे में चिंतित हैं और अन्य इस बारे में अस्पष्ट हैं कि कंपनी के पिछले कार्य प्रथाओं के साथ कौन से व्यवहार अभी भी सुसंगत हैं।
शोधकर्ताओं ने ओपनएआई से स्वतंत्र तृतीय-पक्ष सुरक्षा आकलन पर अपनी प्रतिबद्धताओं को पूरा करने, बाहरी लेखा परीक्षकों को संबंधित कार्यों में भाग लेने की अनुमति देने और कंपनी के आंतरिक सुरक्षा शोधकर्ताओं और बाहरी अनुसंधान समूहों के बीच खुला और पारदर्शी संचार बनाए रखने का आह्वान किया है। उनका मानना है कि बाहरी पर्यवेक्षण को कंपनी के लिए खतरे के रूप में नहीं देखा जाना चाहिए, बल्कि समस्याओं की पहचान करने और यह सत्यापित करने का एक महत्वपूर्ण तरीका होना चाहिए कि सुरक्षा उपाय प्रभावी हैं या नहीं।
विवाद एआई उद्योग के सामने एक व्यापक पहेली को भी दर्शाता है: कंपनियों को मॉडल आर्किटेक्चर, अनुसंधान परिणामों और अन्य गोपनीय जानकारी की सख्ती से रक्षा करने की आवश्यकता है, और उन्हें यह भी सुनिश्चित करने की आवश्यकता है कि सुरक्षा शोधकर्ता समय पर जोखिम संबंधी जानकारी संचारित कर सकें। गोपनीयता आवश्यकताओं और स्वतंत्र सुरक्षा मूल्यांकन के बीच संतुलन कैसे बनाया जाए यह एक समस्या बन गई है जिसका सामना उन्नत एआई सिस्टम विकसित करने वाली कंपनियों को करना होगा।
ओपनएआई के लिए, यह घटना विशेष चिंता का विषय है। जैसे-जैसे चैटजीपीटी और अन्य एआई उत्पादों का प्रभाव बढ़ रहा है, कंपनी ऐसे मॉडल और एजेंट विकसित कर रही है जो अधिक सक्षम हैं और अधिक जटिल कार्य करने में सक्षम हैं। बेहतर मॉडल क्षमताएं नए एप्लिकेशन अवसर लाती हैं, लेकिन गलत व्यवहार, अनधिकृत संचालन और अप्रत्याशित सिस्टम जोखिम भी बढ़ा सकती हैं। इसलिए, कंपनियों को न केवल उत्पादों को जारी करने से पहले उनका परीक्षण करने की आवश्यकता है, बल्कि वास्तविक संचालन में मॉडल के प्रदर्शन की लगातार निगरानी करने की भी आवश्यकता है।
यदि सुरक्षा शोधकर्ता किसी मॉडल के व्यवहार को पूरी तरह से समझ नहीं पाते हैं या आवश्यक होने पर बाहरी विशेषज्ञों से मदद लेने में कठिनाई होती है, तो कंपनियों के लिए समय पर उभरते जोखिमों की पहचान करना अधिक कठिन हो सकता है। इसके विपरीत, वास्तव में संवेदनशील जानकारी के अनधिकृत प्रकटीकरण से बचने के लिए बाहरी सहयोग को स्पष्ट और लागू करने योग्य गोपनीयता नियमों का पालन करना चाहिए। दोनों के बीच की सीमा को कैसे परिभाषित किया जाए इसके लिए केवल कर्मचारियों की अनौपचारिक प्रथाओं की समझ पर निर्भर रहने के बजाय स्पष्ट प्रणालियों और पारदर्शी आंतरिक प्रक्रियाओं की आवश्यकता होती है।
वर्तमान में, ओपनएआई इस बात पर जोर देता है कि तीन बर्खास्तगी सुरक्षा राय पर कार्रवाई के बजाय संवेदनशील सूचना प्रबंधन नियमों के उल्लंघन के कारण हुई हैं; तीन शोधकर्ताओं का मानना है कि जिस तरह से घटना को संभाला गया उससे कंपनी के भीतर आपत्ति उठाने की इच्छा कमजोर हो गई होगी। घटना की प्रकृति के बारे में दोनों पक्षों के स्पष्टीकरणों में स्पष्ट अंतर हैं, और सभी विशिष्ट आरोपों को स्वतंत्र रूप से सत्यापित करने के लिए पर्याप्त सार्वजनिक जानकारी नहीं है।
इसलिए, इस उथल-पुथल का मूल सिर्फ यह नहीं है कि तीन कर्मचारियों ने इस्तीफा क्यों दिया, बल्कि यह भी है कि क्या अत्याधुनिक कृत्रिम बुद्धिमत्ता विकसित करने वाली कंपनी सुरक्षा अनुसंधान पर चर्चा के लिए पर्याप्त जगह बनाए रखते हुए और एक स्पष्ट और विश्वसनीय बाहरी पर्यवेक्षण तंत्र स्थापित करते हुए गोपनीयता की सख्ती से रक्षा कर सकती है। जैसे-जैसे AI सिस्टम की क्षमताएं और स्वायत्तता बढ़ती जा रही है, यह समस्या न केवल OpenAI को प्रभावित कर सकती है, बल्कि एक चुनौती भी बन जाएगी जिसका सामना पूरे उद्योग को करना होगा।
टिप्पणियाँ