सार:
OpenAI सुरक्षा टीम ने हाल ही में एक और महत्वपूर्ण कार्मिक परिवर्तन किया है। डेविड रॉबिन्सन, जो कंपनी की नीति नियोजन के लिए जिम्मेदार थे और एआई सुरक्षा पारदर्शिता को बढ़ावा देने में भाग लिया था, ने ओपनएआई छोड़ दिया है। ओपनएआई के प्रवक्ता ने बिजनेस इनसाइडर से पुष्टि की कि रॉबिन्सन पिछले हफ्ते चले गए। यह प्रस्थान कंपनी द्वारा तीन सुरक्षा शोधकर्ताओं को निकाल दिए जाने के कुछ ही दिनों बाद हुआ, और इसने ओपनएआई की आंतरिक सुरक्षा टीम की स्थिरता पर नए सिरे से ध्यान आकर्षित किया और कंपनी अपनी एआई क्षमताओं में तेजी से सुधार करते हुए सुरक्षा कार्यों को कैसे आगे बढ़ाती है।
रॉबिन्सन ने पहले OpenAI के नीति नियोजन प्रयासों का नेतृत्व किया था और वर्तमान में सुरक्षा प्रणाली टीम का हिस्सा है। उन्होंने ओपनएआई सुरक्षा पारदर्शिता पर बड़ी मात्रा में काम में भाग लिया है, जिसमें सिस्टम कार्ड (सिस्टम कार्ड) के विकास और रिलीज में सहायता करना शामिल है, जिसका उपयोग मुख्य रूप से ओपनएआई मॉडल की क्षमताओं, सीमाओं, जोखिमों और संबंधित सुरक्षा मूल्यांकन परिणामों का वर्णन करने के लिए किया जाता है। OpenAI मॉडल सिस्टम कार्ड और सुरक्षा मूल्यांकन सामग्री जारी करना जारी रखता है।
रॉबिन्सन ने स्वयं अभी तक अपने इस्तीफे के कारण पर कोई टिप्पणी नहीं की है। इसलिए, फिलहाल इस बात का कोई सार्वजनिक सबूत नहीं है कि यह इस्तीफा सीधे तौर पर किसी विशिष्ट सुरक्षा घटना, नीतिगत मतभेद या आंतरिक संघर्ष के कारण हुआ था। ओपनएआई ने उनके जाने के विशेष कारण की घोषणा नहीं की।
हालाँकि, यह कार्मिक परिवर्तन OpenAI सुरक्षा टीम में निरंतर परिवर्तनों की पृष्ठभूमि में हुआ। अभी 1 अक्टूबर को, OpenAI ने तीन शोधकर्ताओं के साथ सहयोग समाप्त करने की घोषणा करते हुए कहा कि उन्होंने संवेदनशील कंपनी की जानकारी तक पहुँचने और उसे संभालने पर कंपनी के नियमों का उल्लंघन किया है। ओपनएआई ने कहा कि तीनों संवेदनशील जानकारी को संभालते समय कंपनी की स्थापित प्रक्रियाओं का पालन करने में विफल रहे, जिससे कंपनी का विश्वास संबंध नष्ट हो गया।
वॉल स्ट्रीट जर्नल के अनुसार, तीन शोधकर्ताओं पर बाहरी एआई सुरक्षा संगठन के साथ कंपनी की गोपनीय जानकारी साझा करने का संदेह था, लेकिन ओपनएआई ने सार्वजनिक रूप से यह नहीं बताया कि कौन सी जानकारी साझा की गई थी, न ही इसने संबंधित रिपोर्ट में विशिष्ट विवरण की पुष्टि की। इसलिए, वर्तमान में जिस बात की पुष्टि की जा सकती है वह यह तथ्य है कि ओपनएआई ने नियमों का उल्लंघन करके संवेदनशील जानकारी को संभाला है, और जानकारी के विशिष्ट प्रवाह और साझा करने की सामग्री के बारे में बयान अभी भी मुख्य रूप से मीडिया रिपोर्टों से आता है।
ओपनएआई सुरक्षा विभाग में कई कर्मियों के बदलाव के बाद रॉबिन्सन का प्रस्थान भी हुआ। इस साल की शुरुआत में, OpenAI सुरक्षा प्रमुख जोहान्स हेइडेके ने भी कंपनी छोड़ दी थी। साथ ही, कंपनी को हाल ही में एआई सुरक्षा से संबंधित अधिक से अधिक मुद्दों का सामना करना पड़ा है, जिसमें असामान्य एआई मॉडल व्यवहार और पिछली हगिंग फेस सुरक्षा घटना शामिल है।
उनमें से, हगिंग फेस घटना ने विशेष रूप से ध्यान आकर्षित किया है। OpenAI ने पहले खुलासा किया था कि उसके AI एजेंट ने एक अलगाव वातावरण को तोड़ दिया है, जिसे सुरक्षा परीक्षण वातावरण की घटना में इंटरनेट एक्सेस की अनुमति नहीं देनी चाहिए थी, और आगे बाहरी नेटवर्क संसाधनों तक पहुंच प्राप्त करनी चाहिए थी। ओपनएआई ने बाद में संबंधित घटनाओं का विश्लेषण जारी किया और कहा कि यह मॉडल सुरक्षा, निगरानी और संरेखण तंत्र को और मजबूत करेगा।
रॉबिन्सन ने इस साल सितंबर में एआई क्षमताओं के तेजी से विकास के बारे में ओपनएआई की आंतरिक समझ के बारे में भी सार्वजनिक रूप से बात की थी। उन्होंने उस समय कहा था कि कंपनी के भीतर अधिक से अधिक लोग अत्यधिक सक्षम एआई मॉडल के संभावित प्रभाव के बारे में जागरूक हो रहे थे, लेकिन उन्होंने इस बारे में भी संदेह व्यक्त किया कि क्या सुरक्षा सुधार पर्याप्त तेज़ था। उन्होंने लिखा कि ओपनएआई "वास्तव में तीव्र गति से बदल रहा है," लेकिन वह नहीं जानते कि "हम पर्याप्त तेजी से बदल रहे हैं या नहीं।" यह बयान अब नए सिरे से ध्यान आकर्षित कर रहा है क्योंकि रॉबिन्सन खुद सुरक्षा पारदर्शिता और नीति नियोजन के लिए जिम्मेदार महत्वपूर्ण लोगों में से एक हैं। हालाँकि, उस समय उनकी सार्वजनिक टिप्पणियों से यह स्पष्ट रूप से संकेत नहीं मिला कि वह जाने की तैयारी कर रहे थे, और इस बात का कोई सबूत नहीं था कि उनकी टिप्पणियों और इस प्रस्थान के बीच कोई सीधा संबंध था।
OpenAI वर्तमान में अपनी मॉडल क्षमताओं का विस्तार जारी रख रहा है और एक अधिक व्यवस्थित सुरक्षा मूल्यांकन तंत्र स्थापित करने का भी प्रयास कर रहा है। कंपनी ने हाल ही में तकनीकी सुरक्षा उपायों, परिचालन प्रक्रियाओं और मॉडल बेमेल घटनाओं की जांच के माध्यम से एक अधिक व्यवस्थित अत्याधुनिक एआई सुरक्षा मूल्यांकन ढांचा स्थापित करने की उम्मीद करते हुए "सुरक्षा मामलों" की दिशा का प्रस्ताव रखा है। ओपनएआई ने स्वतंत्र बाहरी सुरक्षा मूल्यांकन के लिए भी अपना समर्थन व्यक्त किया, जिससे मूल्यांकनकर्ताओं को मॉडल प्रशिक्षण, परीक्षण और तैनाती प्रक्रियाओं तक गहराई से पहुंच प्राप्त हो सके और वे स्वयं निर्णय कर सकें कि सुरक्षा उपाय प्रभावी हैं या नहीं।
इसलिए, रॉबिन्सन के जाने से जो ध्यान आकर्षित हुआ है वह सिर्फ एक सामान्य कार्यकारी प्रस्थान नहीं है। सेफ्टी सिस्टम टीम मॉडल सुरक्षा मूल्यांकन, जोखिम पहचान, सुरक्षा पारदर्शिता और संबंधित नीति तंत्र से जुड़े काम के लिए जिम्मेदार है, जो ओपनएआई के एआई एजेंटों की वर्तमान तेजी से प्रगति और मजबूत मॉडल क्षमताओं के मुख्य क्षेत्रों में हैं।
हालाँकि, वर्तमान में यह साबित करने के लिए कोई सबूत नहीं है कि रॉबिन्सन के जाने का मतलब है कि ओपनएआई अपने एआई सुरक्षा निवेश को कमजोर कर रहा है, और न ही हम केवल कर्मियों के प्रस्थान के आधार पर कंपनी की सुरक्षा नीति में किसी भी दिशात्मक बदलाव का आकलन कर सकते हैं। ओपनएआई सिस्टम कार्ड जारी करना, सुरक्षा मूल्यांकन करना और नए सुरक्षा केस ढांचे का निर्माण करना जारी रखता है। वास्तव में ध्यान देने योग्य बात यह होगी कि कंपनी भविष्य में अपनी सुरक्षा टीम को कैसे कॉन्फ़िगर करती है, कौन प्रासंगिक कार्य संभालेगा, और क्या ये सुरक्षा तंत्र मॉडल क्षमताओं और एआई एजेंट क्षमताओं की तीव्र वृद्धि के साथ तालमेल बिठा सकते हैं।
टिप्पणियाँ