सार:
ओपनएआई ने हाल ही में घोषणा की है कि उसने अपने आंतरिक अनुसंधान बुनियादी ढांचे में "कंट्रोल रूम" नामक एक केंद्रीय नियंत्रण प्रणाली तैनात की है। जब मॉडल कार्य सुरक्षा या नेटवर्क सुरक्षा जोखिम का कारण बनता है, तो
स्टॉप कमांड प्राप्त करने के बाद सिस्टम मॉडल को 35 सेकंड तक आउटपुट जारी रखने से रोक सकता है
.
ओपनएआई के अनुसार, नियंत्रण कक्ष सुदृढीकरण शिक्षण प्रशिक्षण, मॉडल मूल्यांकन, एजेंट नमूनाकरण और डेटा प्रोसेसिंग जैसे अनुसंधान कार्यों को समान रूप से ट्रैक कर सकता है, और मॉडल व्यवहार निगरानी प्रणाली से जुड़ा हुआ है।
निगरानी मॉडल प्रशिक्षित मॉडल के तर्क और संचालन प्रक्रिया की जांच करेगा। एक बार संभावित समस्याओं का पता चलने पर, जोखिम की डिग्री के अनुसार अलार्म जारी किया जा सकता है या कार्य को सीधे निलंबित किया जा सकता है।
.विशिष्ट निष्पादन प्रक्रिया के दौरान, निगरानी प्रणाली नियंत्रण कक्ष को कार्य आईडी भेजेगी जिसे रोकने की आवश्यकता है। अगली बार जब प्रासंगिक कार्य मॉडल अनुमान के लिए लागू होता है, तो अनुमान इंजन इसकी चलने की अनुमति को सत्यापित करेगा; यदि कार्य को समाप्त के रूप में चिह्नित किया गया है, तो सिस्टम मॉडल को सामग्री उत्पन्न करने से रोकने के अनुरोध को अस्वीकार कर देगा।
ओपनएआई ने कहा कि
वर्तमान में, नियंत्रण कक्ष को स्टॉप कमांड प्राप्त होने में 35 सेकंड तक का समय लगता है जब तक कि कार्य बिल्कुल भी जारी नहीं रह पाता।
. यह समय अंतर अनुमान प्राधिकरण प्रक्रिया में कैशिंग परत से आता है। कंपनी तत्काल स्टॉप हासिल करने के लक्ष्य के साथ प्रतिक्रिया समय को और कम कर रही है।सिस्टम "फ़ेल-क्लोज़" तंत्र का भी उपयोग करता है। यदि नियंत्रण कक्ष विफल हो जाता है, बंद हो जाता है, या छेड़छाड़ की जाती है, तो सेवा बहाल होने तक सभी संबंधित अनुमान अनुरोध डिफ़ॉल्ट रूप से अस्वीकार कर दिए जाएंगे। यह तंत्र अब OpenAI के सभी अत्याधुनिक मॉडल अनुसंधान कार्यों को कवर करता है और इसे अन्य अनुसंधान कार्यों में विस्तारित किया जा रहा है। ओपनएआई ने कहा कि इसकी बाहरी मॉडल सेवाएं अधिक केंद्रीकृत तकनीकी वास्तुकला को अपनाती हैं, और वर्तमान में इसमें ऑफ़लाइन तैनाती और आपातकालीन प्रतिक्रिया क्षमताएं हैं।
टिप्पणियाँ