सार:
एंथ्रोपिक ने अपने बड़े मॉडल के जोखिम का आकलन करने के लिए बाहरी मूल्यांकनकर्ताओं को लगभग आंतरिक कर्मचारी-स्तर की पहुंच प्रदान की है। यह कदम बाहरी चिंताओं के जवाब में सुरक्षा सुरक्षा तंत्र को और मजबूत करने के कंपनी के वादे को पूरा करता है कि एआई तकनीक भयावह रूप से नियंत्रण से बाहर हो सकती है।
एमईटीआर, एक गैर-लाभकारी संगठन, ने ओपनएआई, एंथ्रोपिक, गूगल और मेटा जैसी प्रमुख एआई प्रयोगशालाओं के साथ सहयोग किया है। अब METR की टीम क्लाउड डेवलपर के कार्यालय में तैनात है और उसके हार्डवेयर उपकरण और आंतरिक सिस्टम तक उसकी पहुंच है।
बाहरी दुनिया उन जोखिमों के बारे में चिंतित है जो अधिक सक्षम एआई सिस्टम अर्थव्यवस्था, नेटवर्क सुरक्षा और यहां तक कि पूरी मानव जाति के लिए ला सकते हैं। तृतीय-पक्ष मूल्यांकन एजेंसियों को अधिक ज़िम्मेदारियाँ लेने देना प्रमुख एआई प्रयोगशालाओं द्वारा प्रस्तावित मुख्य कार्यान्वयन उपायों में से एक है।
इस साल सितंबर में, एंथ्रोपिक के सीईओ डारियो अमोदेई ने बाहरी ऑडिटरों को हेड एआई प्रयोगशाला में भेजने की योजना का प्रस्ताव रखा, जिसे शायद ही दो प्रमुख प्रतिद्वंद्वियों, सैम ऑल्टमैन (ओपनएआई) और एलोन मस्क (स्पेसएक्स) ने समर्थन दिया था।
गुरुवार की घोषणा इन प्रतिबद्धताओं को लागू करने की दिशा में पहला कदम है। ऑल्टमैन ने कहा है कि अमोडे का प्रस्ताव व्यवहार्य है, लेकिन ओपनएआई ने अभी तक बाहरी मूल्यांकनकर्ताओं को पेश करने की योजना पेश नहीं की है।
एंथ्रोपिक ने गुरुवार को कहा: "जैसे-जैसे मॉडल क्षमताएं बढ़ती जा रही हैं, हमें बेहतर सुरक्षा संरक्षण और अधिक कठिन जोखिम मूल्यांकन की आवश्यकता है। हमें उम्मीद है कि हमारे निर्णय सार्वजनिक पर्यवेक्षण को स्वीकार कर सकते हैं, लेकिन सुरक्षा कार्य से संबंधित सभी जानकारी बाहरी दुनिया को नहीं बताई जा सकती है।"
बाहरी मूल्यांकनकर्ताओं को पेश करने की एंथ्रोपिक की योजना के आलोचकों का मानना है कि यह तंत्र हितों का टकराव पैदा कर सकता है, और सख्त सरकारी पर्यवेक्षण की शुरूआत की वकालत करने के लिए लेखांकन उद्योग की पिछली बुराइयों को एक उदाहरण के रूप में उपयोग कर सकता है।
एंथ्रोपिक ने तर्क दिया कि सारी जानकारी का खुलासा करने का उपयोग दुर्भावनापूर्ण अभिनेताओं या प्रतिस्पर्धियों द्वारा किया जा सकता है; इसमें यह भी कहा गया है कि मूल्यांकनकर्ताओं के इस समूह का कार्य मॉडल बैंक पर्यवेक्षण के समान है: नियामक एजेंसियां बड़े बैंकों के अंदर काम करने के लिए स्थायी समीक्षक भेजती हैं।
कंपनी ने कहा: "यदि किसी बैंक के जोखिम भरे संचालन से सार्वजनिक हितों को खतरा होता है, तो तीसरे पक्ष को पहले से ही छिपे खतरों का पता लगाने में सक्षम होना चाहिए।"
एंथ्रोपिक पर निवेशकों को यह आश्वस्त करने का भी दबाव है कि सुरक्षा संबंधी मुद्दे इस साल उसके नियोजित आईपीओ को प्रभावित नहीं करेंगे, कंपनी का मूल्य 2 ट्रिलियन डॉलर से अधिक होने की उम्मीद है। इस सप्ताह, कंपनी की निवेशक प्रस्तुति सामग्री ने अपने सुरक्षा नियंत्रण उपायों को पेश करने के लिए काफी जगह समर्पित की।
एमईटीआर ने एक बार हगिंग फेस में ओपनएआई आउट-ऑफ-कंट्रोल मॉडल घुसपैठ की जांच में भाग लिया, हजारों लॉग की समीक्षा की, और काम को अंजाम देने के लिए एंटरप्राइज़ लैपटॉप सुसज्जित किए।
वर्तमान में, एंथ्रोपिक ने छह METR स्टाफ सदस्यों को स्वीकार किया है, उन्हें कॉर्पोरेट हार्डवेयर और कार्यालय स्थान प्रदान किया है, और उन्हें कंपनी की आंतरिक जोखिम मूल्यांकन टीम के समान स्तर पर आंतरिक उपकरणों और प्रणालियों तक पहुंच प्रदान की है।
एआई लैब ने कहा कि वह कर्मचारियों को मूल्यांकनकर्ताओं के साथ जानकारी साझा करने के लिए प्रोत्साहित करती है, जैसे वे आंतरिक जोखिम विभाग में सहकर्मियों के साथ करते हैं।
एंथ्रोपिक इस सहयोग के लिए METR को शुल्क का भुगतान नहीं करेगा। अनुसंधान संस्थान एआई कंपनियों और उनके कर्मचारियों से दान स्वीकार नहीं करता है। धनराशि व्यक्तियों, सार्वजनिक कल्याण संगठनों और ब्रिटिश आर्टिफिशियल इंटेलिजेंस सेफ्टी इंस्टीट्यूट जैसी सरकारी एजेंसियों के दान से आती है।
मूल्यांकनकर्ता विश्लेषण रिपोर्ट बाहरी दुनिया को जारी करेंगे, और एंथ्रोपिक को रिपोर्ट जारी करने पर वीटो करने का कोई अधिकार नहीं है। लेकिन कंपनियां मूल्यांकनकर्ताओं से कुछ श्रेणियों की जानकारी को संशोधित करने के लिए कह सकती हैं, जैसे क्लाइंट डेटा, अटॉर्नी-क्लाइंट विशेषाधिकार द्वारा संरक्षित सामग्री और मॉडल आर्किटेक्चर के बारे में विवरण।
एंथ्रोपिक भी एक्सेंचर के साथ सहयोग जारी रखे हुए है। दोनों पार्टियों ने पिछले महीने घोषणा की थी कि वे सुरक्षा परीक्षण भागीदार बन गए हैं, प्रत्येक एक नई सुरक्षा सुरक्षा प्रणाली बनाने के लिए कम से कम 1 बिलियन अमेरिकी डॉलर का निवेश करने के लिए प्रतिबद्ध है। एक तृतीय-पक्ष परीक्षण संगठन, सिक्योरबायो भी है, जो विशेष रूप से रासायनिक और जैविक हथियारों से संबंधित जोखिमों की समीक्षा करता है।
एंथ्रोपिक ने कहा: "हम स्वेच्छा से बाहरी मूल्यांकनकर्ताओं को भेजते हैं और मानते हैं कि सभी अत्याधुनिक एआई कंपनियों को समान दृष्टिकोण अपनाना चाहिए।"
टिप्पणियाँ