एंथ्रोपिक सीईओ ने अत्याधुनिक एआई मॉडल विकास को धीमा करने और स्थायी स्वतंत्र मूल्यांकनकर्ताओं को पेश करने का आह्वान किया

सार:

एंथ्रोपिक के सीईओ डारियो अमोदेई ने सुरक्षा और संरेखण अनुसंधान के लिए समय खरीदने के लिए अत्याधुनिक मॉडल क्षमताओं के सुधार की गति को नियंत्रित करने की वकालत करते हुए तीन-चरणीय कृत्रिम बुद्धिमत्ता सुरक्षा ढांचे का प्रस्ताव रखा। एंथ्रोपिक पहली कंपनी होगी जो तीसरे पक्ष के मूल्यांकनकर्ताओं को सुरक्षा उपायों को सत्यापित करने, घटनाओं की रिपोर्ट करने और मॉडल प्रशिक्षण प्रक्रिया का मूल्यांकन करने के लिए कंपनी तक दीर्घकालिक पहुंच की अनुमति देगी।

एंथ्रोपिक एक स्थायी बाहरी मूल्यांकन टीम पेश करेगा

अमोदेई ने "फ्रंटियर प्रोग्रेस की गति को नियंत्रित किया जाना चाहिए" शीर्षक वाले एक लेख में प्रस्तावित किया कि अत्याधुनिक कृत्रिम बुद्धिमत्ता कंपनियों को स्वतंत्र तृतीय-पक्ष मूल्यांकन टीमों को निरंतर आंतरिक पहुंच प्रदान करनी चाहिए जो सामान्य कर्मचारियों के करीब हो। मूल्यांकनकर्ता यह सत्यापित करेंगे कि कंपनियां सुरक्षा प्रतिबद्धताओं का पालन करती हैं, घटनाओं की जांच और रिपोर्ट करेंगी, और मॉडलों और उनकी प्रशिक्षण प्रक्रियाओं का संरेखण मूल्यांकन करेंगी।

एंथ्रोपिक इस उपाय को एकतरफा लागू करने के लिए प्रतिबद्ध है और बाहरी मूल्यांकनकर्ताओं को कार्यालय स्थान, एक्सेस बैज, कंपनी उपकरण और आंतरिक जोखिम मूल्यांकन टीम के लिए लगभग समकक्ष कार्यक्षेत्र और टूल एक्सेस प्रदान करने की योजना बना रहा है। कानूनी प्रतिबंधों, ग्राहक गोपनीयता या व्यापार रहस्यों से जुड़ी सामग्री के लिए अपवाद बनाए जा सकते हैं।

बाहरी मूल्यांकनकर्ता को जोखिमों, घटनाओं और कंपनी सुरक्षा प्रथाओं के संबंध में स्वतंत्र रूप से प्रमुख निष्कर्ष जारी करने का अधिकार होगा। एंथ्रोपिक सुरक्षा, कानूनी विशेषाधिकार और तीसरे पक्ष की गोपनीयता से जुड़ी जानकारी में सीमित कटौती कर सकता है, लेकिन केवल इसलिए रिलीज को रोक नहीं सकता क्योंकि निष्कर्ष कंपनी के प्रतिकूल है। मूल्यांकनकर्ता सार्वजनिक रूप से यह भी बता सकते हैं कि क्या विलोपन ने उनके निर्णय को प्रभावित किया है।

तीन चरण की रूपरेखा में उद्योग और सरकार की भागीदारी की आवश्यकता है

स्वतंत्र मूल्यांकनकर्ताओं को लाने के अलावा, अमोदेई द्वारा प्रस्तावित उपायों के दूसरे चरण में लोकतांत्रिक देशों में सामान्य सुरक्षा मानकों के विकास के समन्वय और मॉडल क्षमताओं में अनियंत्रित प्रतिस्पर्धा को सीमित करने के लिए अत्याधुनिक कृत्रिम बुद्धिमत्ता कंपनियों की आवश्यकता होगी।

कुछ अंतर-उद्यम समन्वय अविश्वास कानूनों द्वारा प्रतिबंधित हो सकता है, इसलिए सरकार को संस्थागत समर्थन प्रदान करने की आवश्यकता है। अमोदेई ने वकालत की कि पर्याप्त कंपनियां बाहरी पर्यवेक्षण स्वीकार करने के बाद, उद्योग मॉडल क्षमताओं और प्रशिक्षण प्रक्रियाओं के आधार पर सत्यापन योग्य मंदी व्यवस्था विकसित करने की स्थिति में होगी।

तीसरे चरण में अंतर्राष्ट्रीय समन्वय शामिल है। अमोदेई ने सुझाव दिया कि लोकतांत्रिक देश सत्तावादी देशों सहित अन्य सरकारों के साथ सामान्य सुरक्षा नियमों पर चर्चा करें, जो सामान्य हित के क्षेत्रों से शुरू हो जैसे कि जैविक हथियार विकसित करने के लिए कृत्रिम बुद्धिमत्ता के उपयोग पर प्रतिबंध लगाना।

जोखिम नियंत्रण की तुलना में मॉडल क्षमताओं में तेजी से सुधार हो सकता है

अमोदेई ने कहा कि अगली पीढ़ी के मॉडल के विकास में भाग लेने के लिए कृत्रिम बुद्धिमत्ता मॉडल की क्षमता में हालिया वृद्धि से तकनीकी पुनरावृत्ति में तेजी आ सकती है। यदि मॉडल क्षमताओं में तेजी से सुधार जारी रहता है, तो मनुष्यों की संबंधित प्रणालियों को समझने, मूल्यांकन करने और नियंत्रित करने की क्षमता में तेजी नहीं आ सकती है।

उनका अनुमान है कि मॉडल व्याख्या, सुरक्षा मूल्यांकन, संरेखण अनुसंधान और परिचालन विनिर्देशों जैसे क्षेत्रों में अगले एक से दो वर्षों में पर्याप्त प्रगति हो सकती है। क्षमता उन्नति की गति को उचित रूप से नियंत्रित करने से उद्योग को कृत्रिम बुद्धिमत्ता अनुसंधान और विकास को पूरी तरह से रोकने की आवश्यकता के बिना इन उपायों के लिए समय मिल सकता है।

ओपनएआई के सीईओ सैम अल्टमैन ने बाद में स्वतंत्र मूल्यांकनकर्ताओं की शुरूआत का समर्थन किया और कहा कि ओपनएआई इसी तरह की व्यवस्था अपनाएगा। एलोन मस्क ने भी सार्वजनिक रूप से मॉडल विकास को धीमा करने के अमोदेई के आह्वान पर सहमति व्यक्त की है।