सार:
एंथ्रोपिक के सीईओ डारियो अमोदेई ने सुरक्षा मूल्यांकन और सुरक्षात्मक उपायों के लिए समय निकालने के लिए अत्याधुनिक कृत्रिम बुद्धिमत्ता मॉडल की क्षमताओं में सुधार की गति को नियंत्रित करने का आह्वान किया। उन्होंने स्थायी स्वतंत्र मूल्यांकनकर्ताओं को शुरू करने, प्रमुख डेवलपर्स के सुरक्षा मानकों का समन्वय करने और सीमा पार जोखिम प्रबंधन और नियंत्रण सहयोग को बढ़ावा देने का प्रस्ताव रखा।
स्वतंत्र मूल्यांकनकर्ताओं को आंतरिक पहुंच प्राप्त होती है
अमोदेई ने प्रस्ताव दिया कि अत्याधुनिक एआई कंपनियों को योग्य स्वतंत्र मूल्यांकन टीमों को निरंतर, लगभग-कर्मचारी-स्तर की पहुंच प्रदान करनी चाहिए ताकि वे मॉडल परीक्षण, जोखिम रिपोर्टिंग, सुरक्षा ढांचे और घटना प्रबंधन प्रक्रियाओं की समीक्षा कर सकें।
एंथ्रोपिक इस उपाय को लागू करने वाला पहला व्यक्ति बनने के लिए प्रतिबद्ध है। बाहरी कर्मियों को कंपनी की जोखिम मूल्यांकन टीम के समान पहुंच प्राप्त होगी और वे एंथ्रोपिक के संपादकीय नियंत्रण के बिना निष्कर्ष प्रकाशित करने में सक्षम होंगे।
इस व्यवस्था को अभी भी मूल्यांकनकर्ताओं के चयन, फंडिंग स्रोतों और गोपनीयता दायित्वों जैसे मुद्दों को हल करने की आवश्यकता है। मॉडल भार, प्रशिक्षण अवसंरचना और सुरक्षा कमजोरियाँ अत्यधिक संवेदनशील जानकारी हैं, और पहुंच अधिकारों के विस्तार से सूचना सुरक्षा आवश्यकताओं में भी वृद्धि होगी।
उद्योग समन्वय असुरक्षित योग्यता प्रतिस्पर्धा को सीमित करता है
दूसरी सिफ़ारिश प्रमुख एआई प्रयोगशालाओं को जोखिम परीक्षण, सुरक्षा सीमा और मॉडल रिलीज़ स्थितियों के लिए सामान्य मानक विकसित करने के लिए कहती है। अमोदेई का मानना है कि प्रतिस्पर्धी दबाव कंपनियों को प्रशिक्षण में तेजी लाने और गति जारी करने के लिए प्रेरित कर सकता है, जिससे सुरक्षात्मक उपायों के लिए समय पर मॉडल क्षमताओं को बनाए रखना मुश्किल हो जाता है।
एंथ्रोपिक की रिस्पॉन्सिबल स्केलिंग पॉलिसी ने एक स्तरीय तंत्र अपनाया है। जब मॉडल जैविक, साइबर, स्वचालित आर एंड डी, या नियंत्रण जोखिम सीमा के नुकसान को पार करते हैं, तो कंपनियों को अपनी तैनाती सुरक्षा और सूचना सुरक्षा स्तर बढ़ाने की आवश्यकता होती है।
अंतर-उद्यम सहयोग में अविश्वास सीमाएं शामिल हो सकती हैं। सुरक्षा परीक्षण मानकों को विकसित करने के लिए मिलकर काम करने में सार्वजनिक रुचि है, लेकिन व्यवस्थाएं अभी भी नियामक जांच के अधीन हो सकती हैं यदि वे छोटे खिलाड़ियों को बाजार में प्रवेश करने से रोकती हैं, उत्पाद लॉन्च का समन्वय करती हैं या प्रतिस्पर्धा कम करती हैं।
अंतर्राष्ट्रीय सहयोग सीमा पार जोखिमों को कवर करता है
तीसरी सिफ़ारिश में अंतर-सरकारी सहयोग शामिल है, जिसमें चीन जैसे रणनीतिक प्रतिस्पर्धियों के साथ न्यूनतम सुरक्षा व्यवस्था स्थापित करना शामिल है। अमोदेई का मानना है कि मॉडल और प्रौद्योगिकियां सीमाओं के पार प्रवाहित हो सकती हैं, और किसी एक देश या उद्यम की विकास गति धीमी होने से उच्च जोखिम वाले अनुसंधान एवं विकास को कमजोर नियमों वाले क्षेत्रों में स्थानांतरित किया जा सकता है।
एंथ्रोपिक द्वारा सूचीबद्ध संभावित जोखिमों में जैव हथियार गतिविधियों में सहायता के लिए मॉडल का उपयोग करना, सॉफ्टवेयर कमजोरियों की बड़े पैमाने पर खोज, महत्वपूर्ण बुनियादी ढांचे पर हमले और एआई सिस्टम को डेवलपर नियंत्रण से बाहर करना शामिल है। एआई स्वचालित रूप से अगली पीढ़ी के मॉडल के विकास में भाग लेता है, जो क्षमता में सुधार को और भी तेज कर सकता है।
कंपनी का प्रस्ताव है कि अत्याधुनिक डेवलपर्स को सिस्टम कार्ड और नियमित जोखिम रिपोर्ट प्रकाशित करनी चाहिए, स्वतंत्र समीक्षा स्वीकार करनी चाहिए और नामित सरकारी एजेंसियों को आवश्यक जानकारी प्रदान करनी चाहिए। सरकारों के पास ऐसे मॉडलों की तैनाती को रोकने या विलंबित करने की सीमित शक्तियां होनी चाहिए जो विनाशकारी क्षति का कारण बन सकती हैं, स्पष्ट सीमाएं और अपील तंत्र मौजूद होने चाहिए।
उद्योग समर्थन को अभी तक समझौते में तब्दील नहीं किया गया है
ओपनएआई के सीईओ सैम ऑल्टमैन स्वतंत्र मूल्यांकनकर्ताओं को आंतरिक पहुंच देने का समर्थन करते हैं और कहा कि ओपनएआई इसी तरह की व्यवस्था अपनाएगा। Google डीपमाइंड के सीईओ डेमिस हसाबिस और xAI प्रमुख एलोन मस्क ने भी सार्वजनिक रूप से अमोदेई की समग्र दिशा का समर्थन किया है।
प्रासंगिक बयानों ने अभी तक कोई बाध्यकारी उद्योग समझौता नहीं बनाया है। कौन से क्षमता संकेतक मंदी या निलंबन को गति देंगे, क्या स्वतंत्र समीक्षा का अनिवार्य प्रभाव होगा, और सीमा पार समझौतों को कैसे लागू किया जाएगा, यह व्यवसायों और सरकारों द्वारा निर्धारित किया जाना बाकी है।
टिप्पणियाँ