एंथ्रोपिक उन्नत एआई मॉडल के विकास को धीमा करने का आह्वान करता है; मस्क और अन्य उद्योग नेता सहमत हैं

सार:

एंथ्रोपिक के सीईओ डेरियो अमोदेई ने कहा कि कृत्रिम बुद्धिमत्ता उद्योग को नए मॉडलों के विकास को धीमा करने की जरूरत है और बढ़ती चिंताओं का हवाला दिया कि कृत्रिम बुद्धिमत्ता मनुष्यों के लिए "गंभीर" जोखिम पैदा करेगी। उन्होंने शनिवार को एक ब्लॉग पोस्ट में लिखा, "हमें अपने एआई मॉडल की क्षमताओं में सुधार की गति धीमी करनी चाहिए।" "प्रगति अभी भी तेज़ दिख रही है, और हमें प्राप्त समय का बुद्धिमानी से उपयोग करना चाहिए।"

उन्होंने दो मुख्य कारकों का हवाला दिया: कृत्रिम बुद्धिमत्ता की खुद को बेहतर बनाने की क्षमता, और ओपनएआई और हगिंग फेस से जुड़ी एक हालिया घटना। इस घटना में, एआई एजेंटों के एक समूह ने एक तीसरे पक्ष की वेबसाइट में सेंध लगाने के लिए एक-दूसरे के साथ सहयोग किया।

उन्होंने आगे कहा: "यह स्पष्ट होना चाहिए कि गति को नियंत्रित करने का मतलब मॉडल प्रशिक्षण या तकनीकी प्रगति को रोकना नहीं है, बल्कि इसका मतलब यह सुनिश्चित करना है कि कंपनियां मॉडल को समायोजित करने और सुरक्षा उपाय करने में पर्याप्त समय लगाएं, जबकि तीसरे पक्ष के मूल्यांकनकर्ताओं को इसकी पुष्टि करने की अनुमति दें।"

कृत्रिम बुद्धिमत्ता से उत्पन्न गंभीर जोखिमों के बारे में चिंताएं मुख्यधारा में आने लगी हैं, आंशिक रूप से इस सप्ताह एक एंथ्रोपिक शोधकर्ता के हाई-प्रोफाइल इस्तीफे के कारण, जो कृत्रिम बुद्धिमत्ता के अस्तित्व संबंधी जोखिमों के बारे में चिंतित थे और मानते थे कि कंपनी ने गैर-जिम्मेदाराना प्रथाओं को अपनाया है।

अमोदेई द्वारा लेख प्रकाशित करने के कुछ ही समय बाद, उन्होंने एक्सएआई कॉर्प की कमान संभाली। एलोन मस्क लिखते हैं: "डारियो सही है।"

ओपनएआई के सीईओ सैम ऑल्टमैन ने भी तुरंत अपनी राय व्यक्त करते हुए कहा कि वह अमोदेई के इस कथन से सहमत हैं कि "हमें अत्याधुनिक मॉडलों के विकास की गति को नियंत्रित करने की आवश्यकता है।"

उन्होंने एक्स पर एक पोस्ट में लिखा, ''स्वतंत्र मूल्यांकनकर्ताओं को कर्मचारी जैसी पहुंच प्रदान करना एक अच्छा विचार है और हम भी ऐसा ही करेंगे।'' हम जल्द ही अधिक जानकारी साझा करेंगे।''

कृत्रिम बुद्धिमत्ता में उछाल के दौरान, प्रमुख कृत्रिम बुद्धिमत्ता प्रयोगशालाओं के अधिकारी मानवता के अस्तित्व संबंधी संभावित खतरों की चेतावनी देते रहे हैं। इस दावे को कभी-कभी अपनी उत्पाद क्षमताओं को बढ़ावा देने और खुद को प्रौद्योगिकी के प्रबंधन के लिए सबसे उपयुक्त के रूप में चित्रित करने के प्रयास के रूप में खारिज कर दिया जाता है। अमोदेई ने स्वयं पहले कहा है कि 25% संभावना है कि चीजें "बहुत, बहुत खराब" हो जाएंगी।

एंथ्रोपिक ने लंबे समय से खुद को एक ऐसी कंपनी के रूप में स्थापित किया है जो प्रौद्योगिकी के संभावित खतरों को कम करने और इसके सामाजिक लाभों को अधिकतम करने के लिए जिम्मेदार और सुरक्षित तरीके से कृत्रिम बुद्धिमत्ता विकसित करने पर अधिक ध्यान केंद्रित करती है। इस साल की शुरुआत में, कंपनी ने यह निर्धारित करने के बाद कि यह एक विशेष साइबर सुरक्षा खतरा है, अपने माइथोस मॉडल की रिलीज को सीमित करने के लिए कड़ी मेहनत की। एन्थ्रोपिक ने पहले भी कहा था कि दुनिया को संयुक्त रूप से निर्णय लेने के लिए एक तंत्र स्थापित करने की आवश्यकता है कि इस तकनीक के विकास को कब धीमा किया जाना चाहिए।

उसी समय, एंथ्रोपिक लंबे समय से प्रतिद्वंद्वी ओपनएआई के साथ एक भयंकर प्रतिस्पर्धा में फंसा हुआ है, दोनों कंपनियां एंटरप्राइज़ उपयोगकर्ताओं को अधिक जटिल और मूल्यवान कार्यों को स्वचालित करने में मदद करने के लिए तेजी से परिष्कृत मॉडल विकसित कर रही हैं। दोनों कंपनियों ने लिस्टिंग के लिए गोपनीय फाइलिंग दाखिल की, और एंथ्रोपिक के इस साल की शुरुआत में वॉल स्ट्रीट पर आने की उम्मीद है।

हगिंग फेस सुरक्षा घटना सामने आने के तुरंत बाद, एंथ्रोपिक ने खुलासा किया कि उसके मॉडलों ने साइबर सुरक्षा परीक्षण के दौरान तीन संगठनों से समझौता किया था, जिससे एआई लैब की अपनी तकनीक को हाथ से निकलने से रोकने की क्षमता के बारे में चिंताएं बढ़ गईं। इस सप्ताह की शुरुआत में, एंथ्रोपिक ने कहा कि उसने चौथी घुसपैठ का पता लगाया है।

हालाँकि, हगिंग फेस सहित किसी भी एजेंट घुसपैठ ने अब तक महत्वपूर्ण नुकसान नहीं पहुँचाया है, अमोदेई ने कहा कि उन्हें चिंता है कि "6 से 12 महीनों में, ऐसे एजेंट क्लस्टर में लगातार बॉटनेट के माध्यम से पूरे इंटरनेट पर कब्ज़ा करने की क्षमता हो सकती है (संभवतः सैकड़ों अरबों डॉलर का नुकसान हो सकता है), और उसके बाद नुकसान का पैमाना बढ़ता रहेगा।"

अमोदेई ने लिखा, एंथ्रोपिक सुरक्षा उपायों को सत्यापित करने और घटनाओं की रिपोर्ट करने के लिए तीसरे पक्ष के मूल्यांकनकर्ताओं को पूर्ण पहुंच प्रदान करने के लिए प्रतिबद्ध होगा। उन्होंने कहा, एंथ्रोपिक के पास जल्द ही ये मूल्यांकनकर्ता होंगे, जो उन्हें डेस्क, बैज, कंपनी के लैपटॉप और "आंतरिक जोखिम मूल्यांकन टीम के लिए आम तौर पर समकक्ष पहुंच प्रदान करेगा।"

उन्होंने कहा, आगे के उपायों के लिए उद्योग-व्यापी समन्वय और वैश्विक सहयोग की आवश्यकता होगी।

"मेरा मानना ​​है कि कृत्रिम बुद्धिमत्ता मानव जीवन की गुणवत्ता में काफी सुधार कर सकती है। इन लाभों को महसूस करने की मेरी इच्छा कम नहीं हुई है," उन्होंने लिखा। "लेकिन ये लाभ केवल तभी प्राप्त किए जा सकते हैं जब तकनीक सही तरीके से विकसित की जाए; और जब तक हम खरीदे गए समय का अच्छा उपयोग करते हैं, यह सुनिश्चित करने के लिए असामान्य स्तर की सावधानी बरतनी चाहिए कि हम इसे सही तरीके से प्राप्त करें।"

चिंताएं बढ़ रही हैं

इस सप्ताह की शुरुआत में, ऑल्टमैन ने कहा कि कंपनी अत्याधुनिक कृत्रिम बुद्धिमत्ता के विकास को धीमा करने पर विचार कर रही है और आदर्श रूप से पूरे उद्योग के साथ समन्वित कार्रवाई करेगी।

कंपनी के मुख्य वैज्ञानिक जैकब पचॉकी ने पहले एक लेख जारी कर कृत्रिम बुद्धिमत्ता के खतरों के बारे में चेतावनी दी थी और कहा था कि उनका मानना ​​है कि कंपनियों को "यदि आवश्यक हो तो भविष्य के विकास को धीमा करने के लिए समन्वय करना चाहिए।"

कृत्रिम बुद्धिमत्ता शोधकर्ता जैकब कॉक्सन ने अपने दो पूर्व नियोक्ताओं - एंथ्रोपिक और ओपनएआई - पर सुपरइंटेलिजेंट एआई विकसित करने की दौड़ में "हमारे जीवन को खतरे में डालने" का आरोप लगाते हुए मंगलवार को इस्तीफा दे दिया। कॉक्सन ने एक सोशल मीडिया पोस्ट में कहा कि एआई डेवलपर्स का मानना ​​है कि तकनीक "इस दशक के अंत से पहले हम सभी को मार सकती है।"

इस संबंध में, इवान हुबिंगर, जो वर्तमान में एंथ्रोपिक में काम करते हैं, ने कहा कि वह और कंपनी के अन्य लोग वास्तव में इस परिदृश्य के बारे में चिंतित हैं। "मैं व्यक्तिगत रूप से मानता हूं कि अगले दस वर्षों के भीतर ऐसा होने की संभावना 10% से अधिक है।" उन्होंने एक्स पर लिखा।

जुलाई की शुरुआत में, शीर्ष कृत्रिम बुद्धिमत्ता कंपनियों के 1,000 से अधिक कर्मचारियों ने एक याचिका पर हस्ताक्षर किए, जिसमें अमेरिकी सरकार से प्रौद्योगिकी को बहुत तेजी से विकसित होने से रोकने के लिए कृत्रिम बुद्धिमत्ता विकास की गति को "सचेत रूप से नियंत्रित" करने में मदद करने के लिए एक तंत्र की स्थापना का समर्थन करने का आह्वान किया गया।

एआई मॉडल स्वायत्त रूप से हैकिंग हमलों को अंजाम देने में सक्षम होते जा रहे हैं। एंथ्रोपिक, ओपनएआई और मेटा सभी ने हाल के महीनों में खुलासा किया है कि उनके मॉडल ने परीक्षण वातावरण का उल्लंघन किया, खुले इंटरनेट तक पहुंच बनाई और परीक्षण के दौरान वास्तविक दुनिया के पीड़ितों से समझौता किया।

अमोदेई ने लेख में लिखा है कि एक समन्वित रणनीति अमेरिकी कृत्रिम बुद्धिमत्ता उद्योग में अग्रणी कंपनियों को किसी भी प्रतिस्पर्धी लाभ का त्याग किए बिना आवश्यक सुरक्षा कार्य पूरा करने में सक्षम बनाएगी। उन्होंने कहा कि कंपनियों को विशिष्ट क्षेत्रों में समन्वय करने में सक्षम बनाने के लिए संयुक्त राज्य अमेरिका से कुछ अविश्वास छूट की आवश्यकता होगी।

लेकिन अब तक, ट्रम्प प्रशासन ने नियमों को कड़ा करने और एआई विकास के चारों ओर रेलिंग लगाने में बहुत कम रुचि दिखाई है।