वॉल स्ट्रीट जर्नल के अनुसार, एआई स्टार्टअप एंथ्रोपिक ने दुनिया की शीर्ष एआई प्रयोगशालाओं से इस आधार पर अनुसंधान और विकास की गति को धीमा करने पर विचार करने के लिए कहा कि वर्तमान एआई सिस्टम बहुत तेजी से आगे बढ़ रहे हैं और जल्द ही मानवीय हस्तक्षेप के बिना खुद को बेहतर बनाने में सक्षम हो सकते हैं, जिससे बड़े सामाजिक जोखिम पैदा हो सकते हैं। एंथ्रोपिक ने गुरुवार को एक ब्लॉग पोस्ट में कहा कि अगर यह वैश्विक एआई विकास की गति को धीमा कर सकता है, तो यह "शायद एक अच्छी बात होगी।" लेख में एंथ्रोपिक के आंतरिक डेटा का भी खुलासा किया गया है, जिसमें दिखाया गया है कि इसके सबसे उन्नत एआई मॉडल की क्षमताओं में कितनी तेजी से सुधार हुआ है।
यह लेख एंथ्रोपिक के आंतरिक अनुसंधान और नीति प्रमुख द्वारा लिखा गया था। वो कहता है,ऐसा प्रतीत होता है कि मॉडल विकास "पुनरावर्ती आत्म-सुधार" की दिशा में आगे बढ़ रहा है, जहां एआई सिस्टम मानवीय हस्तक्षेप के बिना खुद को बेहतर बना सकते हैं।एआई उद्योग में कुछ लोग इस सीमा को संभावित खतरे और भारी सामाजिक अशांति के संकेत के रूप में देखते हैं।
लेखक मरीना फेवरो और जैक क्लार्क लिखते हैं, "हमारा मानना है कि यह एक अच्छी बात होगी अगर दुनिया सामाजिक संरचना और संरेखण अनुसंधान को तकनीकी प्रगति के साथ तालमेल रखने के लिए अत्याधुनिक एआई के विकास को धीमा करने या अस्थायी रूप से रोकने का विकल्प चुन सकती है।" लेख इस बात पर एक वैश्विक समझौते का प्रस्ताव करता है कि एआई के विकास को कैसे धीमा किया जा सकता है, साथ ही यह सत्यापित करने के लिए एक सत्यापन तंत्र भी है कि प्रतिस्पर्धी समझौते का पालन कर रहे हैं या नहीं।
लेख में चेतावनी दी गई है कि पुनरावर्ती आत्म-सुधार अभी तक नहीं हुआ है और यह अपरिहार्य नहीं है, "लेकिन यह अधिकांश संगठनों की तैयारी की तुलना में जल्दी आ सकता है।"
एंथ्रोपिक का ब्लॉग
एंथ्रोपिक ने हाल ही में कंपनी का लगभग 1 ट्रिलियन डॉलर मूल्य का फंडिंग राउंड पूरा किया है और इसके स्टॉक को सार्वजनिक करने की प्रक्रिया शुरू करने के लिए गोपनीय दस्तावेज दाखिल किए हैं। कंपनी हाल ही में एआई वर्चस्व के लिए ओपनएआई के साथ कड़ी प्रतिस्पर्धा में अग्रणी बनकर उभरी है। ओपनएआई के भी जल्द ही आईपीओ से संबंधित दस्तावेज जमा करने की उम्मीद है।
कंपनी ने अपनी स्थापना के बाद से एआई सुरक्षा पर जोर दिया है, लेकिन लंबे समय से बाहरी दुनिया द्वारा इसकी आलोचना की गई है, यह मानते हुए कि इसका नीति प्रस्ताव वास्तव में प्रतिस्पर्धियों के एआई अनुसंधान और विकास की प्रगति को धीमा करने का एक प्रयास है। उद्यम पूंजीपति और राष्ट्रपति ट्रम्प के अनौपचारिक सलाहकार डेविड सैक्स ने एंथ्रोपिक के नेतृत्व पर "नियामक कब्जा एजेंडा" अपनाने का आरोप लगाया है जो प्रतिस्पर्धियों को दबाने के लिए विनियमन का उपयोग करता है।
हाल ही में एक पॉडकास्ट में, सैक्स ने कहा कि वाशिंगटन में यह "नियामक कब्जा एजेंडा" अंततः तथाकथित ओपन सोर्स मॉडल पर प्रतिबंध लगा सकता है। ये मॉडल आम तौर पर कम महंगे होते हैं और व्यवसायों और संस्थानों के लिए इन्हें स्वयं तैनात करना और विकसित करना आसान होता है।
दूसरों का मानना है कि एंथ्रोपिक की अपने उपकरणों की खतरनाक क्षमता के बारे में चेतावनियों को एक विपणन चाल के रूप में भी देखा जा सकता है।ये संशयवादी एंथ्रोपिक के अपने शक्तिशाली "माइथोस" साइबर सुरक्षा मॉडल की रिलीज को सीमित करने के फैसले की ओर इशारा करते हैं, जो कोड में कमजोरियों और मुद्दों को ढूंढ सकता है, अपने उत्पाद की क्षमताओं को बढ़ावा देने के लिए एक चतुर प्रचार चाल के रूप में।
इस संबंध में, एंथ्रोपिक के नेतृत्व ने कहा कि कंपनी एआई सुरक्षा मुद्दों को गंभीरता से लेती है और संबंधित जोखिमों पर अधिक सामाजिक चर्चा को बढ़ावा देने के लिए प्रतिबद्ध है।