टाइम पत्रिका के अनुसार, अमेरिकी एआई स्टार्टअप एंथ्रोपिक ने बड़ी सफलता हासिल की है और खुद को शीर्ष एआई अनुसंधान प्रयोगशालाओं में सबसे अधिक सुरक्षा-केंद्रित कंपनी के रूप में पेश किया है। हालाँकि, एंथ्रोपिक अधिकारियों ने टाइम्स को बताया,कंपनी अपनी प्रमुख सुरक्षा नीति का एक मुख्य वादा छोड़ रही है।
एंथ्रोपिक ने 2023 में वादा किया था कि वह कभी भी एआई सिस्टम को प्रशिक्षित नहीं करेगा जब तक कि वह पहले से पर्याप्त सुरक्षा उपाय सुनिश्चित नहीं कर लेता। यह प्रतिबद्धता एंथ्रोपिक की रिस्पॉन्सिबल स्केलिंग पॉलिसी (आरएसपी) का मुख्य स्तंभ बन गई है। वर्षों से, एंथ्रोपिक अधिकारियों ने इस प्रतिबद्धता को इस बात के प्रमाण के रूप में पेश किया है कि वे एक जिम्मेदार कंपनी हैं जो बाजार के प्रलोभन का विरोध कर सकती है और संभावित खतरनाक तकनीक विकसित करने की जल्दी में नहीं है।
लेकिन हाल के महीनों में कंपनी ने आरएसपी में आमूल-चूल बदलाव करने का फैसला किया।इस निर्णय में उचित जोखिम शमन उपायों को पहले से सुनिश्चित किए बिना एआई मॉडल जारी नहीं करने की मूल प्रतिबद्धता को छोड़ना शामिल है।
एंथ्रोपिक के मुख्य विज्ञान अधिकारी जेरेड कपलान ने एक विशेष साक्षात्कार में टाइम को बताया, "हमारा मानना है कि एआई मॉडल का प्रशिक्षण बंद करने से वास्तव में किसी को मदद नहीं मिलती है।" "जैसे-जैसे AI तेजी से आगे बढ़ रहा है,हमें नहीं लगता कि जब हमारे प्रतिस्पर्धी तेजी से आगे बढ़ रहे हों तो हमारे लिए एकतरफा प्रतिबद्धताएं बनाना उचित है।"
टाइम्स द्वारा समीक्षा की गई एंथ्रोपिक की नई नीति में शामिल हैं: एआई सुरक्षा जोखिमों के बारे में अधिक पारदर्शी होने की प्रतिबद्धता, जिसमें सुरक्षा परीक्षणों में एंथ्रोपिक के स्वयं के मॉडल के प्रदर्शन का अतिरिक्त खुलासा शामिल है; सुरक्षा में निवेश करने और प्रतिस्पर्धियों के स्तर से आगे निकलने की प्रतिबद्धता; और एंथ्रोपिक की एआई विकास प्रक्रिया में "देरी" करने की प्रतिबद्धता यदि नेतृत्व का मानना है कि एंथ्रोपिक एआई दौड़ में अग्रणी है और मानता है कि विनाशकारी जोखिमों की संभावना अधिक है।
लेकिन कुल मिलाकर, आरएसपी के इस समायोजन ने एंथ्रोपिक की सुरक्षा नीति पर बाधाओं को काफी कम कर दिया है। पहले, नीति स्पष्ट रूप से उचित सुरक्षा उपायों के बिना कंपनियों को एक निश्चित स्तर से परे प्रशिक्षण मॉडल से प्रतिबंधित करती थी।
एंथ्रोपिक को वर्तमान में ओपनएआई, एलोन मस्क के एक्सएआई और गूगल जैसे प्रतिद्वंद्वियों से कड़ी प्रतिस्पर्धा का सामना करना पड़ रहा है, जो सभी नियमित आधार पर अत्याधुनिक उपकरण जारी कर रहे हैं। कंपनी अपने क्लाउड टूल के उपयोग को लेकर अमेरिकी रक्षा विभाग के साथ भी विवाद में फंसी हुई है। एंथ्रोपिक ने पहले पेंटागन को बताया था कि इन उपकरणों का उपयोग घरेलू निगरानी या घातक स्वायत्त संचालन के लिए नहीं किया जा सकता है। हालाँकि, अमेरिकी रक्षा विभाग ने भी एंथ्रोपिक को एक अल्टीमेटम जारी किया, जिसमें इसके उपयोग को प्रतिबंधित करने पर एंथ्रोपिक के अनुबंध को समाप्त करने की धमकी दी गई।
एंथ्रोपिक ने कहा कि सुरक्षा नीति में यह समायोजन एआई विकास की गति और संघीय स्तर पर प्रासंगिक नियमों की कमी के आधार पर एक अद्यतन था।
एक मानवशास्त्रीय प्रवक्ता ने कहा कि यह समायोजनअसमान नीति संदर्भ में कंपनियों को कई प्रतिस्पर्धियों के साथ प्रतिस्पर्धा करने में मदद करने के लिए डिज़ाइन किया गया है।इस माहौल में, कंपनियों को स्वयं निर्णय लेना होगा कि सुरक्षा सुरक्षा उपाय पर्याप्त हैं या नहीं। उन्होंने यह भी कहा कि सुरक्षा प्रतिबद्धता का पेंटागन वार्ता से कोई लेना-देना नहीं है।
एंथ्रोपिक ने बदलाव की घोषणा करते हुए एक ब्लॉग पोस्ट में कहा, "नीतिगत माहौल एआई प्रतिस्पर्धात्मकता और आर्थिक विकास को प्राथमिकता देने की ओर स्थानांतरित हो गया है, जबकि सुरक्षा-उन्मुख चर्चाओं को अभी भी संघीय स्तर पर पर्याप्त आधार हासिल नहीं हुआ है।" कंपनी ने कहा कि वह उद्योग-अग्रणी सुरक्षा मानकों का पालन करने के लिए प्रतिबद्ध है।