एआई हथियारों की होड़ से असंतोष के बीच मानवविज्ञानी शोधकर्ता जैकब कॉक्सन ने इस्तीफा दे दिया

सार:

जैकब कॉक्सन ने एक्स पर एंथ्रोपिक से अपने इस्तीफे की घोषणा की। उन्होंने कहा कि वह पिछले तीन वर्षों से ओपनएआई और एंथ्रोपिक में प्री-ट्रेनिंग रिसर्च में लगे हुए हैं, लेकिन उनका मानना ​​है कि कोई भी कंपनी जिम्मेदार तरीके से एआई विकास को आगे नहीं बढ़ा रही है। इसके बजाय, वे "सीधे आत्म-सुधार अधीक्षण की ओर जा रहे हैं" और मानव सुरक्षा को खतरे में डाल रहे हैं।

कॉक्सन ने कहा कि वर्तमान में इन बंद प्रयोगशालाओं में बनाए जा रहे एआई सिस्टम में जल्द ही "अलौकिक" क्षमताएं होंगी, जो हैकिंग हमलों को अंजाम देने, रातों-रात एक निश्चित क्षेत्र के पैटर्न को बदलने और वास्तविक दुनिया में शक्ति और संसाधन हासिल करने में सक्षम होंगी। उन्होंने बताया कि प्रासंगिक अनुसंधान प्रगति कई दिशाओं में आगे बढ़ रही है और धीमी होने का कोई स्पष्ट संकेत नहीं दिख रहा है।

उन्होंने यह भी उल्लेख किया कि ओपनएआई के सीईओ सैम ऑल्टमैन और एंथ्रोपिक के सीईओ डारियो अमोदेई के सार्वजनिक बयानों को देखते हुए, बाहरी दुनिया सोच सकती है कि दोनों कंपनियां सावधानी से एआई के विकास को आगे बढ़ा रही हैं, लेकिन उनका मानना ​​है कि ऐसा नहीं है। कॉक्सन का दावा है कि ये अभ्यासकर्ता निजी तौर पर मानते हैं कि एआई "सदी के अंत तक हम सभी को मार सकता है," और यह कोई विपणन चर्चा नहीं है; उन्होंने यह भी कहा कि ऑल्टमैन और अमोदेई जैसे अधिकारी मीडिया का सामना करते समय अधिक संयमित दिखने के लिए अपनी बयानबाजी को समायोजित करेंगे, लेकिन निजी तौर पर वे वास्तव में इस बात से बहुत चिंतित हैं कि क्या बनाया जा रहा है।

उनकी राय में, OpenAI और Anthropic की आंतरिक संस्कृतियाँ भी भिन्न हैं। कॉक्सन ने कहा कि ओपनएआई के कई कर्मचारी "सभ्यता-स्तर के जोखिमों के बारे में गहराई से जागरूक नहीं हैं"; एंथ्रोपिक में, प्रासंगिक जोखिम "हर किसी के लिए बहुत स्पष्ट" हैं, लेकिन कंपनी अभी भी एजीआई विकसित करने वाली पहली कंपनी बनने की दौड़ में शामिल है। कॉक्सन ने कहा कि एंथ्रोपिक का मानना ​​था कि चूंकि अन्य लोग जिम्मेदारी से काम नहीं करेंगे, इसलिए उसे पहले रेस जीतनी होगी।

कॉक्सन का मानना ​​है कि इस संदर्भ में, कई प्रमुख निर्णय केवल निजी कंपनियों में स्लैक में ही पूरे नहीं किए जाने चाहिए। वह हाल की घटनाओं के बाद अमेरिकी एआई प्रयोगशालाओं के बीच बढ़ते समन्वय को लेकर सतर्क रूप से आशावादी हैं, लेकिन उनका मानना ​​है कि संयुक्त राज्य अमेरिका के बाहर प्रयोगशालाओं तक विस्तारित होने के बाद ऐसा सहयोग अप्रभावी होगा। इस उद्देश्य से, उन्होंने प्रस्ताव दिया कि मॉडल क्षमता सुधार पर अस्थायी प्रतिबंध पर विचार किया जा सकता है।

पोस्ट के अंत में, जैकब कॉक्सन ने अन्य प्रयोगशाला शोधकर्ताओं से अगले पांच वर्षों के बारे में गंभीरता से सोचने का आह्वान किया, समस्याओं से बचने के लिए नहीं, बल्कि एआई विकास को विभिन्न दिशाओं में आगे बढ़ाने के लिए।