बिजनेस इनसाइडर के अनुसार, एंथ्रोपिक के सीईओ डारियो अमोदेई अपने स्वयं के एआई उत्पादों के संभावित जोखिमों के बारे में अक्सर चेतावनी देने के लिए जाने जाते हैं, लेकिन इससे उनकी कंपनी को नुकसान भी हुआ है।इस महीने प्रकाशित एक लेख में, अमोदेई ने चेतावनी दी कि एआई की शक्ति "निर्विवाद हो गई है।". उदाहरण के तौर पर, उन्होंने एंथ्रोपिक के नवीनतम मॉडल, मिथोस का हवाला दिया, जो साइबर सुरक्षा, वित्तीय उद्योग, महत्वपूर्ण बुनियादी ढांचे और राष्ट्रीय सुरक्षा के लिए "बहुत वास्तविक जोखिम" पेश करता है।
अमोदेई
इसके बाद उन्होंने अमेरिकी सरकार से इन जोखिमों से निपटने के लिए मजबूत हस्तक्षेप उपाय करने का आह्वान किया। लेकिन शुक्रवार को, उनकी चेतावनी का उलटा असर होता दिखा: अमेरिकी सरकार ने अचानक एंथ्रोपिक के नवीनतम मॉडल पर निर्यात नियंत्रण लगा दिया।
एंथ्रोपिक ने कहा कि ट्रम्प प्रशासन द्वारा विदेशी उपयोगकर्ताओं को मॉडलों तक पहुंचने से रोकने के आदेश के बाद उसने अपने मिथोस 5 और फैबल 5 तक पहुंच बंद कर दी है। पेंटागन के मुख्य सूचना अधिकारी ने एक्स प्लेटफॉर्म पर एक पोस्ट में इस कदम के लिए समर्थन व्यक्त करते हुए लिखा: "कुछ चीजें राजस्व चक्र, प्रचार और प्री-आईपीओ मूल्यांकन से अधिक महत्वपूर्ण हैं।"
इस अचानक हुए घटनाक्रम ने पूरे प्रौद्योगिकी उद्योग को दहशत में डाल दिया है। एआई शोधकर्ता और जाने-माने संशयवादी गैरी मार्कस ने ट्रम्प प्रशासन के कदम को "घोर अतिप्रतिक्रिया और प्रतिकूल" कहा।
यांग लिकुन ने कहा कि अमोदेई को परिणाम भुगतना पड़ रहा है
हालाँकि, "एआई गॉडफ़ादर" यान लेकन ने दोष अमोदेई पर लगाया। यांग लिकुन ने कहा, "अमोदेई मिथोस/फ़ेबल मॉडल (और संपूर्ण एआई क्षेत्र) के बारे में हास्यास्पद चिंता फैला रहा है, और अब अंततः इसका फल मिल गया है," आप जो बोएंगे वही काटेंगे।
एआई जोखिमों के बारे में लंबी चेतावनी
अमोदेई लंबे समय से एआई उद्योग में खुद को "समझदार वयस्क" के रूप में चित्रित करने की कोशिश कर रहे हैं।वह ओपनएआई में एक अभिन्न शोधकर्ता थे, जब तक उन्होंने कंपनी नहीं छोड़ी और एंथ्रोपिक की स्थापना इस चिंता से की कि ओपनएआई के सीईओ सैम ऑल्टमैन उनकी सुरक्षा सुनिश्चित करने के बजाय उत्पाद रिलीज की गति को प्राथमिकता दे रहे थे।
तब से, उन्होंने बयानों की एक श्रृंखला जारी की है, जिसमें कहा गया है कि वह और ओपनएआई, गूगल, मेटा, अमेज़ॅन और अन्य कंपनियां जो विकसित कर रही हैं और जनता के लिए जारी कर रही हैं, वह जीवन के उस तरीके को मौलिक रूप से बदल सकती है जिससे मनुष्य परिचित हैं। यह प्रभाव सकारात्मक और नकारात्मक दोनों हो सकता है।
अमोदेई ने चेतावनी दी है कि एआई प्रवेश स्तर की आधी सफेदपोश नौकरियों को खत्म कर सकता है और बेरोजगारी को उस स्तर तक बढ़ा सकता है जो सीओवीआईडी -19 महामारी के बाद से नहीं देखा गया है, संभवतः 2008 के वैश्विक वित्तीय संकट (महान मंदी) के बेरोजगारी के झटके को भी दोहरा सकता है।
जबकि अमोदेई हाल के सप्ताहों में नौकरियों पर एआई के प्रभाव पर नरम हो गए हैं क्योंकि एंथ्रोपिक सार्वजनिक होने की तैयारी कर रहा है, वह और एंथ्रोपिक अन्य सुरक्षा जोखिमों के बारे में अपनी चेतावनियों में अनारक्षित रहे हैं।
जून में प्रकाशित एक लेख में उन्होंने कहा, "मिथोस-स्तरीय मॉडल द्वारा उत्पन्न साइबर सुरक्षा जोखिम आखिरी जोखिम नहीं होंगे जिनका हमें सामना करना पड़ेगा।" "मुझे लगता है कि जैव सुरक्षा जोखिम जल्द ही आ सकते हैं, और अधिक गंभीर एआई स्वायत्तता जोखिम बहुत दूर नहीं होंगे।"
उन्होंने यह भी कहा कि एआई के बारे में विधायकों की चिंता और जागरूकता का मौजूदा स्तर अब एआई तकनीक के तेजी से विकास के साथ नहीं रह सकता है।
इस महीने की शुरुआत में, एंथ्रोपिक ने एक पेपर में अत्याधुनिक एआई मॉडल के विकास पर रोक लगाने का आह्वान किया था, जिसमें चेतावनी दी गई थी कि नवीनतम मॉडल आत्म-सुधार के करीब पहुंच रहे हैं, जिससे "मानव के एआई सिस्टम पर नियंत्रण खोने का खतरा बढ़ सकता है।"
"हमारा मानना है कि यह एक अच्छी बात होगी यदि दुनिया अत्याधुनिक एआई के विकास को धीमा करने या अस्थायी रूप से रोकने का विकल्प चुन सकती है ताकि सामाजिक संरचना और संरेखण अनुसंधान तकनीकी प्रगति के साथ बना रह सके।" एन्थ्रोपिक ने कहा।
विडंबना यह है कि यह "विराम बटन" अंततः पिछले शुक्रवार को दबाया गया, लेकिन लक्ष्य एंथ्रोपिक ही बन गया।