हाल ही में, अमेरिकी एआई यूनिकॉर्न एंथ्रोपिक के प्रमुख डारियो अमोदेई ने "द एडोलसेंस ऑफ टेक्नोलॉजी" लेख में एआई के विकास से उत्पन्न जोखिमों और चुनौतियों के बारे में विस्तार से बताया। उन्होंने बताया कि एआई की तीव्र प्रगति के साथ, मनुष्य जल्द ही लगभग अकल्पनीय शक्ति प्राप्त कर सकता है, लेकिन क्या वर्तमान सामाजिक, राजनीतिक और तकनीकी प्रणालियों में इस शक्ति का उपयोग करने की परिपक्वता है या नहीं यह एक अज्ञात प्रश्न है।
उन्होंने इस बात पर जोर दिया कि अनिश्चितताओं के बावजूद, हमें संभावित जोखिमों से निपटने के लिए निर्णायक और सतर्क कार्रवाई करनी चाहिए, और माना कि अगर हम सही उपाय करते हैं, तो इन चुनौतियों पर काबू पाना संभव है।
लेख में लगभग 20,000 शब्द हैं, और अमोदेई ने इसे कई आयामों से चर्चा करने का प्रयास किया है जैसे कि एआई मॉडल के जोखिम, व्यक्तिगत और संगठनात्मक जोखिम, राष्ट्रीय स्तर के जोखिम और आर्थिक और सामाजिक स्तर के जोखिम।
एआई प्रतियोगिता तेजी से उग्र होती जा रही है, जिससे स्वायत्तता जोखिमों पर ध्यान देना मुश्किल हो गया है
अमोदेई का मानना है कि एआई मॉडल में कुछ स्वायत्तता जोखिम हैं। साथ ही, उन्होंने दो चरम स्थितियों की आलोचना की: एक यह है कि "एआई के साथ कोई समस्या नहीं होगी": एआई को केवल निर्देशों को निष्पादित करने के लिए प्रशिक्षित किया जाता है, जैसे एक व्यापक रोबोट अचानक लोगों को मारना नहीं चाहता, इसलिए एआई विद्रोह विज्ञान कथा है;
एक अन्य श्रेणी यह है कि यदि "जितना संभव हो सके शक्ति प्राप्त करना" को एक प्रमुख रणनीति माना जाता है, तो एआई उसी अनुभव को सामान्यीकृत करेगा और कार्यों को पूरा करने के साधन के रूप में शक्ति की तलाश करेगा, और यह प्रवृत्ति वास्तविक दुनिया पर भी लागू होगी। एक बार जब एआई स्वायत्त चेतना प्राप्त कर लेता है और पर्याप्त रूप से बुद्धिमान हो जाता है, तो वे मानवता को कमजोर कर देंगे या नष्ट भी कर देंगे।
उनका मानना है कि यह रुख वास्तव में बड़े मॉडल प्रशिक्षण में शामिल "व्यक्तित्व मुखौटा" और मॉडल पीढ़ी की अप्रत्याशितता को नजरअंदाज करता है।
उन्होंने एंथ्रोपिक के आंतरिक परीक्षणों का हवाला दिया: क्लाउड को प्रशिक्षण के दौरान संकेत दिया गया था कि "कंपनी बुरी है", और इस विचार से कि "बुरे लोगों को दंडित किया जाना चाहिए", क्लाउड भ्रामक व्यवहार में लगा हुआ था; जब क्लाउड को धोखा न देने के लिए कहा गया, तो वास्तविक प्रशिक्षण के दौरान इस तरह के व्यवहार की अनुमति दी गई या उसे पुरस्कृत किया गया, जिससे क्लाउड को लगा कि वह एक "बुरा व्यक्ति" है और उसी के अनुसार व्यवहार करने लगा। इससे पता चलता है कि मॉडल प्रशिक्षण प्रक्रिया बेहद जटिल है, और डेटा, पर्यावरण, इनाम तंत्र आदि में बहुत सारे "जाल" हैं, जिससे बड़े मॉडलों के लिए अथाह परिणाम होते हैं।
अमोदेई ने बताया कि स्वायत्तता जोखिमों से निपटने में संरेखण और व्याख्यात्मकता सबसे प्रभावी हैं:
सबसे पहले, विश्वसनीय एआई मॉडल प्रशिक्षण और मार्गदर्शन प्रौद्योगिकी विकसित करें;
दूसरा है व्याख्यात्मकता विकसित करना। आप मॉडल के न्यूरॉन्स और सिनैप्स को उत्तेजनाओं, व्यवहारों आदि के साथ जोड़ने का प्रयास कर सकते हैं, जो मस्तिष्क की तंत्रिका विज्ञान की समझ के समान है, "विशेषताओं" की पहचान करना और व्यवहार को बदलने के लिए कुछ विशेषताओं को सक्रिय करने का चयन करना;
तीसरा है ऑनलाइन निगरानी और घटना रिपोर्टिंग में सुधार करना;
चौथा उद्योग और सामाजिक सहयोग और कानून के माध्यम से एआई कंपनियों के व्यवहार को सीधे प्रभावित करना है। चूँकि AI कंपनियाँ वर्तमान में अत्यधिक प्रतिस्पर्धी हैं, इसलिए स्वायत्तता जोखिमों पर ध्यान देना कठिन हो जाएगा।
एआई शक्ति का दुरुपयोग
इस अध्याय में, अमोदेई व्यक्तियों या संगठनों से राष्ट्रीय स्तर तक एआई जोखिमों को उठाता है, जैसे एआई हथियार, निगरानी प्रणाली, जनमत प्रभाव, कूटनीति और सैन्य युद्ध आदि।
हालाँकि, अमोदेई चीन पर अमेरिका के चिप निर्यात नियंत्रण से सहमत थे, "हमें चीन को चिप्स, चिप निर्माण उपकरण या डेटा केंद्र बिल्कुल नहीं बेचना चाहिए।"
उनके विचार में, चिप्स एआई के विकास में सबसे बड़ी बाधा हैं, और चिप निर्यात नियंत्रण एक सरल लेकिन बहुत प्रभावी उपाय है। चीन की अत्याधुनिक चिप्स की बड़े पैमाने पर उत्पादन क्षमता संयुक्त राज्य अमेरिका से कई साल पीछे है, और डेटा सेंटर शक्ति के निर्माण की महत्वपूर्ण अवधि अगले कुछ वर्षों में हो सकती है।
अमोदेई का मानना है कि शक्तिशाली एआई में राष्ट्रीय कूटनीति, सैन्य रणनीति, अनुसंधान और विकास, आर्थिक रणनीति और कई अन्य क्षेत्रों की दक्षता में उल्लेखनीय सुधार करने की क्षमता है।
उदाहरण के लिए, भले ही कुछ देश स्वयं अत्याधुनिक मॉडल विकसित नहीं करते हैं, यदि वे अपने स्वयं के डेटा केंद्रों के माध्यम से बड़े पैमाने पर बड़े मॉडल चला सकते हैं, तो भी कंप्यूटिंग शक्ति के दुरुपयोग का खतरा है।
एआई का श्रम बाजार पर अल्पकालिक प्रभाव पड़ेगा
अमोदेई का मानना है कि एआई पर्याप्त आर्थिक विकास लाएगा, जिसमें वैज्ञानिक अनुसंधान, बायोमेडिकल नवाचार, विनिर्माण, आपूर्ति श्रृंखला, वित्तीय प्रणाली दक्षता आदि में प्रगति शामिल है। "औसत वार्षिक जीडीपी वृद्धि दर 10% से 20% तक बनाए रखना संभव है।"
हालाँकि, उन्होंने यह भी भविष्यवाणी की कि हालाँकि AI आर्थिक विकास को गति देगा, लेकिन अल्पावधि में इसका श्रम बाजार पर भी बड़ा प्रभाव पड़ सकता है।
उनके फैसले का आधार यह है कि: पहला, एआई की विकास गति किसी भी पिछली क्रांति की तुलना में बहुत तेज है; दूसरा, जैसे-जैसे एआई मनुष्य की सामान्य संज्ञानात्मक क्षमताओं के करीब आता जाता है, एआई विशिष्ट नौकरियों को प्रतिस्थापित नहीं करता है, बल्कि मनुष्य के सामान्य संज्ञानात्मक श्रम को प्रतिस्थापित करता है।
अमोदेई ने यह भी देखा कि एआई अभी भी उन लोगों को प्रभावित कर रहा है जिनके पास कुछ अंतर्निहित जानकारी है, क्योंकि एआई योग्यता सीढ़ी की ओर कदम दर कदम विकसित हो रहा है। साथ ही, AI कमियों को भी जल्दी पूरा कर सकता है। हर बार जब इसमें कोई समस्या आती है तो उसे तुरंत ठीक किया जा सकता है।
उनका मानना है कि श्रम बाजार इतने बड़े झटके को सहने के लिए पर्याप्त लचीला हो सकता है। लेकिन भले ही हम अंततः अनुकूलन कर सकें, उपरोक्त कारक संकेत देते हैं कि अल्पकालिक प्रभाव का प्रभाव अभूतपूर्व होगा।
इसके अलावा, अमोदेई को इस बात की भी चिंता है कि एआई से धन का अत्यधिक संकेन्द्रण भी होगा, जैसे डेटा सेंटर "प्रतिभाओं का राष्ट्र"। एआई डेटा सेंटर वर्तमान में अमेरिकी आर्थिक विकास का एक बड़ा हिस्सा हैं, और बड़ी प्रौद्योगिकी कंपनियां तेजी से एआई या एआई बुनियादी ढांचे के निर्माण पर ध्यान केंद्रित कर रही हैं।
एआई कोडिंग ≠ सॉफ्टवेयर इंजीनियरिंग
एआई प्रोग्रामिंग के क्षेत्र में एक प्रभावशाली कंपनी के रूप में, एंथ्रोपिक का एआई प्रोग्रामिंग टूल क्लाउड कोड और मॉडल क्लाउड 3.7 सॉनेट कोडिंग कार्यों में अच्छे हैं।
साथ ही इस लेख में, अमोदेई ने बताया कि एआई कोडिंग वर्तमान में एंथ्रोपिक के अधिकांश कोडिंग कार्य करती है, जिससे अगली पीढ़ी के एआई सिस्टम के निर्माण में इसकी गति काफी तेज हो गई है। AI की नई पीढ़ी को स्वतंत्र रूप से AI की अगली पीढ़ी बनाने में केवल एक या दो साल लग सकते हैं। पिछले दो वर्षों में, AI मॉडल मुश्किल से कोड की एक पंक्ति लिख सका।
हालाँकि, उनके विचार में, "सभी कोड लिखना" और "एक सॉफ्टवेयर इंजीनियर का काम शुरू से अंत तक करना" दो पूरी तरह से अलग चीजें हैं। क्योंकि बाद का काम कोड लिखने से कहीं आगे तक जाता है, बल्कि इसमें परीक्षण, पर्यावरण, फ़ाइल स्थापना, आईटी क्लाउड परिनियोजन, उत्पाद पुनरावृत्ति आदि भी शामिल है।