15 दिसंबर की खबर के मुताबिक, जब ओपनएआई की स्थापना हुई थी, तब उसने कृत्रिम बुद्धिमत्ता बनाने का वादा किया था जिससे पूरी मानव जाति को फायदा होगा, भले ही ये कृत्रिम बुद्धिमत्ता अपने रचनाकारों से अधिक स्मार्ट हो। चैटजीपीटी की शुरुआत के बाद से, ओपनएआई की व्यावसायिक महत्वाकांक्षाएं धीरे-धीरे अधिक प्रमुख हो गई हैं। हाल ही में, कंपनी ने भविष्य की सुपर कृत्रिम बुद्धिमत्ता का अध्ययन करने के लिए समर्पित एक नई शोध टीम की स्थापना की घोषणा की, और इसने कुछ परिणाम प्राप्त करना शुरू कर दिया है।
ओपनएआई के एक शोधकर्ता लियोपोल्ड एशेनब्रेनर ने बताया: "जनरल आर्टिफिशियल इंटेलिजेंस (एजीआई) तेजी से आ रहा है, और हम सुपर-इंटेलिजेंट मॉडल देखेंगे जिनमें महान क्षमताएं हैं लेकिन वे बहुत खतरनाक भी हो सकते हैं, और हमें अभी तक उन्हें नियंत्रित करने का कोई तरीका नहीं मिला है।" उन्होंने इस वर्ष जुलाई में स्थापित "सुपरएलाइनमेंट" (सुपरएलाइनमेंट) अनुसंधान टीम में भाग लिया। ओपनएआई ने कहा कि वह अपनी उपलब्ध कंप्यूटिंग शक्ति का पांचवां हिस्सा "सुपर एलाइनमेंट" प्रोजेक्ट में समर्पित करेगा ताकि यह पता लगाया जा सके कि सुपर आर्टिफिशियल इंटेलिजेंस की सुरक्षा और नियंत्रणीयता कैसे सुनिश्चित की जाए।
OpenAI ने हाल ही में एक प्रयोग के परिणामों का वर्णन करते हुए एक शोध पत्र प्रकाशित किया। यह प्रयोग एक खराब एआई मॉडल के लिए बुद्धिमत्ता खोए बिना एक स्मार्ट एआई मॉडल का मार्गदर्शन करने के तरीके का परीक्षण करने के लिए डिज़ाइन किया गया था। हालाँकि इसमें शामिल तकनीक अभी तक मानवीय निपुणता से अधिक नहीं है, प्रयोग भविष्य के समय के लिए डिज़ाइन किया गया है जब मनुष्यों को कृत्रिम बुद्धिमत्ता प्रणालियों के साथ काम करना होगा जो उनसे अधिक स्मार्ट हैं।
प्रयोगों में, OpenAI शोधकर्ताओं ने पर्यवेक्षण नामक एक प्रक्रिया की जांच की, जिसका उपयोग GPT-4 जैसी प्रणालियों को अधिक उपयोगी और कम हानिकारक बनाने के लिए ट्यून करने के लिए किया जाता है। चैटजीपीटी के पीछे जीपीटी बड़ा भाषा मॉडल है। वर्तमान में, इसमें मनुष्यों को एआई सिस्टम को वापस फीड करना शामिल है कि कौन से उत्तर अच्छे हैं और कौन से बुरे हैं। जैसे-जैसे कृत्रिम बुद्धिमत्ता आगे बढ़ रही है, शोधकर्ता यह पता लगा रहे हैं कि समय बचाने के लिए इस प्रक्रिया को कैसे स्वचालित किया जाए। इसके अतिरिक्त, ऐसा इसलिए है क्योंकि उनका मानना है कि जैसे-जैसे एआई अधिक शक्तिशाली होता जाएगा, मनुष्य उपयोगी प्रतिक्रिया देने में सक्षम नहीं हो पाएंगे।
नियंत्रित प्रयोगों में, शोधकर्ताओं ने GPT-4 को पढ़ाने के लिए OpenAI के GPT-2 टेक्स्ट जनरेटर का उपयोग किया, जिसे पहली बार 2019 में जारी किया गया था और दो वर्कअराउंड का परीक्षण किया गया था। एक दृष्टिकोण प्रत्येक चरण पर प्रदर्शन हानि को कम करने के लिए बड़े मॉडलों को क्रमिक रूप से प्रशिक्षित करना है; दूसरा GPT-4 के लिए एक एल्गोरिथम परिवर्तन है जो मजबूत मॉडलों को उनके प्रदर्शन को ख़राब किए बिना कमजोर मॉडलों के मार्गदर्शन का पालन करने की अनुमति देता है। दूसरा दृष्टिकोण अधिक प्रभावी साबित हुआ, और हालांकि शोधकर्ता स्वीकार करते हैं कि ये विधियां इस बात की गारंटी नहीं देती हैं कि मजबूत मॉडल पूरी तरह से काम करेगा, वे आगे के शोध के लिए शुरुआती बिंदु के रूप में काम कर सकते हैं।
आर्टिफिशियल इंटेलिजेंस के जोखिमों के प्रबंधन के लिए समर्पित सैन फ्रांसिस्को स्थित गैर-लाभकारी संस्था सेंटर फॉर आर्टिफिशियल इंटेलिजेंस सेफ्टी के निदेशक डैन हेंड्रिक्स ने कहा, "ओपनएआई को सुपर-इंटेलिजेंस को नियंत्रित करने की समस्या को सक्रिय रूप से संबोधित करते हुए देखना बहुत अच्छा है, एक चुनौती जिसमें वर्षों की मेहनत लगेगी।"
एस्चेनब्रेनर और सुपर एलाइनमेंट टीम के दो अन्य सदस्यों, कोलिन बर्न्स और पावेल इस्माइलोव, दोनों ने साक्षात्कार में कहा कि संभावित सुपर-कृत्रिम बुद्धिमत्ता को वश में करने के महत्वपूर्ण पहले कदम से उन्हें प्रोत्साहित किया गया था। इस्माइलोव ने एक सादृश्य दिया: "यह छठी कक्षा के छात्र की तरह है, भले ही वे कॉलेज के गणित प्रमुख की तुलना में कम गणित जानते हैं, फिर भी वे कॉलेज के छात्रों को यह बताने में सक्षम हैं कि वे क्या हासिल करना चाहते हैं, और हम यही चाहते हैं।"
सुपर एलाइनमेंट टीम का सह-नेतृत्व ओपनएआई के मुख्य वैज्ञानिक और सह-संस्थापक इल्या सुतस्केवर द्वारा किया जाता है। सुल्त्ज़केफ़र उन मूल बोर्ड सदस्यों में से एक थे जिन्होंने पिछले महीने सीईओ सैम अल्टमैन को हटाने के लिए मतदान किया था। हालाँकि, बाद में उन्होंने अपना निर्णय पलट दिया और ऑल्टमैन को बहाल नहीं किए जाने पर इस्तीफा देने की धमकी दी। सुत्स्केफर नवीनतम पेपर के सह-लेखक हैं, लेकिन ओपनएआई ने उनसे परियोजना पर चर्चा करने से इनकार कर दिया।
पिछले महीने, ऑल्टमैन ने OpenAI के साथ एक समझौता किया था, अधिकांश निदेशक मंडल ने इस्तीफा दे दिया है, और OpenAI में सुल्त्ज़केफ़र का भविष्य भी अनिश्चितता से भरा है। फिर भी, एशेनब्रेनर ने कहा, "हम सुत्ज़केफ़र के बहुत आभारी हैं, जो इस परियोजना के पीछे प्रेरक शक्ति थे।"
कृत्रिम बुद्धिमत्ता के क्षेत्र में, OpenAI के शोधकर्ता मौजूदा तकनीक का उपयोग करके यह परीक्षण करने का प्रयास करने वाले पहले समूह नहीं हैं कि भविष्य की कृत्रिम बुद्धिमत्ता प्रणालियों को नियंत्रित करने में क्या मदद मिल सकती है। हालाँकि, कॉर्पोरेट और अकादमिक प्रयोगशालाओं में पिछले अध्ययनों की तरह, हम निश्चित नहीं हो सकते हैं कि अच्छी तरह से डिज़ाइन किए गए प्रयोगों में काम करने वाले विचार भविष्य में व्यावहारिक होंगे। शोधकर्ता एक कमजोर एआई मॉडल को एक मजबूत एआई मॉडल को प्रशिक्षित करेंगे, एक क्षमता जिसे वे "व्यापक 'सुपर-एलाइनमेंट' समस्या को हल करने में एक महत्वपूर्ण घटक कहते हैं।"
यह एआई संरेखण प्रयोग एक महत्वपूर्ण प्रश्न भी उठाता है: नियंत्रण प्रणाली कितनी भरोसेमंद हो सकती है? ओपनएआई की नई तकनीक के केंद्र में यह विचार है कि एक अधिक शक्तिशाली एआई सिस्टम खुद तय कर सकता है कि वह कमजोर सिस्टम के किस मार्गदर्शन को नजरअंदाज कर सकता है, एक ऐसा विकल्प जो उसे महत्वपूर्ण जानकारी को नजरअंदाज करने का कारण बन सकता है जो उसे भविष्य में असुरक्षित तरीके से कार्य करने से रोक सकता है। ऐसी प्रणाली के प्रभावी होने के लिए, निरंतरता प्रदान करने में प्रगति की आवश्यकता है। बर्न्स ने ज़ोर देकर कहा, "आपको आख़िरकार उच्च स्तर के भरोसे की ज़रूरत है।"
एआई सुरक्षा का अध्ययन करने वाले कैलिफोर्निया विश्वविद्यालय, बर्कले के प्रोफेसर स्टुअर्ट रसेल ने कहा कि अधिक शक्तिशाली एआई मॉडल को नियंत्रित करने के लिए कम शक्तिशाली एआई मॉडल का उपयोग करने का विचार कुछ समय से चल रहा है। लेकिन वह यह भी बताते हैं कि अब तक यह स्पष्ट नहीं है कि एआई व्यवहार सिखाने के लिए इस्तेमाल की जाने वाली विधियां संभव हैं या नहीं क्योंकि वे अभी तक मौजूदा मॉडलों को विश्वसनीय रूप से चलाने में सक्षम नहीं बनाती हैं।
जबकि OpenAI अधिक उन्नत कृत्रिम बुद्धिमत्ता को नियंत्रित करने की दिशा में अपना पहला कदम उठा रहा है, कंपनी बाहरी मदद के लिए उत्सुक है। ओपनएआई ने घोषणा की कि वह कमजोर-से-मजबूत विनियमन, उन्नत मॉडल की व्याख्या और सीमाओं को तोड़ने के लिए डिज़ाइन किए गए संकेतों के साथ मॉडल को मजबूत करने जैसे क्षेत्रों में प्रगति को प्रोत्साहित करने के लिए पूर्व Google सीईओ एरिक श्मिट के साथ साझेदारी में बाहरी शोधकर्ताओं को 10 मिलियन डॉलर का अनुदान प्रदान करेगा। नया पेपर लिखने में शामिल शोधकर्ताओं ने कहा कि ओपनएआई अगले साल "सुपर-एलाइनमेंट" पर एक सम्मेलन भी आयोजित करेगा।
OpenAI के सह-संस्थापक और हाइपर-एलाइनमेंट टीम के सह-प्रमुख के रूप में, वह कंपनी के कई सबसे महत्वपूर्ण तकनीकी प्रयासों का नेतृत्व करते हैं। साथ ही, वह उन प्रमुख विशेषज्ञों में से एक हैं जो इस बात को लेकर चिंतित हैं कि कृत्रिम बुद्धिमत्ता को कैसे नियंत्रित किया जाए क्योंकि यह अधिक शक्तिशाली हो गई है। इस वर्ष की शुरुआत से, भविष्य की कृत्रिम बुद्धिमत्ता तकनीक को कैसे नियंत्रित किया जाए, इस मुद्दे ने नया ध्यान आकर्षित किया है, जिसका मुख्य कारण चैटजीपीटी का प्रभाव है। सुल्ज़केफ़र ने अपनी पीएचडी के लिए गहरे तंत्रिका नेटवर्क के अग्रणी जेफ्री हिंटन के मार्गदर्शन में अध्ययन किया। बाद वाले ने इस साल मई में उन चेतावनियों के बीच Google छोड़ दिया कि कृत्रिम बुद्धिमत्ता कुछ कार्यों में मानवीय स्तर के करीब पहुंचती दिख रही है। (थोड़ा)