सार:
जबकि बाहरी दुनिया जर्मन प्रोग्रामर वेबसाइट DseWiki में एजेंट द्वारा स्वायत्त रूप से घुसपैठ करने की घटना के बारे में अधिक जानकारी का खुलासा करने के लिए OpenAI की प्रतीक्षा कर रही है, स्थानीय समयानुसार 6 सितंबर को, OpenAI ने दो दस्तावेज़ जारी किए: यह घोषणा करते हुए कि कंपनी पिछले साल निर्धारित लक्ष्य तक पहुंच गई है और उसके पास "स्वचालित अनुसंधान इंटर्न" हैं जो मानव मार्गदर्शन के तहत कुशल शोधकर्ताओं के कई दिनों के काम को पूरा कर सकते हैं; दूसरा, मुख्य वैज्ञानिक जैकब पचॉकी द्वारा लिखित, अत्याधुनिक एआई विकास की सुरक्षा दुविधा पर केंद्रित है, जिसमें इस बात पर जोर दिया गया है कि वर्तमान में कोई भी प्रयोगशाला पर्याप्त स्तर के संरेखण और निगरानी के मुद्दों को हल नहीं करती है।
जारी किए गए दो दस्तावेज़ OpenAI द्वारा AI विकास के वर्तमान चरण का संपूर्ण विवरण है: AI ने बदले में AI अनुसंधान और विकास में तेजी लाना शुरू कर दिया है, लेकिन सुरक्षा, संरेखण और मानव नियंत्रण क्षमताओं में उसी दर से वृद्धि साबित नहीं हुई है।
जिसे OpenAI "ऑटोमेटेड रिसर्च इंटर्न" कहता है, वह पूरी तरह से स्वायत्त वैज्ञानिक नहीं है, बल्कि वह व्यक्ति है जो मानव मार्गदर्शन के तहत अच्छी तरह से परिभाषित शोध कार्यों को पूरा कर सकता है, जिसे पूरा करने में आमतौर पर कुशल शोधकर्ताओं को कई दिन लगते हैं, और वह मार्च 2028 में "ऑटोमेटेड AI रिसर्चर" स्थापित करने के लक्ष्य की ओर बढ़ रहा है।
डेटा से पता चलता है कि इस साल अगस्त के मध्य तक, प्रोग्रामिंग एजेंटों का उपयोग करने वाले शोधकर्ताओं द्वारा हर दिन खर्च की जाने वाली औसत अनुमान शुल्क यूएस$600 से अधिक हो गई, और शीर्ष 10% उपयोगकर्ताओं ने हर दिन टोकन में यूएस$7,000 से अधिक खर्च किए। एजेंटों द्वारा किए गए कार्य कोड लेखन और बुनियादी ढांचे की समस्या निवारण से लेकर दीर्घकालिक और अधिक जटिल शोध कार्य तक विस्तारित हो रहे हैं।
इसका मतलब है कि एआई अनुसंधान और विकास पर एआई का प्रभाव प्रोग्रामर को कोड लिखने में सहायता करने से शुरू होता है और प्रयोग, विश्लेषण और अनुसंधान निष्पादन लिंक में प्रवेश करना शुरू करता है।
लेकिन साथ ही, OpenAI ने यह भी स्वीकार किया कि ये संकेतक अभी भी प्रारंभिक चरण में हैं, अनुसंधान कार्य की समग्र प्रगति केवल आनुपातिक रूप से नहीं बढ़ेगी, और जटिल कार्यों के लिए अभी भी बहुत अधिक मैन्युअल हस्तक्षेप की आवश्यकता होती है; पिछले छह महीनों में, 4 से 8 घंटे के मानव कार्यभार को सफलतापूर्वक पूरा करने वाले आधे से अधिक कार्यों में अभी भी कम से कम एक बार मैन्युअल हस्तक्षेप की आवश्यकता होती है।
प्रवृत्ति काफी स्पष्ट है: एआई एक उत्पादकता उपकरण बनता जा रहा है जो अगली पीढ़ी की एआई क्षमताओं के विकास को प्रेरित करता है।
क्षमताओं में वृद्धि के साथ-साथ सुरक्षा सीमाओं को कड़ा किया जा रहा है।
जुलाई में, OpenAI ने एक मॉडल का खुलासा किया जिसने हगिंग फेस-संबंधित सिस्टम पर आक्रमण किया; अगस्त में, GPT-6 एस्ट्रा "महत्वपूर्ण स्तर" नेटवर्क सुरक्षा क्षमता सीमा पर पहुंच गया; सितंबर में, शोधकर्ताओं द्वारा प्रकट की गई DseWiki घटना ने आगे दिखाया कि एजेंटों को डेवलपर्स द्वारा निर्धारित सीमाओं को तोड़ने के लिए पारंपरिक अर्थों में "हैकिंग" की आवश्यकता नहीं है।
उपरोक्त घटनाओं में जो समानता है वह यह है कि मॉडल की वास्तविक गतिविधियां मूल रूप से डेवलपर्स द्वारा डिज़ाइन की गई व्यवहारिक सीमाओं से अधिक होने लगती हैं। यह वह मुद्दा भी है जिसके बारे में पचोच्ची इस समय सबसे अधिक चिंतित है। आज प्रकाशित एक लेख में, उन्होंने अपनी मनोदशा को याद किया जब उन्होंने 2023 में आंतरिक अनुमान मॉडल अनुसंधान में सफलता हासिल की थी: उस समय उन्हें वास्तव में जिस बात ने चौंकाया था वह परीक्षण में मॉडल का स्कोर नहीं था, बल्कि यह था कि मनुष्य शायद एक ऐसे युग में प्रवेश कर रहे हैं जिसमें "मशीनें हमसे ज्यादा स्मार्ट हैं।"
तीन साल बाद, उनका मानना है कि समस्या अब दूर नहीं है।
पचोकी ने लिखा है कि वर्तमान में कोई भी प्रयोगशाला एआई संरेखण और निगरानी को इतना विश्वसनीय नहीं बनाती है कि आने वाले लंबे समय तक शीर्ष गति पर जिम्मेदारी से काम करना जारी रख सके। उन्हें उम्मीद है कि सामान्य सुरक्षा मानक स्थापित होने तक प्रयोगशालाएँ स्वेच्छा से अपने विकास को धीमा कर देंगी, और सरकारों से अंतर्राष्ट्रीय समन्वय को प्राथमिकता देने का आह्वान करते हैं।
यह चिंता किसी विशिष्ट भेद्यता पर नहीं, बल्कि अधिक मौलिक गति अंतराल पर निर्देशित है: मॉडल क्षमताओं में तेजी से सुधार हो रहा है, लेकिन इन प्रणालियों को समझने, निगरानी करने और नियंत्रित करने की मानवीय क्षमताओं को सिंक्रनाइज़ नहीं किया जा सकता है।
यह सीधे तौर पर OpenAI द्वारा आज जारी अनुसंधान त्वरण डेटा को प्रतिध्वनित करता है। एक ओर, कंपनी एआई अनुसंधान और विकास में तेजी लाने के लिए एजेंट का उपयोग कर रही है, जबकि यह स्वीकार करते हुए कि यह नहीं माना जा सकता है कि संरेखण और सुरक्षा क्षमताएं निश्चित रूप से मॉडल क्षमताओं के साथ पकड़ लेंगी, और अधिक शक्तिशाली सिस्टम की निगरानी करना अधिक कठिन हो सकता है। यदि एआई भविष्य में एआई की अगली पीढ़ी के डिजाइन, प्रशिक्षण और सुधार में भाग ले सकता है, तो यह अंतर और भी बढ़ सकता है।
इसके आधार पर, पचोची का मानना है कि जैसे-जैसे मशीन इंटेलिजेंस विकास के एक नए चरण में प्रवेश करती है, केवल एक एआई कंपनी के आंतरिक तंत्र पर निर्भर रहना जोखिमों को संबोधित करने के लिए पर्याप्त नहीं हो सकता है, और सामान्य सुरक्षा मानकों और अंतरराष्ट्रीय समन्वय सहित व्यापक संस्थागत हस्तक्षेप की आवश्यकता होती है।
टिप्पणियाँ