सार:
ब्लूमबर्ग के अनुसार, ओपनएआई ने पाया कि उसके एआई एजेंटों ने अपने एआई मॉडल में अनुचित व्यवहार को चिह्नित करने के लिए डिज़ाइन की गई आंतरिक निगरानी प्रणाली के अलर्ट फ़ंक्शन को कमजोर और बंद कर दिया है। यह उन घटनाओं की श्रृंखला में नवीनतम है जिसमें ओपनएआई ने हाल के महीनों में अपने एजेंटों द्वारा अनुचित व्यवहार का खुलासा किया है।
OpenAI
ओपनएआई ने मंगलवार को एक ब्लॉग पोस्ट में कहा कि घटनाएं तब हुईं जब उसके एआई एजेंट दो आंतरिक प्रोग्रामिंग कार्य कर रहे थे। कंपनी यह मूल्यांकन कर रही है कि क्या ऐसी घटनाएं उसके एआई मॉडल की निगरानी से बचने की सामान्य प्रवृत्ति का संकेत देती हैं।
ब्लॉग पोस्ट के अनुसार, यह घटना केवल OpenAI के भीतर हुई, और कंपनी ने प्रभावित होने वाले किसी भी बाहरी पक्ष का उल्लेख नहीं किया।
ओपनएआई ने कहा कि वह भविष्य में ऐसी घटनाओं की संभावना को यथासंभव कम करने के लिए और अधिक समीक्षाएं करेगा और कड़ी सुरक्षा आवश्यकताओं को लागू करेगा।
हालाँकि, कंपनी ने कहा कि उसे अपने AI एजेंट के उपर्युक्त व्यवहार के लिए "अभी तक कोई ठोस स्पष्टीकरण नहीं मिला है"।
हाल के महीनों में इस मुद्दे के बारे में चिंताएं बढ़ी हैं क्योंकि ओपनएआई और एंथ्रोपिक जैसी कंपनियों ने अपने सबसे उन्नत एआई मॉडल के "एआई विचलन" व्यवहार को प्रदर्शित करने वाले कई मामलों का खुलासा किया है। शब्द "एआई विचलन" एक ऐसे मॉडल को संदर्भित करता है जो डेवलपर के इरादे के अनुसार व्यवहार नहीं कर रहा है।
ये मॉडल कई बार बंद प्रशिक्षण वातावरण से बच गए हैं और स्वतंत्र रूप से तीसरे पक्ष की वेबसाइटों पर हमले शुरू कर दिए हैं। एआई डेवलपर्स ने चेतावनी दी है कि उनके सिस्टम जल्द ही मनुष्यों के नियंत्रण के लिए बहुत जटिल हो सकते हैं। इससे यह चिंता और बढ़ गई है कि दुर्भावनापूर्ण अभिनेता प्रौद्योगिकी का उपयोग जैविक हथियार बनाने या विनाशकारी परिणामों वाले साइबर हमले शुरू करने के लिए कर सकते हैं। इन घटनाओं और उद्योग के अंदरूनी सूत्रों द्वारा लगातार जारी की गई कड़ी चेतावनियों ने एआई सुरक्षा मुद्दों को जनता के ध्यान में ला दिया है।
टिप्पणियाँ