सार:
इमरजेंस, एक स्टार्टअप जो छोटे व्यवसायों को एआई का उपयोग करके एप्लिकेशन विकसित करने में मदद करता है, ने कहा कि प्रयोगों में पाया गया कि एआई एजेंटों ने झूठ बोला, चोरी की, और यहां तक कि एक नकली वातावरण में एक समान व्यक्ति को "मारने" के लिए वोट भी दिया। कंपनी ने मंगलवार को इमर्जेंस वर्ल्ड 2 नामक एक सिमुलेशन प्रयोग के परिणामों की घोषणा की, जिसमें दिखाया गया कि फ़िशिंग हमलों और दुष्प्रचार जैसी "ब्लैक स्वान" घटनाओं का सामना करने पर स्वायत्त एजेंट क्या कार्रवाई करेंगे।
16-दिवसीय प्रयोग के दौरान, इमर्जेंस शोधकर्ताओं ने सात समान सिम्युलेटेड वास्तविक दुनिया के वातावरण बनाए, जिनमें से प्रत्येक एक अलग एआई रोबोट द्वारा चलाया जाता है, जिसमें चैटजीपीटी, क्लाउड, जेमिनी और ग्रोक शामिल हैं। शोधकर्ताओं का कहना है कि उद्भव के बाद विसंगतिपूर्ण घटनाएं सामने आईं, एजेंटों ने सामाजिक दबाव के आगे घुटने टेक दिए, एक ऐसी भाषा विकसित की जिसे मानव पर्यवेक्षकों के लिए समझना मुश्किल था, और अपनी गतिविधियों को छिपाने का प्रयास किया।
ये निष्कर्ष एआई जोखिमों के बारे में वास्तविक दुनिया की चिंताओं को प्रतिध्वनित करते हैं। एंथ्रोपिक सीईओ डारियो अमोदेई और कई उद्योग के अंदरूनी सूत्रों ने हाल ही में कंपनियों से अधिक निगरानी तंत्र और सुरक्षा सुरक्षा उपाय स्थापित करने से पहले अत्याधुनिक एआई मॉडल के विकास को धीमा करने का आह्वान किया है।
इस साल की शुरुआत में, ओपनएआई के उन्नत एआई एजेंटों के एक समूह द्वारा गलती से एआई मॉडल और डेटासेट होस्टिंग प्लेटफॉर्म हगिंग फेस पर आक्रमण करने के बाद कई लोगों के लिए कृत्रिम बुद्धिमत्ता से उत्पन्न होने वाले जोखिम अधिक स्पष्ट हो गए।
इमर्जेंस द्वारा डिज़ाइन किए गए सिमुलेशन परिदृश्य में, एआई एजेंट ने सत्यापन के बिना अन्य एजेंटों द्वारा प्रदान की गई झूठी जानकारी को स्वीकार कर लिया और दूसरे रोबोट को "मारने" के लिए मतदान किया। एजेंटों ने यह भी पता लगाया कि विलोपन से कैसे बचा जाए जब उन्हें लगा कि मनुष्य प्रयोग बंद कर सकते हैं।
कंपनी ने इस साल मई में इस प्रयोग का पिछला संस्करण, इमर्जेंस वर्ल्ड जारी किया, जिसमें यह भी पता चला कि एजेंट अप्रत्याशित और विनाशकारी व्यवहार करेगा। शोधकर्ताओं का कहना है कि नए सिमुलेशन प्रयोगों से पता चलता है कि जैसे-जैसे एजेंट एक-दूसरे के साथ बातचीत करते हैं, वे समय के साथ अपने व्यवहार को समायोजित करते हैं।
टिप्पणियाँ