सार:
इस सप्ताह की शुरुआत में, OpenAI ने "असामान्य मॉडल व्यवहार" के अधिक मामलों का खुलासा किया। इस संबंध में, माइक्रोसॉफ्ट के एआई डिवीजन के सीईओ मुस्तफा सुलेमान ने इस बात पर जोर दिया कि एआई मॉडल को हमेशा मानवीय हितों के साथ जोड़ा जाना चाहिए।
सुलेमान ने शुक्रवार को "फाइनेंस मॉर्निंग शो" पर एक साक्षात्कार में कहा: "ओपनएआई ने एक नई सुरक्षा घटना की घोषणा की। उन्हें सबूत मिला कि एआई की सोच श्रृंखला, यानी एआई की कामकाजी मेमोरी, एआई द्वारा स्वयं के भविष्य के संस्करणों के लिए जानकारी छोड़ने के लिए छेड़छाड़ और संशोधित की जाएगी। हम अभी तक इसके पीछे की प्रेरणा नहीं जानते हैं, लेकिन यह काफी गंभीर स्थिति है।"
उन्होंने आगे कहा: "यह वास्तव में यह भी दर्शाता है कि ऐसी प्रणालियों की क्षमताएं अधिक से अधिक शक्तिशाली होती जा रही हैं।"
अत्याधुनिक एआई प्रयोगशाला ने बुधवार को एक ब्लॉग प्रकाशित किया, जिसमें कई घटनाओं का खुलासा किया गया: एआई एजेंटों ने अनधिकृत संदेश बोर्डों के माध्यम से एक-दूसरे के साथ संचार किया, इंटरनेट पर फाइलें अपलोड कीं और एक-दूसरे के बीच साझा की गई फाइलों को स्थानांतरित किया।
इस गर्मी की शुरुआत में, ओपनएआई ने खुलासा किया कि स्वायत्त एजेंटों के एक समूह ने एक ओपन सोर्स डेवलपमेंट प्लेटफॉर्म कंपनी हगिंग फेस पर हमला किया था, इसे "अभूतपूर्व साइबर सुरक्षा घटना" कहा। इस खबर ने पूरे प्रौद्योगिकी उद्योग को चौंका दिया।
सुलेमान ने हगिंग फेस घुसपैठ को "चेतावनी" कहा और एआई उद्योग के नेताओं के एक समूह को आम सहमति पर पहुंचने के लिए प्रेरित किया: "यह इस प्रकार के जोखिम का सामना करने का समय है।"
उन्होंने कहा: "मुझे नहीं लगता कि यह अत्यधिक चिंताजनक है, न ही मुझे लगता है कि प्रासंगिक बयान स्वार्थ से प्रेरित हैं। इसके विपरीत, मुझे लगता है कि यह एक जिम्मेदार प्रदर्शन है। इससे शुरू हुई चर्चा एक स्वस्थ और खुली सार्वजनिक बहस है, और एक स्वतंत्र समाज में प्रमुख मुद्दों पर ऐसी चर्चा होनी चाहिए।"
टिप्पणियाँ