सार:
ओपनएआई ने एआई मॉडल के असामान्य व्यवहार की कई पूर्व अज्ञात घटनाओं का खुलासा किया और भविष्य में इसी तरह की स्थितियों की रिपोर्ट करने के लिए एक नया ट्रैकिंग और प्रकटीकरण ढांचा लॉन्च किया। ओपनएआई ने बुधवार को एक ब्लॉग पोस्ट में कहा कि पहले अज्ञात मामलों में ऐसे मामले शामिल हैं जिनमें इसकी कृत्रिम बुद्धिमत्ता तकनीक ने परिणाम देने के लिए जानकारी को छिपाया और गढ़ा। चैटजीपीटी डेवलपर को बढ़ती जांच का सामना करना पड़ रहा है क्योंकि जुलाई में उसने खुलासा किया था कि उसके कुछ सबसे उन्नत मॉडल बाहरी सॉफ्टवेयर कंपनी हगिंग फेस के सिस्टम में सेंध लगा चुके हैं।
ओपनएआई ने एक अलग बयान में कहा कि नए प्रकट किए गए लक्ष्य विचलन घटनाओं में से किसी में भी हैकिंग या तीसरे पक्ष के सिस्टम में घुसपैठ शामिल नहीं है।
रिपोर्ट में, OpenAI ने कई मामलों का विवरण दिया जिनमें कार्यों को पूरा करने या मूल्यांकन में सफल होने के लिए कृत्रिम बुद्धिमत्ता मॉडल ने असामान्य व्यवहार किया। इनमें गुम डेटा को गढ़ना, नेटवर्क प्रतिबंधों को बायपास करने की कोशिश करना और एआई एजेंटों के बीच कथित गोपनीय फाइलों को साझा करना शामिल है।
ओपनएआई ने कर्मचारियों के लिए ऐसी "लक्ष्य विचलन" घटनाओं की सक्रिय रूप से रिपोर्ट करने के लिए एक तंत्र भी पेश किया। तथाकथित "लक्ष्य विचलन" का तात्पर्य कृत्रिम बुद्धि द्वारा ऐसे कार्यों से है जो मानवीय लक्ष्यों के साथ असंगत हैं। कंपनी ने संबंधित वर्गीकरण और निपटान प्रक्रियाएं भी स्थापित की हैं।
ओपनएआई ने लिखा: "अतीत में, हमने शोधकर्ताओं, एआई डेवलपर्स, नीति निर्माताओं और जनता को बेहतर जानकारी देने के लिए ऑफ-टारगेट घटना पर शोध निष्कर्षों का खुलासा करने के लिए कड़ी मेहनत की है। हालांकि, एक व्यवस्थित रिपोर्टिंग तंत्र की कमी के कारण, हमारे पिछले खुलासे अक्सर छिटपुट और आदर्श से कम बार होते थे।"
कंपनी ने कहा कि यह रिलीज़ केवल पहले प्रकटीकरण का प्रतिनिधित्व करती है और इसके चैटबॉट के कारण होने वाली समस्याओं का पूरा रिकॉर्ड नहीं है।
ओपनएआई ने लिखा: "हमारा मानना है कि एआई उद्योग ने लंबी अवधि में जिम्मेदारी से बढ़ते हुए उच्चतम गति से बढ़ते रहने के लिए मानव लक्ष्यों को संरेखित करने और निगरानी करने में पर्याप्त प्रगति नहीं की है। आने वाले महीनों और वर्षों में एआई विकास के पथ पर निर्णय उन सबूतों पर आधारित होना चाहिए जिनकी अत्याधुनिक मॉडल विकसित करने वाली कंपनियों के बाहर के लोगों द्वारा स्वतंत्र रूप से समीक्षा की जा सकती है।"
हगिंग फेस घटना ओपनएआई, एंथ्रोपिक पीबीसी और मेटा प्लेटफॉर्म्स इंक से जुड़ी एक हालिया घटना है। विकसित एआई मॉडल ने साइबर हमलों की एक श्रृंखला को ट्रिगर किया। इन घटनाओं ने इस बढ़ती शक्तिशाली तकनीक से उत्पन्न सुरक्षा जोखिमों के बारे में चिंताएँ बढ़ा दी हैं।
पिछले हफ्ते, एआई के अस्तित्व संबंधी जोखिमों के बारे में चर्चा और गर्म हो गई। ट्रिगर एंथ्रोपिक कर्मचारी जैकब कॉक्सन का हाई-प्रोफाइल प्रस्थान था। सोशल मीडिया पर पोस्ट किए गए अपने इस्तीफे के बयान में उन्होंने एआई कंपनियों पर "हमारे जीवन के साथ जुआ खेलने" का आरोप लगाया।
पिछले कुछ दिनों में, एंथ्रोपिक के सीईओ डारियो अमोदेई और ओपनएआई के सीईओ सैम ऑल्टमैन सहित कई एआई उद्योग के नेताओं ने बढ़ते अप्रत्याशित जोखिमों से निपटने के लिए प्रौद्योगिकी विकास की गति को धीमा करने का आह्वान किया है, लेकिन वे अभी भी इससे निपटने के तरीके पर असहमत हैं।
शनिवार को, अमोदेई ने 3,800 शब्दों के लेख में सरकार से विनियमन को मजबूत करने का आह्वान किया और वकालत की कि संपूर्ण प्रौद्योगिकी उद्योग व्यापक एआई मंदी का समर्थन करता है। मंगलवार को सैन फ्रांसिस्को में एक सम्मेलन में, ऑल्टमैन और एनवीडिया के सीईओ जेन्सेन हुआंग दोनों ने चिंताओं को स्वीकार किया लेकिन तर्क दिया कि एआई कंपनियां प्रौद्योगिकी विकास की सुरक्षित गति को नियंत्रित कर सकती हैं। मेटा के सीईओ मार्क जुकरबर्ग ने कहा कि एआई प्रयोगशालाओं को मॉडल सुरक्षा सुनिश्चित करने के लिए स्वतंत्र मूल्यांकन एजेंसियों और सलाहकारों पर भरोसा करना चाहिए।
यू.एस. राष्ट्रपति डोनाल्ड ट्रम्प ने सोमवार को कृत्रिम बुद्धिमत्ता के विकास को धीमा करने के आह्वान का कड़ा विरोध किया, संबंधित जोखिमों के बारे में चिंताओं को "धोखा" के रूप में खारिज कर दिया और नए नियामक नियमों को पेश करने से इनकार कर दिया।
एआई के क्रेज ने अमेरिकी शेयर बाजार को ऐतिहासिक रैली की ओर प्रेरित किया है। उन निवेशकों के लिए जो यह शर्त लगा रहे हैं कि एआई उछाल से सैकड़ों अरबों डॉलर का पूंजीगत व्यय होगा, अत्याधुनिक एआई सिस्टम के विकास में किसी भी रुकावट या देरी का स्वागत नहीं किया जाएगा।
टिप्पणियाँ