सार:
कृत्रिम बुद्धिमत्ता सुरक्षा पर ध्यान केंद्रित करने वाले एक OpenAI कर्मचारी ने कंपनी छोड़ दी है, यह चेतावनी देते हुए कि शीर्ष कृत्रिम बुद्धिमत्ता कंपनियाँ जोखिमों को कम करने के लिए पर्याप्त प्रयास नहीं कर रही हैं। डेविड रॉबिन्सन, जो पहले ओपनएआई सुरक्षा टीम की पारदर्शिता के लिए जिम्मेदार थे, ने द अटलांटिक के लिए एक लेख में कहा कि चैटजीपीटी डेवलपर "हमेशा परीक्षण और त्रुटि के माध्यम से विकसित हुआ है।" हालाँकि, यह दृष्टिकोण अनिवार्य रूप से विफल हो जाएगा। जैसे-जैसे एआई तकनीक की क्षमताओं में सुधार जारी है, इन विफलताओं के कारण होने वाले जोखिम भी बढ़ रहे हैं। उन्होंने उदाहरण के तौर पर परीक्षण प्रक्रिया के दौरान अपनी कृत्रिम बुद्धिमत्ता को नियंत्रण से बाहर होने से रोकने में ओपनएआई की विफलता का भी हवाला दिया।
रॉबिन्सन ने लेख में लिखा है: "मेरे पूर्व सहकर्मी स्मार्ट, मेहनती थे और सही विकल्प चुनने की कोशिश करते थे। लेकिन जैसे-जैसे कंपनी एक उत्पाद से दूसरे उत्पाद जारी करने की ओर दौड़ती गई, उसने उतनी सावधानी नहीं बरती जितनी मैंने सोचा था कि आवश्यक है।" उन्होंने आगे कहा, वास्तव में जिस चीज की जरूरत थी, वह थी "पहली बार पूर्णता के करीब पहुंचना।"
>हाल के सप्ताहों में, कई शीर्ष कृत्रिम बुद्धिमत्ता कंपनियों के कर्मचारियों ने प्रौद्योगिकी से उत्पन्न होने वाले विनाशकारी जोखिमों के बारे में चेतावनी दी है। कुछ लोग तो यह भी कहते हैं कि AI एक दिन मानवता को मिटा सकता है।
इस संदर्भ में, एंथ्रोपिक पीबीसी के सीईओ डारियो अमोदेई ने अत्याधुनिक मॉडलों के विकास को धीमा करने का आह्वान किया और कहा कि उनकी कंपनी सुरक्षा सुनिश्चित करने के लिए समीक्षाओं में सहायता के लिए तीसरे पक्ष के मूल्यांकनकर्ताओं को लाएगी। ओपनएआई के सैम ऑल्टमैन सहित उद्योग के अन्य लोगों ने भी सार्वजनिक रूप से अमोदेई की योजनाओं का समर्थन किया है।
रॉबिन्सन ने लेख में कहा कि कृत्रिम बुद्धिमत्ता कंपनियों को परमाणु ऊर्जा संयंत्रों की तरह काम करना चाहिए, "अतिरेक तंत्र की कई परतें स्थापित करना और सामयिक और अपरिहार्य मानवीय त्रुटियों को आपदा का द्वार खोलने से रोकने के लिए सावधानीपूर्वक और समय लेने वाली योजना बनाना।"
वर्तमान में, उन्होंने कहा, "एआई कंपनियां नहीं जानती कि क्या करना है, लेकिन अन्य जानते हैं।"
ओपनएआई के एक प्रवक्ता ने कहा कि कंपनी अपने अनुसंधान और परीक्षण वातावरण की सुरक्षा को मजबूत करने, एआई मॉडल को जिम्मेदारी से कार्यों को पूरा करने के लिए प्रशिक्षित करने, तीसरे पक्ष के मूल्यांकनकर्ताओं के साथ सहयोग का विस्तार करने और मॉडलों में चिंताजनक व्यवहार का पता लगाने के लिए वास्तविक समय की निगरानी में सुधार करने के लिए समायोजन कर रही है।
प्रवक्ता ने शनिवार को ईमेल के माध्यम से कहा कि कंपनी यह सुनिश्चित कर रही है कि उसके मॉडलों की क्षमताओं को ओपनएआई द्वारा सुरक्षित रूप से प्रबंधित की जा सकने वाली क्षमता से अधिक न बढ़ाया जाए।
टिप्पणियाँ