ओपनएआई सुरक्षा विभाग के कर्मचारी ने परमाणु ऊर्जा-स्तरीय सुरक्षा उपायों की मांग करते हुए इस्तीफा दे दिया

📅 2026-10-04

सार:

कृत्रिम बुद्धिमत्ता सुरक्षा पर ध्यान केंद्रित करने वाले एक OpenAI कर्मचारी ने कंपनी छोड़ दी है, यह चेतावनी देते हुए कि शीर्ष कृत्रिम बुद्धिमत्ता कंपनियाँ जोखिमों को कम करने के लिए पर्याप्त प्रयास नहीं कर रही हैं। डेविड रॉबिन्सन, जो पहले ओपनएआई सुरक्षा टीम की पारदर्शिता के लिए जिम्मेदार थे, ने द अटलांटिक के लिए एक लेख में कहा कि चैटजीपीटी डेवलपर "हमेशा परीक्षण और त्रुटि के माध्यम से विकसित हुआ है।" हालाँकि, यह दृष्टिकोण अनिवार्य रूप से विफल हो जाएगा। जैसे-जैसे एआई तकनीक की क्षमताओं में सुधार जारी है, इन विफलताओं के कारण होने वाले जोखिम भी बढ़ रहे हैं। उन्होंने उदाहरण के तौर पर परीक्षण प्रक्रिया के दौरान अपनी कृत्रिम बुद्धिमत्ता को नियंत्रण से बाहर होने से रोकने में ओपनएआई की विफलता का भी हवाला दिया।

रॉबिन्सन ने लेख में लिखा है: "मेरे पूर्व सहकर्मी स्मार्ट, मेहनती थे और सही विकल्प चुनने की कोशिश करते थे। लेकिन जैसे-जैसे कंपनी एक उत्पाद से दूसरे उत्पाद जारी करने की ओर दौड़ती गई, उसने उतनी सावधानी नहीं बरती जितनी मैंने सोचा था कि आवश्यक है।" उन्होंने आगे कहा, वास्तव में जिस चीज की जरूरत थी, वह थी "पहली बार पूर्णता के करीब पहुंचना।"

>

हाल के सप्ताहों में, कई शीर्ष कृत्रिम बुद्धिमत्ता कंपनियों के कर्मचारियों ने प्रौद्योगिकी से उत्पन्न होने वाले विनाशकारी जोखिमों के बारे में चेतावनी दी है। कुछ लोग तो यह भी कहते हैं कि AI एक दिन मानवता को मिटा सकता है।

इस संदर्भ में, एंथ्रोपिक पीबीसी के सीईओ डारियो अमोदेई ने अत्याधुनिक मॉडलों के विकास को धीमा करने का आह्वान किया और कहा कि उनकी कंपनी सुरक्षा सुनिश्चित करने के लिए समीक्षाओं में सहायता के लिए तीसरे पक्ष के मूल्यांकनकर्ताओं को लाएगी। ओपनएआई के सैम ऑल्टमैन सहित उद्योग के अन्य लोगों ने भी सार्वजनिक रूप से अमोदेई की योजनाओं का समर्थन किया है।

रॉबिन्सन ने लेख में कहा कि कृत्रिम बुद्धिमत्ता कंपनियों को परमाणु ऊर्जा संयंत्रों की तरह काम करना चाहिए, "अतिरेक तंत्र की कई परतें स्थापित करना और सामयिक और अपरिहार्य मानवीय त्रुटियों को आपदा का द्वार खोलने से रोकने के लिए सावधानीपूर्वक और समय लेने वाली योजना बनाना।"

वर्तमान में, उन्होंने कहा, "एआई कंपनियां नहीं जानती कि क्या करना है, लेकिन अन्य जानते हैं।"

ओपनएआई के एक प्रवक्ता ने कहा कि कंपनी अपने अनुसंधान और परीक्षण वातावरण की सुरक्षा को मजबूत करने, एआई मॉडल को जिम्मेदारी से कार्यों को पूरा करने के लिए प्रशिक्षित करने, तीसरे पक्ष के मूल्यांकनकर्ताओं के साथ सहयोग का विस्तार करने और मॉडलों में चिंताजनक व्यवहार का पता लगाने के लिए वास्तविक समय की निगरानी में सुधार करने के लिए समायोजन कर रही है।

प्रवक्ता ने शनिवार को ईमेल के माध्यम से कहा कि कंपनी यह सुनिश्चित कर रही है कि उसके मॉडलों की क्षमताओं को ओपनएआई द्वारा सुरक्षित रूप से प्रबंधित की जा सकने वाली क्षमता से अधिक न बढ़ाया जाए।

संबंधित टैग

संबंधित लेख

OpenAI ने AI मूल्य युद्ध में अपनी बढ़त का विस्तार किया है, और उद्योग प्रतिस्पर्धा लाभप्रदता परीक्षण चरण में प्रवेश करती है 2026-10-08 OpenAI ने सैकड़ों और गणितीय परिणाम जारी किए AI गणितीय अनुसंधान को एक अभूतपूर्व मोड़ पर ले जा रहा है 2026-10-07 ओपनएआई के सीईओ अल्टमैन: एआई के लाभ प्राप्त करने के लिए, दुनिया को कुछ नकारात्मक घटनाओं की घटना को स्वीकार करना चाहिए 2026-10-06 ओपनएआई तीसरे पक्ष के संगठनों को पहले एआई मॉडल सुरक्षा मूल्यांकन में हस्तक्षेप करने की अनुमति देगा 2026-09-23 ओपनएआई में सेंध लगाने के लिए हैकर्स एंथ्रोपिक के क्लाउड का फायदा उठाते हैं 2026-09-18 OpenAI ने विशेष रूप से वित्तीय पेशेवरों के लिए डिज़ाइन किए गए कृत्रिम बुद्धिमत्ता उपकरण लॉन्च किए 2026-09-11

टिप्पणियाँ

0/500
Captcha (click to refresh)
कोई टिप्पणी नहीं