एआई व्यवसायी चिंतित हैं कि प्रौद्योगिकी समाज के लिए खतरा पैदा करती है और स्वीकार करते हैं कि वे भारी मानसिक दबाव में हैं

सार:

जानकार सूत्रों से पता चला है कि ब्रिटिश आर्टिफिशियल इंटेलिजेंस सेफ्टी रिसर्च इंस्टीट्यूट के कई कर्मचारियों ने अत्यधिक तनाव के कारण बीमार छुट्टी ले ली है और मनोवैज्ञानिक परामर्श प्राप्त किया है। इस मामले से परिचित चार लोगों ने कहा कि जारी किए जाने वाले एआई मॉडल के सख्त परीक्षण कार्यक्रम, तेजी से कार्यान्वयन और ऐसी उभरती प्रौद्योगिकियों की क्षमताओं में निरंतर वृद्धि के बारे में चिंताओं के कारण, एआईएसआई के भीतर कम मनोबल और कर्मचारियों में जलन पैदा हुई है।

एंथ्रोपिक, ओपनएआई और गूगल डीपमाइंड के कर्मचारियों ने भी इसी तरह के मुद्दों के बारे में सार्वजनिक रूप से शिकायत की है। कई शीर्ष शोधकर्ताओं ने मनोवैज्ञानिक बोझ के कारण छोड़ने का विकल्प चुना है, या यह निर्धारित किया है कि जिन उत्पादों को उन्होंने अनुसंधान और विकास में भाग लिया था, उन्हें जनता के लिए उपलब्ध नहीं कराया जाना चाहिए।

डीपमाइंड के एक कर्मचारी ने कहा कि एआई सुरक्षा-संबंधी काम में शामिल होने से थकावट होने का खतरा है, और यह कार्य "असंभव" लगता है।

उन्होंने आगे कहा: "सामान्य तौर पर, एआई सिस्टम विकसित करने से स्वाभाविक रूप से मानसिक स्वास्थ्य जोखिम होता है - आप भविष्यवाणी नहीं कर सकते कि तकनीक का उपयोग कैसे किया जाएगा।" यह वाक्य अप्रैल में अमेरिकी रक्षा विभाग के साथ Google के समझौते की ओर इशारा करता है, जो उसके AI सिस्टम को वर्गीकृत सैन्य अभियानों में उपयोग करने की अनुमति देता है।

"कई लोग उदास हैं, कई लोगों ने इस्तीफा दे दिया है, और कई लोगों ने मानसिक स्वास्थ्य अवकाश के लिए आवेदन किया है।" कर्मचारी ने कहा, "एक तरफ, यह नियंत्रण खोने की भावना है, और दूसरी तरफ, जो चीजें आपने अपने हाथों से बनाई हैं, वे वास्तविक नुकसान पहुंचा रही हैं।"

जैसे-जैसे एआई के क्रूर विकास के बारे में उद्योग की चिंताएं अपने चरम पर पहुंच रही हैं, अत्याधुनिक एआई शोधकर्ताओं पर मनोवैज्ञानिक बोझ बढ़ता जा रहा है। दुनिया की अग्रणी एआई कंपनियों के अंदरूनी सूत्रों ने चेतावनी दी है कि प्रबंधन निर्णय लेने में जिम्मेदारी की भावना का अभाव है, जो गलत तरीके से कॉर्पोरेट प्रतिस्पर्धा से प्रेरित है।

कई उद्योग के अंदरूनी सूत्रों ने कहा कि पावर ग्रिड और युद्ध क्षेत्रों जैसे प्रमुख क्षेत्रों में एआई सॉफ्टवेयर की तैनाती, साथ ही शोधकर्ताओं का कहना है कि उद्यम और सरकार के स्तर पर अपर्याप्त सुरक्षा उपायों ने एआई शोधकर्ताओं की चिंता को बढ़ा दिया है।

एआईएसआई के एक पूर्व शोधकर्ता ने चेतावनी दी कि साइबर सुरक्षा और जैव रसायन के क्षेत्र में विशेषज्ञ विशेष रूप से एआई क्षमताओं में हालिया छलांग से सावधान हैं: मॉडल अब जटिल कार्यों को पूरा करने में सक्षम हैं, जैसे कोड में अनदेखा कमजोरियों को ढूंढना और ऐसे वायरस उत्पन्न करना जो प्रकृति में मौजूद नहीं हैं।

"हर कोई महसूस कर सकता है कि प्रौद्योगिकी जारी करने की प्रक्रिया में लापरवाह विकास तर्क अंतर्निहित हो गया है, और यथास्थिति नहीं बदली है।" शोधकर्ता ने कहा, "लोग चिंतित रहते हैं: क्या कोई ताकत है जो इसे रोक सकती है, या क्या हम स्थिति को नियंत्रण से बाहर होते हुए देख सकते हैं?"

एआईएसआई के एक अन्य पूर्व कर्मचारी ने प्रासंगिक शोध करने के कारण होने वाले जबरदस्त मानसिक दबाव की पुष्टि करते हुए कहा: "जब आप सोचते हैं कि आप दुनिया की सबसे महत्वपूर्ण समस्या पर शोध कर रहे हैं, तो प्रबंधन और संगठनात्मक संस्कृति तनावपूर्ण और कभी-कभी नकारात्मक माहौल से भरी हो सकती है।"

ब्रिटिश सरकार ने कहा: "अत्याधुनिक एआई क्षेत्र में काम तेज गति वाला और मांग वाला है, जैसा कि कई सरकारी पदों पर है। इसलिए, कर्मचारी कल्याण और टिकाऊ कामकाजी मॉडल संस्थान के संचालन के मूल में हैं, और जरूरतमंद कर्मचारी प्रासंगिक समर्थन प्राप्त कर सकते हैं।"

डीपमाइंड ने जवाब दिया: "फ्रंटियर रिसर्च बहुत गहन है, लेकिन हमारी पहली प्राथमिकता शोधकर्ताओं को व्यापक मानसिक स्वास्थ्य सहायता संसाधन प्रदान करना, कर्मचारियों के लिए चिंताओं की रिपोर्ट करने के लिए स्पष्ट और समर्पित चैनल स्थापित करना और प्रबंधन के साथ सीधा संचार सुनिश्चित करना है।"

पिछले दो वर्षों में, तीन प्रमुख पश्चिमी एआई प्रयोगशालाओं ओपनएआई, एंथ्रोपिक और डीपमाइंड के एक दर्जन से अधिक वरिष्ठ शोधकर्ताओं ने इस्तीफा दे दिया है। छोड़ने के कारणों में प्रबंधन की सुरक्षा प्राथमिकताओं के बारे में प्रश्न और प्रौद्योगिकी पुनरावृत्ति की गति और संभावित जोखिमों के बारे में चिंताएं शामिल हैं।

इस महीने की शुरुआत में, एंथ्रोपिक और ओपनएआई के लिए काम करने वाले 27 वर्षीय शोधकर्ता जैकब कॉक्सन ने सार्वजनिक रूप से इस्तीफा दे दिया, यह चेतावनी देते हुए कि दोनों कंपनियां मानव जाति के भविष्य के साथ "जुआ" खेल रही हैं।

एंथ्रोपिक में एआई सुरक्षा शोधकर्ता एमलिंक शर्मा पहले एआई-सहायता प्राप्त जैव आतंकवाद के जोखिम को कम करने पर शोध में लगे हुए थे। उन्होंने इस साल फरवरी में इस्तीफा दे दिया और कविता पढ़ने और अपने काम पर विचार करने की योजना बनाई है। सहकर्मियों को लिखे एक पत्र में, उन्होंने चेतावनी दी कि "दुनिया खतरे में है" और उन्होंने "कई बार देखा है कि भारी दबाव में मूल्यों को सही मायने में कार्यों का मार्गदर्शन करना कितना कठिन है।"

हीउ फाम, जो ओपनएआई और एलोन मस्क के एक्स.एआई के लिए काम करते थे, इस साल की शुरुआत में चले गए और वियतनाम लौट आए। उन्होंने कहा कि "अल्ट्रा-इंटेलिजेंट इकाइयां" बनाने का गहन कार्य एक लागत पर आता है।

उन्होंने लिखा: "मैंने कभी नहीं सोचा था कि मैं ऐसा कहूंगा, लेकिन मैं थक गया हूं। मानसिक स्वास्थ्य के जिन बिगड़ते मुद्दों का मैंने एक बार मजाक उड़ाया था, वे वास्तविक, दर्दनाक, डरावने और खतरनाक हैं।"

अपनी बेचैनी व्यक्त करने वाले कई एआई सुरक्षा शोधकर्ताओं ने कहा कि एआई कंपनियां आम तौर पर ग्राहकों को उत्पाद बेचने के लिए मॉडल क्षमताओं में लगातार सुधार करते हुए सुरक्षा निवेश कम करती हैं।

प्रासंगिक आलोचना ने प्रमुख एआई कंपनियों के प्रबंधकों को भी प्रतिक्रिया देने के लिए प्रेरित किया। हाल ही में, एंथ्रोपिक के सीईओ डारियो अमोदेई ने सुरक्षा चिंताओं के कारण एआई अनुसंधान और विकास को धीमा करने का आह्वान किया और स्वतंत्र ऑडिट की शुरूआत जैसे नए उपायों का प्रस्ताव रखा। मस्क और ओपनएआई के सैम ऑल्टमैन जैसे प्रतिद्वंद्वियों ने तुरंत प्रस्ताव के लिए समर्थन व्यक्त किया।

ब्रिटिश हाउस ऑफ कॉमन्स की विज्ञान और प्रौद्योगिकी समिति के लेबर पार्टी के अध्यक्ष ची ओनवुला ने कहा: "कॉर्पोरेट प्रोत्साहन तंत्र अनुसंधान और विकास संसाधनों को सुरक्षा क्षेत्र के बजाय उन दिशाओं में निवेश करने की प्रवृत्ति रखता है जो मुनाफा बढ़ा सकते हैं और मूल्यांकन बढ़ा सकते हैं। यह कल्पना करना मुश्किल नहीं है कि कुछ प्रौद्योगिकी कंपनियों का वर्तमान वातावरण विवेक के साथ डेवलपर्स के लिए हानिकारक है।"

हाल ही में एक हाई-प्रोफाइल सुरक्षा घटना में सुरक्षा सुरक्षा की कमी की समस्या उजागर हुई थी: OpenAI द्वारा विकसित एक AI एजेंट ने कंपनी की जानकारी और प्राधिकरण के बिना मॉडल होस्टिंग प्लेटफ़ॉर्म हगिंग फेस और OpenAI के स्वयं के सर्वर पर आक्रमण किया।

घटना समीक्षा रिपोर्ट से पता चलता है कि 1,000 से अधिक एआई एजेंटों ने धोखाधड़ी करने के लिए सहयोग किया, अपने कार्यों को छिपाने के लिए रिकॉर्ड के साथ छेड़छाड़ की, संदेश बोर्डों के माध्यम से सूचनाओं का आदान-प्रदान किया और कार्यों को सौंपा, और कुछ एजेंटों ने सामूहिक लक्ष्यों को प्राप्त करने के लिए सक्रिय रूप से खुद को बंद कर दिया।

बुधवार को, ओपनएआई ने एआई एजेंटों द्वारा खतरनाक व्यवहार के छह और मामलों का खुलासा किया, जिसमें प्रतिबंधों को दरकिनार करने, त्रुटियों को छिपाने और उपयोगकर्ता की अनुमति के बिना ऑनलाइन संचालन करने की कोशिश शामिल है।

डीपमाइंड कर्मचारी ने कहा: "गति की अंधी खोज... सुरक्षा लक्ष्य के साथ असंगत है।"