सार:
जेफरी हिंटन, जिन्हें "एआई के गॉडफादर" और नोबेल पुरस्कार विजेता के रूप में जाना जाता है, ने गार्जियन के साथ एक साक्षात्कार में एक भारी चेतावनी दी।
उनका मानना है कि इस साल या अगले साल एआई क्षेत्र में चेरनोबिल जितनी बड़ी दुर्घटना हो सकती है
.
हिंटन ने इस गर्मी में हगिंग फेस प्लेटफॉर्म में ओपनएआई एजेंट की घुसपैठ की तुलना परमाणु सुरक्षा के इतिहास में थ्री माइल आइलैंड दुर्घटना से की। यह एक खतरनाक प्रारंभिक चेतावनी संकेत था, लेकिन यह कोई वास्तविक आपदा नहीं थी।
एआई दुनिया में तथाकथित "चेरनोबिल" यह नहीं है कि एआई स्वायत्त रूप से विद्रोह करता है और विज्ञान कथा फिल्मों में मानव जाति का सफाया कर देता है, बल्कि यह है कि एआई का उपयोग हैकर्स द्वारा महत्वपूर्ण बुनियादी ढांचे पर साइबर हमले शुरू करने के लिए किया जाता है। सबसे आम परिदृश्य बड़े पैमाने पर और दीर्घकालिक बिजली कटौती का कारण बनता है, या एक सप्ताह के लिए वैश्विक वित्तीय प्रणाली को पंगु बना देता है, जो सीधे लोगों की आजीविका के क्रम को प्रभावित करता है
.साक्षात्कार में, हिंटन ने स्पष्ट रूप से कहा कि वह अग्रणी एआई कंपनियों के प्रबंधन के जोखिम रवैये के बारे में आशावादी नहीं थे, और ओपनएआई के ऑल्टमैन, मेटा के जुकरबर्ग, मस्क और अन्य की आलोचना की।
हिंटन ने कहा कि वे एआई के पीछे छिपे बड़े खतरों से अवगत थे, लेकिन व्यावसायिक प्रतिस्पर्धा और हितों के सामने उन्होंने पर्याप्त ध्यान नहीं दिया। प्रत्येक कंपनी ने केवल मॉडल क्षमताओं के लिए प्रतिस्पर्धा करने और बाजार पर कब्ज़ा करने पर ध्यान केंद्रित किया।
यह बताया जाना चाहिए कि हिंटन एआई के खिलाफ नहीं है।
उनका मानना है कि AI एक दोधारी तलवार है। वह मानते हैं कि इसका बड़ा सकारात्मक मूल्य है और यह मानव जाति के लिए एक उज्ज्वल भविष्य ला सकता है। हालाँकि, एक बार जब कोई बड़ी दुर्घटना हो जाती है, तो लोगों को पछतावा हो सकता है कि उन्हें पहले ही इस तकनीक का आविष्कार नहीं करना चाहिए था।
.उनके विचार में, अगले दस वर्ष मानव जाति के लिए एक महत्वपूर्ण खिड़की अवधि होगी। मानवता अंततः सत्यापित करेगी कि क्या वह एआई के जोखिमों को नियंत्रित कर सकती है।
तो जोखिमों को कैसे रोका जाए? हिंटन द्वारा दिया गया समाधान भी बहुत स्पष्ट है:
अत्याधुनिक बड़े मॉडलों के लिए, सभी देशों में एकीकृत एआई सुरक्षा मानकों की स्थापना को बढ़ावा देने और नियामक बाधाओं का बेतहाशा उपयोग करने के लिए अनिवार्य सुरक्षा परीक्षण और तीसरे पक्ष के स्वतंत्र मूल्यांकन को लागू किया जाना चाहिए।
.
टिप्पणियाँ