ताओ ज़ेक्सुआन ने चेतावनी दी: मनुष्यों द्वारा सोच को एआई पर छोड़ देने का ख़तरा जल्द ही आ सकता है

सार:

फील्ड्स मेडल विजेता और प्रसिद्ध गणितज्ञ टेरेंस ताओ ने हाल ही में कृत्रिम बुद्धिमत्ता पर मानव जाति की बढ़ती निर्भरता के बारे में चेतावनी जारी की। उन्हें चिंता है कि जैसे-जैसे लोग धीरे-धीरे अपनी सोच और समस्या-समाधान प्रक्रियाओं को एआई को सौंप रहे हैं, मनुष्य स्वयं समस्याओं और उनके समाधानों की समझ खो रहे हैं, और इस प्रवृत्ति के जल्द ही वास्तविक दुनिया में गंभीर परिणाम हो सकते हैं।

ये टिप्पणियाँ 16 अक्टूबर को कैलिफोर्निया विश्वविद्यालय, लॉस एंजिल्स में आयोजित साइंस x AI शिखर सम्मेलन में टेरेंस ताओ के भाषण से आईं। साइंस एंड आर्टिफिशियल इंटेलिजेंस रिसर्च फाउंडेशन (SAIR) ने हाल ही में YouTube पर "मैथ 2.0" शीर्षक से एक संपूर्ण भाषण वीडियो जारी किया, और प्रासंगिक क्लिप ने बाद में विदेशी सोशल प्लेटफॉर्म X पर ध्यान आकर्षित किया।

"हम अपनी सोच एआई को सौंप रहे हैं और उन्हें हमारे लिए समस्याएं हल करने दे रहे हैं। लेकिन साथ ही, हम एक गारंटी भी खो रहे हैं - हम निश्चित नहीं हो सकते कि एआई द्वारा दिया गया समाधान वास्तव में वही है जो हम चाहते हैं।" ताओ ज़ेक्सुआन ने कहा, "मैं वास्तव में चिंतित हूं कि हम जल्द ही वास्तविक दुनिया में इसके परिणाम देखेंगे। यह वास्तव में एक चिंता है जो मुझे गणित के क्षेत्र के बाहर है।"

ताओ ज़ेक्सुआन ने बताया कि गणित के क्षेत्र में कृत्रिम बुद्धिमत्ता की प्रगति मनुष्यों द्वारा समस्याओं को हल करने के पारंपरिक तरीके को बदल रही है। अतीत में, जटिल समस्याओं को हल करने के लिए, गणितज्ञों को लंबे समय तक प्रासंगिक सिद्धांतों का अध्ययन करने और समझने की आवश्यकता होती थी, और इस प्रक्रिया में नए ज्ञान को संचित करना पड़ता था। लेकिन आजकल, AI तुरंत उत्तर दे सकता है, लेकिन मनुष्य उत्तर के पीछे की तर्क प्रक्रिया को समझने में सक्षम नहीं हो सकते हैं।

उनका मानना ​​है कि शुद्ध गणित के क्षेत्र में ऐसे परिवर्तनों का जोखिम अपेक्षाकृत नियंत्रणीय है, क्योंकि गणितीय प्रमाणों को आमतौर पर औपचारिक उपकरणों के माध्यम से सत्यापित किया जा सकता है। लेकिन जब वही दृष्टिकोण वास्तविक दुनिया में उपयोग किया जाता है, तो स्थिति अधिक जटिल हो जाती है।

ताओ ज़ेक्सुआन ने विशेष रूप से पावर ग्रिड, हवाई यातायात नियंत्रण, दवा अनुसंधान और विकास और चिप डिजाइन के क्षेत्रों का उल्लेख किया। उन्हें चिंता है कि भविष्य में, लोग प्रसंस्करण के लिए जटिल समस्याओं को सीधे एआई को सौंप सकते हैं, लेकिन अंतर्निहित मॉडल और वास्तविक दुनिया की बाधाओं की पूरी समझ का अभाव है।

इस मामले में, AI द्वारा दिया गया समाधान पूरी तरह से गणितीय मॉडल में स्थापित हो सकता है, लेकिन यह वास्तविक दुनिया की वास्तविक जरूरतों को पूरा नहीं करता है। एआई मॉडल में खामियां या सीमा की स्थिति भी ढूंढ सकता है, सतही संकेतकों को पूरा करते हुए उन लक्ष्यों से भटक सकता है जिन्हें मनुष्य ने मूल रूप से हासिल करने की उम्मीद की थी।

ताओ ज़ेक्सुआन ने इस बात पर ज़ोर दिया कि समस्या एआई तकनीक में ही नहीं है, बल्कि समस्या यह है कि मनुष्य एआई का उपयोग कैसे करते हैं। वह तथाकथित "गणित 2.0" युग में गणितीय अनुसंधान को बढ़ावा देने की वकालत करते हैं, ताकि एआई न केवल मनुष्यों को समस्याओं को हल करने में मदद कर सके, बल्कि समस्याओं की मानवीय समझ को भी बढ़ा सके और शोधकर्ताओं को मॉडल की सीमाओं और संभावित जोखिमों की पहचान करने में मदद कर सके।

22 अक्टूबर को, टेरेंस ताओ ने नेचर पत्रिका में एक लेख भी प्रकाशित किया, जिसमें गणितीय समुदाय से एआई युग में अनुसंधान लक्ष्यों की फिर से जांच करने का आह्वान किया गया। उन्होंने बताया कि गणितीय अनुसंधान को नई चुनौतियों का सामना करना पड़ रहा है क्योंकि एआई इंसानों की तुलना में तेजी से गणितीय प्रमाण उत्पन्न करता है और इन परिणामों को समझ और पचा सकता है।

ताओ ज़ेक्सुआन का मानना ​​है कि एआई उपकरणों में मानवीय समझ को बढ़ाने की क्षमता है, लेकिन इसके लिए अनुसंधान विधियों और प्रोत्साहन तंत्र में बदलाव की आवश्यकता है। एआई युग में वास्तव में जिस चीज़ को बनाए रखने की ज़रूरत है वह न केवल सही उत्तर प्राप्त करने की क्षमता है, बल्कि उत्तरों को समझने, परीक्षण करने और निर्णय लेने की मानवीय क्षमता भी है।