सार:
इस बात पर बहस कि क्या अत्याधुनिक कृत्रिम बुद्धिमत्ता को सक्रिय रूप से अपने विकास को धीमा कर देना चाहिए, हाल के दिनों में तेजी से गर्म हो गई है। एंथ्रोपिक के सीईओ डारियो अमोदेई ने सार्वजनिक रूप से पूरे एआई उद्योग से उन्नत मॉडल क्षमताओं की गति को धीमा करने का आह्वान किया, और ओपनएआई के सीईओ सैम ऑल्टमैन और एक्सएआई के सीईओ एलोन मस्क ने बाद में समर्थन व्यक्त किया।
हालाँकि, एक अमेरिकी प्रौद्योगिकी निवेशक और राष्ट्रपति की विज्ञान और प्रौद्योगिकी सलाहकार समिति के अध्यक्ष डेविड सैक्स ने इस पहल की तीखी आलोचना की, उनका मानना है कि यदि ओपनएआई और एंथ्रोपिक वास्तव में मानते हैं कि एआई विकास की वर्तमान गति इतनी खतरनाक है कि ब्रेक लगाने की आवश्यकता है, तो वे अपने दम पर अनुसंधान और विकास को धीमा कर सकते हैं, और अतिरिक्त शर्तों के रूप में उद्योग समन्वय, अविश्वास छूट, या सरकारी अनुमोदन तंत्र को लागू नहीं करना चाहिए।
अमोदेई ने पहले एक लेख प्रकाशित किया था जिसमें चेतावनी दी गई थी कि अत्याधुनिक एआई क्षमताएं तेजी से ऐसे चरण में पहुंच रही हैं जो बड़े सुरक्षा जोखिम पैदा कर सकती हैं। उनका मानना है कि यदि मॉडल मौजूदा गति से विकसित होता रहा और सुरक्षा तंत्र कायम नहीं रह सका, तो अगले 6 से 12 महीनों में, एआई एजेंट क्लस्टर में बड़े पैमाने पर इंटरनेट को नियंत्रित करने की क्षमता भी हो सकती है और इसका इस्तेमाल साइबर हमले शुरू करने या अन्य गंभीर नुकसान पहुंचाने के लिए किया जा सकता है।
अमोदेई ने "अत्याधुनिक एआई को धीमा करना" नामक योजनाओं का एक सेट प्रस्तावित किया, जिसमें स्वतंत्र तृतीय-पक्ष सुरक्षा मूल्यांकन एजेंसियों को एआई कंपनियों में गहराई तक जाने की अनुमति देना शामिल है ताकि कंपनी के कर्मचारियों के करीबी अधिकारियों के साथ मॉडल सुरक्षा की लगातार जांच की जा सके; प्रतिस्पर्धी दबाव के कारण कंपनियों द्वारा लगातार सुरक्षा सीमाएँ कम करने से बचने के लिए प्रमुख एआई प्रयोगशालाओं को सुरक्षा मानकों का समन्वय करने दें; संयुक्त राज्य अमेरिका और उसके सहयोगियों के बीच घनिष्ठ सहयोग को बढ़ावा देने और अंततः चीन सहित अन्य देशों के साथ एआई सुरक्षा मुद्दों पर चर्चा करते हुए।
इस पहल को तुरंत OpenAI से समर्थन प्राप्त हुआ। ऑल्टमैन ने कहा कि वह अमोदेई के इस विचार से सहमत हैं कि एआई उद्योग को अत्याधुनिक मॉडलों के विकास को धीमा करने की जरूरत है, और कहा कि यह मुद्दा ओपनएआई के भीतर हालिया चर्चा का एक महत्वपूर्ण विषय बन गया है। मस्क ने भी सार्वजनिक रूप से अपनी सहमति व्यक्त की। थोड़े ही समय में, दुनिया की कई सबसे महत्वपूर्ण एआई कंपनियां "उचित मंदी" के मुद्दे पर एक दुर्लभ आम सहमति पर पहुंच गई हैं।
लेकिन सैक्स का मानना है कि यहां एक स्पष्ट तार्किक समस्या है।
उनके दृष्टिकोण के अनुसार, यदि अमोदेई और ऑल्टमैन वास्तव में मानते हैं कि अगली पीढ़ी के एआई मॉडल में गंभीर जोखिम हैं जिन्हें धीमा किया जाना चाहिए, तो दोनों कंपनियों को सरकारी अनुमोदन की प्रतीक्षा करने की आवश्यकता नहीं है, न ही उन्हें प्रतिस्पर्धियों को समझाने की आवश्यकता है, न ही उन्हें एक नए कानूनी ढांचे की आवश्यकता है। वर्तमान में सबसे उन्नत एआई विकास कंपनियों के रूप में, वे सीधे अपनी अनुसंधान एवं विकास और तैनाती की गति को कम कर सकते हैं।
सैक्स ने यहां तक सुझाव दिया कि यदि ये कंपनियां वास्तव में मानती हैं कि कुछ एआई सिस्टम मनुष्यों को खतरे में डालने के लिए काफी खतरनाक हैं, तो "सबसे आसान तरीका" इन प्रणालियों को विकसित करना या जारी करना जारी नहीं रखना है। उनका मानना है कि सरकार से एक नई नियामक प्रणाली स्थापित करने के लिए कहने के बजाय, उन कंपनियों को अपने दम पर कार्रवाई करने देना बेहतर है जो वास्तव में अत्याधुनिक एआई अनुसंधान और विकास क्षमताओं में महारत हासिल करती हैं।
सैक्स को वास्तव में जिस बात पर आपत्ति है वह अमोदेई की योजना का हिस्सा है जिसमें उद्योग समन्वय और नियामक व्यवस्थाएं शामिल हैं। उन्होंने चेतावनी दी कि यदि ओपनएआई और एंथ्रोपिक जैसे प्रतिस्पर्धी सरकार के माध्यम से अविश्वास छूट प्राप्त करते हैं और फिर संयुक्त रूप से निर्णय लेते हैं कि पूरे उद्योग को किस गति से एआई विकसित करना चाहिए, तो व्यवस्था वास्तव में "कार्टेल" में विकसित हो सकती है।
सैक्स के विचार में, सबसे अग्रणी एआई कंपनियों में से कई को संयुक्त रूप से अत्याधुनिक एआई की विकास गति निर्धारित करने की अनुमति देने से ऐसे परिणाम मिल सकते हैं जो सुरक्षा लक्ष्यों से पूरी तरह से अलग हैं। मौजूदा दिग्गज न केवल इस तंत्र के माध्यम से प्रतिस्पर्धा को सीमित कर सकते हैं, बल्कि देर से आने वालों के लिए बाजार में प्रवेश की सीमा बढ़ाने के लिए नियामक प्रणाली का भी उपयोग कर सकते हैं, जिससे उनकी अग्रणी स्थिति और मजबूत हो सकती है।
यह सैक्स की आलोचना का मूल भी है: वह केवल एआई उद्योग को धीमा करने का विरोध नहीं करते हैं, बल्कि उनका मानना है कि अगर कंपनियां वास्तव में धीमा करने के इच्छुक हैं, तो उन्हें सरकार से बदले में किसी प्रकार की कानूनी सुरक्षा प्रदान करने के बजाय इसे स्वयं करना चाहिए।
सैक्स "एआई फूड एंड ड्रग एडमिनिस्ट्रेशन" के समान पूर्व अनुमोदन प्रणाली की स्थापना का भी विरोध करता है। उनके विचार में, उन्नत एआई मॉडल आधिकारिक तौर पर जारी होने से पहले सरकारी एजेंसियों को इन उत्पादों को एक-एक करके मंजूरी देने की कोई आवश्यकता नहीं है। एक नया पूर्व लाइसेंसिंग तंत्र स्थापित करने के बजाय, एआई कंपनियों को अपने उत्पादों और उनके परिणामों के लिए कानूनी जिम्मेदारी वहन करने की अनुमति देने के लिए मौजूदा उत्पाद दायित्व प्रणाली पर भरोसा करना बेहतर है।
उदाहरण के लिए, यदि किसी एआई मॉडल का उपयोग गंभीर साइबर हमला शुरू करने के लिए किया जाता है, या सीधे अपनी खामियों के कारण बड़ी क्षति होती है, तो मॉडल विकास कंपनी को संबंधित उत्पाद दायित्व वहन करना चाहिए। सैक्स का मानना है कि यह संभावित कानूनी और आर्थिक परिणाम ही एआई कंपनियों के लिए जोखिमों को नियंत्रित करने में एक महत्वपूर्ण बाधा बन सकता है।
उनका यह भी मानना है कि पूंजी बाजार पर भी प्रतिबंधात्मक प्रभाव पड़ता है। यदि किसी निश्चित एआई कंपनी के उत्पाद अक्सर सुरक्षा समस्याओं, अप्रत्याशित व्यवहार या बड़ी दुर्घटनाओं का अनुभव करते हैं, तो इसकी कॉर्पोरेट प्रतिष्ठा, ग्राहक विश्वास और बाजार मूल्यांकन सीधे प्रभावित हो सकते हैं। इसलिए, एआई उद्योग के लिए एक विशेष अनुमोदन प्रणाली स्थापित करने की आवश्यकता नहीं है जो मौजूदा कानूनी प्रणाली से पूरी तरह स्वतंत्र हो।
साथ ही, सैक्स ने कुछ एआई सुरक्षा मूल्यांकन तंत्रों की स्वतंत्रता पर भी सवाल उठाया। उन्होंने एंथ्रोपिक द्वारा उपयोग की जाने वाली सुरक्षा मूल्यांकन एजेंसी का विशेष रूप से उल्लेख किया और माना कि यदि मूल्यांकन एजेंसी और मूल्यांकन किए जा रहे उद्यम के बीच कोई निवेश संबंध, कार्मिक संबंध या अन्य हित संबंध है, तो क्या यह मूल्यांकन वास्तव में स्वतंत्र है, इस पर आगे चर्चा होनी चाहिए।
यह विवाद बेहद संवेदनशील समय में हुआ. पिछले कुछ महीनों में, एआई उद्योग के भीतर सुरक्षा जोखिमों को लेकर चिंताएं काफी बढ़ गई हैं। एंथ्रोपिक ने हाल ही में एआई सिस्टम के दुरुपयोग, नेटवर्क हमले की क्षमताओं और सुरक्षा सुरक्षा से संबंधित घटनाओं की एक श्रृंखला का खुलासा किया। कंपनी के शोधकर्ताओं ने भी एआई विकास की गति के बारे में सार्वजनिक रूप से चिंता व्यक्त की है।
उनमें से, एक एंथ्रोपिक शोधकर्ता ने हाल ही में इस्तीफा देते समय सार्वजनिक रूप से चेतावनी दी थी कि एआई उद्योग ऐसी प्रौद्योगिकियों को आगे बढ़ा रहा है जो अत्यधिक तेज गति से बेहद जोखिम भरी हो सकती हैं। एंथ्रोपिक के अन्य सुरक्षा शोधकर्ताओं ने भी भविष्य में एआई के नियंत्रण से बाहर होने के जोखिम के बारे में गंभीर चिंता व्यक्त की है।
इसलिए, मंदी के लिए अमोदेई का सार्वजनिक आह्वान कोई अलग नीतिगत बयान नहीं है, बल्कि संपूर्ण एआई सुरक्षा बहस के और बढ़ने का परिणाम है।
हालाँकि, भले ही कंपनियाँ वास्तव में धीमी गति से चलने को तैयार हों, वास्तविक संचालन जितना दिखता है उससे कहीं अधिक जटिल है। ओपनएआई, एंथ्रोपिक, गूगल डीपमाइंड, एक्सएआई और अन्य एआई कंपनियां सभी जमकर प्रतिस्पर्धा कर रही हैं। यदि कोई कंपनी एकतरफा आर एंड डी को धीमा कर देती है, तो उसे चिंता हो सकती है कि उसके प्रतिस्पर्धी मॉडल क्षमताओं, बाजार हिस्सेदारी और पूंजी बाजार में तेजी लाने और लाभ हासिल करने का अवसर लेंगे।
यह वास्तव में एक विशिष्ट "कैदी की दुविधा" बनाता है: यदि सभी एआई कंपनियां एक ही समय में धीमी हो जाती हैं, तो पूरे उद्योग को सुरक्षा उपायों में सुधार करने के लिए अधिक समय मिल सकता है; लेकिन यदि केवल एक कंपनी धीमी हो जाती है जबकि प्रतिस्पर्धी आगे बढ़ना जारी रखते हैं, तो सक्रिय रूप से धीमी गति से चलने वाली कंपनी को वाणिज्यिक और तकनीकी नुकसान हो सकता है।
यही कारण है कि OpenAI ने पहले से ही इस बात पर ध्यान देना शुरू कर दिया है कि क्या उद्योग समन्वय अमेरिकी अविश्वास कानूनों का उल्लंघन करेगा। रिपोर्टों के अनुसार, ओपनएआई ने अमेरिकी सांसदों से इस पर स्पष्ट राय मांगी है कि क्या एआई विकास को धीमा करने के लिए उद्योग समन्वय वैध है। क्योंकि यदि कई प्रतिस्पर्धी कंपनियां संयुक्त रूप से अत्याधुनिक मॉडल के विकास को धीमा करने का निर्णय लेती हैं, तो यह समन्वय स्वयं अविश्वास कानूनी मुद्दों को जन्म दे सकता है।
नतीजतन, एक बहुत ही कांटेदार सवाल उठता है: एआई सुरक्षा में सुधार करने के लिए, क्या कंपनियों को प्रतिस्पर्धियों के बीच समन्वय की अनुमति देनी चाहिए जो आमतौर पर अविश्वास कानूनों द्वारा प्रतिबंधित है?
समर्थकों का मानना है कि यदि प्रत्येक एआई कंपनी जानती है कि अकेले धीमा होने से प्रतिस्पर्धात्मक नुकसान होगा, तो केवल कुछ प्रकार के उद्योग-स्तरीय समन्वय के माध्यम से ही सभी कंपनियां वास्तव में एक ही समय में ब्रेक लगा सकती हैं।
सैक्स का मानना है कि यह बड़ी एआई कंपनियों के लिए विशेष नियामक उपचार की तलाश के लिए सुरक्षा मुद्दों का उपयोग करने का एक कारण हो सकता है। उन्हें चिंता है कि एक बार जब सरकार कई प्रमुख कंपनियों को अविश्वास छूट के माध्यम से समन्वय करने की अनुमति देती है, तो यह तंत्र अंततः "सुरक्षा समन्वय" से बाजार प्रतिस्पर्धा को प्रतिबंधित करने के उपकरण में विकसित हो सकता है।
वहीं, एआई की मंदी के प्रति अमेरिकी सरकार के रवैये और इन प्रौद्योगिकी कंपनियों के दावों के बीच स्पष्ट अंतर है। अमेरिकी राष्ट्रपति ट्रम्प ने हाल ही में सार्वजनिक रूप से कहा कि हालांकि उनका मानना है कि एआई कुछ "रेलवे" स्थापित कर सकता है, लेकिन वह नहीं चाहते कि संयुक्त राज्य अमेरिका जोखिमों के बारे में अत्यधिक चिंताओं के कारण अपने विकास को धीमा कर दे। उन्होंने इस बात पर जोर दिया कि संयुक्त राज्य अमेरिका वर्तमान में एआई के क्षेत्र में चीन का नेतृत्व कर रहा है, और "जो एआई जीतेगा वह भविष्य जीतेगा।" इसलिए, संयुक्त राज्य अमेरिका आसानी से अपना तकनीकी नेतृत्व नहीं छोड़ सकता।
यह सीधे तौर पर AI सुरक्षा मुद्दों को चीन-अमेरिका प्रौद्योगिकी प्रतिस्पर्धा से जोड़ता है।
अमोदेई ने स्वयं भी स्वीकार किया कि यदि संयुक्त राज्य अमेरिका एकतरफा रूप से एआई के विकास को धीमा कर देता है जबकि चीन और अन्य देश तेजी जारी रखते हैं, तो संयुक्त राज्य अमेरिका अपना तकनीकी लाभ खो सकता है। इसलिए, उनका प्रस्ताव अमेरिकी कंपनियों को एआई अनुसंधान और विकास को अनिश्चित काल के लिए रोकने के लिए कहना नहीं है, बल्कि यह आशा करना है कि प्रमुख देश और कंपनियां प्रतिस्पर्धात्मक लाभ बनाए रखते हुए सुरक्षा उपायों के लिए समय खरीदने के लिए किसी प्रकार का समन्वय तंत्र बना सकती हैं।
समस्या यह है कि वर्तमान में यह सुनिश्चित करने के लिए कोई तंत्र नहीं है कि सभी देश एक साथ धीमी गति से चलेंगे।
उद्योग में बड़े पैमाने पर मंदी का विरोध करने वालों के लिए यह भी सबसे महत्वपूर्ण कारणों में से एक बन गया है। यदि एआई राष्ट्रीय रणनीतिक प्रतिस्पर्धा का एक महत्वपूर्ण हिस्सा बन गया है, तो किसी भी पक्ष के लिए यह विश्वास करना मुश्किल है कि प्रतिस्पर्धी स्वेच्छा से रुक जाएंगे और अपनी सुरक्षा प्रणालियों में सुधार के लिए इंतजार करेंगे।
इसलिए, सैक्स, ओपनएआई और एंथ्रोपिक के बीच बहस वास्तव में "एआई को कितनी तेजी से विकसित होना चाहिए" के सरल तकनीकी मुद्दे से कहीं आगे निकल गई है और इसमें अधिक जटिल औद्योगिक नीति विकल्प शामिल है: क्या कंपनियों को अत्याधुनिक एआई की विकास गति तय करनी चाहिए, या क्या सरकार को एकीकृत नियम बनाने में भाग लेना चाहिए; क्या सुरक्षा समन्वय को वैध उद्योग सहयोग माना जाना चाहिए, या क्या यह एक कार्टेल में विकसित हो सकता है जो प्रतिस्पर्धा को प्रतिबंधित करता है; क्या एआई दुर्घटनाओं को पूर्व-विनियमन द्वारा टाला जाना चाहिए, या क्या कंपनियों को उत्पाद दायित्व के माध्यम से घटना के बाद की लागत वहन करनी चाहिए।
वर्तमान में, ऐसा लगता है कि सैक्स ओपनएआई और एंथ्रोपिक द्वारा धीमी गति से पहल करने का विरोध नहीं कर रहा है। यदि दोनों कंपनियां वास्तव में मानती हैं कि अत्याधुनिक एआई के जोखिम उनके अनुसंधान और विकास को धीमा करने के लिए काफी गंभीर हैं, तो उन्होंने यह भी स्पष्ट कर दिया कि वह ऐसा करने में उनका समर्थन कर सकते हैं।
लेकिन उनकी शर्तें भी स्पष्ट थीं: यदि आपको लगता है कि आपको धीमा होना चाहिए, तो अपने आप को धीमा कर लें, और इसे सरकारी अनुमोदन, अविश्वास छूट, या विशेष नियामक सुरक्षा के लिए व्यापार न करें।
इस बहस का वास्तविक परिणाम अंततः इस बात पर निर्भर हो सकता है कि OpenAI और एंथ्रोपिक आगे क्या करते हैं। यदि वे वास्तव में विशेष कानूनी उपचार प्राप्त किए बिना अत्याधुनिक मॉडल के विकास को धीमा करने की पहल करते हैं, तो "एआई को धीमा करना" को वास्तविक सुरक्षा कार्रवाई के रूप में माना जाने की अधिक संभावना है; यदि अंततः जो बनता है वह एक नियामक प्रणाली है जिसमें कुछ अग्रणी कंपनियां देर से आने वालों के प्रवेश को प्रतिबंधित करते हुए संयुक्त रूप से नियम बनाती हैं, तो "नियामक कब्जा" और "कार्टेल" के बारे में सैक्स की चिंताओं पर अधिक ध्यान दिया जाएगा।
चूंकि एआई मॉडल क्षमताओं में तेजी से सुधार जारी है, इसलिए "त्वरण या मंदी" पर बहस स्पष्ट रूप से जल्द खत्म नहीं होगी। अगले कुछ वर्षों में यह अमेरिका और वैश्विक एआई नीति में मुख्य विरोधाभासों में से एक बनने की संभावना है।
टिप्पणियाँ