सार:
एंथ्रोपिक, एक अमेरिकी कृत्रिम बुद्धिमत्ता कंपनी, उन्नत कृत्रिम बुद्धिमत्ता प्रणालियों के लिए एक सुरक्षा विनियमन बिल को बढ़ावा दे रही है, जो अत्याधुनिक एआई मॉडल के विकास, परीक्षण और तैनाती के लिए स्पष्ट कानूनी नियम स्थापित करने की उम्मीद कर रही है। 16 अक्टूबर, 2026 को अमेरिकी राजनीतिक समाचार वेबसाइट पोलिटिको की एक रिपोर्ट के अनुसार, एंथ्रोपिक ने कैपिटल हिल में कुछ सांसदों के सामने निजी तौर पर यह मसौदा विधेयक पेश किया है। यह योजना उन्नत एआई के कारण होने वाले गंभीर नुकसान को रोकने और प्रौद्योगिकी अनुसंधान और विकास में अत्यधिक सरकारी हस्तक्षेप से बचने के बीच एक सीमा स्थापित करने का प्रयास करती है।
रॉयटर्स द्वारा उद्धृत पोलिटिको की रिपोर्ट के अनुसार, मसौदा विधेयक यह निर्धारित करता है कि केवल जब एक अत्याधुनिक एआई मॉडल को महत्वपूर्ण पूर्वानुमानित और आसन्न जोखिम उत्पन्न करने वाला माना जाता है, तो अमेरिकी सरकार न्यायिक कार्यवाही के माध्यम से मॉडल की रिलीज या उपयोग को रोक सकती है। प्रासंगिक जोखिमों को कुछ निश्चित सीमाओं को पूरा करना होगा, जिसमें $1 बिलियन से अधिक का नुकसान होने या 50 से अधिक लोगों की मृत्यु या गंभीर चोट लगने की संभावना शामिल है।
इसका मतलब यह है कि विधेयक सरकार को सभी उन्नत एआई प्रणालियों में मनमाने ढंग से हस्तक्षेप करने की शक्ति नहीं देता है, बल्कि मॉडल रिलीज या उपयोग के निलंबन को कुछ गंभीर स्थितियों तक सीमित करने का प्रयास करता है। मसौदा तीन प्रकार के जोखिमों पर केंद्रित है: जैविक हथियार बनाने या जारी करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग किया जा रहा है, एआई सिस्टम डेवलपर्स के नियंत्रण से बाहर है, और साइबर हमलों को अंजाम देने के लिए एआई का उपयोग किया जा रहा है।
यह ध्यान दिया जाना चाहिए कि यह अभी भी एंथ्रोपिक द्वारा कानून निर्माताओं के लिए पेश किया गया एक मसौदा विधेयक है, और यह पहले से ही पारित अमेरिकी कानून नहीं है। इसकी अंतिम सामग्री, नियामकों का अधिकार और क्या कांग्रेस कानून के साथ आगे बढ़ेगी, इस पर चर्चा होनी बाकी है।
मसौदे में एक स्वतंत्र मूल्यांकन तंत्र की स्थापना का भी प्रस्ताव है। रिपोर्टों के अनुसार, अत्याधुनिक एआई डेवलपर्स और उनके मॉडलों को मॉडल की क्षमताओं, सुरक्षा उपायों और संभावित जोखिमों की जांच के लिए नियमित स्वतंत्र मूल्यांकन से गुजरना पड़ता है। मूल्यांकनकर्ताओं को अमेरिकी वाणिज्य विभाग के साथ पंजीकरण करना होगा और चल रहे सुरक्षा समीक्षा कार्य करना होगा।
प्रस्तावित योजना के अनुसार, एआई कंपनियां स्वतंत्र मूल्यांकन एजेंसियों को शुल्क का भुगतान कर सकती हैं, लेकिन पारिश्रमिक को मूल्यांकन परिणामों से नहीं जोड़ा जाना चाहिए। इस प्रावधान का उद्देश्य इस संभावना को कम करना है कि मूल्यांकनकर्ता फंडिंग कंपनियों को पूरा करने के लिए जोखिमों को कम कर देंगे, जबकि कंपनियों को तकनीकी समीक्षा करने के लिए बाहरी पेशेवर एजेंसियों का उपयोग करने की अनुमति दी जाएगी।
यदि मूल्यांकनकर्ता यह निर्धारित करता है कि अत्याधुनिक एआई मॉडल अधिनियम में परिभाषित एक आसन्न महत्वपूर्ण जोखिम पैदा करता है, तो उसे मूल्यांकन पूरा करने के 72 घंटों के भीतर अमेरिकी वाणिज्य विभाग को रिपोर्ट करना होगा। ऐसी समय आवश्यकताओं का उद्देश्य समय पर सरकारी नियामक प्रक्रिया में प्रवेश किए बिना उद्यम के भीतर गंभीर जोखिमों को लंबे समय तक रहने से रोकना है।
सरकारी हस्तक्षेप प्राधिकरण के संदर्भ में, मसौदा अपेक्षाकृत सख्त प्रतिबंधों को अपनाता है। यह निर्धारित करने के बाद कि जोखिम कानूनी मानकों तक पहुंच गया है, अमेरिकी वाणिज्य विभाग मॉडल की रिलीज या उपयोग को निलंबित करने के आदेश के लिए अदालत में आवेदन कर सकता है, लेकिन अन्य संघीय विभागों, सरकारी एजेंसियों और अधिकारियों को एआई मॉडल के विकास, तैनाती या आंतरिक उपयोग को रोकने की अनुमति नहीं है।
मॉडल को निलंबित करने या न करने पर अंतिम निर्णय कोलंबिया जिले के लिए अमेरिकी जिला न्यायालय के एक न्यायाधीश द्वारा किया जाएगा। दूसरे शब्दों में, इस मसौदे के अनुसार, नियामक अधिकारी सीधे तौर पर केवल प्रशासनिक निर्णय के आधार पर किसी मॉडल पर प्रतिबंध नहीं लगा सकते हैं, बल्कि उन्हें न्यायिक प्रक्रियाओं के माध्यम से हस्तक्षेप करना होगा।
यह संस्थागत डिज़ाइन दो परस्पर संबंधित समस्याओं को हल करने का प्रयास करता है। एक ओर, सरकार को एआई सिस्टम से निपटने में सक्षम होने की आवश्यकता है जो बड़े पैमाने पर हताहत या आर्थिक नुकसान का कारण बन सकता है; दूसरी ओर, यदि सरकार व्यापक या अस्पष्ट सुरक्षा कारणों से किसी भी समय मॉडल को रोक सकती है, तो कंपनियों के लिए अनुसंधान एवं विकास और उत्पाद लॉन्च के सामने आने वाले नियामक जोखिमों की भविष्यवाणी करना मुश्किल हो सकता है।
कानून में हस्तक्षेप सीमाएँ, रिपोर्टिंग समय सीमा और न्यायिक अनुमोदन प्रक्रियाओं को लिखने से नियामक प्राधिकरण स्पष्ट हो सकता है। हालाँकि, क्या यह तंत्र वास्तविक संचालन के बाद तेजी से बदलते एआई जोखिमों से निपटने के लिए पर्याप्त है, और क्या उच्च नुकसान और हताहतों की सीमा बहुत सख्त है, विधायी चर्चा में महत्वपूर्ण मुद्दे बने रहेंगे।
एंथ्रोपिक के प्रवक्ता ने रॉयटर्स को बताया कि यह बिल कंपनी द्वारा पहले प्रस्तावित "एडवांस्ड एआई फ्रेमवर्क" में कुछ नीतिगत प्रस्तावों को दर्शाता है। कंपनी को कानून पारित करने की उम्मीद है जो सरकारों को सबसे खतरनाक उन्नत एआई सिस्टम की तैनाती को रोकने की क्षमता देगा, जबकि डेवलपर्स को सुरक्षा परीक्षण करने, पारदर्शिता बढ़ाने और स्वतंत्र मूल्यांकन स्वीकार करने की आवश्यकता होगी।
एंथ्रोपिक इस वर्ष उन्नत एआई सिस्टम के लिए अधिक व्यवस्थित सुरक्षा पर्यवेक्षण तंत्र की स्थापना को बढ़ावा दे रहा है। कंपनी का मानना है कि जैसे-जैसे मॉडल क्षमताएं बढ़ती हैं, डेवलपर्स के लिए यह तय करना पर्याप्त नहीं है कि कोई उत्पाद सुरक्षित है या नहीं, और बाहरी मूल्यांकन और सरकारी पर्यवेक्षण शुरू करने की आवश्यकता है।
यह स्थिति एंथ्रोपिक की हाल ही में घोषित तृतीय-पक्ष मूल्यांकन व्यवस्था में भी परिलक्षित होती है। कंपनी ने गैर-लाभकारी अनुसंधान संगठन एमईटीआर में छह शोधकर्ताओं को कंपनी के कर्मचारियों के समान आंतरिक पहुंच प्राप्त करने की अनुमति देना शुरू कर दिया है ताकि वे अप्रकाशित मॉडल और कंपनी की सुरक्षा मूल्यांकन प्रक्रिया की अधिक गहराई से जांच कर सकें। एंथ्रोपिक ने कहा कि मूल्यांकनकर्ता सार्वजनिक रूप से अपने शोध निष्कर्ष जारी कर सकते हैं, और कंपनी सीधे इसकी रिपोर्ट को अस्वीकार नहीं कर सकती है, लेकिन यह ग्राहक डेटा, मॉडल वास्तुकला और कानूनी रूप से गोपनीय जानकारी से जुड़ी विशिष्ट सामग्री को हटाने का अनुरोध कर सकती है।
यह व्यवस्था प्रस्तावित विधेयक के साथ एक सामान्य दिशा साझा करती है: उन्नत एआई की सुरक्षा का निर्णय केवल डेवलपर्स पर नहीं छोड़ा जाना चाहिए, बल्कि मूल्यांकन में स्वतंत्र एजेंसियां शामिल होनी चाहिए और महत्वपूर्ण निष्कर्ष बाहरी समीक्षा के लिए खुले होने चाहिए। हालाँकि, उद्यमों द्वारा स्वेच्छा से किए गए तृतीय-पक्ष मूल्यांकन और कानून द्वारा अनिवार्य आवश्यकताओं के बीच अभी भी अंतर है। पूर्व का विशिष्ट दायरा और अधिकार कंपनी और मूल्यांकन एजेंसी के बीच की व्यवस्था पर निर्भर करता है, जबकि बाद वाला पूरे उद्योग के लिए समान न्यूनतम आवश्यकताएं स्थापित कर सकता है।
बिल पर इस दबाव की पृष्ठभूमि यह है कि अमेरिकी समाज उन्नत एआई सिस्टम के जोखिमों के बारे में चिंतित है। चूंकि एआई तेजी से जटिल कार्यों को करने में सक्षम है, इसलिए जोखिम केवल गलत जानकारी उत्पन्न करने तक ही सीमित नहीं हैं, बल्कि इसमें जैविक हथियारों के निर्माण में सहायता करना, साइबर हमलों को अंजाम देना और उच्च स्तर की स्वायत्तता प्राप्त करने के बाद डेवलपर की अपेक्षाओं से परे संचालन करना भी शामिल है।
हाल ही में, कई एआई कंपनियों ने परीक्षण या वास्तविक संचालन के दौरान मॉडलों के असामान्य व्यवहार के मामलों का खुलासा किया है। अमेरिकी संघीय व्यापार आयोग ने ओपनएआई और एंथ्रोपिक जैसी कंपनियों को नागरिक सम्मन भी जारी किया है, जिसमें उनसे उपभोक्ता सुरक्षा घटनाओं से संबंधित सामग्री प्रदान करने का अनुरोध किया गया है। नियामक इस बात की जांच कर रहे हैं कि क्या एआई सिस्टम भ्रामक, आक्रामक या अनधिकृत तरीकों से व्यवहार करते हैं और कंपनियां ऐसी समस्याओं को रोकने के लिए क्या उपाय करती हैं।
इन घटनाओं ने एआई सुरक्षा पर्यवेक्षण को अधिक यथार्थवादी दबाव में डाल दिया है। अतीत में, उन्नत एआई से जुड़ी जोखिम संबंधी चर्चाएँ भविष्य में संभावित चरम परिदृश्यों पर ध्यान केंद्रित करती थीं; अब, जैसे-जैसे एआई एजेंट नेटवर्क तक पहुंच प्राप्त करते हैं, सॉफ्टवेयर संचालित करते हैं, और बहु-चरणीय कार्य करते हैं, नियामकों को उन वास्तविक सुरक्षा मुद्दों को भी संबोधित करने की आवश्यकता होती है जो पहले ही उत्पन्न हो चुके हैं।
हालाँकि, "आसन्न महत्वपूर्ण जोखिम" को कैसे परिभाषित किया जाए यह अभी भी बहुत जटिल है। एआई मॉडल की क्षमताएं तैनाती के माहौल, उपलब्ध उपकरणों और उपयोगकर्ता के उपयोग के तरीकों के आधार पर बदल सकती हैं, और संभावित नुकसान की सटीक मात्रा निर्धारित नहीं की जा सकती है। एक मॉडल के कुछ शर्तों के तहत गंभीर परिणाम हो सकते हैं लेकिन अन्य सेटिंग्स में यह कम जोखिम भरा हो सकता है। नियामकों और अदालतों को यह तय करने की आवश्यकता होगी कि क्या जोखिम पर्याप्त विशिष्ट है, घटना की संभावना काफी अधिक है, और क्या मॉडल को निलंबित करना एक आवश्यक और उचित उपाय है।
मसौदे में निर्धारित आर्थिक हानि और हताहत सीमाएं इन निर्णयों के लिए मात्रात्मक मानक प्रदान करती हैं, लेकिन वे सभी विवादों को समाप्त नहीं करते हैं। उदाहरण के लिए, $1 बिलियन से अधिक के नुकसान की गणना कैसे की जानी चाहिए, क्या जोखिम मॉडल के लिए ही जिम्मेदार होना चाहिए, और क्या कई परस्पर संबंधित घटनाओं को संयोजित और मूल्यांकन करने की आवश्यकता है, ये सभी भविष्य के कार्यान्वयन के दौरान कानूनी मुद्दे बन सकते हैं।
इसके अलावा, बिल अमेरिकी वाणिज्य विभाग में सरकारी हस्तक्षेप प्राधिकरण को केंद्रीकृत करता है और संघीय अदालतों के माध्यम से निलंबन आदेशों के लिए आवेदन की आवश्यकता होती है। यह व्यवस्था विभिन्न सरकारी विभागों को अलग-अलग कार्रवाई करने से सीमित करने में मदद करती है, लेकिन इसका मतलब यह भी है कि नियामकों को जोखिमों का पता चलने के बाद मूल्यांकन, रिपोर्टिंग और न्यायिक आवेदन जैसी प्रक्रियाओं को पूरा करने की आवश्यकता होती है। तेजी से विकसित हो रही प्रौद्योगिकी के सामने, प्रक्रियाएं विवेक और प्रतिक्रिया की गति को कैसे संतुलित कर सकती हैं, यह सिस्टम डिजाइन का एक महत्वपूर्ण परीक्षण बन जाएगा।
वर्तमान में, एंथ्रोपिक ने सार्वजनिक रूप से घोषणा नहीं की है कि यह मसौदा औपचारिक रूप से कांग्रेस के सदस्यों द्वारा प्रस्तावित किया गया है या विधायी समीक्षा प्रक्रिया में प्रवेश कर चुका है। अमेरिकी वाणिज्य विभाग ने टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया। इसलिए, यह अनिश्चित है कि क्या प्रस्ताव को क्रॉस-पार्टी समर्थन मिलेगा, क्या इसे कांग्रेस की चर्चाओं में संशोधित किया जाएगा, और क्या अन्य एआई डेवलपर्स समान नियमों का समर्थन करेंगे।
उद्योग के दृष्टिकोण से, एंथ्रोपिक ने कानून निर्माताओं के सामने विधेयक पेश करने की पहल की, जो उद्योग नियामक नियमों को तैयार करने में भाग लेने वाली एआई कंपनियों की प्रवृत्ति को दर्शाता है। उद्यमों को न केवल यह आशा है कि सरकार अत्यधिक जोखिमों से निपट सकती है, बल्कि यह भी आशा करते हैं कि सुरक्षा पर्यवेक्षण को प्रशासनिक हस्तक्षेप में विकसित होने से रोकने के लिए नियामक मानकों की स्पष्ट सीमाएँ हैं जिनमें एकीकृत मानकों का अभाव है।
हालाँकि, कंपनियों द्वारा प्रस्तावित नियामक योजनाओं को भी बाहरी निरीक्षण के अधीन होने की आवश्यकता है। सख्त हस्तक्षेप सीमाएँ सामान्य अनुसंधान एवं विकास गतिविधियों की रक्षा कर सकती हैं, लेकिन कुछ गंभीर जोखिमों के लिए इसे कठिन भी बना सकती हैं जो पर्यवेक्षण को ट्रिगर करने के लिए अभी तक निर्धारित मानकों तक नहीं पहुंचे हैं; स्वतंत्र मूल्यांकन से पारदर्शिता बढ़ सकती है, लेकिन मूल्यांकन एजेंसी की स्वतंत्रता, पेशेवर क्षमताएं और सूचना पहुंच अधिकार भी अंतिम प्रभाव को प्रभावित करेंगे।
इसलिए, इस मसौदा विधेयक का मूल केवल एआई कंपनियों को सुरक्षा परीक्षण करने की आवश्यकता नहीं है, बल्कि तीन मुद्दों को स्पष्ट करने का प्रयास करना है: उन्नत एआई के जोखिमों का आकलन कौन करेगा, सरकार के हस्तक्षेप के लिए किस स्तर का जोखिम पर्याप्त है, और मॉडलों की रिलीज या उपयोग को निलंबित करने के लिए सरकार को किन प्रक्रियाओं से गुजरना होगा।
यदि प्रासंगिक योजना अंततः विधायी प्रक्रिया में प्रवेश करती है, तो अमेरिकी उन्नत एआई पर्यवेक्षण कॉर्पोरेट स्वैच्छिक प्रतिबद्धताओं और विकेंद्रीकृत सुरक्षा नीतियों से एकीकृत कानूनी मानकों के साथ पर्यवेक्षण तंत्र में स्थानांतरित हो सकता है। हालाँकि, जब तक मसौदा औपचारिक रूप से प्रस्तुत नहीं किया जाता है, कांग्रेस द्वारा समीक्षा नहीं की जाती है और कानून नहीं बन जाता है, यह अभी भी एंथ्रोपिक द्वारा प्रस्तावित एक नीति योजना है और इसे नहीं माना जा सकता है क्योंकि संयुक्त राज्य अमेरिका ने एक नई एआई सुरक्षा नियामक प्रणाली स्थापित की है।
टिप्पणियाँ