सार:
ओपनएआई ने स्थानीय समयानुसार 9 सितंबर को कहा कि यह संयुक्त राज्य अमेरिका में एक राष्ट्रीय कृत्रिम बुद्धिमत्ता सुरक्षा प्रणाली की स्थापना को बढ़ावा देगा जो अनिवार्य है और मॉडल क्षमताओं और जोखिम वर्गीकरण पर आधारित है। कंपनी अत्याधुनिक मॉडल विकसित करने वाली मुट्ठी भर बड़ी प्रयोगशालाओं के लिए समान परीक्षण, स्वतंत्र मूल्यांकन, साइबर सुरक्षा और प्रमुख घटना रिपोर्टिंग आवश्यकताओं का प्रस्ताव करती है।
OpenAI ने "AI नीति विंडो खुली है। हमें कार्रवाई करने की आवश्यकता है" शीर्षक से एक लेख प्रकाशित किया।
उसी समय, OpenAI आधिकारिक तौर पर चार कृत्रिम बुद्धिमत्ता बिलों का समर्थन करता है जो कैलिफोर्निया विधानसभा में पारित हो चुके हैं। कंपनी ने कहा कि इनमें से कुछ बिलों का पहले उसके द्वारा समर्थन नहीं किया गया था, और उसकी स्थिति का समायोजन मॉडल क्षमताओं में हाल ही में तेजी से सुधार के कारण था।
पर्यवेक्षण लक्ष्य अत्याधुनिक मॉडल डेवलपर्स पर ध्यान केंद्रित करते हैं
ओपनएआई के वैश्विक मामलों के निदेशक क्रिस लेन ने लेख में कहा कि कृत्रिम बुद्धिमत्ता ने कुछ मॉडल विकास और संरेखण कार्य में तेजी लाना शुरू कर दिया है। यद्यपि "पुनरावर्ती आत्म-सुधार" जो स्वायत्त रूप से अगली पीढ़ी के मॉडल के विकास को बढ़ावा दे सकता है, अभी तक सामने नहीं आया है, अकेले कंपनियों द्वारा स्वैच्छिक प्रतिबद्धताएं संबंधित जोखिमों से निपटने के लिए पर्याप्त नहीं हैं।
OpenAI अनुशंसा करता है कि संघीय नियामक व्यवस्थाओं में शामिल हैं:
एकीकृत मॉडल क्षमताएं और सुरक्षा परीक्षण मानक;
एक स्वतंत्र एजेंसी द्वारा तकनीकी मूल्यांकन किया गया;
मॉडल, कंप्यूटिंग पावर और आर एंड डी वातावरण के लिए अधिक कठोर नेटवर्क सुरक्षा संरक्षण;
प्रमुख सुरक्षा घटनाओं की रिपोर्ट करने के लिए स्पष्ट नियम;
मॉडल विकास में कृत्रिम बुद्धिमत्ता की भागीदारी की डिग्री को मापने के लिए एक सामान्य संकेतक;
सुरक्षा सीमाएं पूरी नहीं होने पर मॉडल विकास और तैनाती को धीमा करने या रोकने के लिए एक तंत्र।
कंपनी इस बात पर जोर देती है कि प्रासंगिक दायित्व मॉडल क्षमताओं और जोखिमों के अनुरूप होने चाहिए, और मुख्य रूप से अत्याधुनिक सिस्टम विकसित करने के लिए पर्याप्त संसाधनों वाली कम संख्या में प्रयोगशालाओं पर लागू होने चाहिए। स्टार्ट-अप, छोटे डेवलपर्स और सामान्य शोधकर्ताओं पर समान आवश्यकताएं नहीं थोपी जानी चाहिए।
ओपनएआई इस बात की भी वकालत करता है कि अत्याधुनिक मॉडल सुरक्षा पर्यवेक्षण को ओपन वेट मॉडल पर व्यापक प्रतिबंधों में तब्दील नहीं किया जाना चाहिए, ताकि प्रतिस्पर्धा कमजोर न हो, बड़े उद्यमों के फायदे मजबूत न हों, या विदेशों में अनुसंधान एवं विकास गतिविधियों के हस्तांतरण को बढ़ावा न मिले।
कैलिफ़ोर्निया के चार बिल मूल्यांकन, ऑडिटिंग, युवा और जैव सुरक्षा को कवर करते हैं
कांग्रेस द्वारा अभी तक एक राष्ट्रीय प्रणाली स्थापित नहीं करने के कारण, ओपनएआई ने कहा कि वह राज्य-स्तरीय कानून का समर्थन करना जारी रखेगा जो सुरक्षा मानकों में सुधार करेगा। इस बार कंपनी द्वारा आधिकारिक तौर पर समर्थित चार कैलिफ़ोर्निया बिल हैं:
एसबी 813
: कृत्रिम बुद्धिमत्ता प्रणाली और मॉडल राज्य कानूनों का अनुपालन करते हैं या नहीं, इसका मूल्यांकन करने के लिए योग्य तृतीय-पक्ष एजेंसियों को सक्षम करने के लिए एक स्वतंत्र सत्यापन एजेंसी प्रमाणन तंत्र स्थापित करें।एबी 1405
: कृत्रिम बुद्धिमत्ता ऑडिट संस्थानों के लिए एक पंजीकरण प्रणाली स्थापित करना और स्वतंत्रता, पारदर्शिता, पेशेवर क्षमताओं और जवाबदेही के संदर्भ में ऑडिट संस्थानों के लिए मानक निर्धारित करना।एसबी 1119
: साथी चैटबॉट का उपयोग करने वाले नाबालिगों के लिए, आयु सत्यापन, जोखिम मूल्यांकन, स्वतंत्र ऑडिटिंग, माता-पिता का नियंत्रण और हानिकारक सामग्री सुरक्षा उपाय आवश्यक हैं।एबी 1864
: जैविक खतरे पैदा करने के लिए उपयोग किए जाने वाले कृत्रिम बुद्धिमत्ता के जोखिम को कम करने के लिए जीन संश्लेषण सेवा प्रदाताओं और डेस्कटॉप संश्लेषण उपकरण निर्माताओं को संघीय स्क्रीनिंग मानकों को लागू करने की आवश्यकता है।
कैलिफ़ोर्निया के गवर्नर गेविन न्यूसोम ने 9 सितंबर को एसबी 813 और एबी 1405 पर हस्ताक्षर किए। पूर्व कृत्रिम बुद्धिमत्ता के स्वतंत्र सत्यापन के लिए एक संगठनात्मक ढांचा स्थापित करता है, जबकि बाद वाला राज्य-स्तरीय कृत्रिम बुद्धिमत्ता ऑडिट संस्थानों और संबंधित अभ्यास मानकों की एक निर्देशिका स्थापित करता है। एसबी 1119 और एबी 1864 अभी भी राज्यपाल के पास लंबित थे।
ओपनएआई ने कहा कि मॉडल क्षमताओं में उछाल के कारण इसकी कुछ स्थितियों को समायोजित किया गया है
OpenAI ने ऊपर उल्लिखित सभी चार बिलों पर पिछला विरोध व्यक्त नहीं किया है। कंपनी का सटीक बयान यह था कि "कुछ बिलों" का उसने अतीत में समर्थन नहीं किया था, मॉडल क्षमताओं में हालिया प्रगति के पुनर्मूल्यांकन के बाद इसका समर्थन करने का निर्णय लिया गया था।
यह परिवर्तन दर्शाता है कि OpenAI एक अधिक अनिवार्य और बाहरी निरीक्षण नियामक तंत्र को स्वीकार कर रहा है, जिसमें स्वतंत्र ऑडिट, तृतीय-पक्ष सुरक्षा सत्यापन और गंभीर दुर्घटनाओं का खुलासा शामिल है। कंपनी ने यह भी प्रस्तावित किया कि जब कोई मॉडल विकास या मूल्यांकन प्रक्रिया के दौरान प्राधिकरण के बिना अन्य संगठनों के सुरक्षा नियंत्रणों को दरकिनार कर देता है और संरक्षित प्रणालियों और गोपनीय जानकारी तक काफी हद तक पहुंच, संशोधन या नष्ट कर देता है, तो डेवलपर को तुरंत प्रभावित पक्ष को लिखित रूप में सूचित करना चाहिए।
हालाँकि, OpenAI द्वारा घोषित सामग्री अभी भी एक नीतिगत पहल है। अमेरिकी कांग्रेस ने अभी तक इस पर आधारित राष्ट्रीय कृत्रिम बुद्धिमत्ता सुरक्षा कानून पारित नहीं किया है। विशिष्ट क्षमता सीमाएँ, नियामक एजेंसियां, दुर्घटना परिभाषाएँ, कानूनी जिम्मेदारियाँ और संघीय नियमों और राज्य कानूनों के बीच संबंध को अभी भी बाद के कानून में निर्धारित करने की आवश्यकता है।
टिप्पणियाँ