जैसे-जैसे कृत्रिम बुद्धिमत्ता मॉडल के प्रदर्शन में सुधार जारी है, समाज और अर्थव्यवस्था पर इसके दूरगामी प्रभाव ने अधिक से अधिक ध्यान आकर्षित किया है। दुनिया भर की सरकारों ने धीरे-धीरे महसूस किया है कि एआई मॉडल किसी भी तरह से एक साधारण सॉफ्टवेयर अपग्रेड नहीं हैं, और एक पूर्ण नियामक तंत्र स्थापित करना जरूरी है। Google DeepMind के सीईओ डेमिस हसाबिस ने हाल ही में एक प्रस्ताव रखा जिसमें संयुक्त राज्य अमेरिका से अत्याधुनिक कृत्रिम बुद्धिमत्ता मॉडल की निगरानी और मूल्यांकन के लिए एक वैश्विक नियामक एजेंसी की स्थापना में अग्रणी भूमिका निभाने का आह्वान किया गया।
एक लिंक्डइन पोस्ट में, हसबिस ने बताया कि सामान्य कृत्रिम बुद्धिमत्ता (एजीआई) के साकार होने में केवल कुछ साल दूर हो सकते हैं, और साइबर सुरक्षा जैसे क्षेत्रों में इससे उत्पन्न होने वाली चुनौतियों को देखते हुए, जोखिमों को दूर करने के लिए तत्काल कार्रवाई की जानी चाहिए। उन्होंने इस बात पर जोर दिया कि भविष्य में बढ़ती स्वायत्त प्रणालियों पर नियंत्रण बनाए रखने के लिए मजबूत सुरक्षा उपायों की आवश्यकता होगी जो खुद को पुनरावर्ती रूप से बेहतर बना सकें, और अज्ञात समस्याओं से ठीक से निपट सकें जो प्रौद्योगिकी के विकास के साथ उभरती रहेंगी।
इस उद्देश्य से, हस्साबिस ने एक "मानक निकाय" की स्थापना का प्रस्ताव रखा। यह एजेंसी संघीय सरकार की देखरेख में सार्वजनिक-निजी भागीदारी का रूप ले सकती है, या स्व-नियामक संगठन के रूप में कार्य कर सकती है। उनका मानना है कि संयुक्त राज्य अमेरिका को इस वैश्विक नियामक संस्था में नेतृत्वकारी भूमिका निभानी चाहिए। संगठन में स्वतंत्र शीर्ष तकनीकी विशेषज्ञ और ओपन सोर्स समुदाय के प्रतिनिधि शामिल होने चाहिए और फंडिंग उद्योग के भीतर से जुटाई जानी चाहिए।
हसबिस के दृष्टिकोण के अनुसार, एजेंसी की मुख्य जिम्मेदारी मूल्यांकन प्रोटोकॉल विकसित करना और राष्ट्रीय सुरक्षा से संबंधित क्षेत्रों में परीक्षण करने के लिए प्रासंगिक संघीय एजेंसियों और अमेरिकी राष्ट्रीय प्रयोगशालाओं के साथ समन्वय करना है। उन्होंने सुझाव दिया कि मानक संगठनों द्वारा निर्धारित बेंचमार्क परीक्षणों में मॉडल के प्रदर्शन को एक मानदंड के रूप में इस्तेमाल किया जाना चाहिए। यदि यह एक निश्चित सीमा को पूरा करता है, तो इसे "फ्रंटियर-क्लास" मॉडल के रूप में वर्गीकृत किया जाएगा। एआई प्रौद्योगिकी क्षमताओं के विकास के साथ तालमेल बनाए रखने के लिए इन बेंचमार्क को नियमित रूप से अपडेट किया जाएगा।
अत्याधुनिक मॉडल विकसित करने वाली कंपनियों को "फ्रंटियर लैब्स" के रूप में वर्गीकृत किया जाएगा और वे संबंधित अनुपालन दायित्वों को मानेंगी, जिसमें विस्तृत तकनीकी विवरण वाले मॉडल कार्ड जारी करना, उच्च स्तर की आंतरिक नेटवर्क सुरक्षा सुरक्षा बनाए रखना और प्रमुख कर्मियों की पृष्ठभूमि की जांच करना शामिल है। इसके अलावा, इन कंपनियों को मॉडल जारी होने से कम से कम 30 दिन पहले समीक्षा के लिए एक मानक एजेंसी को प्रस्तुत करना होगा। केवल वे मॉडल जो मूल्यांकन समझौते की आवश्यकताओं को पूरा करते हैं, उन्हें बाहरी दुनिया में जारी किया जा सकता है।
हसबिस ने आगे इस बात पर जोर दिया कि यह नियामक ढांचा उस देश की परवाह किए बिना लागू होना चाहिए जहां ये अत्याधुनिक मॉडल उत्पादित होते हैं, और चाहे वे खुले स्रोत हों या बंद स्रोत।
विश्लेषण में बताया गया कि हसबिस द्वारा प्रस्तावित संरचना कृत्रिम बुद्धिमत्ता उद्योग के लिए "संयुक्त राष्ट्र" की स्थापना के समान है। हालाँकि, यदि इस संगठन पर संयुक्त राज्य अमेरिका का प्रभुत्व है और इसके सदस्य मुख्य रूप से अमेरिकी उद्योगों से हैं, तो अभी भी कुछ अनिश्चितता है कि क्या अन्य देश (जैसे चीन) इसके द्वारा निर्धारित मानकों का पालन करेंगे।