न्यूयॉर्क टाइम्स ने बताया कि ब्रिटिश एआई सिक्योरिटी इंस्टीट्यूट (एआईएसआई, पूर्व में एआई सेफ्टी इंस्टीट्यूट) के शोधकर्ता सुरक्षा कमजोरियों और जोखिम सीमाओं का पता लगाने के लिए अत्याधुनिक एआई मॉडल का परीक्षण करेंगे, और इस दृष्टिकोण को अन्य सरकारों द्वारा कॉपी किया जा रहा है।
पिछले कुछ वर्षों में, एआई विनियमन अक्सर पारदर्शिता, जिम्मेदारी, सिद्धांत, जोखिम प्रबंधन और स्वैच्छिक प्रतिबद्धताओं जैसे शब्दों पर रुक गया है। अब सवाल अधिक विशिष्ट है: क्या कोई मॉडल जारी होने से पहले हैकर्स की मदद करेगा? क्या इससे खतरनाक पदार्थों के निर्माण की सीमा कम हो जाएगी? क्या यह गंभीर परिस्थितियों में सुरक्षा प्रतिबंधों को दरकिनार कर देगा?
यह एक ऐसा प्रश्न है जिसका उत्तर कंपनियां अकेले नहीं दे सकतीं। कंपनियां रेड टीम परीक्षण कर सकती हैं और सुरक्षा रिपोर्ट प्रकाशित कर सकती हैं, लेकिन अगर सरकार के पास अपनी मूल्यांकन क्षमताएं नहीं हैं, तो वह केवल प्रेस कॉन्फ्रेंस, पेपर और कॉर्पोरेट प्रतिबद्धताओं के बीच निर्णय ले सकती है। ब्रिटिश एआई सुरक्षा अनुसंधान संस्थान का महत्व परीक्षण प्रक्रिया में सरकार को शामिल करने में निहित है।
यह मॉडल अंतर्राष्ट्रीय सहयोग तक फैलने लगा है। ब्रिटिश सरकार ने 25 मई को घोषणा की कि ब्रिटिश एआई सुरक्षा संस्थान अत्याधुनिक एआई जोखिमों पर नज़र रखने के लिए ऑस्ट्रेलियाई एआई सुरक्षा संस्थान के साथ सहयोग करेगा, जिसमें साइबर हमलों के लिए एआई सिस्टम का उपयोग कैसे किया जाता है और सुरक्षा को मजबूत करने के लिए उनका उपयोग कैसे किया जा सकता है। घोषणा में यह भी उल्लेख किया गया है कि दोनों पक्ष एआई क्षमताओं में अंतर्दृष्टि साझा करेंगे, उभरते जोखिमों पर शोध करेंगे और एआई परीक्षण और मूल्यांकन में अंतरराष्ट्रीय सर्वोत्तम प्रथाओं को बढ़ावा देंगे।
संयुक्त राज्य अमेरिका भी इसी दिशा में आगे बढ़ रहा है। अमेरिकी वाणिज्य विभाग के तहत सेंटर फॉर एआई स्टैंडर्ड्स एंड इनोवेशन (सीएआईएसआई) ने हाल ही में मॉडल को सार्वजनिक रूप से जारी करने से पहले राष्ट्रीय सुरक्षा-संबंधी मूल्यांकन करने के लिए Google डीपमाइंड, माइक्रोसॉफ्ट और एक्सएआई के साथ एक समझौता किया है। माइक्रोसॉफ्ट ने अत्याधुनिक मॉडलों का परीक्षण करने, सुरक्षा सुरक्षा का मूल्यांकन करने और राष्ट्रीय सुरक्षा और बड़े पैमाने पर सार्वजनिक सुरक्षा जोखिमों को कम करने के लिए एक ही समय में यूएस सीएआईएसआई और ब्रिटिश एआईएसआई के साथ सहयोग स्थापित करने की भी घोषणा की।
इसका मतलब यह है कि अत्याधुनिक मॉडल कंपनियों को भविष्य में न केवल बाजार प्रतिस्पर्धा का सामना करना पड़ेगा, बल्कि एक ऐसी प्रक्रिया का भी सामना करना पड़ेगा जो तेजी से "पूर्व-रिलीज सुरक्षा मूल्यांकन" जैसा दिखता है। यूनाइटेड किंगडम और संयुक्त राज्य अमेरिका जैसे सहयोग ढांचे के तहत, मॉडल क्षमताएं जितनी मजबूत होंगी, उतनी ही अधिक संभावना है कि कंपनियों को सरकारी परीक्षण एजेंसियों को अधिक सामग्री और पहुंच अधिकार प्रदान करने की आवश्यकता होगी। स्टार्टअप के लिए, यदि सरकारी खरीद, कॉर्पोरेट खरीद या सीमा पार अनुपालन भविष्य में इस प्रकार के मूल्यांकन को अधिक संदर्भित करेगा, तो सुरक्षा परीक्षण क्षमताएं उत्पाद प्रतिस्पर्धा का हिस्सा बन जाएंगी।
भविष्य में, एआई पर्यवेक्षण अब केवल यह नहीं पूछेगा कि "क्या कंपनी ने सुरक्षा प्रतिबद्धता लिखी है?" लेकिन पूछना शुरू कर देंगे "क्या किसी ने वास्तव में इसका परीक्षण किया है?" यह सिद्धांत के कथन से अधिक कष्टकारी और वास्तविकता के करीब है।