सार:
ब्लूमबर्ग के अनुसार, 28 सितंबर को,
एनवीडिया ने एक नई दो-परत एआई सुरक्षा प्रणाली लॉन्च की
. कंपनी ने कहा कि यदि हगिंग फेस घुसपैठ होने पर ओपनएआई के एआई मॉडल को सिस्टम पर तैनात किया गया होता तो इस घटना से बचा जा सकता था।
हुआंग रेनक्सुन
एनवीडिया चिप्स से परे अपनी उत्पाद श्रृंखला का तेजी से विस्तार कर रहा है और वर्तमान में दो ओपन सोर्स सॉफ़्टवेयर सुरक्षा उपकरण लॉन्च कर रहा है जो इसके हार्डवेयर पर चल सकते हैं। इन्हें वास्तविक समय में नियंत्रित करने के लिए डिज़ाइन किया गया है कि एक एआई एजेंट किस चीज़ तक पहुंच सकता है और यदि वह नियमों को तोड़ता है तो उसे बंद कर सकता है।
ओपन एजेंट सिक्योरिटी प्लेटफ़ॉर्म नामक नई प्रणाली का उद्देश्य एआई विकास को धीमा किए बिना घुसपैठ को रोकने का एक तरीका प्रदान करना है।
एनवीडिया में एंटरप्राइज एआई के उपाध्यक्ष जस्टिन बोइटन ने सोमवार को सिस्टम की घोषणा करने से पहले पत्रकारों के साथ एक ब्रीफिंग में कहा कि हगिंग फेस पर हमले को रोका जा सकता था अगर शीर्ष एआई प्रयोगशालाओं ने शुरुआत से ही अपने एआई मॉडल का मूल्यांकन करने के लिए तकनीक का इस्तेमाल किया होता।
"अब हमारे पास जो जानकारी है उसके आधार पर, यह नया सुरक्षा प्लेटफ़ॉर्म उस घुसपैठ को रोक सकता था," उन्होंने कहा। वर्तमान में, स्वायत्त एआई एजेंटों के अनुचित व्यवहार ने एआई उद्योग को झटका दिया है और कुछ लोगों ने एआई प्रौद्योगिकी की विकास प्रक्रिया को धीमा करने का आह्वान किया है।
बोइटानो ने इस पर कोई टिप्पणी नहीं की कि क्या ओपनएआई या प्रतिस्पर्धी एंथ्रोपिक ने मॉडल प्रशिक्षण प्रक्रिया की निगरानी के लिए इस नई प्रणाली का उपयोग करने की योजना बनाई है, लेकिन संवाददाताओं से इन कंपनियों से पूछने के लिए कहा।
पहले, एनवीडिया के सीईओ जेन्सेन हुआंग एआई द्वारा मानव नियंत्रण खोने के जोखिम को कम करके आंकते रहे हैं। हाल के दिनों में, हुआंग ने एआई सुरक्षा मुद्दों को एक ऐसे मुद्दे के बजाय एक इंजीनियरिंग चुनौती के रूप में वर्णित किया है जिसके लिए अधिक विनियमन या वैश्विक समन्वय की आवश्यकता है। वह कुछ एआई डेवलपर्स के दावों का खंडन करने में अमेरिकी राष्ट्रपति ट्रम्प के साथ शामिल हो गए कि प्रौद्योगिकी मानव विलुप्त होने का कारण बन सकती है, लेकिन उन्होंने इस बात पर भी जोर दिया कि एआई को कठोर सुरक्षा परीक्षण से गुजरना होगा।
एआई सुरक्षा मुद्दों पर हुआंग रेनक्सुन के इंजीनियरिंग समाधान में दो भाग हैं।
सबसे पहले, ओपनशेल एक सॉफ्टवेयर उत्पाद है जिसका एनवीडिया ने मार्च में अपने हस्ताक्षर प्रौद्योगिकी सम्मेलन में पूर्वावलोकन किया था और यह एनवीडिया की वेरा सेंट्रल प्रोसेसिंग यूनिट पर चलता है। यह उपयोगकर्ताओं को नियम निर्धारित करने में सक्षम बनाता है कि एआई एजेंट किस सामग्री तक पहुंच सकते हैं और वास्तविक समय में इन नियमों को लागू कर सकते हैं। सॉफ्टवेयर खुला स्रोत है, जिसका अर्थ है कि इसे स्वतंत्र रूप से उपयोग और अनुकूलित किया जा सकता है।इस बीच, एनवीडिया सेंट्री एक नया उत्पाद है जो एनवीडिया की ब्लूफ़ील्ड डेटा प्रोसेसिंग यूनिट पर चल सकता है। एनवीआईडीआईए ने कहा कि यह उत्पाद एआई एजेंटों के व्यवहार की निगरानी के लिए एआई निगरानी तंत्र की एक अतिरिक्त परत प्रदान करने और संदिग्ध व्यवहार पाए जाने पर एजेंटों को हस्तक्षेप करने और अलग करने के लिए डिज़ाइन किया गया है।
टिप्पणियाँ