सार:
ओपनएआई ने तीसरे पक्ष के संगठनों को कृत्रिम बुद्धिमत्ता (एआई) मॉडल के विकास चक्र में सुरक्षा जोखिमों का आकलन करने की अनुमति देने की योजना बनाई है, इस कदम का उद्देश्य एआई के संभावित नुकसान के आसपास की चिंताओं को दूर करने के प्रयासों को जारी रखना है। चैटजीपीटी डेवलपर मंगलवार को एक ब्लॉग पोस्ट में घोषणा करेगा कि उसकी योजना नए एआई मॉडल के प्रशिक्षण, मूल्यांकन और रोलआउट के दौरान बाहरी एजेंसियों से तकनीकी सुरक्षा मूल्यांकन कराने की है।
ओपनएआई उन प्राथमिकताओं को भी सूचीबद्ध करता है जो उसके अनुसार ऐसे आकलन को प्रभावी बनाने के लिए आवश्यक हैं, जिनमें "मजबूत स्वतंत्र तंत्र, वैज्ञानिक कठोरता, मजबूत सुरक्षा प्रथाएं और स्पष्ट जवाबदेही" शामिल हैं।
लामा अहमद, जो बाहरी विशेषज्ञों के सहयोग से कंपनी के अधिकांश सुरक्षा समीक्षा कार्यों के लिए ज़िम्मेदार हैं, ने कहा कि पहले, OpenAI आमतौर पर मॉडल रिलीज़ से पहले सुरक्षा मूल्यांकन करने और मॉडल क्षमताओं का मूल्यांकन करने के लिए ऐसे संस्थानों को पेश करता था।
अहमद ने एक साक्षात्कार में कहा, "जैसे-जैसे संभावित जोखिम और प्रभाव बढ़ते हैं, तैनाती के अलावा, हम यह भी सुनिश्चित करना चाहते हैं कि प्रशिक्षण और मूल्यांकन जैसे महत्वपूर्ण पहलुओं पर ध्यान दिया जाए।"
अहमद ने कहा, कुछ सबसे संवेदनशील नौकरियों के लिए, ओपनएआई बाहरी मूल्यांकनकर्ताओं को मूल्यांकन करने के लिए कंपनी के परिसर में आने दे सकता है, एक अभ्यास जिसे कंपनी ने पहले भी आजमाया है।
ओपनएआई प्रतियोगी एंथ्रोपिक पीबीसी के सीईओ डारियो अमोदेई ने हाल ही में एआई उद्योग से धीमे विकास का समर्थन करने का आह्वान किया और कहा कि नए सुरक्षा उपायों को अपनाया जाएगा, जिसमें तीसरे पक्ष की मूल्यांकन एजेंसियों की शुरूआत भी शामिल है। ओपनएआई के सीईओ सैम ऑल्टमैन ने बाद में इस दृष्टिकोण का समर्थन किया। एंथ्रोपिक ने पिछले सप्ताह के अंत में कहा था कि वह अपने अत्याधुनिक एआई मॉडल की सुरक्षा का परीक्षण करने के लिए एक्सेंचर मूल्यांकनकर्ताओं को लाएगा।
ओपनएआई ने एक ब्लॉग पोस्ट में कहा कि कंपनी उन संस्थानों के साथ चर्चा कर रही है जो इस तरह के आकलन में शामिल हो सकते हैं। अहमद ने कहा कि बातचीत के लक्ष्यों में वे दोनों संस्थान शामिल हैं जिन्होंने अतीत में सहयोग किया है और वे संस्थान जिन्होंने पहले सहयोग नहीं किया है, जिनमें एआई अनुसंधान संस्थान एमईटीआर और रेडवुड रिसर्च शामिल हैं। ओपनएआई ने पहले इन दोनों संस्थानों को हगिंग फेस सिस्टम में अपने मॉडल की घुसपैठ की जांच करने के लिए नियुक्त किया था।
ओपनएआई ने एक ब्लॉग पोस्ट में कहा, "संवेदनशील जानकारी की सुरक्षा करते हुए प्रभावी समीक्षा के लिए स्थितियां बनाने की जिम्मेदारी एआई लैब्स की है।"
टिप्पणियाँ