स्टैनफोर्ड यूनिवर्सिटी की HAI (ह्यूमन-सेंटर्ड आर्टिफिशियल इंटेलिजेंस) की एक नई रिपोर्ट में पाया गया है कि ओपनएआई और मेटा जैसी कंपनियों सहित कृत्रिम बुद्धिमत्ता के अंतर्निहित मॉडल के किसी भी प्रसिद्ध डेवलपर्स ने समाज पर उनके संभावित प्रभाव के बारे में पर्याप्त जानकारी जारी नहीं की है।
आज, स्टैनफोर्ड एचएआई ने अपना अंतर्निहित मॉडल पारदर्शिता सूचकांक जारी किया, जो ट्रैक करता है कि क्या 10 सबसे लोकप्रिय कृत्रिम बुद्धिमत्ता मॉडल के निर्माता अपने काम के बारे में जानकारी का खुलासा करते हैं और लोग उनके सिस्टम का उपयोग कैसे करते हैं। जिन मॉडलों का परीक्षण किया गया, उनमें मेटा का Llama2 ने सबसे अधिक स्कोर किया, उसके बाद ब्लूमज़ेड और उसके बाद OpenAI का GPT-4 था। लेकिन यह पता चला कि उनमें से किसी ने भी विशेष रूप से उच्च अंक प्राप्त नहीं किये।
मूल्यांकन किए गए अन्य मॉडलों में स्टेबिलिटी का स्टेबलडिफ्यूजन, एंथ्रोपिक का क्लाउड, Google का PaLM2, कोहेयर कमांड, AI21Labs का जुरासिक2, इन्फ्लेक्शन का इन्फ्लेक्शन-1 और अमेज़ॅन का टाइटन शामिल हैं।
शोधकर्ता स्वीकार करते हैं कि पारदर्शिता काफी व्यापक अवधारणा हो सकती है। उनकी परिभाषा 100 संकेतकों पर आधारित है जो मॉडल कैसे बनाया जाता है, मॉडल कैसे काम करता है और लोग मॉडल का उपयोग कैसे करते हैं, इसके बारे में जानकारी प्रदान करते हैं। उन्होंने मॉडल के बारे में सार्वजनिक जानकारी का विश्लेषण किया और प्रत्येक को एक अंक दिया, यह देखते हुए कि क्या कंपनियों ने भागीदारों और तीसरे पक्ष के डेवलपर्स का खुलासा किया है, क्या उन्होंने ग्राहकों को बताया है कि क्या उनके मॉडल निजी जानकारी का उपयोग करते हैं, और कई अन्य प्रश्न।
जैसे ही कंपनी ने मॉडल निर्माण पर अपना शोध जारी किया, मेटा स्कोर 53% था, जिसमें मॉडल बेसिक्स में उच्चतम स्कोर था। ओपन-सोर्स मॉडल ब्लूमजेड 50% समर्थन के साथ काफी पीछे है, और जीपीटी-4 47% समर्थन के साथ - ओपनएआई के अपेक्षाकृत लॉक-इन डिज़ाइन दृष्टिकोण के बावजूद स्थिर प्रसार के लिए बंधा हुआ है।
OpenAI अपने अधिकांश शोध परिणामों को प्रकाशित करने से इंकार कर देता है और अपने डेटा के स्रोत का खुलासा नहीं करता है, लेकिन GPT-4 उच्च रैंक पाने में सफल रहता है क्योंकि इसके भागीदारों के बारे में बहुत सारी जानकारी उपलब्ध है। OpenAI अपने उत्पादों में GPT-4 को एकीकृत करने के लिए कई अलग-अलग कंपनियों के साथ काम करता है, जिसके परिणामस्वरूप समीक्षा के लिए सार्वजनिक विवरण उपलब्ध होते हैं।
हालाँकि, स्टैनफोर्ड के शोधकर्ताओं ने पाया कि मॉडल के किसी भी निर्माता ने सामाजिक प्रभाव के बारे में कोई जानकारी नहीं दी, जिसमें गोपनीयता, कॉपीराइट या पूर्वाग्रह की शिकायतें कहाँ दर्ज करें।
स्टैनफोर्ड यूनिवर्सिटी के सेंटर फॉर फंडामेंटल मॉडलिंग के सोसायटी निदेशक और सूचकांक के शोधकर्ताओं में से एक, ऋषि बोम्मासानी ने कहा कि सूचकांक का लक्ष्य सरकारों और कंपनियों के लिए एक बेंचमार्क प्रदान करना है। कुछ प्रस्तावित नियम, जैसे कि ईयू का आर्टिफिशियल इंटेलिजेंस बिल, जल्द ही बड़े पैमाने पर अंतर्निहित मॉडल के डेवलपर्स को पारदर्शिता रिपोर्टिंग प्रदान करने के लिए मजबूर कर सकते हैं।
बोमासानी ने कहा, "सूचकांक के साथ हम जो हासिल करने की कोशिश कर रहे हैं वह मॉडल को अधिक पारदर्शी बनाना और बहुत अस्पष्ट अवधारणाओं को अधिक ठोस चीजों में तोड़ना है जिन्हें मापा जा सकता है।" तुलना को आसान बनाने के लिए समूह ने प्रत्येक कंपनी के एक मॉडल पर ध्यान केंद्रित किया।
जेनरेटिव एआई में एक बड़ा और सक्रिय ओपन सोर्स समुदाय है, लेकिन क्षेत्र की कुछ सबसे बड़ी कंपनियां सार्वजनिक रूप से अनुसंधान या अपने कोड को साझा नहीं करती हैं। हालाँकि OpenAI के नाम में "ओपन" शब्द है, लेकिन प्रतिस्पर्धा और सुरक्षा चिंताओं का हवाला देते हुए, यह अब अपने शोध को वितरित नहीं करता है।
बोम्मासानी ने कहा कि संगठन सूचकांक के दायरे का विस्तार करने के लिए तैयार है, लेकिन इस बीच वह पहले से ही मूल्यांकन किए गए 10 आधार मॉडल पर कायम रहेगा।