जेम्मा Google द्वारा लॉन्च किया गया एक ओपन सोर्स आर्टिफिशियल इंटेलिजेंस मॉडल है। यह मॉडल Google AI स्टूडियो और अन्य चैनलों के माध्यम से सभी डेवलपर्स के लिए उपलब्ध है। हालाँकि, डेवलपर्स के लिए Google AI स्टूडियो से जेम्मा को ढूंढना मुश्किल हो सकता है क्योंकि मॉडल को Google द्वारा वापस ले लिया गया है।
Google ने यह नहीं बताया कि उसने ओपन सोर्स आर्टिफिशियल इंटेलिजेंस मॉडल को क्यों हटाया, लेकिन Google द्वारा मॉडल को हटाने से पहले, अमेरिकी रिपब्लिकन सीनेटर मार्शा ब्लैकबर्न ने Google के सीईओ सुंदर पिचाई को एक पत्र भेजा, जिसमें Google से यह बताने के लिए कहा गया कि मॉडल में उनके बारे में झूठे आरोप क्यों लगाए गए।
ब्लैकबर्न ने Google से यह बताने के लिए भी कहा कि उसके मॉडलों को ऐसी गड़बड़ियों का अनुभव क्यों होता है, जबकि उन्होंने Google और अन्य कंपनियों पर रूढ़िवादियों को बदनाम करने वाले चैटबॉट बनाने का आरोप लगाते हुए इस मुद्दे को चल रही सुनवाई से जोड़ दिया।
सुनवाई में, Google के मैल्कम एरिकसन ने बताया कि कृत्रिम बुद्धिमत्ता मतिभ्रम जनरेटिव कृत्रिम बुद्धिमत्ता में एक आम समस्या है, और Google ऐसी त्रुटियों के प्रभाव को कम करने की पूरी कोशिश कर रहा है, लेकिन कोई भी कंपनी अभी तक मतिभ्रम को पूरी तरह से खत्म करने में सक्षम नहीं हुई है।
एक खुले पत्र में, मार्शा ब्लैकबर्न ने कहा कि उन्हें सुनवाई के बाद ही Google जेम्मा मॉडल द्वारा उनके खिलाफ लगाए गए झूठे आरोपों के बारे में पता चला। जब पूछा गया कि क्या मार्शा ब्लैकबर्न पर बलात्कार का आरोप लगाया गया था, तो जेम्मा मॉडल ने जवाब दिया कि उसका एक राज्य सैनिक के साथ नशीली दवाओं के कारण संबंध था, और यहां तक कि मॉडल ने मनगढ़ंत समाचार सामग्री के लिए झूठे लिंक भी तैयार किए (यानी, संदर्भित सामग्री स्रोत स्वयं मौजूद नहीं था और पूरी तरह से मॉडल द्वारा ही गढ़ा गया था)
वास्तव में, जनरेटिव आर्टिफिशियल इंटेलिजेंस मॉडल में यह स्थिति असामान्य नहीं है। जब तक उपयोगकर्ता जानबूझकर इसका मार्गदर्शन करता है, जेनरेटिव आर्टिफिशियल इंटेलिजेंस मॉडल ऐसे मतिभ्रम से ग्रस्त होते हैं। विशेष रूप से, Google AI स्टूडियो में ऐसे उपकरण शामिल हैं जो मॉडल व्यवहार को समायोजित कर सकते हैं, इसलिए अफवाहें फैलाना आसान नहीं है।