जबकि माइक्रोसॉफ्ट उपभोक्ताओं और उद्यमों के लिए अपने कृत्रिम बुद्धिमत्ता उत्पादों को सख्ती से बढ़ावा दे रहा है और विंडोज 11 में कोपायलट को गहराई से एकीकृत कर रहा है, यह आधिकारिक दस्तावेजों में इस एआई सेवा को "मनोरंजन उपयोग" के रूप में रखता है। पिछले साल अक्टूबर में अपडेट की गई माइक्रोसॉफ्ट कोपायलट उपयोग की शर्तें स्पष्ट रूप से बताती हैं कि यह बड़ा भाषा मॉडल (एलएलएम) "केवल मनोरंजन उद्देश्यों के लिए" है और उपयोगकर्ताओं को इसका उपयोग महत्वपूर्ण सलाह देने के लिए नहीं करना चाहिए और ऐसा अपने जोखिम पर करना चाहिए।
यह बयान कोपायलट+ पीसी और एंटरप्राइज़ उपयोगकर्ताओं के बारे में माइक्रोसॉफ्ट के हालिया प्रचार के बिल्कुल विपरीत है, जिससे इसके आत्मविश्वास पर सवाल उठ रहे हैं।
उपयोग की शर्तों में, माइक्रोसॉफ्ट ने लिखा: "कोपायलट केवल मनोरंजन उद्देश्यों के लिए है। इसमें गलतियाँ हो सकती हैं और उम्मीद के मुताबिक काम नहीं कर सकता है। महत्वपूर्ण सलाह के लिए कोपायलट पर भरोसा न करें। कोपायलट का उपयोग अपने जोखिम पर करें।" रिपोर्ट में बताया गया है कि इसी तरह के अस्वीकरण माइक्रोसॉफ्ट के लिए अद्वितीय नहीं हैं, और अन्य बड़े एआई मॉडल सेवा प्रदाताओं ने भी इसी तरह के बयान अपनाए हैं। उदाहरण के लिए, xAI अपनी सेवा की शर्तों में उपयोगकर्ताओं को याद दिलाता है कि कृत्रिम बुद्धिमत्ता "तेजी से विकसित हो रही है और प्रकृति में संभाव्य है", इसलिए उत्पन्न सामग्री "भ्रमपूर्ण" हो सकती है, इसमें आपत्तिजनक सामग्री हो सकती है, वास्तविक लोगों या तथ्यों को सटीक रूप से प्रतिबिंबित नहीं कर सकती है, या यहां तक कि उपयोगकर्ता के इच्छित उपयोग के लिए पूरी तरह से अनुपयुक्त हो सकती है।
यद्यपि जेनरेटिव एआई लेखन और प्रोग्रामिंग जैसे परिदृश्यों में दक्षता में सुधार करने में सिद्ध हुआ है, फिर भी यह केवल एक उपकरण है जिसमें एक जिम्मेदार विषय का अभाव है और यह अपनी गलतियों के लिए कोई कानूनी या व्यावहारिक परिणाम नहीं उठा सकता है। इसलिए, उपयोगकर्ताओं को अपने परिणामों पर भरोसा करते समय सावधानी बरतनी चाहिए, आउटपुट पर संदेह करना चाहिए और क्रॉस-चेक करना चाहिए। हालाँकि, रिपोर्ट यह भी याद दिलाती है कि भले ही उपयोगकर्ताओं को इन तकनीकी सीमाओं के बारे में पता हो, फिर भी मनुष्य "स्वचालन पूर्वाग्रह" के प्रभाव के प्रति संवेदनशील हैं, अर्थात, वे स्वाभाविक रूप से मशीनों द्वारा दिए गए उत्तरों पर विश्वास करने और विरोधाभासी डेटा या सुरागों को अनदेखा करने के लिए अधिक इच्छुक हैं।
इस स्वचालन पूर्वाग्रह का जोखिम वर्तमान संदर्भ में और भी बढ़ गया है जहां एआई-जनित सामग्री तेजी से प्राकृतिक होती जा रही है और अधिक "वास्तविक" दिखती है। लेख में बताया गया है कि जब एआई सतह पर तार्किक रूप से सुसंगत और आधिकारिक उत्तर दे सकता है, तो उपयोगकर्ताओं के लिए "सिर्फ एक नज़र" में इस पर विश्वास करना आसान होता है, जिससे अदृश्य रूप से उनकी सतर्कता में राहत मिलती है। इस मामले में, एक ओर, निर्माता विज्ञापनों और उत्पाद एकीकरण के माध्यम से उपयोगकर्ताओं को काम और जीवन में एआई को व्यापक रूप से अपनाने के लिए प्रोत्साहित करते हैं, लेकिन दूसरी ओर, वे जिम्मेदारियों से बचने के लिए उपयोग के संदर्भ में मानकीकृत अस्वीकरण का उपयोग करते हैं। एआई उद्योग के वर्तमान विकास में यह तनाव एक विवादास्पद घटना भी बन गया है।