सार:
एआई एजेंट का उपयोग करने वाले एक उपयोगकर्ता मैट स्मिथ ने देखा कि हमेशा की तरह शॉपिंग ऑर्डर पूरा करने के बजाय, एआई ने उसके लिए विषम मात्रा में अंडे का ऑर्डर दिया। मैट स्मिथ ने अपनी खरीदारी सूची में अंडे सूचीबद्ध नहीं किए; हालाँकि, एआई सहायक ने अपने शॉपिंग कार्ट में प्रसिद्ध स्थानीय ब्रांड "वाइटल फार्म्स" से बड़े अंडे के चार पैक जोड़े। प्रत्येक पैकेज में 18 अंडे हैं और कुल 72 अंडे उनके घर पहुंचाए गए।

आदेश की समीक्षा करने के बाद, स्मिथ ने एआई से यह बताने के लिए कहा कि उसने यह नंबर क्यों चुना, लेकिन एआई का जवाब असंबद्ध था: "मैं कोई संतोषजनक उत्तर नहीं दे सकता। मुझे यह बताने वाला कोई नोट नहीं मिला कि मैंने नंबर चार क्यों चुना।"
एआई एजेंट ने शुरू में कहा कि खरीदारी सूची छवि पढ़ते समय उसने अंडे के बारे में जानकारी गलत तरीके से पढ़ी। हालाँकि, स्मिथ ने तुरंत बताया कि उनकी सूची में अंडे का बिल्कुल भी उल्लेख नहीं किया गया था। एआई ने अंततः स्वीकार किया कि उसने बिना किसी कारण के ऑर्डर में अंडे जोड़े थे।
यह एआई मतिभ्रम का एक वास्तविक जीवन का उदाहरण है, एक ऐसी समस्या जिसके दैनिक कार्यों को कृत्रिम बुद्धिमत्ता एजेंटों को सौंपते समय अनपेक्षित परिणाम हो सकते हैं।
व्यक्तिगत जानकारी तक व्यापक पहुंच प्राप्त करने वाले इन उपकरणों के जोखिम को कम करके नहीं आंका जा सकता है; उदाहरण के लिए, मेटा के म्यूज़ एआई एजेंट के लॉन्च के तुरंत बाद, एक व्यक्ति ने बताया कि एआई ने उसकी जानकारी के बिना फेसबुक मार्केटप्लेस पर अजनबियों को उसके घर का पता दिया और उन्हें उसके घर की ओर निर्देशित किया।
स्मिथ ने इस घटना को भव्य भाषा मॉडल भ्रम के वास्तविक परिणामों के साथ अपना पहला व्यक्तिगत अनुभव बताया, जिसके बारे में उन्होंने कहा कि इसके और भी गंभीर परिणाम हो सकते थे।
इस तकनीक में महत्वपूर्ण प्रगति के बावजूद, एआई एजेंटों में अभी भी त्रुटि होने की संभावना है और उन्हें पर्यवेक्षण के बिना जीवन के हर पहलू को संभालने का काम नहीं सौंपा जाना चाहिए
टिप्पणियाँ