एक छोटी ब्रिटिश कंपनी वित्तीय और कानूनी संकट में है क्योंकि उसके कृत्रिम बुद्धिमत्ता चैट सहायक ने एक ग्राहक को बड़े ऑर्डर पर 80% छूट देने का वादा किया है। कंपनी के बॉस ने कहा कि ग्राहक ने एआई सहायक के साथ बातचीत करते हुए लगभग एक घंटा बिताया, इस दौरान उन्होंने सहायक की गणितीय गणनाओं का परीक्षण किया और धीरे-धीरे बातचीत को काल्पनिक ऑर्डर पर छूट के मुद्दे पर ले गए।
ग्राहक ने रोबोट की क्षमताओं की सराहना की और फिर एआई सहायक ने कुछ ऐसा किया जिसकी किसी को उम्मीद नहीं थी। मूल रूप से इसे केवल काम के घंटों के बाहर ग्राहकों के सवालों का जवाब देना था, लेकिन इसने "अपनी पहल पर एक गैर-मौजूद डिस्काउंट कोड तैयार किया", पहले 25% छूट की पेशकश की, और फिर छूट को बढ़ाकर 80% कर दिया।
इस "दुनिया से गिरने वाली पाई" को प्राप्त करने के बाद, उपयोगकर्ता खुश हो गया और उसने तुरंत 8,000 पाउंड (लगभग आरएमबी 72,000) से अधिक का ऑर्डर दिया। मालिकों का कहना है कि अगर ऑर्डर का सम्मान किया गया तो कंपनी को हजारों पाउंड का नुकसान होगा। कंपनी ने ऑर्डर रद्द करने की कोशिश की, लेकिन ग्राहक ने कहा कि अगर कंपनी रोबोट के वादों पर खरी नहीं उतरी तो वह लघु दावा अदालत में मुकदमा दायर करेगा।
बॉस ने कहा कि चैट एआई बिना किसी आश्चर्य के 6 महीने से अधिक समय से सफलतापूर्वक चल रहा है और उसके पास वित्तीय निर्णय लेने का कोई अधिकार नहीं है। सभी छूट और विशेष प्रस्तावों को मैन्युअल रूप से अनुमोदित किया जाना चाहिए और स्वचालित रूप से उत्पन्न नहीं किया जा सकता है। अंततः, ग्राहक को ऑर्डर का पूरा पैसा वापस कर दिया गया, और कंपनी ने यह मानने से इनकार कर दिया कि गलत डिस्काउंट कोड वैध था।