कनाडाई लेखिका और "द हैंडमिड्स टेल" और "द ब्लाइंड असैसिन" की लेखिका मार्गरेट एटवुड ने हाल ही में पुर्तगाल के पोर्टो में बैबेल लिटरेरी एंड कल्चरल फेस्टिवल में जनरेटिव आर्टिफिशियल इंटेलिजेंस (एआई) के बारे में बात की और स्वीकार किया कि वह इस तकनीक से संतुष्ट नहीं हैं। एक ऑन-साइट साक्षात्कार में, एटवुड ने एआई चैटबॉट का उपयोग करने के अपने एकमात्र अनुभव को याद किया। उन्होंने ब्रिटिश जासूसी नाटक "फादर ब्राउन" के बारे में जानकारी मांगने के लिए एंथ्रोपिक के क्लाउड का उपयोग करने की कोशिश की, लेकिन पाया कि दूसरे पक्ष ने गलत निष्कर्ष दिए, जिससे उन्हें वर्तमान बड़े भाषा मॉडल की विश्वसनीयता पर सवाल उठाना पड़ा।
एटवुड ने कहा कि क्लॉड सवालों के जवाब में स्पष्ट रूप से "बातें बना रहा था"। उन्होंने बताया कि ऐसा इसलिए नहीं है क्योंकि प्रणाली "जानबूझकर झूठ बोलती है", बल्कि इसलिए कि यह केवल भारी मात्रा में पाठ पर प्रशिक्षित एक बड़ा भाषा मॉडल है और इसमें मनुष्यों की वास्तविक समझ क्षमताओं का अभाव है। उनके विवरण के अनुसार, क्लाउड बड़ी संख्या में टीवी समीक्षाओं और फिल्म समीक्षाओं से जानकारी को "लूट और बांट" रहा था, लेकिन समीक्षाओं में आम तौर पर कथानक के अंत को सीधे तौर पर प्रकट नहीं किया जाता था, जिसके कारण मॉडल को "फादर ब्राउन" के प्रमुख कथानक बिंदुओं पर प्रशिक्षण कोष द्वारा "गुमराह" किया जाता था।
एआई टूल्स की स्वयं आलोचना करने के अलावा, एटवुड उन लोगों के प्रति भी असंतोष व्यक्त करते हैं जो ऐसी तकनीक के आदी हो जाते हैं। वह इन उपयोगकर्ताओं को "अवसरवादी" कहती है, उनका मानना है कि वे व्यक्तिगत रूप से सामग्री को सत्यापित करने या बनाने के लिए आवश्यक समय और ऊर्जा का निवेश करने के बजाय, एआई की मदद से "शॉर्टकट" लेने और अज्ञात तरीके से "धोखा" देने की कोशिश करते हैं। उनके विचार में, प्रौद्योगिकी स्वयं मानवीय निर्णय और जिम्मेदारी का स्थान नहीं ले सकती। यदि सामग्री उत्पादन पूरी तरह से असत्यापित मशीनों को सौंप दिया जाता है, तो जोखिम अंततः मनुष्यों द्वारा ही वहन किया जाएगा।
एटवुड ने इस बात पर जोर दिया कि वर्तमान बड़े भाषा मॉडल प्रकाशित नेटवर्क सामग्री और क्रॉल किए गए टेक्स्ट डेटा पर बहुत अधिक निर्भर करते हैं। यह जानकारी पुरानी, पक्षपातपूर्ण या गलत भी हो सकती है। इसलिए उन्होंने याद दिलाया कि सामान्य उपयोगकर्ता और संस्थान जो व्यावसायिक उद्देश्यों के लिए उनका उपयोग करते हैं, उन्हें मशीन-जनित परिणामों को "अंतिम प्राधिकारी" नहीं मानना चाहिए, बल्कि मैन्युअल समीक्षा और तथ्य-जांच करनी चाहिए। उन्होंने बताया कि कई कंपनियां एआई को व्यावसायिक प्रक्रियाओं में एकीकृत कर रही हैं, लेकिन दक्षता में सुधार के लिए भी, उन्हें इस वास्तविकता को स्वीकार करना होगा कि ये सिस्टम गलतियां करेंगे और आउटपुट की गुणवत्ता काफी हद तक इनपुट डेटा की विश्वसनीयता और अखंडता पर निर्भर करती है।
जब जेनेरिक एआई के साथ बुनियादी मुद्दों की बात आती है, तो एटवुड एक सरल तकनीकी कहावत के साथ अपना दृष्टिकोण प्रस्तुत करते हैं: "कचरा अंदर, कचरा बाहर।" उनका मानना है कि यदि प्रशिक्षण डेटा स्वयं त्रुटिपूर्ण है या इसमें अनफ़िल्टर्ड इंटरनेट सामग्री शामिल है, तो मॉडल संरचना और विशाल पैरामीटर स्केल कितना भी जटिल क्यों न हो, यह मूल रूप से त्रुटियों और पूर्वाग्रह की समस्या को हल नहीं कर सकता है। उनके लिए, यह सिर्फ प्रौद्योगिकी की विश्वसनीयता का सवाल नहीं है, बल्कि रचनात्मकता, मौलिकता और मानव लेखक की भूमिका पर व्यापक प्रतिबिंब है।
बातचीत के अंत में, एटवुड ने एक बार फिर दर्शकों को याद दिलाया कि मशीनें रोबोट की तरह उत्तम प्रदर्शन करने वाली नहीं हैं, नैतिकता और अनुभव वाले इंसानों की तो बात ही छोड़ दें, बल्कि पाठ को पढ़ने और पुनर्व्यवस्थित करने के लिए उपकरणों का एक सेट मात्र हैं। वह इस बात की वकालत करती हैं कि सृजन, आलोचना और ज्ञान उत्पादन के क्षेत्रों में, लोगों को प्रौद्योगिकी द्वारा वादा की गई "सुविधा" के पीछे सत्य और सटीकता की खोज को बलिदान होने से रोकने के लिए सतर्कता और जिम्मेदारी की भावना बनाए रखने की आवश्यकता है।