कृत्रिम बुद्धिमत्ता के बारे में चिंताएँ अक्सर गलत सूचना या प्रौद्योगिकी के मानव नियंत्रण से बचने की क्षमता जैसे मुद्दों के इर्द-गिर्द घूमती हैं। हालाँकि, यकीनन आज अधिक वास्तविक चिंता यह है कि सरकारें एआई का लाभ कैसे उठा रही हैं और इसकी कमियों के बारे में उनकी संस्थागत समझ (या इसकी कमी) है। उदाहरण के लिए, ऐसा प्रतीत होता है कि यूके सरकार ने प्रौद्योगिकी को ऐसी गति से अपनाया है जिसे जल्दबाजी और संभावित रूप से असुरक्षित माना जा सकता है।
गार्जियन के अनुसार, कई ब्रिटिश सरकारी एजेंसियों ने आम लोगों के दैनिक जीवन पर महत्वपूर्ण प्रभाव डालने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करना शुरू कर दिया है। तकनीक अब गिरफ्तारी और विवाह लाइसेंस से लेकर कल्याण भुगतान तक विभिन्न प्रक्रियाओं में भूमिका निभाती है।
कृत्रिम बुद्धिमत्ता के व्यापक रूप से चर्चित चलन बनने से पहले ही, पुलिस द्वारा चेहरे की पहचान प्रणाली का उपयोग विवादास्पद रहा है। आलोचकों ने लंबे समय से इसकी संभावित अशुद्धियों के बारे में चेतावनी दी है, खासकर जब गहरे रंग वाले विषयों का विश्लेषण किया जाता है। इस अशुद्धि के कारण पहले भी गलत तरीके से हिरासत में लिया गया है। इन कमियों से अवगत होने के बावजूद, लंदन की मेट्रोपॉलिटन पुलिस चेहरे की पहचान का उपयोग करना और ऐसे संशोधन करना जारी रखती है जो तकनीक को नुकसान पहुंचा सकते हैं।
यूके की राष्ट्रीय भौतिक प्रयोगशाला ने कहा कि सिस्टम आम तौर पर डिफ़ॉल्ट सेटिंग्स पर कम त्रुटि दर बनाए रखता है। हालाँकि, अगर मेट्रोपॉलिटन पुलिस को संदिग्धों की अधिक तेज़ी से पहचान करने के लिए अपनी संवेदनशीलता को कम करना पड़ा तो इससे अधिक झूठे अलार्म पैदा होंगे। परिणामस्वरूप, काले लोगों के लिए प्रणाली कम सटीक हो जाती है, गोरे लोगों की तुलना में यह पांच गुना कम सटीक होती है।
इसके अतिरिक्त, सरकारों द्वारा लाभ और विवाह लाइसेंस को मंजूरी देने के लिए उपयोग किए जाने वाले एआई-आधारित टूल ने कुछ देशों के आवेदकों के साथ भेदभाव करने की प्रवृत्ति दिखाई है। एक सांसद ने हाल के वर्षों में ऐसे कई उदाहरणों पर प्रकाश डाला जहां लाभों को बेवजह निलंबित कर दिया गया है, जिससे व्यक्ति बेदखली और अत्यधिक गरीबी के कगार पर पहुंच गए हैं। संदिग्ध अंतर्निहित मुद्दा लाभ धोखाधड़ी का पता लगाने के लिए कार्य और पेंशन विभाग (डीडब्ल्यूपी) प्रणाली है, जो आंशिक रूप से कृत्रिम बुद्धिमत्ता पर निर्भर करती है।
धोखाधड़ी के पर्याप्त सबूत के बिना भी, टूल ने असमान रूप से बल्गेरियाई नागरिकों को चिह्नित किया। डीडब्ल्यूपी इस बात पर जोर देता है कि यह प्रणाली राष्ट्रीयता को ध्यान में नहीं रखती है। हालाँकि, वे एआई की आंतरिक कार्यप्रणाली को पूरी तरह से समझ नहीं पाने की बात स्वीकार करते हैं, यह समझते हुए कि सिस्टम में पूर्वाग्रह को नियंत्रित करने की सीमित क्षमता होती है और चिंता करते हैं कि बुरे कलाकार सिस्टम में हेरफेर कर सकते हैं।
इसी तरह, गृह कार्यालय को नकली विवाहों की पहचान करने के लिए डिज़ाइन किए गए एआई-संचालित टूल की चुनौती का सामना करना पड़ रहा है। जबकि सिस्टम ने विवाह लाइसेंस अनुमोदन प्रक्रिया को सुव्यवस्थित किया, एक आंतरिक समीक्षा में बड़ी संख्या में गलत सकारात्मकताएं पाई गईं, विशेष रूप से ग्रीस, अल्बानिया, बुल्गारिया और रोमानिया के आवेदकों के लिए।
सरकार की एआई की तैनाती में अन्य गलतियाँ हो सकती हैं, लेकिन संबंधित विभागों के पारदर्शी डेटा के बिना उन्हें इंगित करना मुश्किल है।
कृत्रिम बुद्धिमत्ता की सीमाओं के बारे में गलतफहमी के कारण अन्य सरकारी और कानूनी एजेंसियों के भीतर गंभीर घटनाएं हुई हैं। इस साल की शुरुआत में, एक अमेरिकी वकील ने संघीय अदालत में दायर मामलों का हवाला देने के लिए चैटजीपीटी का उपयोग करने का प्रयास किया, लेकिन पता चला कि वे सभी चैटबॉट द्वारा गढ़े गए थे। ये मामले तेजी से प्रदर्शित कर रहे हैं कि एआई के वास्तविक जोखिम प्रौद्योगिकी की तुलना में मानवीय दुरुपयोग से अधिक हो सकते हैं।