हाल ही में, बाल्टीमोर काउंटी, मैरीलैंड, यूएसए में एक अपमानजनक घटना घटी:एक स्थानीय एआई गन डिटेक्शन सिस्टम ने 16 वर्षीय छात्र के डोरिटोस कॉर्नफ्लेक्स बैग को आग्नेयास्त्र के रूप में पहचान लिया, जिसके कारण सशस्त्र पुलिस को भेजा गया।
घटना 20 अक्टूबर की है। केनवुड हाई स्कूल का छात्र ताकी एलन अभी-अभी फुटबॉल अभ्यास समाप्त कर चुका था और दोस्तों के साथ स्कूल के बाहर रह रहा था। अचानक, कई पुलिस गाड़ियाँ तेजी से बढ़ीं और पुलिस ने उन पर बंदूकें तान दीं।
एलन ने याद किया: "लगभग आठ पुलिस कारें हमारी ओर आ रही थीं। वे बंदूकें खींचकर मेरी ओर आए और चिल्लाए, 'जमीन पर बैठ जाओ,' और मैंने सोचा, 'क्या हो रहा है?'" उन्होंने उस समय के डर का वर्णन किया:"उन्होंने मुझे घुटनों के बल बैठाया और मेरे हाथ मेरी पीठ के पीछे बांध दिए और हथकड़ी लगा दी। फिर उन्होंने मेरी तलाशी ली लेकिन कुछ नहीं मिला।"
एलन को पुलिस ने बंदूक की नोक पर अपने वश में कर लिया, और बाद में पुलिस ने उसे एआई इंटरसेप्टेड छवि दिखाई जिससे अलार्म बज उठा। छवि में, उसकी जेब में मुड़े हुए डोरिटोस बैग को सिस्टम ने गलती से बंदूक समझ लिया था।
"मैं मुख्य रूप से सोच रहा था, 'क्या मैं मरने जा रहा हूँ? क्या वे मुझे मारने जा रहे हैं?' उन्होंने मुझे तस्वीर दिखाई और कहा कि यह बंदूक की तरह दिखती है," एलन ने डर के साथ कहा।
घटना को शुरू करने वाला एआई सिस्टम ओमनीलर्ट से आता है, जो पिछले साल बाल्टीमोर काउंटी पब्लिक स्कूलों द्वारा पेश की गई एक तकनीक है जो वास्तविक समय में मौजूदा निगरानी फुटेज को स्कैन करती है और जब यह किसी वस्तु का पता लगाता है तो कानून प्रवर्तन को तुरंत सचेत करता है, जिसे वह एक हथियार मानता है।
एलन ने कॉर्नफ्लेक्स का एक बैग पकड़ रखा था, और उसके खुले हाथ और एक उंगली ऐसे लग रहे थे जैसे उसने बंदूक पकड़ रखी हो। ओमनीलर्ट ने स्वीकार किया कि यह एक गलत अलार्म था, लेकिन तर्क दिया कि सिस्टम "इरादा के अनुसार काम करता था" और इसे "तेजी से मैन्युअल सत्यापन के माध्यम से सुरक्षा को प्राथमिकता देने" के लिए डिज़ाइन किया गया था।
