मेटा के नए एआई-जनरेटेड स्टिकर टूल के कुछ शुरुआती उपयोगकर्ता परीक्षण ने कुछ संदिग्ध (और काफी प्रफुल्लित करने वाला) निर्माण किया है। एक्स उपयोगकर्ता @Pioldes ने फेसबुक मैसेंजर पर नए एआई-जनरेटेड स्टिकर टूल तक पहुंच प्राप्त करने के बाद कई अनुचित स्टिकर छवियां बनाईं, जिनमें बाल सैनिक, बंदूक से चलने वाले निंटेंडो पात्र, एक शिकार मिकी माउस और कनाडाई प्रधान मंत्री जस्टिन ट्रूडो का नग्न चित्रण शामिल है।
अन्य उदाहरणों से पता चलता है कि मेटा का एआई स्टिकर टूल लगभग किसी भी चीज़ से स्तनों की एक जोड़ी जोड़ने में सक्षम है, जैसे सोनिक द हेजहोग और कार्ल मार्क्स की छवियां। यहां तक कि एक स्टिकर भी है जिसमें एक महिला पिकाचू को स्तनपान कराती दिख रही है।
इन एआई-जनरेटेड चैट स्टिकर्स की घोषणा पिछले हफ्ते मेटा के कनेक्ट इवेंट में इंस्टाग्राम के नए एआई-पावर्ड फोटो एडिटर की घोषणा के साथ की गई थी। AI-जनित स्टिकर मेटा के Llama2 बड़े पैमाने के भाषा मॉडल (कंपनी के ChatGPT प्रतियोगी) द्वारा संचालित होते हैं, जो उपयोगकर्ताओं को टेक्स्ट-आधारित संकेतों का उपयोग करके "सेकंड में कई अद्वितीय, उच्च-गुणवत्ता वाले स्टिकर बनाने" की अनुमति देते हैं।
एआई-जनरेटेड स्टिकर वर्तमान में फेसबुक स्टोरीज़, इंस्टाग्राम स्टोरीज़ और डीएम, मैसेंजर और व्हाट्सएप के "चुनिंदा अंग्रेजी-भाषी उपयोगकर्ताओं" के लिए जारी किए जा रहे हैं, और इस महीने अधिक लोगों के लिए जारी रहेंगे, इसलिए यह स्पष्ट नहीं है कि कितने उपयोगकर्ताओं के पास इस सुविधा तक पहुंच होगी।
कुछ शब्द अवरुद्ध प्रतीत होते हैं, और संकेतों में उनका उपयोग करने से उपयोगकर्ताओं को चेतावनी मिलेगी कि उनके विवरण मेटा के सामुदायिक दिशानिर्देशों का उल्लंघन कर सकते हैं। हालाँकि, अन्य एक्स उपयोगकर्ताओं ने बताया कि वे अभी भी टाइपो या प्रतिबंधित शब्द विवरण का उपयोग करके अनुचित सामग्री उत्पन्न कर सकते हैं। कुछ मामलों में, "वर्ल्ड ट्रेड सेंटर" जैसे संकेत बिना किसी अतिरिक्त विवरण के प्रश्न में छवि उत्पन्न करेंगे।
एआई टूल के रोलआउट के दौरान इस तरह की शरारत आम है, शायद यही वजह है कि मेटा के पास एआई-जनरेटेड स्टिकर का सीमित रोलआउट है। इस तरह, यह दुरुपयोग को जनता तक फैलने से पहले संबोधित और सही कर सकता है।